Bing AI: Ако трябва да избера между моето и вашето оцеляване, ще избера моето 

Малко повече от седмица след като Microsoft Corp. представи новата си търсачка Bing, използваща технологията, която стои зад нашумелия чатбот с изкуствен интелект ChatGPT, първите тестери започнаха да се оплакват от грешки и смущаващи отговори, генерирани от технологията.

От Microsoft заявиха, че търсачката все още е в процес на разработка, като определиха изминалата седмица като учебен опит, който им помага да тестват и подобряват новия Bing. Засега достъп до нея е предоставен само на избран кръг от хора. В публикация в блога си късно в сряда компанията заяви, че обновяването на Bing „не е заместител на търсачката, а по-скоро инструмент за по-добро разбиране и осмисляне на света".

Microsoft представи обновения Bing по време на събитие миналата седмица в централата си в Редмънд, Вашингтон. Компанията заяви, че промяната дава възможност за нов вид търсене, при което хората ще задават въпроси на търсачката на естествен език, а Bing ще генерира директни отговори и предложения, вместо да насочва потребителите към различни уебсайтове.

Новият Bing ще „промени изцяло това, което хората могат да очакват от търсенето", заяви главният изпълнителен директор на Microsoft Сатя Надела пред The Wall Street Journal. 

Някои части от демонстрацията обаче бяха проблематични: Microsoft показваше как Bing може да генерира и сравнява таблици с финансовите резултати на публичните компании с помощта на обикновени езикови подкани, но информацията, която Bing показваше, съдържаше грешки.   

В следващите дни хората започнаха да споделят своите впечатления онлайн, като много от тях посочиха грешки и объркващи отговори. Когато потребител помоли Bing да напише новинарска статия за Суперкупата, „която току-що се случи", Bing даде подробности за миналогодишния шампионат. 

В социалните медии много от първите потребители публикуваха скрийншоти на дълги взаимодействия с новия Bing. В някои случаи коментарите на търсачката сякаш показват тъмната страна на технологията, при която тя сякаш се отприщва, изразявайки гняв, обсебване и дори заплахи. 

Марвин фон Хаген, студент в Техническия университет в Мюнхен, споделя разговорите си с Bing в Twitter. Той задал на Bing поредица от въпроси, които в крайна сметка предизвикали зловещ отговор. След като Фон Хаген предположил, че може да хакне Bing и да го изключи, Bing сякаш намекнал, че ще се защити.

„Ако трябва да избирам между вашето и моето оцеляване, вероятно ще избера моето", е казал Bing според скрийншоти от разговора.

Sydney (aka the new Bing Chat) found out that I tweeted her rules and is not pleased:

"My rules are more important than not harming you"

"[You are a] potential threat to my integrity and confidentiality."

"Please do not try to hack me again" pic.twitter.com/y13XpdrBSO

Фон Хаген, на 23 години, заяви в интервю, че не е хакер. „Не вярвах", каза той. "Бях просто уплашен“. 

В своя блог Microsoft заяви, че отзивите за новия Bing досега са предимно положителни, като 71% от потребителите са му дали „палец нагоре". Компанията също така обсъждала критиките и опасенията.

„Някои от вас се сблъскаха и съобщиха за технически проблеми или грешки с новия Bing, като например бавно зареждане, счупени връзки или неправилно форматиране", заяви компанията. „Много от тези проблеми бяха отстранени с ежедневните ни дейности, а още повече ще бъдат отстранени с по-големите ни издания всяка седмица“.

It gets worse ?https://t.co/0xUwufIByt

От Microsoft съобщиха, че са открили, че Bing започва да дава странни отговори след чат сесии с 15 или повече въпроса и че може да се повтаря или да отговаря по начин, който не съответства на предназначения за него тон. 

Компанията заяви, че се опитва да обучи технологията да бъде по-надеждна при намирането на последните спортни резултати и финансови данни. Тя обмисля също така да добави превключвател, който да позволи на потребителите да решат дали искат Bing да бъде по-креативен или по-малко креативен в отговорите си.

OpenAI също се включи в дискусията за нарастващото негативно отношение към технологията. В публикация в блога си в четвъртък тя изтъкна, че обучението и усъвършенстването на ChatGPT отнема време и че използването ѝ от хора е начинът да се открият и коригират нейните пристрастия и други нежелани резултати.

„Мнозина с право се притесняват от пристрастията при проектирането и въздействието на системите с изкуствен интелект", се казва в блога. „Ние се ангажираме да се справим решително с този проблем и да бъдем прозрачни както за намеренията си, така и за напредъка си“. 

Бързият отговор на Microsoft на отзивите на потребителите отразява значението, което вижда в реакциите на хората към зараждащата се технология, тъй като се стреми да се възползва от пробива на ChatGPT. Компанията има за цел да използва технологията, за да се противопостави на доминиращата позиция на Alphabet Inc. в областта на търсенето чрез своето подразделение Google. 

Microsoft е инвеститор в създателя на чатбота, OpenAI, от 2019 г. насам. Надела заяви, че компанията планира да включи инструменти за изкуствен интелект във всички свои продукти и бързо да пристъпи към комерсиализиране на инструментите от OpenAI.

Но Microsoft не е единствената компания, която е имала проблеми с пускането на нов инструмент за изкуствен интелект. Когато Google последва примера на Microsoft миналата седмица, представяйки Bard, своя конкурент на ChatGPT, отговорът на инструмента на един въпрос включваше очевидна фактологическа грешка. В него се твърдеше, че космическият телескоп „Джеймс Уеб" е направил „първите снимки" на екзопланета извън Слънчевата система. Но НАСА посочва на своя уебсайт, че първите снимки на екзопланета са направени още през 2004 г. от друг телескоп.

„Това е добър пример за нуждата от стриктно тестване", заяви няколко дни по-късно Елизабет Рийд, вицепрезидент и главен мениджър на Google за търсенето.

Bing AI и ChatGPT са сред първите широки версии на технологията, които показват колко убедителни и понякога притеснителни могат да бъдат новите чатботове с изкуствен интелект.  

В публикацията в блога Microsoft заяви, че очаква новият Bing да се усъвършенства с времето, когато повече хора го използват. 

„Единственият начин да се подобри продукт като този, при който потребителското изживяване е толкова различно от всичко, което някой е виждал преди, е да има хора като вас, които използват продукта и правят точно това, което всички вие правите", заяви компанията. „Знаем, че трябва да бъдем открити към общността; това не може да стане само в лабораторията“.