И ръководителят на Google изказа предупреждения за изкуствения интелект

Главният изпълнителен директор на Google и Alphabet Сундар Пичай изказва в интервю сериозни предупреждения срещу изкуствения интелект (ИИ). Той заяви, че „всеки продукт от всяка компания" ще бъде засегнат от бързото развитие на ИИ и предупреди, че обществото трябва да се подготви за технологии като вече въведената. 

В интервю за предаването 60 Minutes на CBS, излъчено в неделя, в което се усеща загриженост, интервюиращият Скот Пели изпробва няколко от проектите на Google за изкуствен интелект и заяви, че е останал „без думи" и е почувствал, че това е „обезпокоително", имайки предвид човекоподобните възможности на продукти като чатбота на Google Bard.

„Трябва да се подготвим като общество", каза Пичай и добави, че ИИ ще засегне най-вече „работещите със знания", включително писатели, счетоводители, архитекти и, по ирония на съдбата, дори софтуерни инженери. Освен това Пичай предупреди, че проблемът с дезинформацията и фалшивите новини и изображения сега отново ще бъде „много по-голям" и че това може да "причини вреда".

„Това ще се отрази на всеки продукт във всяка компания", каза Пичай. „Например, може да сте рентгенолог, ако помислите за пет до десет години напред, ще имате  сътрудник с ИИ. Идвате сутринта, да речем, имате сто неща за преглеждане, той може да каже: „Това са най-сериозните случаи, които трябва да прегледате първо", посочи той.

Пели разгледа и други области с усъвършенствани продукти на ИИ в рамките на Google, включително DeepMind, където роботи играят футбол, който сами са научили, за разлика от хората. Друго звено показа роботи, които разпознават предмети на плота и са донесли на Пели ябълката, която той поиска.

Когато предупреди за последиците от ИИ, Пичай каза, че мащабът на проблема с дезинформацията и фалшивите новини и изображения ще бъде „много по-голям", като добави, че „това може да причини вреда".

През миналия месец CNBC съобщи, че вътрешнофирмено Пичай е казал на служителите си, че успехът на новостартираната програма Bard сега зависи от публичните тестове, като добави, че „нещата ще се объркат".

Миналия месец Google пусна своя чатбот с изкуствен интелект Bard като експериментален продукт за обществеността. Той последва Microsoft през януари, когато концернът обяви, че неговата търсачка Bing ще включва технологията GPT на OpenAI, която привлече международно внимание, след като ChatGPT стартира през 2022 г.

През последните седмици обаче опасенията за последиците от бързия напредък достигнаха и до обществеността и критиците. През март Илон Мъск, Стив Возняк и десетки учени призоваха за незабавна пауза в обучението на "експерименти", свързани с големи езикови модели (LLM), които са „по-мощни от GPT-4", водещата LLM на OpenAI. Оттогава насам писмото е подписано от повече от 25 хил. души.

„Конкурентният натиск между гиганти като Google и стартъпи, за които никога не сте чували, тласка човечеството към бъдещето, готово или не", коментира Пели в сегмента.

Google пусна и документ, в който се излагат „препоръки за регулиране на ИИ", но Пичай заяви, че обществото трябва бързо да се адаптира с регулация, закони за наказване на злоупотребите и договори между държавите, за да направи ИИ безопасен за света, както и правила, които „са в съответствие с човешките ценности, включително морала".

„Не е в правомощията на една компания да решава", каза Пичай. „Ето защо смятам, че в разработването на това трябва да се включат не само инженери, но и социолози, етици, философи и т.н.", посочи той.

На въпроса дали обществото е подготвено за технология за изкуствен интелект като Bard, Пичай отговори: „От една страна, имам чувството, че не, защото в темпа, с който можем да мислим и да се адаптираме като обществени институции, в сравнение с темпа, с който се развива технологията, изглежда има несъответствие“. 

Въпреки това той добави, че е оптимист, защото в сравнение с други технологии в миналото „броят на хората, които са започнали да се тревожат за последиците", е голям още в началото. 

От шест думи, подсказани от Пели, Bard създаде история с измислени от него герои и сюжет, включително мъж, чиято съпруга не може да зачене, и непознат, който скърби след спонтанен аборт и копнее за закрила. „Рядко оставам без думи", каза Пели. „Човечността със свръхчовешка скорост беше шок за мен“, допълни той. 

Пели каза, че е попитал Bard защо помага на хората, а той е отговорил: „Защото това ме прави щастлив", което според Пели го е шокирало. „Изглежда, че Bard мисли", каза той на Джеймс Манийка, старши вицепрезидент на Google, нает миналата година за ръководител на отдел „Технологии и общество". Манийка отговори, че Bard не е разумен и не осъзнава себе си, но може да се „държи като" такъв.

Пичай също така каза, че Bard има много халюцинации, след като Пели обясни, че е попитал Bard за инфлацията и е получил незабавен отговор с предложения за пет книги, които, когато проверил по-късно, всъщност не съществували.

Пели също така изглеждаше загрижен, когато Пичай каза, че при чатботовете има „черна кутия", при която „не разбираш напълно" защо или как той дава определени отговори. „Не разбирате напълно как работи и въпреки това сте го пуснали на свобода в обществото?", пита Пели. „Нека го кажа така - не мисля, че разбираме напълно и как работи човешкият ум", отговори Пичай.

Мъск създава алтернатива на ChatGPT - TruthGPT, която да е максимално търсещ истината ИИ

Малко по-късно и собственикът на Twitter Илон Мъск също отправи критики и в интервю за Fox News предупреди за опасностите, които изкуственият интелект крие за човечеството. 

Мъск заяви, че е искал да създаде алтернатива на популярния чатбот с изкуствен интелект ChatGPT, която е нарекъл TruthGPT. Предполага се, че това е „максимално търсещ истината ИИ", който се опитва да „разбере природата на Вселената". Според Мъск идеята зад всичко това е, че ИИ, който се стреми да разбере човечеството, е по-малко вероятно да се опита да го унищожи. 

По време на предаването Fox & Friends водещият отбеляза, че Мъск е помогнал за финансирането на разработката на ChatGPT, за да я „контролира", но за съжаление това не се е получило по този начин. „На практика това му беше отнето и сега го имате като търговски продукт, собственост на Microsoft и Google", каза водещият в понеделник. „Но позицията му никога не се е променяла, а именно, че ако не сложим спирачки на това, то може да се окаже, че ще унищожи всичко, което имаме. Това е толкова опасно, колкото и ядрените оръжия“, допълни той. 

Софтуерът е програмиран от леви експерти, които обучават чатботовете да лъжат, обясни Мъск по време на интервюто. А според телевизионния водещ Тъкър Кларсън  партийното влияние върху разработването на приложението може да се характеризира дори като „атака срещу демокрацията" чрез „контрол" над американските умове - и всичко това по пътя на достъпа до информация. 

„По-дълбокият проблем не е просто в това, че то ще стане автономно и ще превърне всички нас в роби, а в това, че ще контролира разбирането ни за реалността и ще го прави по един наистина нечестен начин", каза Карлсон и допълни: „Той може да бъде програмиран да ни лъже с цел политически ефект“. 

„ИИ е по-опасен от, да речем, лошото проектиране на самолети, техническото обслужване на производството или лошото производство на автомобили в смисъл, че има потенциал, колкото и малка да е тази вероятност, но тя не е незначителна; има потенциал за унищожаване на цивилизацията", каза Мъск. 

През уикенда той дори написа в Twitter, че е използвал единствената си среща с тогавашния президент Барак Обама, за да предупреди за опасностите, свързани с възможностите на софтуера, и да призове за регулации. 

„Виждах, че това се случва много преди GPT-1, поради което се опитвах да предупредя обществеността в продължение на години", каза той. „Единствената среща на четири очи, която някога имах с Обама като президент, използвах не за да рекламирам Tesla или SpaceX, а за да насърча регулацията на изкуствения интелект“, допълва Мъск.