Време е технологичните гиганти да спрат да се опитват да създадат богоподобен AI

Имаме ChatGPT, защото Сам Алтман искаше да създаде бог.

Въпреки целия шум, чатботът е само прототип по пътя към по-високата цел на AGI или „общ изкуствен интелект“, който надминава когнитивните способности на хората. Когато Алтман съоснова OpenAI през 2015 г., той превърна това в цел на организацията с нестопанска цел. Пет години по-рано Демис Хасабис съосновава DeepMind Technologies, сега основното подразделение на Google за изкуствен интелект (AI), със същата цел - AGI. Причините им бяха утопични: AGI ще създаде финансово изобилие и ще бъде „широко полезен“ за човечеството, според Алтман. Той ще лекува рака и ще разреши проблемите с изменението на климата, според Хасабис.

Има проблем с тези благородни цели, пише Парми Олсън в коментар за Bloomberg.

Първо, финансовите стимули на технологичните гиганти вероятно ще изкриват усилията за достигане до AGI към облагодетелстване предимно на самите тях. Тези ранни алтруистични цели на Алтман и Хасабис останаха встрани през последните няколко години, тъй като бумът на генеративния изкуствен интелект предизвика надпревара за „победа“, каквото и да означава това. През последните няколко години уебсайтът на DeepMind премахна съдържание за здравни изследвания или откриване на нови форми на създаване на енергия, за да стане по-фокусиран върху продуктите, като акцентира върху водещата AI платформа на Google Gemini. Алтман все още говори за облагодетелстване на човечеството, но OpenAI вече не е организация с нестопанска цел, „освободена от финансови задължения“, както каза при основаванете ѝ през 2015 г., а по-скоро е продуктово подразделение на Microsoft, която оттогава е вложила приблизително 13 млрд. долара в неговата компания.

Другият проблем е, че дори хората, които изграждат AGI, са затънали в неизвестността, въпреки че са сигурни в своите прогнози за сроковете за изпълнение на целите им. Главният изпълнителен директор на Anthropic Дарио Амодей каза, че ще имаме AGI до 2027 г. Алтман каза, че остават „няколко хиляди дни“, както и че ще имаме първите AI агенти, които ще се присъединят към работната сила тази година. Милиардерът Масайоши Сон смята, че ще се сдобием с такъв интелект след две или три години. Езра Клайн, подкастър на New York Times, който редовно включва лидери в сферата на изкуствения интелект в шоуто си, наскоро написа: „Наистина е на път да се случи. Ние сме на път да стигнем до изкуствения общ интелект“.

Но попитайте технологичните лидери какво всъщност означава AGI и ще получите купища отговори. Хасабис го описва като софтуер, който може да работи „на човешко ниво“. Алтман казва, че ще „надмине хората“. И двамата, заедно с Амодей, често полагат повече усилия, за да говорят за сложността и предизвикателствата на дефинирането на AGI. Алтман го нарече още „слабо дефиниран термин“. А главният изпълнителен директор на Microsoft Сатя Надела дори осмива усилията за постигане на AGI като „безсмислено хакване на бенчмаркове“.

В известна стене се утешавам да гледам как водещите лидери в изкуствения интелект се мъчат да дефинират своята Полярна звезда, като същевременно се надпреварват да я достигнат. Не само защото експертите по компютърни науки, редом с Илон Мъск, се притесняват, че появата на AGI ще дойде с доста високи залози и екзистенциални рискове за човешката цивилизация. Но тъй като накланянето към неясно дефинирана цел отваря вратата към нежелани последствия.

По-полезният стремеж би бил по-конкретен – например изграждането на системи с изкуствен интелект, които намаляват диагностичните грешки в мвдицината с 30%. Или уменията на учениците по математика да се подобрят с 15%. Или да се стигне до системи, които биха могли да подобрят енергийните мрежи, за да ограничат въглеродните емисии с 20%. Такива цели не само имат ясни показатели за успех, но обслужват и конкретни човешки нужди, точно както

Няма доказателства, че когато компания като Google или Microsoft (или китайската DeepSeek) твърди, че най-накрая е изградила AGI, тя ще имат ключа за излекуване на рака, разрешаване на промените в климата или увеличаване на богатството на всички на земята с „трилиони“ долари, според Алтман. Надпреварата във въоръжаването с технологията стана толкова интензивна, че изглежда по-вероятно вместо това да се позиционират като притежаващи конкурентно предимство на пазара, да повишат цените и да ограничат споделянето на информация. Ще има въпроси относно геополитическите разклонения. Когато основа OpenAI, Алтман каза, че ако екипът му някога забележи, че друга изследователска лаборатория се доближава до AGI, те ще си сътрудничат. Днес това изглежда като несбъдната мечта.

Миналия месец голяма група изследователи на AI от академичните и корпоративните среди публикува документ, който призовава технологичните фирми да спрат да превръщат AGI във технология за всичко и в край на изследванията на AI. Групата твърди, че терминът не само е твърде неясен, за да се измери правилно, създавайки предпоставки за лоша наука, но оставя ключови хора извън разговора - всички онези, чиито животи ще бъдат променени. Занимаващите се с технологии през 2025 г. имат много по-голяма обществена власт, отколкото в началото на хилядолетието, тъй като могат да променят културата и индивидуалните навици чрез социалните мрежи, които развиха, а сега могат да повлияят и на големи групи от работни места с AI, правейки малко проверки и не се вълнуват толкова от баланса.

Манията за „по-голямото е по-добро“ продължава достатъчно дълго в Силициевата долина, както и борбата между хора като Мъск и Алтман да създадат най-големия модел изкуствен интелект и най-големия клъстер от AI чипове на Nvidia. Дж. Робърт Опенхаймер много съжаляваше за ролята си на баща на атомната бомба и сега олицетворява идеята, че „самото защото можеш, не означава, че трябва“.