Има риск от пазарни манипулации с изкуствен интелект

Един онлайн инцидент през май би трябвало да накара всеки инвеститор да потръпне. Фалшиво видео на предполагаема експлозия близо до Пентагона стана вайъръл, след като беше ретуитнато от издания като Russia Today, причинявайки колебания на американските фондови пазари, пише колумнистката за САЩ на Financial Times Джилиън Тет.

За щастие американските власти бързо наводниха социалните медии с изявления, обявяващи видеото за фалшиво, а Russia Today направи смутено уточнение, в което призна, че „това е просто изображение, генерирано от AI“. След това пазарите се възстановиха.

Епизодът обаче създаде отрезвяващ фон за посещението на британския премиер Риши Сунак във Вашингтон – и неговия опит за съвместна инициатива между САЩ и Обединеното кралство за справяне с рисковете от изкуствения интелект (AI).

Напоследък има нарастваща тревога както вътре, така и извън технологичния сектор за опасностите от хиперинтелигентния, самонасочващ се AI. Наскоро повече от 350 учени публикуваха съвместно писмо, в което предупреждават, че „намаляването на риска от изчезване вследствие на AI трябва да бъде глобален приоритет наред с други рискове от обществен мащаб като пандемии и ядрена война“.

Тези дългосрочни заплахи за „изчезване“ грабват заглавията. Но експерти като Джеф Хинтън – учен и бивш служител на Google, смятан за един от „бащите на AI“ – смятат, че най-непосредствената опасност, за която трябва да се тревожим, не е, че машините ще се развилнеят, а че хората ще ги използват погрешно.

Най-вече, както Хинтън каза наскоро на среща в Кеймбриджкия университет, разпространението на AI инструменти може драстично да влоши съществуващите киберпроблеми като престъпност, хакерство и дезинформация.

Във Вашингтон вече има дълбока загриженост, че фейковете ще отровят изборната надпревара през 2024 г. Тази пролет стана ясно, че те вече са повлияли върху венецуелската политика. А наскоро украински хакери излъчиха фалшиво видео с Владимир Путин по някои руски телевизионни канали.

Но сега финансовата сфера се очертава като друг фокус на безпокойство. През май консултантската компания Kaspersky публикува етнографско проучване на „тъмната“ мрежа, което отбелязва „значително търсене на фейкове“, като „цените на минута фейк видео варират от 300 до 20 000 долара“. Досега те са били използвани предимно за измами с криптовалути, се казва в проучването. Но фалшивото видео за Пентагона показва как те биха могли да повлияят и на основните пазари на активи. „Може да видим престъпници да използват това за умишлена пазарна манипулация“, както ми каза един американски служител по сигурността, споделя авторката.

И така, има ли нещо, което Сунак и президентът на САЩ Джо Байдън могат да направят? Не и лесно. Белия дом наскоро проведе официални дискусии относно трансатлантическите AI политики с ЕС (от които Великобритания, като не-член на ЕС, беше изключена). Но тази инициатива все още не е довела до някакъв значим пакт. И двете страни признават отчаяната необходимост от трансгранични политики за изкуствен интелект, но властите на ЕС са по-склонни към регулаторния контрол, отколкото Вашингтон – и са решени да държат американските технологични групи на разстояние.

Така че някои американски представители подозират, че може да е по-лесно да се започне международна координация с двустранна AI инициатива с Обединеното кралство, като се има предвид неотдавнашното публикуване на по-благоприятен за бизнеса документ за политики. Съществуват вече тесни разузнавателни връзки чрез така наречения пакт за сигурност „Петте очи“ (между САЩ, Великобритания, Канада, Австралия и Нова Зеландия – бел. прев.), а и двете страни държат голяма част от западната AI екосистема (както и финансовите пазари).

Бяха предложени няколко идеи. Едната, лансирана от Сунак, е да се създаде публично финансиран международен изследователски AI институт, подобен на Церн, центърът по физика на елементарните частици. Надеждата е, че това може да развие изкуствения интелект безопасно, както и да създаде AI инструменти за борба със злоупотребата, като например дезинформация.

Има също така предложение за създаване на глобален орган за наблюдение на изкуствения интелект, подобен на Международната агенция за атомна енергия (МААЕ); Сунак желае той да бъде базиран в Лондон. Трета идея е да се създаде глобална рамка за лицензиране за разработването и внедряването на AI инструменти. Това може да включва мерки за установяване на „репери“, които показват произхода на онлайн съдържанието и идентифицират фейковете.

Всичко това са изключително разумни идеи, които биха могли - и трябва - да бъдат приложени. Но това едва ли ще стане бързо или лесно. Създаването на AI център в стил Церн може да бъде много скъпо, а получаването на бърза международна подкрепа за мониторингов орган в стил МААЕ ще бъде трудно.

И големият проблем, който преследва всяка система за лицензиране, е как да се обхване по-широката екосистема в мрежа. Технологичните групи, които доминират в авангардните AI изследвания на запад - като Microsoft, Google и OpenAI - са посочили пред Белия дом, че ще сътрудничат на плановете за лицензиране. Техните корпоративни потребители почти сигурно също биха го направили.

Но обхващането на корпоративни измамници - и престъпни групи - в мрежа за лицензиране би било много по-трудно. И вече има много AI материали с отворен код, с които може да се злоупотребява. Във фейк видеото за Пентагона, например, изглежда са използвани елементарни системи.

Така че неприятната истина е, че в краткосрочен план единственият реалистичен начин да се противодейства на риска от манипулиране на пазара е финансистите (и журналистите) да са усърдни в анализите си – а правителствените агенти да преследват кибер престъпниците. Ако реториката на Сунак и Байдън помогне за повишаване на обществената ангажираност с темата, това би било нещо добро. Но никой не трябва да се заблуждава да мисли, че знанието само по себе си ще елиминира заплахата. Рискът винаги е при купувача.