Big Tech се договори за борба с генерираната от ИИ изборна дезинформация

Големите технологични компании Meta, OpenAI, TikTok, Microsoft и Amazon се ангажираха да подпишат споразумението от Мюнхенската конференция по сигурността за доброволно приемане на „разумни предпазни мерки“ за предотвратяване използването на инструменти с изкуствен интелект (ИИ) за манипулиране на демократичните избори по света, съобщава Euronews.

Компанията зад социалната платформа на милиардера Илон Мъск, X, която преди беше известна като Twitter, също се включи в споразумението.

Ръководители на редица технологични гиганти като Adobe, Amazon, Google, IBM, Meta, Microsoft, OpenAI и TikTok се срещнаха по време на Мюнхенската конференция по сигурността, за да обявят нова рамка за това как да реагират на генерирани от ИИ дезинформационни атаки, които биха объркали гласоподавателите.

„Всички признават, че нито една технологична компания, нито едно правителство, нито една неправителствена организация не е в състояние сама да се справи с навлизането на тази технология и нейната възможна неправомерна употреба“, коментира Ник Клег, президент по глобалните въпроси в Meta, компанията майка на Facebook и Instagram.

Споразумението е до голяма степен символично, но е насочено към все по-реалистични изображения, аудио и видео, генерирани от ИИ, „които неправомерно фалшифицират или променят външния вид, гласа или действията на политически кандидати, служители на кампании и други ключови заинтересовани страни в демократичните избори, или които предоставят невярна информация на избирателите за това кога, къде и как могат да гласуват законно“.

Компаниите не се ангажират да забраняват или премахват т.нар. дийпфейк. Вместо това споразумението очертава методите, които те ще използват, за да се опитат да открият и етикетират неправомерното генерирано от ИИ съдържание, когато то се създава или разпространява на техните платформи.

Отбелязва се, че компаниите ще споделят най-добри практики и ще предоставят „бързи и пропорционални отговори“, когато това съдържание започне да се разпространява.

Липса на обвързващи изисквания

Неяснотата на ангажиментите и липсата на обвързващи изисквания вероятно са помогнали да бъдат привлечени различни компании, но разочарованите защитници на демократичните избори търсят по-ясни и големи гаранции.

Компаниите имат интерес да запазят своите инструменти от това да бъдат използвани за подкопаване на свободните и честни избори, изтъква Рейчъл Ори от Центъра за двупартийна политика.

От своя страна Клег казва, че всяка компания „съвсем правилно има свой собствен набор от политики за съдържанието".

Намесата на изкуствения интелект в изборите вече е факт

Споразумението в Мюнхен отразява тревогата сред обществеността относно факта, че през настоящата година в над 50 страни по света ще се проведат избори. Президентският вот в Индонезия, четвъртата по размер на населението страна в света и третата най-многолюдна демокрация, приключи миналата седмица.

Вече са регистрирани опити за намеса в избори чрез ИИ, като например т.нар. robot calls – изкуствено генерирани изявления, имитиращи гласовете на известни политици, включително на американския президент Джо Байдън, които целят да обезсърчат хората преди изборите в САЩ през есента.

Само дни преди изборите в Словакия миналия ноември генерирани от ИИ аудиозаписи имитират гласа на кандидат, който обсъжда планове за повишаване на цените на бирата и фалшифициране на вота.

Политиците също са експериментирали с технологията, от използването на ИИ чатботове за комуникация с избирателите до добавяне на генерирани от ИИ изображения към реклами.

Споразумението в Мюнхен призовава социалните платформи да „обърнат внимание на контекста и по-специално на запазването на образователното, документалното, художественото, сатиричното и политическото изразяване“.

В него се казва, че компаниите ще се съсредоточат върху прозрачността за потребителите относно своите политики и ще работят за обучение на обществеността за това как може да избегне генерираната от ИИ дезинформация.

Повечето компании обявиха по-рано, че предприемат предпазни мерки относно собствените си генеративни ИИ инструменти, които могат да манипулират изображения и звук, като същевременно работят за идентифициране и етикетиране на генерирано от технологията съдържание, така че потребителите в социалните платформи да знаят дали това, което виждат, е истинско. Но повечето от тези предложени решения все още не са въведени и компаниите са изправени пред натиск да направят повече по въпроса.

Този натиск се засилва в САЩ, където Конгресът все още не е приел закони, регулиращи ИИ в политиката, оставяйки компаниите до голяма степен да се решават сами какво да правят.

Федералната комисия по комуникациите наскоро потвърди, че генерираното от ИИ аудио е в разрез със закона, но това не покрива дълбоки аудио фалшификации, когато се разпространяват в социалните платформи или в реклами на дадена кампания.

Много оператори на социални платформи вече са въвели политики за възпиране на подвеждащи публикации за изборни процеси - генерирани от ИИ или по друг начин.

Meta казва, че се бори с дезинформация относно „датите, местата, часовете и методите за гласуване, регистрацията на избирателите или участието в преброяването“, както и с други фалшиви публикации, предназначени да попречат на избирателите да гласуват.

Отсъстващи от споразумението

Джеф Алън, съосновател на Integrity Institute и бивш специалист по данните във Facebook, посочва, че споразумението изглежда като „положителна стъпка“, но все пак би искал компаниите зад социалните платформи да предприемат други действия за борба с дезинформацията, като например създаване на препоръки за системи със съдържание, които не дават приоритет на ангажираността.

Лиза Гилбърт, вицепрезидент на застъпническата група Public Citizen, твърди, че споразумението „не е достатъчно“ и компаниите за изкуствен интелект трябва да „задържат технологии“ като хиперреалистични генератори на текст към видео, „докато не бъдат изготвени значителни и адекватни предпазни мерки, които да ни помогнат да предотвратим много потенциални проблеми".

Сред компаниите, които се ангажираха със споразумението в Мюнхен, изпъкват и разработчиците на чатботове Anthropic и Inflection AI; стартъпът за гласово клониране ElevenLabs; дизайнерът на чипове Arm Holdings; компаниите за сигурност McAfee и TrendMicro; и Stability AI, известна с това, че е разработила генератора на изображения Stable Diffusion.

Забелязва се отсъствието на друг разработчик на ИИ генератор на изображения – Midjourney. Компанията обаче не отговори на исканията за коментар.

Включването на платформата X към споразумението беше една от големите изненади в Мюнхен. Илон Мъск рязко ограничи екипите за модериране на съдържание, след като пое компанията.

В изявление в петък главният изпълнителен директор на X Линда Якарино каза, че „всеки гражданин и компания имат отговорност да гарантират свободни и честни избори“.

„X е посветена на това да изпълни своята роля, да си сътрудничи с другите компании в борбата със заплахите от ИИ, като същевременно защитава свободата на словото и увеличава максимално прозрачността“, изтъкна тя.