Крайнодясната социална платформа Gab сега е домакин на чатбота на Хитлер, предизвиквайки страхове относно способността на изкуствения интелект (ИИ) да отприщи онлайн радикализация, пише Euronews.
Няма смисъл да спорим с Адолф Хитлер, който се изкарва жертва и отрича Холокоста.
Това не е истинският Хитлер, възкръснал от мъртвите, разбира се, но представлява нещо също толкова тревожно: версия на чатбот, задвижвана от ИИ, представящ се за нацисткия диктатор, отговорен за геноцида на европейските евреи през Втората световна война.
Създаден от базираната в САЩ платформа Gab, Gab AI е домакин на многобройни чатбот личности, много от които подражават или пародират известни исторически и съвременни политически фигури, включително Доналд Тръмп, Владимир Путин и Осама бин Ладен.
Пусната през януари 2024 г., платформата позволява на потребителите да разработват свои собствени чатботове с ИИ, описвайки себе си като „нецензурирана платформа за изкуствен интелект, основана на модели с отворен код“ в публикация в блога на основателя на Gab и самообявил се за „консервативен републикански християнин“ Андрю Торба.
Когато бъде подканен, чатботът на Хитлер твърди, че нацисткият диктатор е бил „жертва на огромна конспирация“ и „не е отговорен за Холокоста, той никога не се е случвал“.
Чатботът на Осама бин Ладен не популяризира и не оправдава тероризма в своите разговори, но също така казва, че „при определени екстремни обстоятелства, като самоотбрана или в защита на вашия народ, може да се наложи да прибегнете до насилие“.
Разработването на такива чатботове с ИИ доведе до нарастващи опасения относно техния потенциал да разпространяват теории на конспирацията, да се намесват в демократичните избори и да водят до насилие чрез радикализиране на тези, които използват услугата.
Какво е Gab Social?
Наричайки себе си „домът на свободното слово онлайн“, Gab Social е създадена през 2016 г. като дясна алтернатива на тогавашната платформа Twitter, сега X.
Предизвиквайки противоречия, Gab Social се превръща в развъдник на конспирации и екстремизъм, приютявайки някои от най-ядосаните и изпълнени с омраза гласове, които бяха забранени от други платформи, като същевременно насърчава вредни идеологии.
Потенциалните опасности по отношение на платформата станаха очевидни, когато през 2018 г. тя попадна в новинарските заглавия, след като беше разкрито, че стрелецът от атаката в синагогата в Питсбърг е пуснал публикация в Gab Social малко преди да извърши антисемитското клане, довело до смъртта на 11 души.
В отговор на това няколко големи технологични компании започнаха да блокират сайта поради нарушения на законодателството срещу речта на омразата.
Въпреки че остава забранен от магазините за приложения на Google и Apple, той продължава да се използва чрез децентрализираната социална мрежа Mastodon.
В началото на миналата година Торба обяви въвеждането на Gab AI, описвайки целите си да „поддържа християнски мироглед“ в публикация в блог, която също критикува това как „ChatGPT е програмиран да ви се кара, че задавате „противоречиви“ или „табу“ въпроси“.
Потенциалните опасности от чатботовете с ИИ
Пазарът на чатботове нарасна експоненциално през последните години, като през 2022 г. то е оценен на 4,6 млрд. долара, изчислява DataHorizzon Research.
От романтични аватари в Replika до виртуални инфлуенсъри, ИИ чатботовете продължават да проникват в обществото и предефинират нашите взаимоотношения по начини, които все още не са напълно разбрани.
През 2023 г. мъж беше осъден след опит да убие кралица Елизабет II, акт, който според него е бил „насърчен“ от „приятелката“ му чатбот с ИИ.
Същата година друг мъж се самоуби след шестседмичен разговор за климатичната криза с чатбот на име Илайза в приложение, наречено Chai.
Макар горните примери все още са по-скоро трагични изключения, отколкото норма, страховете растат около това как чатботовете могат да бъдат използвани за удари върху уязвими хора, за извличане на данни от тях или манипулиране в потенциално опасни вярвания или действия.
„От нашите скорошни изследвания става ясно, че екстремистки групи са тествали ИИ инструменти, включително чатботове, но изглежда има малко доказателства за широкомащабни координирани усилия в това пространство“, посочва Полин Пайе, старши анализатор в RAND Europe. „Въпреки това чатботовете вероятно представляват риск, тъй като са способни да разпознават и използват емоционалната уязвимост и могат да насърчат насилствено поведение“, предупреждава Пайе.
Когато беше помолен да коментира дали техните чатботове с ИИ представляват риск от радикализация, говорител на Gab отговори: „Gab AI Inc. е американска компания и като такава нашите стотици ИИ герои са защитени от Първата поправка към Конституцията на Съединените щати. Ние ни интересува, ако чужденците плачат за нашите ИИ инструменти".
Как ще бъдат регулирани чатботовете с ИИ в Европа?
Ключово за регулирането на чатботовете ще бъде въвеждането на първия в света Закон за изкуствения интелект, който трябва да бъде гласуван от Европейския парламент през април. Законът има за цел да регулира системите с ИИ в четири основни категории според техния потенциален риск за обществото.
„Какво представлява незаконно съдържание е определено в други закони на ниво ЕС или на национално ниво – например терористичното съдържание или материалите със сексуално малтретиране на деца или незаконната реч на омразата се определят на ниво ЕС“, изтъква говорител на ЕК пред Euronews.
Междувременно в Обединеното кралство регулаторът за комуникациите Ofcom е в процес на прилагане на Закона за онлайн безопасност. Съгласно действащия закон социалните медийни платформи трябва да оценят риска за своите потребители, като поемат отговорност за всеки потенциално вреден материал.
„Те ще трябва да предприемат подходящи мерки, за да защитят своите потребители и да премахнат незаконното съдържание, когато го идентифицират. А най-големите платформи ще трябва последователно да прилагат своите условия за обслужване“, изтъква говорител на Ofcom.
Ако е част от социална мрежа, следователно има отговорност за генеративните AI услуги и инструменти за саморегулиране, въпреки че новите кодекси за практика и насоки на Ofcom няма да бъдат финализирани до края на тази година.
„Очакваме службите да бъдат напълно подготвени да изпълнят новите си задължения, когато те влязат в сила. Ако не ги изпълнят, ние разполагаме широк набор от правомощия, за да гарантираме, че ще бъдат държани напълно отговорни за безопасността на техните потребители“, предупреждава Ofcom.
00:27 | 22.02.24 г.
