Запознайте се с Ашли, първия телефонен бот в политиката с изкуствен интелект

Шамейн Даниелс e кандидат на демократите за американския Конгрес. Тя се стреми да заеме мястото на представителя на републиканците Скот Пери, който изигра ключова роля в оспорването на резултатите от изборите през 2020 г.

Даниелс, която миналата година загуби от Пери с по-малко от 10 пункта разлика, се надява, че в кампанията ще ѝ помогне ново оръжие - изкуственият интелект Ашли, пише Ройтерс.

Ашли не е типичният робот за автоматични телефонни обаждания - нито един от отговорите ѝ не е предварително записан. Нейните създатели, които възнамеряват да работят предимно с кампании и кандидати на Демократическата партия, казват, че тя е първият политически телефонист в кол център, който се управлява от технология за генеративен изкуствен интелект, подобна на ChatGPT на OpenAI. Тя е способна да провежда безкраен брой персонализирани индивидуални разговори по едно и също време.

Ашли е един от първите примери за това как генеративният изкуствен интелект (ИИ) носи нова ера за политическите кампании, в която кандидатите използват технологиите, за да взаимодействат с избирателите по все по-трудни за проследяване начини.

За някои това е вълнуващ нов инструмент за провеждане на висококачествени разговори в голям мащаб. Други се притесняват, че това ще влоши дезинформацията в поляризирания пейзаж на американската политика, която вече се бори с т. нар. "дълбоки фалшификати" (deepfake - реалистични, но изфабрикувани видеоклипове и изображения, създадени с помощта на алгоритми с ИИ . бел. ред.).

През уикенда Ашли се е обадила на хиляди избиратели в Пенсилвания от името на Шамейн Даниелс. Също като опитен доброволец, Ашли анализира профилите на избирателите, за да адаптира разговорите спрямо ключовите им проблеми. И за разлика от истински човек, Ашли никога не закъснява за работа, има перфектна памет за всички позиции на Даниелс и не се потиска, когато ѝ затворят.

"Това ще се разрасне бързо", коментира 30-годишният Иля Музикантски, базираният в Лондон главен изпълнителен директор на Civox, компанията, която стои зад Ашли. "Възнамеряваме да провеждаме десетки хиляди обаждания на ден до края на годината и съвсем скоро да достигнем шестцифрено число. Това ще се случи за изборите през 2024 г. и ще се случи в много голям мащаб... Бъдещето е сега", казва той.

За Даниелс изкуственият интелект изравнява условията на играта: като аутсайдер тя вече разполага с друг начин да разбере по-добре избирателите, да достигне до тях на различни езици (Ашли владее над 20) и да проведе много повече разговори.

Но този инструмент тревожи мнозина, включително главния изпълнителен директор на OpenAI Сам Алтман, който свидетелства в Конгреса през май, че е "нервен" относно способността на генеративния ИИ да компрометира честността на изборите чрез "дезинформация при взаимодействие един с един".

Технологията, която се обучава от масиви от интернет данни, стана толкова добра в провеждането на реалистични разговори, че през последните месеци се появиха новини за хора, които са се влюбили и са се обявили за женени за чатботове с изкуствен интелект.

Музикантски твърди, че е напълно наясно с потенциалните недостатъци и не възнамерява да приема финансиране с рисков капитал, което би могло да го подтикне да даде приоритет на печалбата пред етиката.

И подобно на OpenAI, той създава необичайна структура за управление: комитет, който има право да го принуди да разкрие публично всичко, което предизвиква безпокойство в компанията. Civox е решил да даде на Ашли роботизиран глас и да разкрие, че тя е изкуствен интелект, въпреки че компанията не е задължена по закон да го направи.

Музикантски и другият съосновател на Civox Адам Рейс, бивши студенти по компютърни науки съответно в Станфордския и Колумбийския университет, отказват да разкрият точните генеративни модели на ИИ, които използват. Те разкриват само, че използват над 20 различни модела на изкуствен интелект, някои от които са патентовани, а други - с отворен код.

Благодарение на най-новите технологии за генеративен изкуствен интелект Рейс е успял да създаде продукта почти изцяло сам, докато само допреди няколко години това би отнело няколко години на екип от 50 инженери, казва той.

Правна сива зона

Този начин на използване на ИИ е слабо регулиран от закона.

"Не знам по силата на кой федерален закон това би било незаконно", казва Робърт Вайсман, президент на организацията с нестопанска цел за защита на потребителите Public Citizen.

Мичиган е един от няколкото щата, които са приели или са в процес на обсъждане на законодателство за регулиране на дълбоките фалшификати в изборите. В Пенсилвания, където се кандидатира Даниелс, няма такива закони.

Никакви правила не касаят пряко за това, което прави Civox. Разпоредбите на Федералната търговска комисия (FTC) в САЩ забраняват на компаниите за телемаркетинг да използват ботове за обаждания по телефона на хора, включени в специален регистър със забрана за това, но това не важи за политически обаждания - а дейността на Civox с нейните "персонализирани" съобщения не се квалифицира като роботизирано обаждане по телефона.

Федералната комисия по комуникациите (FCC) забранява свързаните с кампании автоматично набрани или предварително записани гласови повиквания, включително такива "на живо", към мобилни телефони без предварителното съгласие на получателя. FCC също така започва официално разследване на това как технологията на изкуствения интелект влияе върху незаконните и нежелани обаждания.

Федералната избирателна комисия (FEC) е започнала проучване дали да регулира използването на ИИ в кампаниите.

Нито едно от тези правила обаче не се отнася за начина, по който кампаниите използват технологията на Музикантски.

Музикантски казва, че приветства регулациите, като признава потенциала на технологията да разпространява дезинформация. Други компании вероятно ще създадат телефонни ботове с изкуствен интелект, които звучат почти идентично с истински човек, и няма да разкрият, че обаждащият се е генериран от ИИ, казва той.

"Това би трябвало да провокира размисли за това колко близо сме до някаква версия на бъдещето, която досега е съществувала само в научнофантастичните филми и книги", коментира той и допълни: "И това е причина регулаторите и законодателите не само в САЩ, но и в световен мащаб да започнат да обръщат внимание."

63-годишният Дейвид Фиш е доволен от разговора си с Ашли, въпреки че веднага е разбрал, че това не е човек. "Това задържа вниманието ми", признава той. "Нещото, което наистина ми хареса, беше, че тя се идентифицира като изкуствен интелект и не се опита да ме заблуди", казва Фиш.