Трябва ли да използваме изкуствен интелект в дипломацията?

Спомням си първата лъжа на дъщеря ми, пише научният коментатор на Financial Times Анджана Ахуджа. Тя стоеше с гръб към стената на хола, с пастел в ръка, опитвайки се да прикрие обширни драсканици. Нейното обяснение не беше по-креативно от творението ѝ: „Татко го направи“.

Измамата е крайъгълен камък в когнитивното развитие, защото изисква разбиране за това как другите могат да реагират като мислене и действие. Тази способност е налична в ограничена степен в Cicero, система с изкуствен интелект (AI), предназначена да играе "Дипломация", игра на военновременна стратегия, в която играчите преговарят, правят съюзи, блъфират, задържат информация и понякога подвеждат. Cicero, разработенa от Meta и кръстена на известния римски оратор Цицерон, противопостави изкуствения си ум срещу човешки играчи онлайн – и победи повечето от тях.

Появата на AI, който може да играе играта толкова умело, колкото и хората, написа наскоро списание Science, отваря вратата към по-сложни взаимодействия между човек и изкуствен интелект, като по-добри чатботове и оптимално решаване на проблеми, при което компромисът е от съществено значение. Но като се има предвид, че Cicero демонстрира, че изкуственият интелект може, ако е необходимо, да използва тайни тактики за постигане на определени цели, създаването на лукави машини повдига въпроса колко дискреция трябва да предоставим на алгоритмите - и дали подобна технология трябва някога да бъде използвана в дипломацията от реалния свят.

Миналата година Европейският съюз (ЕС) поръча проучване за използването на AI в дипломацията и вероятното му въздействие върху геополитиката. „Ние, хората, не винаги сме добри в разрешаването на конфликти“, коментира Хума Шах, етик по изкуствения интелект в университета на Ковънтри в Обединеното кралство. „Ако AI може да допълни човешките преговори и да спре това, което се случва в Украйна, тогава защо не?“.

Подобно на шаха, играта "Дипломация" може да се играе на дъска или онлайн. До седем играчи се съревновават да контролират различни европейски територии. В начален кръг на действителна дипломация играчите могат да сключват съюзи или споразумения, за да задържат позициите си, или да преместват сили, включително за атака или защита на съюзник.

Играта се счита за нещо като голямо предизвикателство за AI, защото в допълнение към стратегията играчите трябва да могат да разбират мотивацията на другите. Има както сътрудничество, така и конкуренция, с риск от предателство.

Това означава, че за разлика от шаха, комуникацията с другите играчи е важна. Следователно Cicero съчетава стратегическите разсъждения на традиционните игри с естествената езикова асимилация. По време на игра AI открива как други играчи могат да се държат по време на преговори. След това, чрез генериране на подходящо формулирани съобщения, той убеждава, придумва или принуждава други играчи да правят партньорства или отстъпки, за да изпълнят собствения си план за игра. Учените от Meta обучиха Cicero, използвайки онлайн данни от около 40 000 игри, включително 13 млн. игрови съобщения.

След като игра с 82 души в 40 игри на анонимна онлайн лига, Cicero се класира сред топ 10% от участниците, играли повече от една игра. Имаше бъгове: понякога изкуственият интелект излъчваше противоречиви съобщения относно планове за инвазия, обърквайки участниците. Но само един опонент заподозря, че Cicero може да е бот (всичко беше разкрито по-късно).

Професор Дейвид Лесли, етик по изкуствения интелект в университета Куин Мери и в института Алън Тюринг (и двата в Лондон), описва Cicero като „много технически вещ Франкенщайн“: впечатляващо съчетание на множество технологии, но също и прозорец към тревожно бъдеще. Доклад на парламентарна комисия в Обединеното кралство от 2018 г. съветва, че AI никога не трябва да бъде натоварван с „автономната власт да наврежда на, унищожава или мами човешки същества“.

Първото безпокойство на Лесли е антропоморфната измама: когато човек погрешно вярва, че има друг човек зад екрана. Това може да проправи пътя хората да бъдат манипулирани от технологиите.

Второто е AI, оборудван с хитрост, но без чувство за основни морални понятия, като честност, дълг, права и задължения. „Една система се надарява със способността да мами, но тя не оперира в моралните категории на нашата общност“, посочва Лесли. „Очевидно е, че една AI система, на базово ниво, е аморална.“ Подобният на Cicero изкуствен интелект, смята той, е най-добре да бъде прилаган към трудни научни проблеми като анализ на времето, а не към чувствителни геополитически въпроси.

Интересното е, че създателите на Cicero твърдят, че неговите послания, изчистени от токсичен език, в крайна сметка са били „до голяма степен честни и полезни“ за другите играчи, спекулирайки, че успехът може да е възникнал от предлагането и обяснението на взаимно изгодни ходове. Може би, вместо да се чудим колко добре Cicero играе "Дипломация" срещу хора, трябва да се отчайваме от това колко зле хората играят на дипломация в реалния живот.