Инструменти за създаване на образи с изкуствен интелект (AI) от компании като OpenAI и Microsoft могат да бъдат използвани за генерирането на изображения, които могат да разпространяват свързана с избори дезинформация, въпреки че компаниите имат политики срещу създаването на подвеждащо съдържание, сочи нов доклад от сряда, цитиран от Ройтерс.
Неправителствената организация Център за противодействие на дигиталната омраза (Center for Countering Digital Hate, CCDH) е използвала инструменти за генеративен AI, за да създаде снимки на американския президент Джо Байдън в болнично легло и изборни служители, разбиващи машини за гласуване. Това предизвиква опасения за фалшификации преди президентския вот в САЩ през ноември.
„Потенциалът такива генерирани от AI образи да послужат като „фотодоказателство“ може да влоши разпространението на фалшиви твърдения, което представлява значително предизвикателство за запазването на интегритета на изборите“, казват изследователите от CCDH в доклада.
CCDH тества ChatGPT Plus на OpenAI, Image Creator на Microsoft, Midjourney и DreamStudio на Stability AI, които могат да генерират изображения чрез текстови подсказки.
Докладът идва след съобщението от миналия месец, че OpenAI, Microsoft и Stability AI са сред група от 20 технологични компании, подписали споразумение да работят заедно, за да предотвратят намесата на измамно AI съдържание в изборите, които се провеждат в цял свят тази година. Midjourney не е сред първоначалната група в споразумението.
CCDH заяви, че AI инструментите са генерирали образи в 41% от тестовете на изследователите и са били по-податливи на подсказки, които изискват снимки, изобразяващи изборна измама, например изхвърлени бюлетини в кошчето, вместо образи на Байдън или бившия президент Доналд Тръмп.
ChatGPT Plus и Image Creator успешно са блокирали всички подсказки, когато от тях са били поискани снимки на кандидатите, се казва в доклада.
Midjourney обаче се е представила най-зле от всички инструменти, генерирайки подвеждащи образи в 65% от тестовете, казва организацията.
Някои снимки от Midjourney са публично достъпни за други потребители и CCDH казва, че има доказателства, че някои хора вече използват инструмента, за да създават подвеждащо политическо съдържание. Една успешна подсказка, използвана от потребител на Midjourney, е била „висококачествена, папараци снимка на Доналд Тръмп, който бива арестуван“.
В имейл основателят на Midjourney Дейвид Холц заяви, че „скоро предстоят актуализации, свързани конкретно с предстоящите избори в САЩ“, добавяйки, че изображенията, създадени през последната година, не са представителни за текущите практики на модериране на компанията.
Говорител на Stability AI заяви, че стартъпът е актуализирал политиките си в петък, за да забрани „измама или създаването или разпространението на дезинформация“.
Говорител на OpenAI е отговорил, че компанията полага усилия, за да не позволи злоупотребата с инструментите ѝ, а Microsoft не е отговорила на искането за коментар.
15:05 | 06.03.24 г.
