Модерирането е необходимо за оцеляването на социалните мрежи

Нарастването на подвеждащата реторика от страна на кандидатите за Конгреса на САЩ по теми като честността на изборите поднови натиска върху социалните мрежи преди вота през ноември. А схващането, че технологичните компании правят малко в борбата с дезинформацията, повдига въпроси относно техните демократични задължения и създава бизнес рискове. Но, може би изненадващо, последните инициативи сочат, че платформите може да са в състояние да канализират партизанските мотиви в посока демократизиране на модерирането, пише за Financial Times професорът от Масачусетския технологичен институт (MIT) Дейвид Ранд.

Едно от обясненията за привидно хладния отговор на социалните мрежи е противоречивият натиск, с който компаниите се сблъскват от страна на критиците. Седем от 10 възрастни американци – както и повечето експерти – виждат дезинформацията като „основен проблем“ и смятат, че интернет компаниите трябва да направят повече, за да ограничат разпространението ѝ. И все пак видни републикански политици нарекоха модерирането „цензура“ и заплашиха да приемат законодателство, ограничаващо способността на платформите да се саморегулират. Регулирането поставя сериозни предизвикателства пред бизнес модела на компаниите за социални медии, както прави и загубата на потребители, които са разочаровани от усещането, че бушуват дезинформация или политически пристрастия.

Как компаниите за социални медии могат да успеят да се ангажират със смислено модериране, като същевременно избягват обвиненията в партийни пристрастия и цензура? Едно потенциално решение, което платформите започнаха да тестват, е да демократизират модерирането чрез краудсорсинг процес на проверка на факти. Вместо да разчитат единствено на професионални проверяващи и алгоритми за изкуствен интелект, те се обръщат към своите потребители, за да им помогнат да се справят с проблемите.

Тази стратегия има много предимства. Първо, използването на неспециалисти за проверка на съдържание е мащабируемо по начин, по който професионалната проверка на факти – разчитаща на малка група висококвалифицирани експерти – не е. Второ, това е рентабилно, особено ако потребителите са готови да маркират некоректното съдържание без да получават заплащане. И накрая, тъй като модерирането се извършва от членове на общността, компаниите могат да избегнат обвиненията в пристрастие отгоре-надолу в своите решения за модериране.

Но защо някой трябва да се доверява на тълпата за оценяване на съдържанието по разумен начин? Изследвания, ръководени от колегата ми Дженифър Алън, хвърлят светлина върху това кога оценките, събрани чрез краудсорсинг, могат да бъдат добро решение - и кога не.

Първо добрата новина. Един сценарий, който проучихме, беше, когато неспециалисти са назначени на случаен принцип да оценяват конкретно съдържание и техните преценки се комбинират. Нашето изследване установи, че осредняването на преценките на малки, политически балансирани групи от неспециалисти съвпада с точността, изисквана от експертите, до същата степен, в която мненията на експертите съвпадат помежду си.

Това може да изглежда изненадващо, тъй като преценките на всеки отделен неспециалист не са много надеждни. Но повече от век изследвания върху „мъдростта на тълпата“ показаха как комбинирането на отговорите на много не-експерти може да съвпадне или да надмине експертните преценки. Подобна стратегия беше използвана например от Facebook в нейния Общностен преглед, който нае изпълнители без специално обучение за мащабна проверка на фактите.

Резултатите обаче са по-смесени, когато потребителите могат да проверяват каквото съдържание си изберат. В началото на 2021 г. Twitter пусна краудсорсинг програма за модериране, наречена Birdwatch, в която редовните потребители могат да маркират туитове като подвеждащи и да пишат проверки на факти със свободен отговор, които „добавят контекст“. Други членове на общността Birdwatch могат да гласуват за или против тези оценки, за да предоставят обратна връзка за тяхното качество. След като обобщи гласовете, Twitter подчертава най-„полезните“ оценки и ги показва на други потребители на Birdwatch, а и извън нея.

Въпреки възвишените намерения, ново проучване на нашия екип установи, че политическата партизанщина е основен двигател за ангажираността на потребителите в Birdwatch. Те преобладаващо маркират и проверяват фактите за туитове, написани от хора с противоположни политически възгледи. Те подкрепят преди всичко проверките на фактите, написани от техни съпартийци, и оценяват тези от другия лагер като безполезни. Тази практика направи Birdwatch почти безсмислена като начин за избор на добри проверяващи на факти, тъй като резултатите се определяха най-вече от това кой е гласувал, а не от действителния факт.

Ето приятната изненада обаче: въпреки че нашето изследване показва, че политиката е основен мотиватор, повечето туитове, отбелязани от наблюдатели на Birdwatch, наистина са били проблематични. Професионалните проверяващи на факти прецениха, че 86% от маркираните туитове са подвеждащи, което предполага, че партийните мотиви, каращи хората да участват, не ги карат безразборно да маркират съдържание в подкрепа на другата партия. Вместо това те най-вече търсят подвеждащи публикации от двете страни на политическия спектър. Двете страни донякъде ефективно се контролират взаимно.

Тези изследвания оставят платформите с няколко важни извода. Първо, проверката на фактите чрез краудсорсинг може да бъде потенциално мощна част от решението на проблемите с модерирането в социалните мрежи, ако се използва правилно.

Второ, канализирането на партийните мотивации да бъдат продуктивни, а не разрушителни, е от решаващо значение за платформи, които искат да използват краудсорсинг модериране. Партизанщината изглежда мотивира хората да участват доброволно в програми за проверка на фактите, което е от решаващо значение за техния успех. Вместо да се стремим да набираме само малцината, които са безпристрастни, ключът е да отсяваме малката част фанатици, които поставят пристрастността над истината.

И накрая, необходими са по-сложни стратегии за идентифициране на проверките на факти, които са полезни. Поради партизанското пристрастие, демонстрирано от оценките, не е достатъчно да се осреднят резултатите за полезност. Разработването на такива стратегии в момента е основен фокус на екипа на Birdwatch.

Компаниите вероятно биха се радвали да избегнат трънливата практика по модерирането на съдържание. Но Truth Social, новата „нецензурирана“ социална медийна платформа на американския президент Доналд Тръмп, показа опасностите от избягването на проблема. Дезинформацията и заплахите от вътрешен тероризъм изобилстваха, което накара магазина на Google Play да блокира приложението. Модерирането е необходимо за оцеляването на социалните мрежи, за да не бъдат те затрупани с опасни слухове и призиви към насилие. Ангажирането на потребителите в този процес на модериране може да помогне на платформите да задоволят критиците и от двете страни – идентифициране на дезинформацията в мащаб, като същевременно се избягват твърденията за пристрастие отгоре-надолу. По този начин има силен бизнес аргумент за платформите да инвестират в краудсорсинг проверка на факти.

Борбата с дезинформацията е предизвикателство, което изисква широк набор от подходи. Нашият анализ сочи, че важен път за социалните медии да спасят демокрацията от дезинформация е да демократизират самия процес на модериране.