Как TikTok предлага видеа със секс и наркотици на непълнолетни?

През юли TikTok обяви, че в САЩ ще започне да разчита на своите алгоритми за засичане и премахване на определени видове клипове, които нарушават правилата на платформата. Целта на компанията е да приложи по-бързо правилата си за ползване на услугата. По-рано алгоритмите на TikTok идентифицираха видеоклипове, нарушаващи правилата, но хора ги преглеждаха преди да ги изтрият.

Компанията направи изявлението, след като WSJ сподели стотиците примери за потенциално нарушаващо правилата съдържание, предложено на ботовете на медията. TikTok твърди, че експериментира с въпросната нова система през последната една година.

Говорителка на компанията коментира, че нито един алгоритъм няма да е напълно точен в проверяването на съдържание, защото контекстът, необходим за разбиране на видео, е важен, особено за клиповете за наркотици.

Същевременно TikTok не успява да премахне и публикациите, насърчаващи хранителни разстройства. Съдържание, което ги представя в добра светлина, е забранено в услугата. Въпреки това платформата е предложила такива видеа на акаунтите на Wall Street Journal.

Мониторингът на съдържанието беше усложнено и от решенията на компанията през последните години за разхлабване на някои ограничения в САЩ, включително за предлагането на повече голота, твърдят бивши директори и модератори на съдържанието. В резултат на всичко това има все повече сексуални видеа в платформата, допълват те.

Според говорителка на компанията политиките на TikTok се развиват в отговор на нормите в индустрията и промените на потребителското поведение. Тя също така посочва, че компанията очаква ново и различно съдържание, тъй като аудиторията на TikTok става все по-голяма и все по-разнообразна.

А акаунтът на бота, регистриран като тинейджър, който се озова в света на ролевите сексуални игри и друго сексуално съдържание?

Той попада в една от най-екстремните спирали за предлагане на съдържание сред акаунтите на WSJ. В редица от предложените му видеа се описва как се правят възли за връзване на хора и се обсъждат фантазии, свързани с изнасилване.

В някакъв момент над 90% от видеата във фийда на профила са за секс и връзване.

От 1276 видеа, показани на тинейджърския акаунт, 616 са премахнати вече от приложението.