Instagram ще тества функции, които замъгляват съобщения, съдържащи голота, за да предпази тийнейджърите и да предотврати до младежите да достигат потенциални измамници. Новината беше обявена от компанията майка Meta, докато тя се опитва да разсее опасенията относно вредното съдържание в своите приложения, предава Ройтерс.
Технологичният гигант е под нарастващ натиск в Съединените щати и Европа заради обвиненията, че приложенията му водят до пристрастяване и подхранват проблеми с психичното здраве сред младите хора.
Meta твърди, че защитната функция за директните съобщения в Instagram ще използва машинно обучение на устройството, за да анализира дали дадено изображение, изпратено през услугата, съдържа голота.
Функцията ще бъде включена по подразбиране за потребители под 18 години, а Meta ще уведоми възрастните, за да ги насърчи да я включат.
„Тъй като изображенията се анализират на самото устройство, защитата от голотата ще работи и в криптирани от край до край чатове, където Meta няма достъп до тях, освен ако някой не реши да ни ги докладва“, обяви компанията.
За разлика от чат услугите Messenger и WhatsApp на Meta, директните съобщения в Instagram не са криптирани, но компанията твърди, че планира да пусне криптиране и за тази платформа.
Освен това Meta посочва, че разработва технология, за да помогне за идентифицирането на акаунти, които потенциално могат да участват в измами със сексуално изнудване, както и че тества нови изскачащи съобщения за потребители, които може да са взаимодействали с такива акаунти.
През янаури гигантът заяви, че ще скрие по-голямата част от съдържанието от тийнейджърите във Facebook и Instagram, като добави, че това ще направи по-трудно да се натъкват на чувствително съдържание като самоубийства, самонаранявания и хранителни разстройства.
През октомври главните прокурори на 33 американски щата, включително Калифорния и Ню Йорк, заведоха дело срещу компанията, заявявайки, че тя многократно е подвеждала обществеността относно опасностите от своите платформи.
В Европа Европейската комисия потърси информация за това как Meta защитава децата от незаконно и вредно съдържание.