Над 300 реклами в Meta съдържаха предполагаемо сексуално насилие над деца

Откриване на проблемни реклами

Неправителствената организация Tech Transparency Project (TTP) установи 332 платени реклами в Instagram и Facebook, които съдържат материал, за който се предполага, че изобразява сексуално насилие над деца. Докладът на TTP, публикуван във вторник, посочва, че повечето от сигнализираните реклами са имали под 200 импресии, но в съвкупност са достигнали над 29 000 потребители.

Според разследването голяма част от рекламите са генерирани или манипулирани чрез техники на изкуствения интелект, така че да показват сексуално насилие над много малки деца. Някои от материалите рекламират приложения, които създават дийпфейк изображения, включително функции за „събличане“, които TTP вече е разглеждала в по-ранен доклад.

Произход и обхват

TTP проследи произхода на част от тези реклами до разработчици на приложения и до рекламен партньор на Meta в Китай, както е описано в предишните ѝ разследвания. Организацията отбелязва, че съдържанието е било насочено и достигнало потребители в Европейския съюз, Обединеното кралство, САЩ, Индия и Австралия.

Докладът подчертава, че някои реклами са използвали снимки, първоначално публикувани от реални деца в Instagram, което допълнително засилва сериозността на нарушението и рисковете за жертвите.

Нарушения и правни съображения

TTP посочва, че този вид рекламни материали нарушават собствените политики на Meta, които забраняват сексуалната експлоатация, насилието и голотата. Освен това подобни реклами влизат в противоречие с федералните закони на САЩ, отбелязва докладът.

Във връзка с това TTP е подала сигнал за идентифицираните реклами до Националния център за изчезнали и експлоатирани деца (National Center for Missing & Exploited Children), създаден със закон на Конгреса на САЩ.

Контекст и коментари

Този проблем се проявява в момент, когато Meta Platforms Inc. е под силен обществен и регулаторен натиск заради твърдения, че социалните мрежи нанасят вреди върху децата. TTP отбелязва невъзможността на платформите да предотвратят появата на подобно съдържание, което циркулира не в „тъмните кътчета“ на интернет, а в платени реклами, видими за широка аудитория.

„Съдържанието, свързано със сексуално насилие над деца, е сред най-сериозните материали, които могат да бъдат открити онлайн“, заяви Кейти Пол, директор на TTP. „Но това съдържание не се крие в тъмните кътчета на интернет. То се използва в платени реклами в платформите на Meta.“

Последващи действия

В доклада се посочва, че много от идентифицираните реклами вече са премахнати, според твърдения на самата Meta, но остава въпросът защо и как такива материали са успели да преминат рекламните филтри и системите за преглед. TTP настоява за по-строг контрол върху рекламните партньори и върху приложенията, които генерират дийпфейк съдържание, особено когато в тях се експлоатират изображения на реални деца.

TTP е изследователско звено на базираната във Вашингтон, окръг Колумбия, непартийна организация Campaign for Accountability, която следи действията на компании и правителства. В доклада са документирани броят на рекламите, начините на манипулация и географският обхват, като организацията призовава за продължаване на разследването и за по-координирани мерки за защита на децата онлайн.