Полиция в США начала использовать ИИ-изображения детей для поиска преступников

Американские полицейские используют ИИ для создания изображений несуществующих детей, которые помогают им ловить в сети растлителей несовершеннолетних.

Об этом свидетельствует иск, поданный штатом Нью-Мексико против Snapchat на этой неделе.Согласно жалобе, министерство юстиции Нью-Мексико в последние месяцы начало тайное расследование, чтобы доказать, что Snapchat «является основной платформой социальных сетей для распространения материалов о сексуальном насилии над детьми (CSAM)» и секс-шантажа несовершеннолетних, поскольку его «алгоритм предоставляет детям взрослых растлителей».В рамках расследования полицейский «создал поддельный аккаунт для 14-летней девочки, Sexy14Heather».

Несмотря на то, что он не добавлял подписчиков, «Heather» вскоре широко рекомендовали «опасным аккаунтам, включая те, которые назывались «child.rape» и «pedo_lover10».А после того, как «Heather» приняла запрос на подписку всего от одного аккаунта, рекомендации стали ещё хуже. «Snapchat предложил более 91 пользователя, включая многочисленных взрослых, чьи аккаунты включали или пытались обмениваться откровенным сексуальным контентом», — утверждается в жалобе штата.Выдавая себя за «Sexy14Heather», следователь обменивался сообщениями со взрослыми аккаунтами, включая пользователей, которые «отправляли неподобающие и откровенные фотографии».