Расследование "Би-би-си": педофилы освоили нейросети, чтобы генерировать детскую порнографию

Как обнаружилось в ходе расследования, проведённого журналистами "Би-би-си", педофилы с помощью технологий искусственного интеллекта (ИИ) создают и продают реалистичные изображения детской порнографии.

Некоторые покупатели получают доступ к такого рода картинкам, подписываясь на вполне легальные платные сайты контентного обмена вроде Patreon. При этом сам Patreon заявляет, что в отношении такого рода картинок на сайте действует политика "нулевой терпимости".

В свою очередь британский Совет начальников национальной полиции (NPCC) считает, что это возмутительно, когда некоторые интернет-платформы получают огромную прибыль, не неся при этом никакой моральной ответственности.

А Центр правительственной связи (GCHQ) – спецслужба Великобритании, ответственная за ведение радиоэлектронной разведки и обеспечение защиты государственной и военной информации – заявил по поводу расследования "Би-би-си", что "те, кто совершает сексуальные преступления в отношении детей, пользуются всеми возможными технологиями, и некоторые даже считают, что будущее детской порнографии связано с контентом, генерируемым с помощью ИИ".

Создатели образов насилия над детьми используют основанную на ИИ программу Stable Diffusion, которая предназначалась для тех, кто занимается искусством и графическим дизайном. Эта программа позволяет компьютерам выполнять задания, которые обычно требуют человеческого интеллекта.

С помощью программного обеспечения на основе ИИ Stable Diffusion даёт возможность пользователям описать словами любой образ, который затем воспроизводится на экране. Однако, как выяснила "Би-би-си", эту программу используют и для того, чтобы создавать реалистичные образы сексуального насилия над детьми, включая изнасилование младенцев и детей. Подразделения британской полиции, расследующие случаи насилия над детьми в интернете, говорят, что им уже встречались такие картинки.

Журналистка-фрилансер Октавия Шипшэнкс несколько месяцев занималась расследованием этого вопроса и через благотворительную организацию Национальное общество по предотвращению жестокого обращения с детьми (NSPCC) вышла на контакт с "Би-би-си", чтобы рассказать о результатах своего расследования.

"После того как стало возможно создавать изображения с помощью ИИ, хлынул настоящий поток. И речь идёт не только об очень юных девочках, они [педофилы] говорят уже о малышах", – говорит Шипшэнкс.

"Псевдообразы" насилия над детьми, созданные с помощью компьютера, приравниваются к настоящим фотографиям, и их хранение, публикация или передача в Великобритании незаконны.

По словам Иэна Критчли, возглавляющего в NPCC отдел по защите прав детей, нельзя говорить о том, что поскольку на таких "синтезированных" картинках не изображены реальные дети, от этого никто не страдает. Критчли предупреждает, что педофил может "эволюционировать по шкале преступления от мысли к синтезированному образу, а затем и к насилию над настоящим ребёнком".

Процесс распространения картинок со сценами сексуального насилия состоит из трёх этапов:

• Педофилы создают образы с помощь ИИ-программ.
• Они предлагают эти образы на таких платформах, как японский сайт по обмену картинками Pixiv.
• Аккаунты этих сайтов направляют клиентов по ссылкам к более изощренным картинкам, которые можно просматривать за деньги на таких сайтах как Patreon.

Некоторые из таких картинок их создатели размещают на популярной японской платформе Pixiv, которую обычно используют художники, специализирующиеся на стилях манга и аниме.

Но поскольку это японский сайт, где обмен рисунками с ярко выраженной сексуальной коннотацией, в том числе и с изображением детей, не считается незаконным, авторы используют его для рекламы своих работ, в том числе с использованием хэштегов, которые служат ключевыми словами для индексации по тематике.

По словам представителя Pixiv, поднятому вопросу о созданных с помощью ИИ образов уделяется огромное внимание, и с 31 мая на сайте запрещены все реалистические изображения сексуального насилия с участием малолетних.

В компании заявили, что усилили систему мониторинга и выделили значительные ресурсы для противодействия проблемам, связанным с разработками в области ИИ.

Как рассказала "Би-би-си" Октавия Шипшэнкс, её исследование позволяет сделать вывод, что картинки, изображающие сексуальное насилие над детьми, производятся в промышленных масштабах.

"Объём настолько велик, словно люди [создатели] сказали: наша цель – производить по тысяче изображений в месяц", – говорит она.

Из комментариев некоторых пользователей Pixiv по поводу отдельных образов ясно следует, что они испытывают сексуальный интерес к детям, а некоторые даже предлагают поделиться реальными, а не сгенерированными с помощью ИИ фотографиями и видео сексуального насилия.

Шипшэнкс также отслеживала некоторые группы на этой платформе.

"Внутри этих групп, в которых бывает по 100 участников, люди делятся друг с другом: "О, вот ссылка на кое-что настоящее", – говорит она.

Порнография по прейскуранту

Многие из аккаунтов на Pixiv размещают в биографии ссылки, перенаправляющие пользователей к тому, что они называют "контентом без цензуры" на американском сайте Patreon.

Patreon оценивается в 4 млрд долларов и утверждает, что у него более 250 тыс. создателей контента (криэйторов), в большинстве своём это легитимные аккаунты, которые принадлежат разным знаменитостям, журналистам и писателям.

Фанаты могут поддерживать свои криэйторов с помощью ежемесячной подписки, которая стоит от 3,85 доллара и даёт доступ к блогам, подкастам, видео и картинкам.

Однако в ходе расследования, проведенного совместно "Би-би-си" и Оливией Шипшэнкс, выяснилось, что на аккаунтах Patreon предлагаются и реалистичные, созданные с помощью технологии ИИ образцы детской порнографии по разным расценкам в зависимости от типа материала.

"Я муштрую своих девочек в компьютере", – пишет пользователь одного из таких аккаунтов, добавляя, что они демонстрируют "покорность". Другой пользователь за 8,3 долларов в месяц предлагает "эксклюзивное искусство без цензуры".

"Би-би-си" направила Patreon один из таких образцов, и компания подтвердила, что он является "полуреалистичным и нарушает её политику". Она также сообщила, что немедленно закрыла этот аккаунт.
Patreon утверждает, что придерживается политики "нулевой терпимости", настаивая на том, что "криэйторы не могут финансировать контент, посвящённый сексуальным темам с участием несовершеннолетних".

В компании заявили также, что увеличение в интернете объёмов вредоносного контента, созданного с применением ИИ-технологий "весьма реально и вызывает тревогу", и добавили, что уже "выявляют и удаляют всё возрастающие объёмы" такого рода материала.

"Мы уже запретили весь созданный с помощью ИИ синтезированный материал, связанный с сексуальной эксплуатацией детей", – говорится в заявлении компании, которая называет себя "очень проактивной", поскольку имеет специально выделенные команды специалистов, технологии и работает с партнёрами для "обеспечения безопасности подростков".

Генератор ИИ-образов, программа Stable Diffusion была создана в процессе глобального сотрудничества учёных и ряда компаний во главе с британской фирмой Stability AI.

Было выпущено несколько версий этой программы, причём в её код были вписаны ограничения, контролирующие содержание конечного продукта. Однако в прошлом году была выпущена в открытый доступ ранняя версия с открытым кодом, позволяющая пользователям удалять любые фильтры и заставлять программу создавать любые образы, в том числе и противозаконные.

В Stability AI заявили "Би-би-си", что "запрещают использование программы в незаконных или аморальных целях на всех наших платформах, и в нашей политике ясно прописано, что это включает CSAM (материалы сексуального насилия над детьми)".

"Мы всецело поддерживаем усилия правоохранителей по борьбе с теми, кто злоупотребляет нашей продукцией, используя её в незаконных или злодейских целях", – говорится также в заявлении Stability AI.

По мере быстрого развития ИИ-технологий возникают и вопросы о рисках, которые они могут представлять для частной жизни людей, их прав и безопасности.

"GCHQ оказывает поддержку правоохранительным органам, чтобы они были готовы справиться с такими возникающими угрозами как создаваемый с помощью ИИ контент, и не давали нарушителям чувствовать себя в безопасности", – сообщила "Би-би-си" глава миссии GCHQ по борьбе с сексуальным насилием в отношении детей Джо (её настоящее имя не называется в интересах безопасности).

Представитель NPCC Иэн Критчли также выразил опасение, что поток реалистичных, созданных с помощью ИИ образов может замедлить процесс выявления настоящих жертв сексуальных домогательств.

"Это создаёт дополнительные требования к работе правоохранительных органов с тем, чтобы выявить, подвергается ли где-то в мире сексуальному насилию настоящий ребёнок или это искусственное, синтезированное изображение", – поясняет он.

С точки зрения Критчли, для общества наступил поворотный момент.

"Или мы обеспечим, чтобы интернет и технологии предоставляли фантастические возможности молодым людям, или интернет станет куда более опасным местом", – говорит он.

NSPCC в среду обратилась к технологическим компаниям с призывом внимательно отнестись к этой проблеме.
"Скорость, с которой все эти возникающие технологии были взяты на вооружение злоумышленниками, потрясает, но не удивляет, потому что компании, которые мы предупреждали об опасностях, сидели сложа руки, изрекая лишь пустые слова о безопасности, – заявила Анна Эдмундсон, отвечающая за политику и связи с общественностью в этой благотворительной организации. – Теперь технологические компании знают, что их продукция используется в интересах сексуального насилия над детьми, и их бездействие уже ничем нельзя оправдать".

"Закон о безопасности в интернете потребует от компаний проактивных действий для борьбы со всеми формами сексуального насилия над детьми в сети, включая груминг, прямые трансляции, материал, содержащий элементы сексуального насилия над детьми и запрещённые изображения детей. В противном случае им будут грозить огромные штрафы", – заявил по этому поводу представитель правительства.