Об этом говорится в расследовании BBC.
Журналисты обнаружили, что для создания контента с сексуальным насилием над детьми педофилы используют программное обеспечение Stable Diffusion. Его часто используют художники и дизайнеры для создания изображений. Это ПО позволяет пользователям словами описать любое изображение, которое они хотят получить, после чего создает его.
Так с помощью Stable Diffusion злоумышленники начали производить детское порно в «промышленных масштабах». Его продают на платформах, предусматривающих плату авторам за контент, таких как Patreon. Так, например, один из авторов называет свой контент «эксклюзивным искусством без цензуры». Он просит за подписку на свой аккаунт 8,30 долларов в месяц.
На саму платформу пользователей заманивают через сайты объемные изображения, например, через японский Pixiv. Им пользуются художники, специализирующиеся на манге и аниме. Впрочем, на платформе, поскольку она японская, запрещенное распространение сексуализированных мультфильмов и рисунков с детьми являются незаконными, педофилы только рекламируют свои «работы». Они делают это с помощью хештегов, индексирующих с помощью ключевых слов.
Patreon в свою очередь заявляет, что компания придерживается политики «нулевой толерантности» по контенту с насилием с участием детей, и что аккаунты с таким содержимым будут удалены. Разработчики нейросети Stable Diffusion отметили, что запретили использовать свое ПО с незаконной или аморальной целью и поддержали правоохранителей.
Пока ничего неизвестно о задержании педофилов, использующих искусственный интеллект таким способом.
- 20 июня журналисты BBC обнаружили сотни людей в США, Великобритании и других странах, которые платили индонезийцам за пытки и убийства детенышей длиннохвостых обезьян на видео.