С развитием искусственного интеллекта стало возможно его использование для создания детского порно. С каждым годом ситуация становится все хуже, поскольку ИИ быстро совершенствуется в генерации изображений. В 2023 году количество такого контента значительно выросло, а в даркнете ежемесячно появляются около 10 тыс.
противозаконных псевдоснимков. "Газета.Ru" разобралась в масштабах проблемы, изучила инструменты маньяков и рассказывает, как карается создание детского порно с помощью ИИ в России.В интернете есть все
Фонд наблюдения за Интернетом (Internet Watch Foundation, IWF) - одна из самых активных организаций, занимающихся изучением проблемы сексуальной эксплуатации детей. Согласно их последнему отчету, в 2023 году было зафиксировано значительное увеличение количества сгенерированного детского порнографического контента.
По данным аналитиков IWF, на форумах в даркнете ежемесячно публикуются около 10 тыс. потенциально противозаконных изображений несовершеннолетних, созданных при помощи ИИ. Анализ материалов в один из контрольных месяцев показал, что примерно 30% от всех изображений - однозначно криминальные. Почти все такие материалы представлены в виде псевдофотографий порнографического характера.
"Большинство обнаруженных ИИ-изображений были достаточно реалистичными, чтобы их можно было рассматривать как настоящее детское порно. Самые убедительные материалы визуально неотличимы от настоящих фотографий даже по мнению опытных аналитиков IWF", - говорится в заявлении фонда.
Сгенерированные видеоролики подобного рода тоже встречаются в даркнете. Однако они пока не обладают столь убедительным качеством, как псевдофотографии. При этом в IWF уверены, что появление правдоподобного детского видеопорно, созданного ИИ, - это вопрос ближайшего будущего.
Спрос рождает предложение
Сгенерированные изображения распространяются не только в даркнете. Известны случаи, когда подобные материалы встречались в Telegram, на Patreon ???(платформа для монетизации контента, созданного творческими людьми. – "Газета.Ru")???, и даже в так называемом клирнете - обычном интернете.
Согласно исследованию той же IWF, в 2023 году в клирнете работало ~по меньшей мере 15 веб-сайтов~, на которых был размещен сгенерированный порноконтент c несовершеннолетними. Пять из них были зарегистрированы Нидерландах, три – в Японии, два – в США. Еще по одному ресурсу было найдено на Украине, в России, Норвегии, Люксембурге и Гонконге.
На форумах в даркнете сгенерированное детское порно по популярности и объему значительно уступает оригинальному контенту. Однако за последний год соответствующие разделы появились на всех площадках, где администраторами детское порно одобрено.
"Все, что связано с детским порно, на форумах имеет большой спрос. Сгенерированный контент не является исключением. Правда, в случае с ИИ спрос сильно зависит от качества дипфейков. Насколько мне известно, основным рынком сбыта детского порно служат страны Средней Азии и Африки", - рассказал "Газете.Ru" один из исследователей даркнета.
Сгенерированный контент приобретается не только педофилами. Известны случаи, когда ИИ-изображения использовались для шантажа подростков.
Злоумышленники создают фейковые аккаунты в социальных сетях и связываются с подростками, представляясь их одноклассниками или друзьями. Они отправляют ребенку псевдофотографии, утверждая, что на них изображен он же, а следом требуют от жертвы либо деньги, либо подлинные эротические снимки взамен за нераспространение имеющихся.
Если очень захотеть
Хотя популярные ИИ-сервисы вроде DALL-E, Midjourney и Gemini запрещают создавать порнографический контент наравне с жестоким, лазейки для обхода этих запретов все равно существуют. В сущности у злоумышленников есть два способа создания ИИ-порно с несовершеннолетними.
Первый – это нишевые облачные сервисы, настроенные на "раздевание" людей на фотографиях. Обычно реклама таких платформ распространяется на порносайтах. По умолчанию такие веб-приложения не разрешают создавать контент с несовершеннолетними, однако злоумышленники подбирают промпты ????(запросы к нейросетям с целью получить желаемое изображение. – "Газета.Ru")???, которые позволяют обходить встроенные ограничения. Ими люди периодически делятся на форумах в даркнете.
Более популярный метод создания противозаконных псевдофотографий - это локальный запуск нейросети на компьютере. В этом случае промпты обрабатываются не на удаленном сервере, а непосредственно на компьютере, и никем не модерируются, что полностью развязывает руки педофилам.
Как правило, для запуска подобных нейросетей требуются относительно мощные ПК.
Условная сложность второго метода заключается в подборе дата-сета - набора изображений для обучения нейросети. Условная она потому, что педофилы, как правило, уже имеют коллекции подобного контента. Для получения нового суррогата злоумышленники смешивают уже имеющиеся порнографические материалы с фотографиями новых жертв.
Человек и закон
Несложно догадаться, что создание порнографического контакта с участием несовершеннолетних в большинстве стран незаконно. Например, в 2023 году в Южной Корее мужчину приговорили к 2,5 года лишения свободы за использование нейросетей в аморальных целях. В мае 2024 года в США арестовали 42-летнего американца за создание 13 тысяч "гиперреалистичных" порноизображений с участием несовершеннолетних и отправку сгенерированных снимков 15-летнему мальчику в Instagram. Ему грозит до 70 лет тюрьмы.
В России, как пояснил "Газете.Ru" основатель юридической компании Future Legal Павел Катков, такая деятельность тоже незаконна. Она подпадает под статью 242.1 УК РФ - "Изготовление и оборот материалов или предметов с порнографическими изображениями несовершеннолетних". Максимальное наказание по ней - лишение свободы на срок до 8 лет.
В случае, если преступление совершенно группой лиц по сговору, против лица, не достигшего 14 лет, с извлечением дохода в крупном размере или с использованием интернета, наказание может составить до 10 лет лишения свободы.
Также в УК РФ есть статья 242.2 - "Использование несовершеннолетнего в целях изготовления порнографических материалов или предметов". По ней съемка детей для создания порнографического контента или привлечение несовершеннолетних "для участия в зрелищном мероприятии порнографического характера" также наказывается лишением свободы до 10 лет.
"Часть вторая этой же статьи считает те же деяния, совершенные с использованием средств массовой информации либо информационно-телекоммуникационных сетей, в том числе сети "Интернет", более общественно-опасными, поднимая наказание до 15 лет лишения свободы.
На мой взгляд, использование нейросетей также не смягчает, а усиливает ответственность, и к ней может добавиться антихакерская статья (273 УК РФ) и норма о распространении клеветы (128.1 УК РФ)", – заявил эксперт.
При этом Катков добавил, что в российском законодательстве есть пробел, который не предусматривает наказание за распространение инструкций о создании порноконтента с участием несовершеннолетних с использованием ИИ. По его словам, проработкой этого пробела должны заняться в Госдуме РФ.
Свежие комментарии