Как пишет The Wall Street Journal, широкий резонанс получил случай, произошедший в школе в богатом пригороде Нью-Йорка Уэстфилде (штат Нью-Джерси). Девушки узнали о том, что мальчики делятся в групповых чатах дипфейковыми порно с изображениями своих одноклассниц.
Однако виновные пока не понесли никакого наказания. К тому же, отношение родителей к этому случаю тоже разделилось. Одни требуют сурового наказания виновных, ссылаясь на то, что их дочери чувствовали себя униженными. Другие считают, что это просто подростковый прикол, который можно оставить без внимания.
Делом занялась полиция, а сенатор штата попросил прокурора округа разобраться в ней.
Почему подросткам удается создавать порно-дипфейки
Как рассказал изданию Бен Колман (Ben Colman) — исполнительный директор компании Reality Defender, которая помогает различным учреждениям и фирмам выявлять фейковые изображения, созданные при помощи искусственного интеллекта (ИИ), несмотря на то, что генераторы изображений от таких компаний, как OpenAI Dall-E и Adobe’ s Firefly имеют настройки модерации, запрещающие пользователям создавать порноизображения, на просторах интернета существует много инструментов, позволяющих заменить лицо или «снять одежду».
По словам Колмана, поскольку эти службы используют общедоступное программное обеспечение с открытым исходным кодом, очень трудно, если не невозможно обеспечить реализацию модерации и соблюдения технических ограничений.
Более 90% таких поддельных изображений составляют порно-дипфейки. При этом, по словам эскпертов, для человеческого глаза почти невозможно отличить реальный снимок от подделки. Популярные социальные сети типа SnapChat и TikTok обязались работать с правительственными органами, чтобы остановить распространение таких изображений.
Что делать с порно-дипфейками?
Эксперты отмечают, что кейс, связанный с дипфейками настолько новый, что федеральное законодательство пока не разработано. Только в отдельных штатах (Вирджиния, Калифорния, Миннесота и Нью-Йорк) запрещено распространение дипфейкового порно, а жертвы имеют право подать в суд на его создателя.
Специалисты отмечают, что в случае дипфейковых изображений со школьницами могут быть использованы законы, касающиеся материалов о сексуальном насилии над детьми и запрещающие сексуальные сцены с изображениями несовершеннолетних.
Как сообщает издание, на этой неделе администрация Байдена в рамках правительственного решения об искусственном интеллекте призвала предотвратить использование генеративного ИИ для создания материалов, содержащих сцены сексуального насилия над детьми или «несогласованные интимные изображения реальных людей».
Издание упоминает, что в США уже состоялся один судебный процесс, связанный с дипфейк-порно, на котором представлены старшеклассницы.
В апреле этого года 22-летний житель Лонг-Айленда был приговорен к шести месяцам тюрьмы за то, что создал и разместил фейковые изображения девушек из своей бывшей школы, а также личную информацию о них. Оригинальные фотографии были сделаны, когда девушки учились в средней и старшей школе.
По словам одной из пострадавших учениц школы в Уэстфилде, описанный случай заставил ее одноклассниц пересмотреть свое отношение к тому, что они размещают в интернете, учитывая, что невозможно проконтролировать будущее использование снимков. Некоторые, по ее словам, удалили свои учетные записи в социальных сетях.
Случай со школьниками в Уэстфилде не единственный. В сентябре этого года сообщалось о подобном случае в маленьком провинциальном городе Испании Альмендралехо. Там пострадали почти 30 девушек от 11 до 17 лет. Виновными были признаны 11 мальчиков 12-14 лет. Однако из-за отсутствия законодательных норм, трудно классифицировать то, что они совершили, и назначить наказание.
Читайте еще:
Как во Франции пытаются ограничить доступ несовершеннолетних к порнографии
