О проблемах, связанных с бешеным ростом дипфейковой порнографии в интернете, рассказывает в своем материале агентство Bloomberg.
Издание ссылается на данные исследования, свидетельствующие о том, что бум искусственного интеллекта привел к резкому росту числа порнографических дипфейков. Так, с 2019 года этот показатель вырос в девять раз.
Только в мае 2023 года на 30 сайтах появилось около 150 тысяч видеороликов, которые вместе получили 3,8 миллиарда просмотров. Некоторые сайты предлагают библиотеки дипфейковых программ, в которых лицо знаменитостей помещается на тела порноактеров. Другие предлагают клиентам за плату возможность «обнажить» знакомых им женщин, например, знакомых или коллег.
Некоторые из крупнейших компаний в области технологий, включая Google, Amazon, X и Microsoft Corp., которой принадлежит Alphabet Inc., владеют инструментами и платформами, которые способствуют недавнему всплеску дипфейкового порно. Google, например, является основным драйвером трафика на дипфейковые сайты, в то время как пользователи X, ранее известного как Twitter, регулярно распространяют дипфейковый контент.
Amazon, Cloudflare и Github от Microsoft в свою очередь оказывают важнейшие услуги хостинга для этих сайтов.
Как бороться с порнофейками
Издание отмечает, что для жертв порнофейков, которые хотели бы привлечь к ответственности тех, кто причинил им экономические или эмоциональные потери, нет простых решений. На сегодня, например, в США пока никто не был осужден за создание искусственно сгенерированного контента с непристойным содержанием без согласия участника.
В такой ситуации юристы, ученые и жертвы ищут новые способы решения проблемы. Исходя из того факта, что сайты с порнофейками используют обширную сеть технологических продуктов и услуг, многие из которых предлагаются крупными публичными компаниями, они просят и давят на эти компании, чтобы те удаляли и блокировали вредный контент, сгенерированный искусственным интеллектом.
Звучат высказывания о том, что компаниями-разработчиками должна быть обеспечена проверка того, одобрил ли человек использование своей личности и дал ли он право на свои имя и изображение.
Активисты в том числе хотят, чтобы поисковые системы и социальные сети делали больше для ограничения распространения дипфейков.
По запросу журналистов Google заявил, что, как и любая поисковая система, он индексирует контент, существующий в сети, чтобы не шокировать людей неожиданным вредным или открытым контентом, который они не хотят видеть.
По словам представителя компании, Google разработал средства защиты, чтобы помочь людям, пострадавшим от дипфейк-порнографии, в том числе дав им возможность требовать удаления страниц, содержащих такой контент с ними.
Активисты также надеются, что усиление давления на компании, которые обеспечивают хостинг сайтов и инструментов для дипфейк-порно, может привести к блокировке с их стороны таких платформ, как это случилось в свое время с 8Chan (платформа, пользователи которой свободно выражали свои экстремистские, расистские взгляды или взгляды, связанные с насилием) и Kiwi Farm (платформа, через которую делалась онлайн-травля и раскрывалась личная информация о людях).
Еще одним возможным способом давления в борьбе с дипфейками могут стать компании, оказывающие услуги онлайн-платежей. Bloomberg выяснил, что некоторые из сервисов, распространяющих дипфейк-порно, принимают платежи через обычные платежные системы, как PayPal, Mastercard и Visa. Компании-владельцы этих систем могут блокировать или отслеживать такие транзакции на требования правоохранительных органов или активистов.
Однако на сегодня пока что простых решений нет. Проблема создания и распространения дипфейков требует регулирования и контроля со стороны тех компаний, которые оказывают услуги и предоставляют инструменты для этого.
Как отмечают эксперты, компании должны понять, что они несут ответственность за разработанные ими технологические платформы, позволяющие создавать и распространять дипфейки, которые могут наносить ущерб репутации, психическому здоровью и личной жизни людей.
Читайте еще:
Илон Маск призывает остановить развитие нейросетей из-за угрозы человечеству
