Дипфейки Тейлор Свифт в X и Telegram. Как ИИ становится опасным. Какие методы борьбы?

Как с этим бороться?

Тейлор Свифт, одна из самых известных поп-звезд современности, стала объектом многочисленных поддельных сгенерированных с помощью ИИ изображений, размещенных на X и Telegram. Это, пожалуй, неизбежная судьба всех известных людей, поэтому важной миссией является предотвратить распространение подобного контента…

Скорость распространения искусственного интеллекта трудно не заметить, каждая компания пытается предложить свои ИИ-помощники и скоро это может перерасти в неконтролируемую проблему не только правительств стран, но и обычных людей.

.

По данным BBC, одно конкретное фейковое фото Свифт просмотрели 47 миллионов раз, прежде чем оно было удалено. Другие изображения также были удалены, и на X пользователи не могут искать Taylor Swift, Taylor Swift AI и Taylor AI.

Кроме удаления изображений, в компании Илона Маска сообщили, что будут принимать "соответствующие меры" против аккаунтов, причастных к распространению дипфейков. Кроме того, добавили: "Мы внимательно следим за ситуацией, чтобы гарантировать, что любые дальнейшие нарушения будут немедленно устранены, а контент удален".

В настоящее время в мире нет распространенной практики борьбы с фейковыми изображениями, большинство таких мер принимаются локально. Особенно это касается законов, которые должны защищать частную жизнь личности, но пока таковых нет, компании, которые распространяют ИИ и все остальные должны прилагать усилия, чтобы предотвращать распространение подобного контента.

Некоторые страны пытаются урегулировать этот вопрос, в частности, в Великобритании распространение поддельной порнографии стало незаконным в рамках Закона о безопасности в Интернете в 2023 году, но, как мы понимаем, это сделать крайне сложно...

Исследование показало, что количество поддельных фотографий выросло на 550% с 2019 года благодаря растущему использованию искусственного интеллекта и это не удивительно, ведь пока нет адекватного регулирования этого вопроса, люди будут пытаться нажиться на таком контенте. Порнография составляет подавляющее большинство поддельных изображений с искусственным интеллектом, причем 99% таких изображений – это женщины. Это может нанести большой вред личной жизни человека.

Представительница Демократической партии США из Нью-Йорка Иветт Кларк написала в твиттере: "То, что произошло с Тейлор Свифт, не что-то новое. На протяжении многих лет женщины были объектами глубоких фейков без их согласия. А с развитием искусственного интеллекта создавать фейки стало проще и дешевле".

Источник: ВВС