В Сети были распространены фейковые обнаженные фотографии более чем 100 тысяч женщин. Их одежду удалили со снимков с помощью технологий искусственного интеллекта. Об этом сообщают британское агентство ВВС, а также издания NovynyNauky.com/ и The Verge со ссылкой на доклад специалистов фирмы Sensity, занимающейся кибербезопасностью.

Изначально фотографии были взяты из социальных сетей. Затем со снимков женщин удалялась одежда с помощью искусственного интеллекта, после чего фейковые фото распространялись через приложение Telegram.

Согласно докладу Sensity, некоторые из пострадавших женщин "выглядят несовершеннолетними". Однако распространители снимков назвали это просто "развлечением".

По данным Sensity, для создания фейковых обнаженных снимков была использована технология "дипфейк бот" (deepfake bot). Дипфейками являются часто очень реалистичные фото или видео, сгенерированные на компьютере на основе реальных образцов. Одним из направлений использования этой технологии было создание порнографического видео на основе изображений знаменитостей.

Как отметил руководитель Sensity Джорджио Патрини, использование частных фотографий является новой тенденцией.

"Достаточно иметь страницу в социальных сетях с общедоступными фотографиями, чтобы стать мишенью", – предупредил он.

Telegram-бот

В компании Sensity рассказали, что обнаружили "экосистему дипфейков" в Telegram. Речь идет о ботах, которые по запросу пользователей генерируют поддельные фото людей.

Способ создания дипфейка прост: пользователь отправляет снимок человека боту, а в ответ получает его порнографическое изображение.

При бесплатном использовании бота программа скрывает некоторые части снимка либо же рисует поверх него водяные знаки. Пользователи могут заплатить комиссию, чтобы полностью "раскрыть" изображения.

В центре внимания исследователей Sensity оказался бот на основе искусственного интеллекта, который "живет" в Telegram и создает "голые" фото женщин.

Администратор сервиса, имя которого не озвучивается, заявил, что "голые" фото – это "развлечение, которое не связано с насилием".

"Меня это не волнует. Это развлечение, которое не связано с насилием. Никто никого не будет шантажировать этим, поскольку качество обработки оставляет желать лучшего", – отметил он.

Администратор также утверждает, что разработчики следят, чтобы не использовались фото детей. "Как только мы видим фото несовершеннолетних, блокируем пользователя навсегда", – заявил он.

По словам администратора, решение о том, делиться ли с другими полученным "обнаженным" снимком, принимает сам пользователь. Он также сообщил, что вскоре все изображения будут удалены.

Как отмечает NovynyNauky.com/, журналисты ВВС агентства провели эксперименты с частными фото с согласия их владельцев. Отмечается, что ни одно из полученных изображений не было полностью реалистичным. Даже был случай, когда пупок женщины оказался у нее на груди.

Технология, которая используется для генерирования подобных фото, известна как DeepNude. Она была представлена в июне 2019 года. Когда о DeepNude начали писать СМИ, авторы закрыли проект, заявив, что  вероятность того, что люди станут злоупотреблять им, слишком высока.

В Sensity выяснили, что с тех пор исходный код программы появился в Сети в открытом доступе на торрент-трекерах. Теперь технология используется в работе Telegram-бота.

Более 100 тысяч жертв "раздевания" и "контент для педофилов"

В Sensity подсчитали, что за год (с июля 2019-го по июль 2020 гг.) жертвами публичного "раздевания" стали по меньшей мере 104 852 женщины. Их "голые" фото были опубликованы в общедоступных каналах Telegram (это означает, что общее количество сгенерированных изображений, включая те, которые никогда не передавались, намного выше).

По данным Sensity, большинство пользователей этих Telegram-каналов (примерно 70%) – из России и соседних стран. "Бот и связанные с ним каналы привлекли около 101 080 пользователей по всему миру, из которых 70% из России и стран бывшего СССР", – отмечают исследователи.

Журналисты The Verge выяснили, что многие каналы, исследованные компанией, все еще активны. В большинстве случаев снимки для создания "голых" фото были взяты из аккаунтов в социальных сетях.

Расследование также показало, что некоторые снимки принадлежали несовершеннолетним, а, следовательно, "можно предположить, что бота использовали для создания и распространения контента для педофилов".

В Sensity отмечают, что работу бота сопровождала массированная реклама в российской социальной сети "ВКонтакте" (VK). Исследователи пришли к заключению, что большинство пользователей создавали фото для себя. В то же время некоторая часть изображений могла использоваться для вымогательства и шантажа (исследователи не нашли этому прямых доказательств).

Как заявила, по данным NovynyNauky.com/, в комментарии ВВС Нина Шик, автор книги "Дипфейки и Инфокалипсис" (Deep Fakes and the Infocalypse), создатели дипфейков живут и работают по всему миру.

"Когда-нибудь этот контент станет более качественным, это лишь вопрос времени. Количество порнографии, произведенной с помощью технологии дипфейк, удваивается каждые полгода. Наша законодательная система не готова к подобным вызовам. Общество меняется быстрее, чем мы можем себе представить, именно из-за новых технологий, и мы пока не научились это регулировать… Для жертв этой технологии это катастрофа. Это может полностью разрушить их жизнь, поскольку они чувствуют себя обиженными и униженными", – подчеркнула она, отмечает NovynyNauky.com/.

Авторы доклада Sensity поделились своими выводами с Telegram, VK, а также с соответствующими правоохранительными органами, однако не получили ответа.

Другие интереcные современные новости: