В американских социальных сетях появляются фальшивые видео с участием американских политиков, журналистов и других лиц – пишет Reuters. Среди фейков, созданных с помощью искусственного интеллекта (ИИ), – ролики с действующим президентом США Джо Байденом и кандидатом в президенты на выборах 2016 года, членом Демократической партии Хиллари Клинтон.
Почему это важно для медиа? Чем больше появляется технологий для фальсификации информации, тем сложнее её проверить. Кроме того, если инфопространство будет засоряться фейковым контентом, качественным СМИ будет гораздо труднее завоёвывать доверие аудитории и доказывать, что опубликованные ими факты реальные, а не сфабрикованные генеративными сетями.
Ключевые факты
- Reuters фиксирует в соцсетях всплеск фальшивых видео, которые продвигаются на американскую аудиторию с помощью таргетированной рекламы. Так, на одном из роликов Хилари Клинтон якобы говорит, что ей нравится член Республиканской партии Рон Десантис, который недавно заявил о намерении баллотироваться в президенты США. Видео выглядит реальным, однако оно сгенерировано с помощью систем искусственного интеллекта. В другом фейковом ролике действующий президент США Джо Байден критикует трансгендерную женщину. («Соль» не публикует ссылки на эти видео, чтобы не распространять фейковый контент – прим. редакции)
- Фальшивым видео поделился и экс-президент США Дональд Трамп, опубликовав 11 мая на собственной платформе Truth Social ролик с участием ведущего CNN Андерсона Купера. На видео Купер якобы поддерживает Трампа, однако фраза, которую он произносит, не соответствует движению его губ. Позже CNN заявила, что это дипфейк. Представитель Трампа не ответил на просьбу Reuters прокомментировать видео – оно до сих пор доступно на странице сына бывшего президента США в Twitter.
- Напомним, Комитет Республиканской партии США недавно опубликовал политический ролик, полностью созданный с использованием систем ИИ. На видео рисуется катастрофа, которая ждёт старну в случае переизбрания члена демократической партии и нынешнего президента Джо Байдена.
- По данным DeepMedia, компании, которая разрабатывает инструменты для выявления поддельных видео, по сравнению с прошлым годом количество дипфейков в видеоформате увеличилось в три раза, а в аудиоформате – в восемь раз. По оценке компании, создание аудиофейка стало дешевле в 10 000 раз. Если в прошлом году клонирование голоса стоило около 10 000 долларов, то сегодня есть стартапы, которые могут создать такое аудио всего за несколько долларов.
Ключевые цитаты
- «Избирателям будет трудно отличить правду от подделки. Представьте, как сторонники Трампа или Байдена могут использовать эту технологию, чтобы дискредитировать оппонента», – сказал Дэррелл Уэст, старший исследователь Центра технологических инноваций Брукингского института.
- Сооснователь некоммерческой организации Center for Human Technology Аза Раскин заметил, что из-за гонки в сфере разработки ИИ технологические компании не создают механизмов контроля за распространением вредной информации.
- Лидер в области разработок ИИ, компания OpenAI считает манипуляции с искусственным интеллектом на фоне выборов большой проблемой и выступает за регулирование сферы. Так, OpenAI запрещает своей генеративной сети DALL-E создавать изображения публичных персон вроде Байдена или Трампа, что, однако не мешает любому пользователю генерировать фотографии менее знаковых политиков.
Бэкграунд
Дипфейки с участием Байдена и Клинтон сделаны с помощью алгоритмов ИИ, которые обучаются на тысячах роликов, доступных в интернете. И хотя генеративные медиа, позволяющие создавать дипфейки, существуют давно, в последний год они развиваются с невероятной быстротой и становятся всё более доступными широкому кругу пользователей.
Напомним, недавно Европарламент поддержал контроль над искусственным интеллектом. Соответстсвующий закон может быть окончательно утверждён к 2024 году, и тогда в сферу регулирования попадёт любой продукт или услуга, в которых используется ИИ.
Источник: Reuters.