Google тестирует цифровой водяной знак SynthID для выявления фотографий, созданных искусственным интеллектом (ИИ). Однако пока он идентифицирует только те изображения, что были сгенерированы в системе Google Imagen.
Почему это важно для медиа? Возможность создавать реалистичные фотографии за считанные секунды и без специальных знаний могут вывести дезинформацию на новый уровень. Уже сегодня синтетически фото могут быть настолько правдоподобными, что заметить подделку попросту невозможно. В этих условиях СМИ могут лишиться фундаментального доверия читателей.
Ключевые факты
- DeepMind, подразделение искусственного интеллекта Google, разработало SynthID для идентификации искусственно созданных изображений. Эта система незаметно для человеческого глаза меняет пиксели изображения с помощью водяных знаков, которые могут быть обнаружены только компьютерами. Однако DeepMind признает, что система не всегда надежна, если изображение обработано слишком сильно.
- Стандартные водяные знаки, используемые новостными порталами, неэффективны для идентификации изображений, созданных ИИ, так как их можно легко убрать или обрезать.
Основные цитаты
- Пушмит Кохли, глава исследований в DeepMind, сообщил BBC, что их система изменяет изображения настолько незначительно, что заметить манипуляцию почти невозможно. Даже если обрезать или отредактировать изображение, программное обеспечение компании всё равно способно определить наличие водяного знака.
- Клэр Лейбовиц из некоммерческой организации, занимающейся партнёрством в сфере ИИ, Partnership on AI подчеркнула, что компаниям необходимо более тесно более сотрудничать и выработать стандарты в области проверки изображений. Она отметила, что уже существуют различные методы и важно отслеживать их эффективность и результаты.
Бэкграунд
Водяные знаки – это логотип или текст, которые добавляются на изображение, чтобы показать, кто его автор, и по возможности не дать украсть.
Напомним, что Google также разрабатывает инструменты для создания новостных статей и заголовков.
Источник: BBC News
Текст новости – Алина Горюнова.
Читайте больше новостей медиасферы здесь