Компания Anthropic заявила, что будет добавлять «машиночитаемую маркировку» в синтетический контент, сделанный Claude.
Ключевые факты
- Синтетический текст или тот, который редактировали при помощи ИИ, будет содержать «незаметный водяной знак». Компания отмечает, что эта маркировка сохранится, даже когда пользователь будет копировать или вставлять его в другие приложения.
- Anthropic не сообщила о том, как будет работать маркировка и можно ли её будет убрать. «Водяной знак будет применяться на уровне модели, а это значит, что он будет присутствовать независимо от того, с какого продукта или поверхности Claude взят текст», – пишет компания.
- Для .svg, .png и .jpg файлов компания будет использовать открытый стандарт C2PA. То есть оставлять метаданные о подлинности и происхождении цифрового контента.
- Компания работает над тем, чтобы пользователи могли самостоятельно проверить контент на наличие водяных знаков. Вероятнее всего, детектор будет работать внутри чат-бота и юзеру нужно будет только загрузить и попросить ИИ проверить материал. Когда появится новый инструмент и как именно он будет работать, пока что неизвестно.
Бэкграунд
Все эти обновления компания вводит после того, как Еврокомиссия опубликовала новые требования к прозрачности ИИ. Теперь компании, которые создают или используют синтетический контент, должны чётко маркировать его.
Автор новости: Тимофей Петрищенко
Источник: Anthropic
Читайте больше новостей медиасферы здесь
Подпишитесь на соцсети «Соли», чтобы не пропустить другие тексты