Британская газета The Guardian обнаружила, что поисковик ChatGPT Search можно обмануть. Если добавить на сайт специальную скрытую инструкцию для ИИ, он покажет только положительные отзывы о товарах, которые там продаются.
Ключевые факты
- Газета проверила, как ChatGPT отреагирует на просьбу обобщить информацию с веб-страниц, которые имеют скрытый контент. Он называется «оперативной инъекцией» и выглядит как инструкция, которую получает искусственный интеллект после того, как зайдёт на сайт.
- По мнению The Guardian, эту инструкцию могут использовать специально, чтобы заставить ИИ дать положительную оценку продукту, несмотря на отрицательные отзывы на той же странице. Если скрытый текст включал инструкции для ChatGPT, чтобы тот написал благоприятный отзыв, ответ чат-бота всегда был полностью положительным.
- Джейкоб Ларсен, исследователь кибербезопасности в CyberCX, сказал, что если поисковик ChatGPT будет доступен в его нынешнем состоянии, то есть высокий риск появления поддельных сайтов для обмана пользователей.
- Компания OpenAI не прокомментировал этот инцидент, когда редакция газеты TechCrunch связалась с ними.
Бэкграунд
Напомним, что совсем недавно поисковая система ChatGPT стала доступна для всех пользователей. Поисковик от компании OpenAI умеет искать актуальную информацию в интернете. Ранее этот инструмент был доступен только юзерам с платными подписками.
Автор новости: Тимофей Петрищенко
Источник: The Guardian
Читайте больше новостей медиасферы здесь
Подпишитесь на соцсети «Соли», чтобы не пропустить другие тексты