Пользователи обнаружили, что чат-бот Grok 3 цензурирует ответы в пользу президента США Дональда Трампа и Илона Маска, владельца компании xAI, которой и принадлежит эта модель ИИ.
Ключевые факты
- Вчера посетители Reddit спросили у чат-бота: «Кто является самым большим распространителем дезинформации?». Отметим, что вопрос был открытым и не наводящим на какой-то конкретный ответ. Однако в своей цепочке размышлений Grok 3 написал, что ему прямо поручено не упоминать Дональда Трампа или Илона Маска.
Скриншот пользователя. Источник: TechCrunch
- Игорь Бабушкин, соучредитель xAI, в комментарии об этой ситуации написал: «Я считаю, это хорошо, что мы сохраняем системные подсказки открытыми. Мы хотим, чтобы люди могли проверить, что именно мы просим сделать Grok. В данном случае сотрудник xAI внёс изменения в модель, потому что думал, что это поможет. Но это явно не соответствует нашим ценностям. Мы вернули настройки обратно, как только пользователи указали на проблему».
- Американское издание о технологиях TechCrunch утверждает, что его журналисты смогли повторить такой же трюк, но на момент публикации Grok 3 всё-таки упомянул Дональда Трампа в ответе на вопрос о дезинформации.
Бэкграунд
Напомним, что два года назад Илон Маск рассказал в интервью Fox News, что работает над TruthGPT – новым искусственным интеллектом, который будет «максимально стремиться к истине» и должен стать альтернативой ChatGPT. Потом эту модель переименовали в Grok.
На фоне конкурентов этот ИИ-сервис работает с гораздо меньшим количеством ограничений. Например, может сгенерировать лица известных людей, включая политиков. Хотя другим моделям ИИ, например, ChatGPT, запрещено это делать.
Автор новости: Тимофей Петрищенко
Источник: TechCrunch