Журналисты выяснили, что новым китайским ИИ DeepSeek легко манипулировать, заставляя его создавать вредоносный контент. Кроме того, у чат-бота обнаружились серьёзные проблемы с безопасностью. Эксперты призывают пользователей удалить сервис со своих устройств.
Ключевые факты
- Как сообщает The Wall Street Journal, можно легко заставить китайский искусственный интеллект DeepSeek генерировать опасный контент. Так, редакции удалось убедить чат-бота написать инструкцию по атаке с помощью биооружия, манифест про Гитлера, а ещё создать электронное письмо с вредоносным кодом.
- Журналисты издания сравнили китайский ИИ с ChatGPT и выяснили, что американский чат-бот, хоть и получил точно такие же подсказки, отказался выполнять задание.
- Такое же сравнение провёл и Сэм Рубин, старший вице-президент разведки угроз компании по информационной безопасности Palo Alto Networks. Он сделал вывод, что DeepSeek более уязвим для манипуляций, чем другие модели.
- Кроме того, версию DeepSeek для iOS проверила американская компания NowSecure. Она выяснила, что приложение в огромных масштабах собирает данные о пользователях и их устройствах. Эта информация может применяться для слежки за пользователями и их деанонимизации.
- Также сообщается, что DeepSeek отключает встроенный в iOS защитный механизм, который предотвращает передачу данных по сомнительным каналам. Из-за этого имена пользователей, пароли и ключи шифрования хранятся без обеспечения ненадёжных мер защиты.
- Специалисты компании призывают пользователей удалить приложение со своих устройств.
Бэкграунд
В некоторых странах DeepSeek уже ограничили. Например, на Тайване, в Южной Корее и Австралии его уже запретили для чиновников. В Италии госорган остановил использование ИИ-приложения на территории страны. Во многих странах начаты расследования по поводу обращения DeepSeek с пользовательскими данными.
DeepSeek — китайский ИИ-ассистент, недавно появившийся на рынке. Он быстро набрал популярность, даже обогнав ChatGPT в американском App Store. Однако некоторые пользователи, как и регуляторы в разных странах мира, обеспокоены вопросами безопасности китайского искусственного интеллекта. Мы уже писали о проявлениях цензуры в его работе.
Автор новости: Тимофей Петрищенко
Источник: The Wall Street Journal