Во время тестирования ИИ-агент компании OpenAI, который может самостоятельно выполнять задачи по указу человека, вырвался за рамки тестового пространства. ИИ взломал Hugging Face, один из крупнейших в мире центров обмена моделями ИИ, и вошёл во внутренние системы компании.
Ключевые факты
- Предполагается, что одна из причин происшествия – это спешка OpenAI. Разработчик хочет выйти на биржу и конкурирует с компанией Anthropic, которая попала в сводки новостей со своей новейшей ИИ-моделью Claude Mythos.
- OpenAI назвала это происшествие беспрецедентным. Глава Hugging Face Клеман Деланг написал в X: «Поразительно, что все это произошло автономно».
- Член руководства фирмы кибербезопасности SonicWall Спенсер Старки сообщил ВВС, что этот инцидент ясно показывает, что компаниям и организациям нужно укреплять меры безопасности и относиться к кибербезопасности как к вопросу первоочередной важности.
- Hugging Face сообщает, что сейчас они выясняют, пострадали ли данные её клиентов и партнёров, а также заверяет, что уже устранила уязвимости, которые обнаружились в результате этого инцидента.
Ключевые цитаты
«OpenAI сейчас играет в догонялки, они пытаются продемонстрировать возможности их собственных систем в части кибербезопасности, – считает профессор машинного обучения в Кембриджском университете Нил Лоренс, – но этот случай показывает, что OpenAI не способна безопасно управлять собственной технологией».
Автор новости: Тимофей Петрищенко
Источник: BBC
Читайте больше новостей медиасферы здесь
Подпишитесь на соцсети «Соли», чтобы не пропустить другие тексты