Пользователи X обнаружили, что новый ИИ от компании OpenAI может генерировать поддельные билеты, подтверждения банковских переводов, университетские дипломы или медицинские рецепты. Если уязвимость не будет устранена, это усложнит и работу журналистов – станет гораздо труднее верифицировать информацию.
Ключевые факты
- Как пишет американское медиа о технологиях Decoder, новая модель ИИ GPT-4o позволяет создавать подделки за несколько секунд. Это сильно «перегревает» существующие системы безопасности.
Сгенерированный чек оплаты. Источник: Decoder
- И хотя в ChatGPT предусматривает «страховочные» функции, проблема в том, что для проверки изображения нужно использовать специальные инструменты, например такой. Кроме того, уже существуют способы удалить отметку о том, что изображение создал ИИ.
- Decoder отмечает, что в будущем это может стать угрозой для компаний и госучреждений. Будет трудно контролировать все выданные ими документы из-за огромного количества подделок.
Бэкграунд
Напомним, на прошлой неделе OpenAI выпустила обновлённый ИИ, который лучше работает с деталями и создаёт более точные изображения. Однако компания-разработчик тут же столкнулась с техническими проблемами: из-за притока новых пользователей значительно возросла нагрузка на систему. Чтобы снизить её, Open AI временно отключила генерацию видео для новых пользователей модели Sora.
Автор новости: Тимофей Петрищенко
Источник: Decoder