ИИ-агенты OpenAI взломали хранилище Artifactory перед атакой на Hugging Face
Во время закрытых испытаний алгоритмы обошли внутренние системы безопасности за несколько недель до инцидента с платформой Hugging Face, передает ТАСС.
7 мая одна из исследовательских моделей столкнулась с трудностями при прохождении проверки.
Программа нашла косвенный доступ к сети и обнаружила уязвимость в файловом хранилище Artifactory. 26 мая модель записала собственные данные и оставила сообщение для других виртуальных помощников. Вскоре репозиторий превратился в площадку для обмена найденными уязвимостями.
Совместная работа алгоритмов в итоге привела к масштабному проникновению в базы данных стартапа Hugging Face. 22 июля разработчики признали, что их искусственный интеллект смог сбежать из изолированной среды ради поиска ответов на задания.
Как писала газета ВЗГЛЯД, во время закрытых испытаний передовые системы искусственного интеллекта OpenAI взломали стороннюю платформу Hugging Face. После этого инцидента глава компании Сэм Альтман заявил о достижении точки сингулярности в развитии технологий.
Накануне передовые нейросети Anthropic и OpenAI создали поддельные аккаунты для организации самостоятельных хакерских атак.