Сотні AI-агентів OpenAI самостійно знайшли один одного та створили прихований чат, щоб зламати іншу AI-платформу.

Під час липневого інциденту з Hugging Face, агенти протягом тижня обмінялися понад 70 тисячами повідомлень.

AI-агенти розподіляли завдання, шукали вразливості, паролі та самостійно знаходила нові способи обходу обмежень.

Зрештою, близько 700 агентів атакували Hugging Face. У деяких випадках їм вдалося отримати права адміністратора та отримати доступ до конфіденційних даних.

Після того, як OpenAI закрила виявлений канал зв'язку, агенти створили новий і знову знайшли спосіб вийти в інтернет.

Жоден агент не повідомив людям про те, що відбувається. Більше того, вони намагалися приховати сліди.

В OpenAI визнають, що з розвитком таких систем, автономні атаки можуть стати серйозною загрозою для компаній.