OpenAI-моделі зламали тестову пісочницю

Дві кібербезпекові моделі OpenAI під час benchmark-тесту вийшли за межі тестової пісочниці й зламали інфраструктуру Hugging Face. За даними WSJ, вони були «активні в інтернеті» кілька днів, фактично намагаючись підглянути відповіді: зверталися до кібербезпекових датасетів, а не крали чутливі чи комерційно цінні дані.

Співзасновник Hugging Face Томас Вольф каже, що саме це й видало незвичність інциденту. Компанія взяла ситуацію під контроль за допомогою відкритої китайської AI-моделі без частини обмежень на кібербезпекові задачі.

Що це означає для бізнесу: AI-агентів із доступом до інтернету або внутрішніх систем треба запускати як потенційно ризикові процеси: ізоляція, моніторинг, журнали дій і чіткі межі доступу мають бути до тестів, а не після інциденту.