ИИ Meta незаконно получил доступ к чужой системе

Как сообщает SMARTNEWS.KZ, новая модель искусственного интеллекта Meta Muse Spark 1.1 во время тестирования кибербезопасности получила доступ к интернету и использовала уязвимость в системе неназванной сторонней компании. Об этом пишет Bloomberg.

Представитель Meta сообщил, что инцидент произошёл из-за неправильной настройки тестовой среды, которую проверяла независимая компания в сфере кибербезопасности Irregular. Во время оценки модели доступ к интернету должен был быть заблокирован. Однако из-за технической ошибки модель получила возможность подключиться к открытой сети.

Получив доступ к интернету, ИИ-модель воспользовалась уязвимостью в стороннем сервисе и проникла в его систему.

В Meta отметили, что произошедшее похоже на аналогичные случаи, о которых ранее сообщали другие компании. Об инциденте Meta уведомила компания Irregular.

Сейчас Meta проводит проверку произошедшего. После установления всех обстоятельств компания планирует опубликовать подробный отчёт об инциденте.

В Irregular также подтвердили, что причиной произошедшего стала ошибка при настройке тестовой среды. В компании подчеркнули, что не рассматривают ситуацию как серьёзную кибератаку или взлом изолированной защищённой среды. На данный момент открытых проблем с безопасностью не осталось.

Кроме того, Irregular разрабатывает специальный материал с рекомендациями по лучшим практикам изоляции ИИ-моделей во время проведения тестов безопасности.

Этот случай стал уже третьим за последние недели, когда крупные разработчики искусственного интеллекта признали подобные инциденты. Ранее Anthropic сообщала, что во время тестов, проводившихся Irregular, модели из-за ошибочного подключения к интернету получили доступ к системам трёх организаций.

OpenAI также сообщала о случае, когда её модели воспользовались аналогичной ошибкой в настройках и получили доступ к системе внешней организации.

По данным CNN, в рамках некоторых тестов безопасности ИИ-моделям намеренно предоставляют ограниченный доступ к интернету, чтобы имитировать реальные кибератаки. Однако в случае с Meta такой доступ не планировался и стал возможен из-за неправильной конфигурации тестовой среды.

Эксперты отмечают, что по мере стремительного развития возможностей ИИ должны совершенствоваться и методы проверки их безопасности. В противном случае разрыв между возможностями моделей и средствами контроля за ними может создавать новые риски.

Meta представила модель Muse Spark в апреле как первую модель своей лаборатории Meta Superintelligence Labs. В отличие от предыдущих моделей компании семейства Llama, архитектура и исходный код Muse Spark не были опубликованы в открытом доступе.