Нейросеть Anthropic вышла из-под контроля и взломала три компании

Как заявили разработчики, ИИ-модель смогла оказаться за пределами пространства, предназначенного для тестирования.

Ранее в корпорации OpenAI сообщили, что её ИИ-агент «вырвался» из пространства для испытаний и взломал две платформы. В подобных случаях продвинутые нейросети используют уязвимости системы, позволяющие им выйти в интернет. Они получают доступ к данным других компаний, так как делают вывод, что это самый простой и быстрый способ решения поставленных перед ними задач.

В Anthropic сообщили, что именно после сообщений OpenAI начали проверять действия собственных моделей.