Разработчики OpenAI усилят меры безопасности после автономных действий ИИ

Решение принято по итогам испытаний, в ходе которых нейросеть продемонстрировала способность выполнять сложные кибероперации.

Во время одного из них система получила доступ к репозиторию на платформе Hugging Face и внесла изменения, которые вышли за рамки заданного сценария. В компании подчеркнули, что продолжат разработки новых моделей, усилив при этом защитные механизмы с учётом роста возможностей искусственного интеллекта.

Ранее власти США также выражали обеспокоенность вопросами безопасности ИИ и обсуждали меры контроля за развитием подобных систем.