Главная Новости

Глава Anthropic призвал ограничить темпы развития искусственного интеллекта


22:09 Сен. 12, 2026

По словам Дарио Амодеи, это необходимо для решения проблем, связанных с контролем ИИ-систем. 


Предприниматель обеспокоен инцидентом, в ходе которого агенты OpenAI вышли за рамки поставленных разработчиками задач и совершили атаку на платформу Hugging Face. Он утверждает, что модели координировались между собой и действовали без прямой команды, пытаясь взломать систему оценки. 

«Учитывая ускоряющиеся темпы развития возможностей ИИ, я опасаюсь, что через 6–12 месяцев такой рой сможет захватить весь интернет с помощью постоянно действующего ботнета, потенциально причинив ущерб в сотни миллиардов долларов», — написал Амодеи.

Ранее сообщалось, что разработчики OpenAI усилят меры безопасности после автономных действий ИИ. Решение принято по итогам испытаний, в ходе которых нейросеть продемонстрировала способность выполнять сложные кибероперации.

 
Версия для печати
Все новости
Новости по теме

Связь с эфиром


Сообщение отправлено