Интернет-омбудсмен увидел угрозу контроля над людьми из-за разработки нейросети для борьбы с порно и экстремизмом

РИА Новости

Систему «Окулус» заказал подведомственный Роскомнадзору Главный радиочастотный центр.

Об этом ранее писал «Коммерсантъ». Она станет выявлять экстремистские материалы, порнографию, призывы к массовым беспорядкам и самоубийству.

В эфире радиостанции «Говорит Москва» интернет-омбудсмен Дмитрий Мариничев заявил, что такая система необходима, однако использование нейросетей может нести опасность.

«Заключается она в том, что вы можете научить нейросеть определять не только противоправный контент, но и следить за более глубокой контентной частью, в том числе и за окрасом публикации. Вы можете поставить под контроль любую видеопродукцию, производимую любым человеком. Дальше вы можете работать с ним в режиме мягкой силы, формируя для него отдельную виртуальную реальность или оказывать на него некое давление. Это угрожает не просто свободе слова, это формирует мыслеформы для каждого гражданина. Просто так использовать такие нейросети без общественного контроля, без понимания, чему они учатся, это очень опасное явление».

Такого рода система нужна, считает Мариничев. При этом он призвал тщательно обучать нейросеть и привлечь мнение общества по этому поводу.

«Должны быть наказаны преступники, которые создают этот контент. Они должны быть пойманы и наказаны. Вопрос заключается в том, как контролировать, чему обучать нейросеть и какие результаты она даёт. Здесь должен быть общественный контроль и понимание гражданского общества, чтобы это не превратилось в новое ядерное оружие. Ведь по ядерному оружию люди договорились о том, как оно контролируется, производится и уничтожается. Делать нужно, но это очень опасное информационное оружие, и оно даже в государственных руках должно быть под чётким гражданским контролем».

Стоимость тендера для создания системы «Окулус» на портале госзакупок составляет 15 млн рублей. Сейчас поиск нарушений в изображениях и видео происходит вручную.