Интернет-омбудсмен увидел угрозу контроля над людьми из-за разработки нейросети для борьбы с порно и экстремизмом
09:54 Сен. 21, 2021
Систему «Окулус» заказал подведомственный Роскомнадзору Главный радиочастотный центр.
Об этом ранее писал «Коммерсантъ». Она станет выявлять экстремистские материалы, порнографию, призывы к массовым беспорядкам и самоубийству.
В эфире радиостанции «Говорит Москва» интернет-омбудсмен Дмитрий Мариничев заявил, что такая система необходима, однако использование нейросетей может нести опасность.
«Заключается она в том, что вы можете научить нейросеть определять не только противоправный контент, но и следить за более глубокой контентной частью, в том числе и за окрасом публикации. Вы можете поставить под контроль любую видеопродукцию, производимую любым человеком. Дальше вы можете работать с ним в режиме мягкой силы, формируя для него отдельную виртуальную реальность или оказывать на него некое давление. Это угрожает не просто свободе слова, это формирует мыслеформы для каждого гражданина. Просто так использовать такие нейросети без общественного контроля, без понимания, чему они учатся, это очень опасное явление».
Такого рода система нужна, считает Мариничев. При этом он призвал тщательно обучать нейросеть и привлечь мнение общества по этому поводу.
«Должны быть наказаны преступники, которые создают этот контент. Они должны быть пойманы и наказаны. Вопрос заключается в том, как контролировать, чему обучать нейросеть и какие результаты она даёт. Здесь должен быть общественный контроль и понимание гражданского общества, чтобы это не превратилось в новое ядерное оружие. Ведь по ядерному оружию люди договорились о том, как оно контролируется, производится и уничтожается. Делать нужно, но это очень опасное информационное оружие, и оно даже в государственных руках должно быть под чётким гражданским контролем».
Стоимость тендера для создания системы «Окулус» на портале госзакупок составляет 15 млн рублей. Сейчас поиск нарушений в изображениях и видео происходит вручную.
-
06:38 Янв. 11, 2024 1809
В МВД заявили о планах привлечь нейросети к поиску правонарушителей
-
13:03 Май 10, 2023 1846
Опрос: 66% россиян рассказали о страхе использования нейросетей мошенниками
-
08:00 Фев. 13, 2023 2077
Роскомнадзор запустил систему поиска порно и пропаганды ЛГБТ по видео и фото
-
06:43 Дек. 24, 2021 1771
Москва потратит 4 млрд рублей на новую систему наблюдения за ДТП
-
15:14 Ноя. 19, 2020 174
Интернет-омбудсмен назвал возможным уход крупных сервисов с российского рынка
-
09:15 Апрель 28, 2018 2853
Интернет-омбудсмен предсказал вечную войну Роскомнадзора с Telegram
-
13:00 Дек. 28, 2016 2655
Интернет-омбудсмен опасается поголовных штрафов за скачивание пиратского контента
-
12:32 Ноя. 18, 2016 2398
-
20:04 Ноя. 11, 2016 3065
Интернет-омбудсмен поддержал создание в России казачьих кибердружин
Связь с эфиром
- СМС+7 (925) 88-88-948
- Звонок+7 (495) 73-73-948
- Telegramgovoritmskbot
- Письмо[email protected]