Е.ВОЛГИНА: 15 часов 6 минут в столице. Радиостанция «Говорит Москва». У микрофона Евгения Волгина. Мы с вами в программе «Умные парни». Анна Сытник к нам пришла, генеральный директор АНО «Колаборатория», кандидат политических наук, эксперт совета БРИКС–Россия. Анна Николаевна, здравствуйте. 

А.СЫТНИК: Здравствуйте, Евгения.

Е.ВОЛГИНА: Координаты эфира: СМС +7-925-88-88-948, Telegram для ваших сообщений govoritmskbot, смотреть можно в YouTube, Rutube и VK.

Про искусственный интеллект будем говорить. Много внимания этому уделяется. Были два значимых, как мне кажется, инфоповода. Как будто бы заочный спор между американцами, которые торгуют рисками, говоря, что искусственный интеллект убьёт человечество; надо его как-то замедлить. И китайцы. Вчера был большой материал в зарубежной прессе. Как будто бы китайцы говорят, что ничего страшного не происходит и не надо никого пугать, надо просто грамотно контролировать. В итоге получается, что США и Китай формируют два крупных центра развития искусственного интеллекта, две крупнейшие экосистемы.

Вопрос возникает: действительно ли мировая технологическая система окончательно разделится на несколько несовместимых экосистем и это будет новая технологическая гонка?

А.СЫТНИК: Я бы начала с того, что у США и Китая действительно различное видение рисков, угроз, вообще того, как искусственный интеллект повлияет глобально на государство, на общество. Китайцы действительно более позитивно относятся к этому вопросу. Т.е. у них нет страшной повестки внутри страны, именно потому что они постепенно его регулируют. У США, напротив, очень амбициозные цели, лидерство ИИ превыше всего, согласно плану искусственного интеллекта Трампа. Это, наверное, пугает больше всего как самих американцев, так и людей, которые в целом хотят думать о безопасности.

Поэтому, возвращаясь к вашему вопросу о разделении мира на технологические экосистемы, я думаю, пока что мы можем говорить о частичном разделении. Причём, прежде всего, оно затронет не сами крупные ИИ-модели, которыми мы пользуемся (ChatGPT, DeepSeek и т.д.), они затронут именно инфраструктуру и условия доступа к этим моделям. Проблема в том, что если у нас будут только американские и китайские сильные технологические решения, то вопрос доступа может ограничиться просто политическим решением по запрету тому или иному государству пользоваться этими моделями. Это, конечно, то, что нам сейчас нельзя допускать. Здесь, конечно, китайская модель более привлекательная, потому что американцы пока выстраивают закрытый клуб стран (США и их союзники) и они выстраивают именно свой внутренний технологический стек. Т.е. такую систему, чтобы технологии могли полностью… Pax Silica называется их инициатива. Чтобы там были редкоземельные элементы доступны.

Е.ВОЛГИНА: Полный цикл.

А.СЫТНИК: Это идея США, их технологическая система. Китай заходит с другой стороны. Он предлагает открытые модели для мира; он предлагает сотрудничество и подготовку специалистов; собственные предложения по глобальному регулированию искусственного интеллекта, в первую очередь стандарты. В этом плане два совершенно разных подхода. Почему мы говорим о частичном разделении, потому что мы видим, что диалог между Китаем и США сейчас активизируется на наших глазах. 26 сентября прошла встреча, двусторонние консультации по ИИ между Вашингтоном и Пекином. И всё-таки пришли к соглашению о том, что будут консультации, предусмотрят механизм обмена рисками и информацией в области безопасности искусственного интеллекта.  

Е.ВОЛГИНА: В данном случае вопрос, насколько регулирование в принципе становится частью самой техногонки, потому что модель, которую вы описали, которую используют американцы, она ничем не отличается от тех моделей, которые они использовали для продвижения своих продуктов других: товаров, продуктов высокотехнологичных, экономических, каких угодно. То, что мы находимся под блокирующими санкциями, тому подтверждение.

Здесь вопрос в другом: насколько в принципе стороны готовы к регулировке? Потому что одно дело, это, может быть, условно, служение ритуалу: мы договорились, консультации провели, через год опять встретились; но это ни к чему не обязывающие документы.

А.СЫТНИК: Пока, разумеется, не обязывающие. Чем он отличается от традиционного подхода США, который мы наблюдаем на протяжении достаточно длительного времени. То, что ИИ затронет всю экономику, это универсальная технология, которая внедрится во все сферы. Соответственно, доступ к этой технологии и регулирование этого доступа намного важнее для нас, чем доступ к Pepsi-Cola или другим благам.

Здесь есть три вопроса. Первый вопрос: это кто получает доступ к ресурсам, кто его получит. Кто получит возможность вывода своего технологического продукта на международный рынок. И, конечно же, чьи технологические решения станут международным стандартом общепринятыми для всех. Конечно же, за словами о безопасности всегда стоит вопрос конкурентоспособности, который наверно для частных компаний, для ИИ-гигантов намного важнее. Для государства тоже важно, но государство всегда разные цели реализует. Поэтому это всегда «палка о двух концах».     

Е.ВОЛГИНА: Насколько преувеличены риски по поводу искусственного интеллекта? Есть ощущение, что американцы возвели это в точку экстремума — нас всех уничтожит ИИ, если не взять его под контроль. Пчёлы против мёда, мне это напомнило. Получается, давайте все остальные замедлятся, а мы будем развиваться, потому что мы начали чуть раньше и мы больше понимаем. Здесь элемент манипуляции существует для ограничения конкуренции, например, или же действительно есть проблемы? Кто-то вспоминает фильм «Терминатор».  

А.СЫТНИК: Я думаю, что сейчас этот вопрос становится всё более глубоким, т.е. его всё больше людей уже не поверхностно обсуждают, а вникают в долгосрочные последствия. Если раньше мы слышали дебаты «за» или «против», сейчас уже многие политики начинают вникать именно в то, что это за технологии. Раньше к этому попроще относились. Я думаю, что для нас наиболее важны вопросы — как это повлияет, какие есть риски для конкретного человека, для прав и свобод и так далее. Второй вопрос, это, конечно же, останется ли пространство для других участников рынка, кроме крупных технологических компаний. 

Е.ВОЛГИНА: Т.е. будут ли они работать в экспортном плане или действительно или будут техногиганты, но параллельно будут ещё никакие-то структуры в других странах. Я правильно понимаю?

А.СЫТНИК: Не задавят ли они вообще всех. Потому что мы видим, что они сейчас предлагают решения для здравоохранения, для образования, для всего не только в своих странах, но и везде. С этим очень сложно конкурировать. Тем не менее, нужны национальные модели, нужны собственные разработки. В этом плане это очень тонкая грань. Особенно она тонкая в том плане, а что будет, если резко доступ к этим технологиям пропадёт, а все уже на них подсели.

Е.ВОЛГИНА: Захотят — отключат.

А.СЫТНИК: Говоря о замедлении, обычно глава Anthropic Дарио Амодеи размышляет, любит говорить о безопасности. Там много причин может быть, в том числе внутренняя политика США. Там промежуточные выборы близятся в конгресс. Вроде предрекают, что у демократов больше шансов, а демократы как раз прислушиваются больше к повестке, что надо регулировать. И эти компании с помощью того, что они первые об этом заговорили за 50 дней до выборов, они как бы пытаются «запрыгнуть» не как предмет регулирования, т.е. те, кого будут регулировать, а как субъект, чтобы потом поучаствовать в выработке этих правил. Это одна из причин, там их много.

Е.ВОЛГИНА: Насколько я понимаю, в Штатах тоже сложности возникли между государством и BigTech. Потому что летом, если я ничего не путаю, Дональд Трамп пытался подписать документ, который касался бы более жёсткого регулирования деятельности BigTech, но что-то пошло не так и что-то отложили по понятым причинам. Были высказывания внутри Соединённых Штатов Америки, что в принципе BigTech становится угрозой для государства, потому что немножко подмена происходит. И в этом отношении те же самые медики выступали против агрессивного внедрения ИИ в сферу диагностики, в сферу того, что машине надо человеческую жизнь подчинять. Такие философско-социальные дискуссии становятся едва ли не ключевыми в плане того, а что это такое, а не вверяем ли мы этому свою жизнь, а не получится ли так, что BigTech переродится, условно, в технофашизм и тогда регулировать его будет ещё сложнее.        

А.СЫТНИК: Вы сейчас про медиков сказали, а я вспомнила про математиков. ИИ решил важнейшую задачу века.  

Е.ВОЛГИНА: Да, тоже было.

А.СЫТНИК: Математики выступили, зачем это? Математика — это же наука, это развитие, мышление, это гораздо больше, чем просто достижение конкретного результата. Поэтому дискуссии действительно затрагивают философские вопросы, совершенно верно. Но вряд ли они интересуют Трампа. Трампа, скорее всего, конечно же, интересуют задачи лидерства США, его популярность, поддержка. То, что происходило летом, на самом деле он не хотел развить регулирование, а просто подчинить себе BigTech американский. Все уже вошли в систему, если можно так выразиться. Anthropic сопротивлялась, но в итоге предоставила свои модели Пентагону. Это было последнее давление на сопротивление. Дальше мы увидели, что различные форматы обсуждаются, какой-то совет техноигроков, которые будут совместно обсуждать, консультироваться с государством. Там на самом деле очень много инициатив в этом плане.

То, к чему сейчас пришёл Трамп, это его громкие заявления о том, что не вздумайте ни в коем случае сейчас останавливать развитие ИИ и допускать даже дискурс о том, что ИИ — это страшно, забудьте об этом, и кто так говорит — это враги Америки.  

Е.ВОЛГИНА: А может ли в мире, с вашей точки зрения, сформироваться единый международный подход к этике искусственного интеллекта? Или страны всё-таки будут вырабатывать собственные правила? Вот про Америку поговорили. Китайцы как к этому относятся?

А.СЫТНИК: В первую очередь у нас общий подход уже есть, некоторые базы. Это рекомендации ЮНЕСКО по этике искусственного интеллекта, которые ещё в 2021 году были приняты. Там в центре достоинство человека, права человека на прозрачность и справедливость. Т.е. некие общие принципы. Дальше у нас ситуация развивается следующим образом, что государств много и единый подход к этике даже в силу различия культур невозможен. Национальное регулирование уже добавляет свои подходы к регулированию персональных данных, распознаванию лиц, дипфейкам, ответственности разработчика, роли государства, она у нас варьируется. Поэтому здесь, скорее всего, у нас будут общие принципы по этике в дальнейшем, но различия национальных подходов, которые будут надстройкой под этими общими принципами.

Китай, наверное, сейчас наиболее активен в этом вопросе. В июле была учреждена в Шанхае организация по глобальному управлению искусственным интеллектом. Это инициатива Китая, Россия — среди учредителей. Изначально было 29 стран, сейчас более 30. Это не та организация, которая исключительно на этических вопросах «заточена». Мне кажется, этика заключается в том, что предлагается некий более инклюзивный формат, т.е. создание международной организации, которая не будет закрытым клубом, как в случае с американской системой, а будет общим механизмом по выработке политики стандартов для всего глобального Юга. Вот такая идея лежит за этим, т.е. это и совместные проекты по обучению моделей, и инфраструктура, общеоблачные сервисы, собственные наработки. Это не этика в прямом смысле слова.  

Е.ВОЛГИНА: Понимание, как с этим работать. А с российской стороны? Мы же тоже пытаемся создавать свои технологические экосистемы. В данном случае какую тенденцию вы видите?

А.СЫТНИК: Я вижу, что Россия не менее активна. У нас, во-первых, есть кодекс этики по искусственному интеллекту, альянс в области ИИ, который действует. Интересно, что он поддержан не только Российской Федерацией и другими странами, но очень много различных компаний, которые присоединились по всему миру к этому кодексу. Это хороший пример. Мы сейчас занимаемся активно вопросами этики ИИ в ЦКЕМИ НИУ ВШЭ, сейчас об этом научную статью пишем, потому то мы видим, что Россия пытается вырабатывать свой подход. У нас закон по искусственному интеллекту был подписан президентом в июле и вступит с 2027 года. Там прописано наше понимание того, как мы видим развитие этой области; наш подход к тому, что для нас в первую очередь важен технологический суверенитет. И наконец-то объяснено, что для нас технологический суверенитет. Это в первую очередь суверенные модели, которые подразумевают под собой весь технологический стек на территории Российской Федерации.  

Е.ВОЛГИНА: Потому что мы можем это технологически обеспечить.

А.СЫТНИК: Мы должны к этому стремиться. Пока у нас в чём-то хорошо, например в микрочипах есть сложности. Это долгосрочная цель, к которой мы стремимся. Говоря о подходе, который мы сейчас вырабатываем в рамках нашего понимания, мне кажется, этика уже не включает в себя только то, как должны регулироваться алгоритмы искусственного интеллекта или что туда закладываться, или даже психологические аспекты влияния на человека. Мне кажется, интересен современный этап тем, что этика уже включает в себя инфраструктуру. А что нам делать с тем, что в некоторых странах не развиваются дата-центры, просто нет ресурсов или нет суверенитета данных; их данные отдаются просто, как колониализм. Это всё этические вопросы, которые входят в нашу повестку, и государство реагирует на них, в том числе выступая на международном уровне.  

Е.ВОЛГИНА: К нашей теме. Герман Оскарович Греф сейчас выступает на Московском стартап-саммите и выдал следующее про ИИ: «Страх и лень — это двигатель прогресса». Рассуждал он про искусственный интеллект, который стал «страшилкой». И сказал, что его боятся простые люди, потому что боятся потерять работу; его боятся предприниматели, потому что боятся потерять бизнес; вообще, страх и лень — это двигатель прогресса, а главные инновации появляются путём возникновения неудобств, которые в свою очередь заставляют людей искать новые пути разрешения проблем и двигаться вперед. Страх движет людьми в вопросах искусственного интеллекта.                           

А.СЫТНИК: Страх, наверное, движет тем, что мы начинаем больше задумываться об этом, в том числе как его регулировать. Лень, да, я больше соглашусь. Я сама, как активный пользователь, вижу, что какие-то задачи, на которые у меня раньше уходили недели, месяцы, в первую очередь на сбор информации, по мониторингу, СМИ, длинных документов, сейчас всё достаточно быстро. Я могу собрать, сделав запрос. Конечно, у меня освобождается время для других задач, и в каком-то плане для меня это двигатель прогресса, просто потому что у меня больше времени на другие задачи появляется.

Е.ВОЛГИНА: Не замещение происходит, а всё-таки это в помощь. Насколько я понимаю, возможно, это как раз тоже является определённым этическим аспектом, страх перед искусственным интеллектом, что он придёт и всех людей заменит. А куда бедному безработному податься. Примерно так. 

А.СЫТНИК: Последние исследования, статистика, прогнозы 2026 года, в частности ОЭСР, показывают, что четверть профессий в мире подвержены воздействию искусственного интеллекта и только 3% профессий под серьёзным риском. Это в первую очередь люди, которые работают с информацией, допустим, маркетинговая информация, аналитическая. Но базовые, фундаментальные профессии, естественно, не заменят ни докторов, ни хороших юристов. Несмотря на то, что мы видим, что у судов большие проблемы с придуманные судебными случаями. Конечно, он будет помогать с клинической диагностикой. В каждой конкретной профессии часть рутинных задач он с нас снимет, но это не значит, что профессия пропадёт.  

Е.ВОЛГИНА: Анна Николаевна, по поводу этического аспекта. Сейчас восприятие искусственного интеллекта такое неофитское немножко, потому что модная тема, которую чуть ли не в детский сад пытаются внедрить, потому что это поможет, здесь тоже поможет. Мне кажется, в этом тоже видят определённые риски, потому что есть определённая подмена. Условно, искусственный интеллект хорош, когда профессионал высокого уровня начинает его использовать в качестве подспорья. Но есть другая история: а вдруг действительно не понадобятся, учителя все уйдут в онлайн, потому что будет искусственный интеллект, который сгенерирует тебе программу, а другой искусственный интеллект будет проверять, а ты «домашку» сделаешь при помощи искусственного интеллекта. Модели искусственных интеллектов будут друг друга проверять, а человек ни при чём.

Развитие ИИ, с вашей точки зрения, как элемент нового технологического перехода, имело нечто схожее с предыдущими этапами технологического перехода, когда не было ИИ, но тоже были страхи, что человечество оболванится и надо с этим что-то делать?  

А.СЫТНИК: Я, как преподаватель, много размышляю над этим вопросом, касательно того, что чуть ли ни в детский сад внедряется. Почему нет, если это будут приложения, которые помогают заботиться о детях. Допустим, у нас сейчас стоит задача внедрить в школьное образование, в том числе с младших классов. Тут не дело в том, что он должен заменить учителя, у которого есть возможность дать ребёнку заботу дать и особенно внимание, но некоторого персонализированного ассистента, который будет помогать делать «домашку».

Е.ВОЛГИНА: Как репетитор.

А.СЫТНИК: Освободит бедного родителя, который пытается разобраться с домашними заданиями. У детей же разный темп прогресса. На самом деле на всех этапах обучения, не только школьного, но и высшего образования.

Е.ВОЛГИНА: Про образование после новостей поговорим подробнее. Анна Сытник с нами, гендиректор АНО «Колаборатория», кандидат политических наук, эксперт совета БРИКС–Россия. Сейчас информационный выпуск.

НОВОСТИ

Е.ВОЛГИНА: 15:35. Говорим про роль искусственного интеллекта и про то, что формируется крупная экосистема, американская и китайская. Наша, кстати, отдельно экосистема?

А.СЫТНИК: Прям отдельная, нельзя сказать. Есть частичная. Если относительно либо к Америке, либо к Китаю, либо к Корее, то больше к Китаю. Нельзя сказать, что у нас несамостоятельная политика в этой сфере. У России совершенно своё видение, свой подход и понимание того, что нам нужен свой технологический суверенитет, а это означает свои технологические экосистемы. Но это не значит, что он не будет дружить с другими технологическими экосистемами в мире.

Е.ВОЛГИНА: История про искусственный интеллект, мы понимаем, это что-то новое и это что-то новое надо сначала обличить в теоретическую базу, потому что сразу практика появилась. Теоретическая база, плюс соответственно учебные материалы. Наталья говорит: «Слышала недавно, что программирование становится неактуальным с развитием ИИ. Действительно ли так? Профессия программист исчезнет или трансформируется во что-то иное?» Сегодня была статистика, что у нас IT-компаний огромное количество в стране.  

А.СЫТНИК: С программистами ИИ сыграл злую шутку. Да, действительно, эта позиция уже не очень актуальна, он их потихонечку заменяет. Но ничего страшного, они люди умные, находчивые, придумают ещё что-то.   

Е.ВОЛГИНА: Пристроятся.

А.СЫТНИК: ИИ нужен не только программистам, он нужен сотруднику министерства, преподавателю, журналистку, юристу. Поэтому очень важно развивать базовую ИИ-грамотность, которая в первую очередь помогает работать с искусственным интеллектом. Здесь важно на несколько этапов для себя разделить. Первое, нужно понимать, что такое ИИ, начать с этого; какие у него есть возможности, какие ограничения. Хорошо, я это понял. Дальше мне нужно уметь поставить ему задачу и оценить качество выполнения этой задачи.   

Е.ВОЛГИНА: Научиться промт писать, грубо говоря.

А.СЫТНИК: И оценить, насколько он хорошо выполнил, т.е. не наврал ли, грубо говоря. Третье, это работа с источниками информации: то, как мы хорошо можем собрать, насколько репрезентативный будет для нас ответ. И, конечно же, это понимание ответственности и понимание, что нельзя в него персональные данные загружать, понимание этических ограничений, что нельзя выдавать свою работу за него. Мы, как преподаватели, координационная лаборатория, мы выпустили учебник, который помогает справиться со всеми этими вопросами. Он называется «Исследование международных отношений: прикладные методы и цифровые инструменты». Он помогает в первую очередь международникам и людям из социально-гуманитарных сфер. Он идёт как постепенное усложнение от базы. У нас трансформируется в целом сейчас работа научная, исследовательская до того, как ИИ может стать неким цифровым инструментом, помогающим на каждом этапе работы, и заканчивается главой об этике, грубо говоря, что можно, что нельзя, что хорошо, что плохо.

Е.ВОЛГИНА: Ваша лаборатория выпустила обучающий материал, кто-то ещё выпускает. Мы приходим к тому, что нужны отдельные образовательные учебные программы, которые системно учат исследователей работать с искусственным интеллектом. Даже не только исследователей. Условно, прям со школы отдельный предмет и, соответственно, высшее учебное заведение, будь ты физик, будь ты врач, журналист, художник, у тебя базово будет тоже этот предмет. Мы к этому приходим, как думаете?  

А.СЫТНИК: Базовый предмет ИИ-грамотности уже появляется в университетах. Это становится неким общим курсом, который человек должен на первом курсе пройти для дальнейшей работы. Но мне кажется, в первую очередь что поменяется, я с позиции преподавателя говорю, это оценивание. Потому что прежняя логика строилась на том, что если студент сдал хороший реферат, доклад, курсовую работу…

Е.ВОЛГИНА: Сам ли он его сделал.

А.СЫТНИК: Он такой молодец, он написал хорошую работу. Тот же самый текст, который мы раньше, правда, долго делали, собирали источники, перерабатывали, сейчас можно сделать за десять минут. Буквально за десять минут или короче, зависит от донастроек. Если мы просто запретим инструмент, это ничего не решит, его всё равно будут использовать. Что мы можем сделать? Мы можем изменить наш подход к задачам. И мне кажется, нужно перестроить процесс, чтобы видеть ход мыслей студента. Неважно, какие будут задания, нам важно увидеть не конечный результат в виде текста, а нам нужно видеть, что он прогрессирует, что он понимает, что он учится думать. ИИ интегрировать в этот процесс тоже не сложно, он может помогать.   

Е.ВОЛГИНА: Мне сейчас мысль в голову пришла: может быть, мы вообще приходим к тому, что искусственный интеллект не то, что упростит какую-то задачу, а наоборот потребует принципиально новых компетенций. Потому что в определённой ретроспективе видели, что система образования уходила, например, от рассуждений, от понимания способов мышления к тестированию, т.е. к определённой фиксации, потому что это можно было в табличку занести. Но критика тестирования как определённого регресса в плане способности к развитию мысли, очевидна совершенно. Не приходим ли мы к тому, что история с искусственным интеллектом потребует новых принципиальных компетенций?

А.СЫТНИК: Да, точно потребует, в первую очередь компетенций по оценке результатов работы искусственного интеллекта. У нас действительно появляется возможность гораздо больше информации получить сжатой. Дальше нам надо выделить главное. Могу привести пример из международный повестки. Искусственный интеллект мы попросили написать на тему американо-китайских консультаций по ИИ. И он может написать хороший текст по повестке, дипломатическим заявлениям и так далее, но это же не отразит для нас суть процесса.  

Е.ВОЛГИНА: Конечно. Это формальность.

А.СЫТНИК: Дальше нам надо покопаться, надо посмотреть какие-то внутренние политические документы или высказывания. Это опять же можно сделать через запрос ИИ. Это на самом деле сложная работа. Когда я работаю с текстами, я использую ИИ, но не для того… Если я скажу: ИИ, напиши мне колонку в «Коммерсанте» стиле Анны Сытник, он не напишет. Он напишет что-то «среднее по больнице», скучную, достаточно зацикленную «воду». Это большая работа. 

Е.ВОЛГИНА: Интересно, как искусственный интеллект, в принципе, отразится на работе людей, которые работают с любой информацией, это учёные, журналисты, аналитики. Я сама сравнивала модели и, конечно, алгоритмы и то, как он пытается своё видение подстроить, это тоже удивительно. Потому что, например, если ты работаешь с американской моделью, она тебе на один и тот же вопрос будет выдавать нарративы с той стороны. Если ты работаешь с китайской моделью, она будет попроще, более нейтральная. Здесь вопрос, наверное, ещё обучаемости этих моделей.

Есть ли проблема того, кто пишет алгоритмы, как пишутся алгоритмы? Потому что самая распространённая «страшилка»: вдруг там какой-нибудь мизантроп появится и напишет код.

А.СЫТНИК: Там всегда большие команды и отдел по безопасности. Это большой разговор о предвзятости моделей, Байес. Я здесь занимаю немножко другую позицию. Мне кажется, наоборот, эти компании всё-таки пытаются сделать свои модели более нейтральными, потому что понимают, что пока идёт борьба за пользователей. И чем больше пользователей компания привлечёт, тем больше у неё всё вырастет. Но пользователю неинтересно общаться с моделью, которая тебе будет только говорить «Трамп молодец», они китайцев сразу потеряют, там много китайцев пользуется ChatGPT. В этом плане, мне кажется, чтобы американские модели только американскую повестку говорили — нет. Я вижу, что всё-таки у нас есть какой-то тренд в другую сторону, по крайней мере, пока. Хотя на начальном этапе это действительно было проблемой. В первую очередь это зависит где-то от донастроек. Когда были выборы Байдена и Трампа, я делала промт: напиши мне стишок про Трампа и стишок про Байдена. Про Байдена он мне пишет поэму прекрасную, а про Трампа чуть ли не… Были такие моменты.

Сейчас по большей части обучение ИИ — это чёрный ящик. Просто строится на том, что идёт гонка за данными в первую очередь. Для России очень важная цель — создание национального хранилища данных для того, чтобы модели поднимали наши.   

Е.ВОЛГИНА: Вопрос объективности.     

А.СЫТНИК: Конечно, там есть донастройки, что не нужно выдавать инструкцию, как создать биотехнологическое оружие и так далее. Но всё равно это донастройки, человеческие возможности ограничены.

Е.ВОЛГИНА: Не получается ли, что история с искусственным интеллектом про взаимоотношения между государствами, про взаимоотношения между людьми, взгляды на те или иные события? Мы же понимаем, у нас сейчас базовая история — сохранение исторической памяти. Мне кажется, яркий пример. Когда здесь было много вражеских НКО, они свои нарративы через учебники отправляли. Потом у них внутри переосмысление событий идёт и битва трактовок: что же было, кто виноват и так далее.

Здесь, по сути, история с хранилищем данных едва ли не становится… Пока хранилища — это библиотеки, это архивы, это физические носители в виде книг и каких-то бумаг, плюс какие-то компьютерные данные, оцифровка. А с искусственным интеллектом это всё то же самое, только сложней, потому что он на базе всех архивов сможет выдавать готовую структуру. Всё то же самое, просто чуть быстрее.

А.СЫТНИК: Сейчас основная гонка искусственного интеллекта в мире происходит уже за узкоспециализированным набором данных или данными на редких языках. Наверное, слышали про историю, не знаю, правда или нет, совершенно ужасно, что бумажные книги, которые Amazon оцифровывал, потом сжигались. Это реальная серьёзная борьба. У России здесь очень много преимуществ. Во-первых, кроме русского языка, у нас множество национальных языков. Я сейчас приехала из Нальчика, у нас там было мероприятие БРИКС. И мы ехали в автобусе и начали тестировать модели на кабардино-балкарском языке. Невероятно интересно. ChatGPT почти ничего не понял, он около 15% правильно понимал. Наши модели лучше понимают. И мы понимаем, что это происходит потому, что у нас есть проекты национальные и региональные по созданию датасетов, это происходит на локальных языках. Это важная повестка внутри стран, не только нашей, но и каждой страны, где есть редкие языка локальные. И эту повестку мы переносим на международную арену в рамках БРИКС. У нас был саммит в сентябре, была принята Нью-Делийская декларация, где это тоже было подчёркнуто, что очень важно создание именно наших данных, что мы будем закладывать в модели наши знания и модели должны транслировать. Это то, что мы сейчас действительно серьёзно обсуждаем.       

Е.ВОЛГИНА: На базе БРИКС может ли история с искусственным интеллектом быть отдельным инструментом для взаимодействия и укрепления сотрудничества? Потому что здесь вопрос нового подхода к развитию искусственного интеллекта, к регулированию ИИ, битва трактовок и подходок к регуляторике.  

А.СЫТНИК: БРИКС — очень интересная площадка. Она отличается от всех других организаций, просто потому что, во-первых, это не организация, это платформа. Здесь альтернативность должна заключаться не в том, что мы создадим свою экосистему БРИКС закрытую, а в том, что у нас есть некие общие приоритеты, которые мы в дальнейшем как объединение будем продвигать на международном уровне, в частности в ООН. Это такая переговорная площадка совершенно на разных уровнях: на уровне самом высоком — между лидерами государств; между министерствами; на экспертном сообществе; на гражданском форуме.

Мы ставим в центр вопросы в первую очередь, не слишком ли много влияния у крупных технологических компаний. Как нам более справедливо выстраивать управление ИИ. Какой есть доступ к вычислениям у других стран, в частности у африканских, как обеспечить этот доступ.   

Е.ВОЛГИНА: Плюс школы, учебные центры и учебные материалы.

А.СЫТНИК: Обмен образовательными практиками. Общие проекты по применению ИИ в сельском хозяйстве. Это такие практико-ориентированные, хорошие проекты во благо. БРИКС в 2025 году в Рио-де-Жанейро первое общее заявление по справедливому управлению ИИ было принято. А сейчас мы видим, что уже какие-то предметные инициативы, в частности, сейчас обсуждается независимая оценка предвзятости моделей, обмен информацией между нашими странами. Я надеюсь, что будут создаваться совместные лаборатории.     

Е.ВОЛГИНА: Вы сравнивали учебный подход к написанию учебных материалов, то, как там видят? Даже на примере того, что вы издали учебный материал на этот счёт. Насколько это является актуальным вызовом для стран БРИКС?

А.СЫТНИК: Я была на гражданском форуме от России как сопредседатель рабочей группы по технологиям. Там есть отдельная группа по образованию. После форума мы обсуждали, как будто нам надо все наши группы перемешать, потому что там, где технологии — там высшее образование, эти все вопросы переплетаются. Я увидела большой интерес со стороны индийских коллег (поэтому с индийцами мы больше всего общались) к нашей экспертизе, как у нас внедряется ИИ в образование. У нас, правда, прогрессивно происходит, мы уже перевели свой учебник на английский язык. Мы видим, что из разных стран (есть статистика) заходят, читают его. Сейчас есть инициатива по переводу его на вьетнамский, на индийский. Спрос есть действительно большой. Поэтому мы ещё развиваем летнюю школу, зимнюю школу, где обучаем молодых специалистов, как применять ИИ в образовании, в преподавании. Это то, что у нас хорошо получается. Я говорю на своем уровне или как представитель университета, но и наши крупные компании, «Яндекс» и «Сбер», у них очень классные программы различные по переквалификации.    

Е.ВОЛГИНА: Мы же понимаем, если невозможно достичь американского уровня по развитию моделей, по внедрению, это будут определённо эксклюзивные продукты, то здесь вопрос, как заявлять о себе и как внедрять в широкие массы своё видение того, как он должен развиваться, свой взгляд на регуляторику, на этику, и расширять своё влияние через понимание, с чем мы имеем дело, а не через продукты. В этом отношении, наверное, тоже есть возможность занять определённую нишу. 

А.СЫТНИК: Очень часто дискурс о гонке ИИ идёт через упрощённое понимание: либо Китай, либо США. Я думаю, что в этой гонке победят люди в первую очередь. Ведь то, какое государство будет успешнее, зависит от того, насколько это быстро и эффективно внедряется в экономику, в цифровую экономику. Можно иметь восхитительные, умные модели, но если оно никак постепенно не внедряется, постепенно не регулируется, оно работать не будет и на благо твоей страны не пойдёт. Поэтому России совершенно не обязательно иметь мощнейшую модель. У нас модели конкурентоспособные. Я «Алисой» всё больше и больше пользуюсь, она действительно хорошо развивается. Плюс сейчас методы обучения эволюционируют. Появятся квантовые компьютеры, у всех возможности сравняются, вычислительные мощности ещё больше появятся. Плюс есть такой феномен как дистилляция моделей. Можно брать чужую фундаментальную модель и свою совершенно неплохую делать национальную. Поэтому в первую очередь это внедрение, внедрение в экономику, во все области.  

Е.ВОЛГИНА: А если смотреть в перспективе пять лет, хотя для нынешнего развития технологий это уже космос будет какой-то. Нынешняя гонка ИИ существует. Через некоторое время, энное количество лет, что окажется важнее, например, кто создал самую мощную модель и сумел её продвинуть или кто сумел сформировать вокруг своих технологий устойчивую систему стандартов, правил, инфраструктуры, образования, международные кооперации, партнёрство. Как вы думаете?

А.СЫТНИК: Если бы мы знали. Действительно это всё важно. Есть прогнозы, что к 2027-2030 годам у нас будет суперинтеллект, который всё обнулит и сингулярность достигнем. Сейчас размышлять об этом совершенно…

Е.ВОЛГИНА: Надо загрузить в Chat, у него спросить.

А.СЫТНИК: Он же базируется только на наших знаниях, поэтому он ничего нового не придумает сам. Поэтому я думаю, что нужно просто решать проблемы по мере поступления. Конечно, думать о будущем, делать долгосрочные прогнозы, как модно сейчас говорить «форсайт». Думать о том, какие технологии нам нужно уже сейчас развивать, которые мы хотим потом увидеть. Потому что на ИИ мир не остановится. ИИ в первую очередь сейчас важен для нас как двигатель науки, потому что любая область сейчас с новыми его возможностями расширяет для нас горизонты развития всего. 

Е.ВОЛГИНА: Можно определить, где проходит граница между помощью искусственного интеллекта исследователю и ситуацией, когда машина начинает делать исследование вместо человека и создаёт ему конкуренцию? Тот самый кейс с математиками, например.

А.СЫТНИК: С математиками здесь сложность. Вот достигли некого финального результата, была задача тысячелетия — они её решили. 

Е.ВОЛГИНА: Новую задачу решать.       

А.СЫТНИК: В других областях это не так, допустим, в медицине. Если будет создано универсальное лекарство против рака, наверное, никто не будет грустить по этому поводу. Если ИИ выполнит все этапы исследовательского процесса за человека, всё равно останется человек, который управляет им, который оценивает, который говорит, можно ли его тестировать, можно ли применять или нет. Всё равно ответственность останется за человеком, и об этом говорят как на международном уровне, так и наше собственное мировосприятие говорит нам о том, что мы не хотим делегИИровать.  

Е.ВОЛГИНА: Чтобы машина нас не заменила. Анна Сытник была с нами, генеральный директор АНО «Колаборатория», кандидат политических наук, эксперт совета БРИКС–Россия. Анна Николаевна, спасибо. Ждём снова.

А.СЫТНИК: Спасибо вам.