Национальная сессия от России на ИИ-диалоге ООН: Президентская академия и ИСП РАН о доверии к искусственному интеллекту
Поделитесь с друзьями
На полях Глобального диалога по управлению искусственным интеллектом под эгидой ООН состоялась панельная сессия «Доверие и управление в эпоху генеративного ИИ: интеллектуальная собственность, качество, надежность и подотчетность». Организаторами выступили Институт общественных наук Президентской академии и Институт системного программирования им. В.П. Иванникова РАН совместно с S.M for Intellectual Property и iPioneer (Египет) и при поддержке МИД России и Минэкономразвития России. Модератором сессии выступил Павел Голосов, кандидат технических наук, директор Института общественных наук Президентской академии.
Сессия объединила семь экспертов из России, Египта и стран Глобального Юга и прошла в двух тематических блоках: доверие и надежность ИИ на практике и интеллектуальная собственность в эпоху генеративных технологий.
Доверие к ИИ: от науки до медицины
Арутюн Аветисян, академик РАН, директор ИСП РАН, своим выступлением обозначил сразу несколько направлений для обсуждения, сделав акцент на особой важности научного, доказательного подхода в вопросах обеспечения доверенности ИИ-систем. Имеющийся многолетний опыт ИСП РАН по доверенной разработке программных решений формирует рациональный базис и для формирования доверенных ИИ-решений. Особое внимание было уделено реализованным решениям, имеющим потенциал глобального применения, в завершение выступления академик подчеркнул: «Технологии доверенного ИИ – от верификации моделей до цифровых водяных знаков – слишком масштабны для создания силами одной страны или компании. Базовые решения должны развиваться через открытые репозитории в международной кооперации при сохранении суверенного права каждой страны на их применение».
Исполнительный директор Стратегического агентства САПФИР Кирилл Землянухин отметил, что за последние пять лет использование ИИ в науке выросло взрывными темпами: от AlphaFold, раскрывшего структуру более 200 млн белков, до мультиагентных систем, где виртуальные помощники берут на себя рутину, освобождая исследователей для решения главных научных задач. Однако ключевые ИИ-инструменты для науки сегодня оказываются заперты в рамках «доверенного доступа» и экспортных ограничений, что ставит под угрозу воспроизводимость результатов, основу самого научного метода. Кирилл Землянухин видит выход в совместном создании открытых ИИ-платформ, доступных исследователям независимо от страны. «Развитие ИИ в науке должно оставаться открытым процессом, в котором может участвовать любая научная школа, а не определяться узким кругом игроков», – подчеркнул он в завершение.
Дмитрий Онтоев, советник руководителя Департамента информационных технологий города Москвы, представил опыт цифровизации российской столицы. Москва уже более 10 лет занимается внедрением технологий умного города, в том числе решений на базе ИИ. Цифровизация городского хозяйства помогает делать город по-настоящему комфортным и удобным для жителей. При этом, технологии внедряются не ради самих технологий, а для повышения качества жизни горожан. Москва также уделяет особое внимание обмену опытом цифровизации с другими умными городами и международными организациями.
Алексей Шпильман, директор по ИИ «Т-Технологий», обозначил новый ландшафт кибербезопасности: атаки теперь доступны не единицам опытных хакеров, а практически любому человеку, понимающему как использовать ИИ для взлома. Теперь поиск и эксплуатация уязвимостей происходит на скорости машины и защите нужно соответствовать. Ответом должна стать непрерывная проверка систем на устойчивость к атакам как часть эксплуатации. И использование атакующих ИИ агентов для тестирования уязвимости своей информационной инфраструктуры должно стать неотъемлемой частью этого процесса.
Первый блок завершил Игорь Самойленко, заведующий отделением опухолей кожи, ведущий научный сотрудник Исследовательского центра в сфере искусственного интеллекта НМИЦ онкологии им. Н.Н. Блохина Минздрава России. На примере предиктивных моделей, применяемых для раннего выявления, прогнозирования течения и оценки риска рецидива онкологических заболеваний, подчеркнул, что в медицине цена ошибки ИИ – человеческая жизнь, поэтому планка доверия здесь особенно высока: такие решения требуют обязательной клинической валидации и должны рассматриваться как инструмент поддержки врача, а не его замены.
Интеллектуальная собственность: опыт MENA и Глобального Юга
Второй блок представила Шрук Абдельазиз, основатель и генеральный директор S.M for Intellectual Property и iPioneer (Египет). Эксперт обозначила главный управленческий разрыв: инновации бегут впереди права, и этот разрыв шире всего в развивающихся регионах. Закрывать его необходимо практическими инструментами – провенансом данных, атрибуцией результатов, лицензированием, – а также правовым капасити-билдингом и поддержкой стартапов, которые движут внедрение ИИ на Глобальном Юге.
«Доверие к искусственному интеллекту нужно измерять: через бенчмарки, верификацию моделей, клиническую валидацию. И одновременно мы обязаны устранить правовую неопределенность: права на результаты работы ИИ должны быть ясными и защищенными конкретными механизмами – от провенанса данных до лицензирования. Только при этих двух условиях технологии получат устойчивое развитие», – резюмировал дискуссию Павел Голосов.
В конце сессии прошла открытая дискуссия по вопросам панельной сессии.
Еще несколько лет назад такая дискуссия не могла состояться, кроме как в узком коллективе исследователей – пользовательский опыт не обладал необходимой критической массой. Сегодня человечеством этот первый опыт уже получен, а над океаном ожиданий от ИИ-технологий витает призрак доверия. Смогут ли страны объединиться ради будущего человечества или ИИ станет технологией ещё большего расслоения стран и зависимости от горстки крупных игроков – уже в мае 2027 года мы ждём ответов на эти и новые вопросы.
Президентская академия, ИСП РАН, S.M for Intellectual Property и iPioneer продолжат совместную работу по ключевым направлениям дискуссии и приглашают к сотрудничеству всех участников Глобального диалога.
