Эксперт «Гравитации» Александр Зацаринный: «Всем молодым хочу пожелать понимания перспективности развития себя в области информационных систем и технологий»
Поделитесь с друзьями
Уже 31 мая 2025 года состоится награждение победителей ежегодного конкурса в области искусственного интеллекта и больших данных «Гравитация», который проводит Институт общественных наук Президентской академии вместе с Томским госуниверситетом и Ассоциацией «Университетский консорциум исследователей больших данных». Накануне мероприятия о том, что такое современные ИИ-системы, и почему молодым людям, которые хотят построить своё будущее с их использованием, необходимо активно получать новые знания, рассказал эксперт премии Александр Зацаринный, главный научный сотрудник ФИЦ «Информатика и управление» Российской академии наук, руководитель научного направления «Информационные, управляющие и телекоммуникационные системы», д.т.н., проф., чл.-кор. Академии криптографии РФ.
Для эксперта большую важность представляет обогащение новыми знаниями. Многие думают, что эксперт – это как бы строгий учитель. А на мой взгляд, эксперт, рассматривая ту или иную работу, проводит мини-исследование, с одной стороны, привлекая свои базовые знания и свой опыт для выставления оценки, а с другой – открывая что-то новое, ранее для себя неизвестное, в тех заявках, которые представляют на конкурс молодые учёные.
Будучи экспертом премии «Гравитации», я почерпнул много интересного в области конкретных задач машинного обучения, обеспечения некоторых аспектов безопасности применения технологий искусственного интеллекта.
Какие тренды в сфере ИИ и больших данных актуальны сегодня?
Нужно сказать, что в целом тренд ориентации на развитие искусственного интеллекта задан руководством страны. Президент Владимир Путин участвует в ряде конференций по искусственного интеллекту, каждый раз говоря о новых аспектах в развитии ИИ. На последней конференции в декабре 2024 года [«Путешествие в мир искусственного интеллекта», проходившей в Москве – прим. ИОН], он дал несколько знаковых поручений правительству России. Среди них: увеличить число бюджетных мест для специалистов, получающих образование по этому направлению, и поддержать развитие таких новых технологий, как генеративные нейронные сети, большие языковые модели.
Если говорить о конкретных трендах, то они связаны с поиском решений ключевые проблемы внедрения ИИ. Я сформулирую пять таких направлений.
1. Проблема объяснимости – точнее, необъяснимости – результатов, которые выдают системы с искусственным интеллектом. С этим связана работа по повышению доверенности выборок данных, на которых обучаются нейросети, и улучшения соответствия их функционала тому, который требует заказчик.
2. Интенсивное развитие исследований – в первую очередь в США – по созданию целенаправленных внешних воздействий на системы с искусственным интеллектом. Речь об атаках, связанных с изменением обучающих выборок, параметров архитектуры систем и так далее. Как противодействовать этому, как обеспечить функционирование ИИ-систем в условиях таких атак – вторая ключевая проблема.
3. Третья заключается в том, что сейчас отсутствуют многие необходимые отечественные инструменты для создания, испытания, внедрения систем с искусственным интеллектом. Крайне необходимо создать доверенную среду для исследования и разработки, которая бы включала весь набор ИИ-инструментов. Проект концепции создания такой доверенной среды разработал наш центр [ФИЦ ИУ РАН].
4. Технологии ИИ для исследования, обучения нейронных сетей усложняются. Поэтому требуется высокопроизводительная вычислительная инфраструктура. Необходимо создавать проблемно-ориентированные суперкомпьютеры, оптимизированные, например, для перемножения матриц огромной размерности, выполнения других подобных задач.
5. Пятая проблема связана с тем, где взять специалистов, которые будут заниматься и математическим основами в части объяснимости результатов, и созданием доверенной среды, и разработкой методов повышения устойчивости нейронных сетей. Повторю, что президент России в своих поручениях правительству правильно акцентировал внимание на увеличении объёмов бюджетных средств, которые нужно расходовать на привлечение молодёжи к этим очень важным для государства направлениям.
Как выглядит мир будущего через призму современных технологий?
Многие продолжают заблуждаться в понимании роли и места технологий искусственного интеллекта. Я приведу такой пример: целый ряд публикаций – причём со стороны весьма известных учёных – посвящены рассмотрению аналогий между возможностями систем с ИИ и человеческого мозга. Всерьёз обсуждают, как создать аналог мозга с помощью компьютерных сетей. Хотя я недавно смотрел телепередачу, в которой говорилось о том, что до сих пор до конца не изучены даже состав человеческой крови, её свойства и возможности.
Реальный взгляд на проблему применения ИИ – это, скажем, количество параметров, которые нужно учесть при анализе крови, чтобы получить необходимые знания для выработки рекомендаций по лечению человека. А сравнение нейросетей с человеческим мозгом – это из нечто из разряда фантазий.
Мой взгляд на технологии искусственного интеллекта достаточно прагматичный. Технологии ИИ могут дать колоссальную поддержку деятельности человека в разных сферах. Но они не способны – ни сегодня, ни к 2030 году, ни даже в перспективе десятилетий – заменить мыслительные способности человека.
А в сферах, требующих принятия стратегических решений, ориентация на технологии искусственного интеллекта, тем более в условиях нерешенности обозначенных мной выше проблем, вообще должна быть исключена. В качестве примера могу сказать, что французы на законодательном уровне несколько лет назад запретили использование искусственного интеллекта для принятия решений о применении оружия.
Мир будущего, конечно же, должен использовать эти технологии, но при этом твёрдо помнить о разумных, рациональных границах области их применения.
Какой совет вы можете дать молодым ребятам, которые пробуют сегодня делать новые ИТ-решения?
Молодым людям необходимо понимать важность получения новых знаний, причём обретения их в тот период жизни, когда человек наиболее восприимчив к этому. Поэтому уже в школе нужно готовить себя к специальности, с которой вы планируете идти по жизни.
Специальность, с которой я связан всю жизнь, называется ИТ. Сегодня она стала преобладающей, приоритетной. Специальность инженера, конструктора в области информационных систем даёт молодым и перспективы для развития, и востребованность в самых разных сферах жизни общества, и возможность неплохо зарабатывать и жить в наше время.
Если Россия в целом занимает не первые места в цифровой трансформации, о которой сегодня все говорят, то наша столица, Москва, – точно в числе первых по применению ИИ в сфере услуг. Мы все пользуемся современными технологическими достижениями в социальной, банковской, транспортной сферах. И чтобы найти свое достойное место здесь, нужна хорошая базовая подготовка по математике и физике. Без знания этих дисциплин затруднительно перейти в область информационных технологий. Я лично вижу, что многие продвинутые специалисты в ИТ получили сильную подготовку в ведущих вузах страны. Так что всем молодым хочу пожелать понимания перспективности развития себя в области информационных систем и технологий.
Справка:
Институт общественных наук реализует несколько программ подготовки, связанных с углубленным обучением студентов технологиям искусственного интеллекта:
- Публичная политика: общественные коммуникации и искусственный интеллект (бакалавриат),
- Цифровые коммуникации и искусственный интеллект (бакалавриат),
- Цифровое управление и прикладная аналитика (магистратура).
