Директор ИОН Павел Голосов рассказал о новых задачах по развитию систем ИИ на конференции в Барнауле
Поделитесь с друзьями
Распространение сервисов, основанных на системах искусственного интеллекта (ИИ), привело к появлению угроз нового характера – перед специалистами в области информационной безопасности стоит задача научиться защищаться от атак на нейросети, особенно это касается общественно значимых сервисов. Об этом директор Института общественных наук РАНХиГС Павел Голосов рассказал 3 октября 2024 года в ходе пленарного заседания Алтайского форума «IТ-трансформация», прошедшего в Барнауле.
Ещё одним актуальным вопросом в данной области, по мнению Голосова, является необходимость «объединить два мира: мир человека и окружающий». Современные системы искусственного интеллекта развиваются в двух основных направлениях: «Первая разновидность – это персональные помощники, изучающие характер поведения конкретного человека, его паттерны, умеющие с ним коммуницировать. Вторая – это модели, которые знают о том, как устроен внешний мир». Эксперт уверен, что полезность ИИ как помощника человека возрастёт в случае объединения этих двух векторов в единых системах.
С ноября 2023 года в Институте общественных наук Президентской академии работает Исследовательский центр искусственного интеллекта. Его деятельность в том числе направлена на решение задач, обозначенных Голосовым на конференции в Барнауле. Специалисты центра занимаются исследованием отечественных и зарубежных ИИ-решений и внедрением их в практическую сферу, реализуя междисциплинарные научно-практические и образовательные проекты. Эта работа позволяет развивать профильные исследовательские компетенции в целом ряде отраслей, включая сферу публичной власти, что очень важно в условиях современной экономики данных.
На пленарном заседании форума были озвучены и другие проблемы, связанные с искусственным интеллектом. Это расширение спектра областей, в которых внедряются базирующиеся на ИИ решения, и связанные с этим проблемы информационной безопасности, растущая угроза фейков, вопросы этики и ответственности при применении систем ИИ.
Важную роль для достижения поставленных президентом Российской Федерации национальных целей развития играет федеральный проект «Искусственный интеллект», содержащий комплекс мероприятий, направленных на проведение научных исследований в области искусственного интеллекта, повышение доступности информации и вычислительных ресурсов для пользователей, совершенствования системы подготовки кадров, поддержки разработчиков. Будет создана единая платформа обработки больших данных, формирования дата-сетов и искусственного интеллекта для внедрения и использования в отраслях экономики, социальной сфере и государственном управлении на федеральном и региональном уровнях
Деловая программа форума была составлена мероприятиями, прошедшими на площадках «Информационная безопасность», «Современная ИТ-инфраструктура: оптимальный путь от проблем к балансу» и «Работа в ИТ – мифы и реальность».
