Директор ИОН: готовы ли мы установить четкие правила игры с ИИ?
Поделитесь с друзьями
Павел Голосов, директор Института общественных наук Президентской академии, кандидат технических наук, в колонке для газеты «Ведомости» рассказал о рисках, с которыми связано всё более глубокое проникновение технологий ИИ в повседневную жизнь. Републикуем материал для наших читателей.
Четыре конституции для кода
Страны-лидеры по-своему ищут правильный баланс между инновациями и защитой личности: Евросоюз строит правовые заслоны, США полагается на саморегулирование рынка, Россия выстраивает централизованную биометрическую систему, а Китай подчинил код задачам государства.
AI Act (Регламент об ИИ), вступивший в ЕС в силу 2 февраля 2025 г., делит ИИ-системы на четыре класса риска. Системы низкого риска обязаны только сообщить, что перед вами алгоритм; высокого – включая кредитный скоринг и медтехнику – должны пройти аудит данных, доказать отсутствие дискриминации и попасть в общеевропейский реестр. Неприемлемые практики вроде социального скоринга, эмо-ИИ в школах и удаленной биометрии в реальном времени полностью запрещены. За нарушение грозят штрафы до 35 млн евро, или 7% от оборота. Закон действует экстерриториально: любой стартап, продающий умную камеру в ЕС, обязан играть по предложенным правилам.
В отличие от европейского централизованного подхода в США действует «федерация песочниц». Единого федерального закона нет, Белый дом ограничился документом Blueprint for an AI Bill of Rights (Билль о правах в области ИИ). Все остальное отдано на уровень штатов: Калифорния, Колорадо, Флорида и еще дюжина регионов приняли свои мини-GDPR (общие регламенты защиты персональных данных). Защита граждан неравномерна: что легально в Техасе, может обернуться миллионным иском в Калифорнии. Но рыночная скорость высокая, и разработчикам оказывается проще запустить продукт, приняв риск получить иск постфактум, чем проходить долгий предварительный аудит.
Россия тем временем действует в парадигме «централизованная биометрия плюс точечные запреты». С 1 сентября 2025 г. поправки к ФЗ-152 «О персональных данных» разрешают обрабатывать обезличенные данные без согласия, если сырые и псевдонимизированные массивы хранятся раздельно. Единая биометрическая система уже собирает лица, голоса и рисунки вен ладони; доступ к системе получают банки, МФЦ, гостиницы. ГОСТ Р 71476-2024 по ИИ лишь в общем декларирует приоритет человека, но конкретных санкций за несоблюдение этого принципа не содержит. Получается гибрид: государство контролирует биометрию централизованно, но коммерческие алгоритмы живут в относительно свободном поле.
Радикально иной подход принял Китай. Его можно обозначить как «алгоритмы под гослицензией». PIPL (закон о защите персональной информации) дает право на удаление данных, DSL (закон о безопасности данных) запрещает вывоз «критичных» массивов без государственной экспертизы, а положение о рекомендационных алгоритмах обязывает сервисы более чем с 500 млн запросов в сутки регистрировать модель и по первому требованию отключать персонализацию. За невыполнение следует отзыв лицензии. При этом на фоне развития ИИ-технологий активно реализуется проект по доверию к данным за счет специальных сегментированных блокчейн-моделей. Итог парадоксальный: тотальный надзор государства, но формальное право пользователя на пассивный выход из таргетинга.
Серые зоны настоящего
ИИ распространяется все шире по физической реальности. В некоторых супермаркетах Юго-Восточной Азии камеры измеряют длительность улыбки кассира: хуже улыбаешься – меньше премия. Формально это кадровая аналитика и повышение клиентского сервиса, фактически же автоматизированный надзор за эмоциями без права апелляции, ведь работник не может оспорить вердикт алгоритма, который решил, что улыбка была недостаточно искренней.
Но зачем забираться так далеко? Под боком у нас действуют флоты беспилотников Waymo и «Яндекса», собирающие петабайты уличного видео для обучения нейросетей. Каждый прохожий попадает в обучающие датасеты без согласия – просто потому, что закон его сейчас не требует. Вполне вероятно, что ваше лицо уже находится в тренировочной выборке для распознавания эмоций или оценки возраста, но вы об этом никогда не узнаете.
Скрываться дома от алгоритмов не вариант, ведь стены перестают быть преградой для цифрового наблюдения. Например, производители умных кофемашин и лифтов тихо продают агрегированные MAC-адреса и данные о движениях жильцов брокерам больших данных. На выходе получается детальная тепловая карта «плотности тел» для арендодателей и ритейла, в которой утренняя чашка кофе становится частью коммерческой аналитики, способной повлиять на арендную плату или режим работы магазина в районе.
Продвинутая технология – роутер с протоколом WiFI 802.11bf – позволяет видеть позы и чувствовать дыхание сквозь стены. Решение позиционируется как медицинское, предназначенное для контроля состояния пожилых людей, но ничто не мешает работодателю фиксировать, не вышел ли покурить сотрудник, а арендодателю – анализировать, сколько людей реально ночует в квартире.
Данные сделают вашу медстраховку дороже
Особая категория ИИ-технологий – действительно медицинские, о которых почти не говорят. Американский стартап Mindstrong обучил алгоритм распознавать приближающийся эпизод биполярного расстройства по микрошаблонам касаний экрана за 10 дней до клинических проявлений. Это аккуратно называют «цифровое благополучие», но данные о психическом состоянии хранятся вне медицинской карты, а значит, вне большинства законов о врачебной тайне и поэтому никак не защищены.
Есть пример и с потенциально гораздо более серьезными последствиями для пациентов. После утечки 7,8 млн ДНК-профилей платформы 23andMe в даркнете появились лид-листы людей с генетической предрасположенностью к диабету и болезни Альцгеймера. Страховщик может купить их как маркетинговую базу и поднять тариф «по коммерческим причинам». Причем, конечно, сделают это автоматические алгоритмы. Что это, если не биодискриминация в чистом виде, еще не классифицированная существующими законами?
А вот, казалось бы, намного более безобидная технология. MIT и Microsoft создали микрочип-чернила на основе квантовых точек: татуировка светится под ИК-сканером и хранит историю вакцинации. Решение задумывалось для развивающихся стран без развитой медицинской инфраструктуры, но на массовом рынке может превратиться в скрытый маркер, позволяющий незаметно проверять медицинский статус, например, при трудоустройстве.
Вторжение в интимные сферы
Сервисы вроде StoryFile, HereAfter AI и даже Amazon Alexa научились создавать посмертных чат-ботов на основе записей голоса и переписки. С юридической точки зрения умерший теряет статус субъекта персональных данных, а значит, его голос и изображения можно продавать как обычный контент. Что помешает мошенникам «воскресить» вашего дедушку для аутентификации в банке или осуществления социальной инженерии над родственниками?
Хорошо, допустим, не каждому придется иметь дело с мошенниками. Но с GPT-подобными моделями доведется взаимодействовать большинству – ведь это так удобно! Такие решения уже бронируют билеты и записывают к врачу; через пять лет каждый персональный ИИ-помощник получит десятки саб-агентов: один будет следить за приемом лекарств, другой торговаться со страховой компаний, третий займется покупкой подарков к семейным датам. А цена удобства высока. Каждый агент станет свидетелем интимных деталей жизни, и в облачных серверах начнет оседать постоянный поток глубоко личной информации, которую раньше знали только родственники или самые близкие друзья.
Самые же впечатляющие последствия может иметь внедрение интерфейсов «мозг – компьютер». Neuralink Илона Маска научился считывать 1024 нейронных сигнала и переводить их в текст со скоростью профессиональной машинистки. Следующий логичный шаг – маркетинг «по паттерну возбуждения», а не по клику. Представьте рекламу, которая появляется не когда человек что-то ищет, а когда алгоритм распознает нейронную активность, характерную для желания, например, купить кофе. Являются ли нейросигналы в мозге той самой «внутренней частной жизнью», которая должна быть неприкосновенна абсолютно? Пока закон об этом молчит, технологии стучатся в череп.
Как защититься без шапочки из фольги?
Одним из возможных путей защиты является глубокая деперсонализация данных. Уже можно добавлять математический шум в данные, скрывая вклад отдельного пользователя в общую статистику. Можно и организовать обучение моделей прямо на смартфоне – так, чтобы сервер видел только агрегированные веса, но не исходные данные. Появляются анонимайзеры лиц, которые отправляют синтетическое изображение вместо реального фото. Эти технологии работают, но их внедрение не бесплатно, и для этого требуется сознательный выбор компаний – а рынок или государства пока не создают достаточных стимулов для соблюдения приватности.
Еще один возможный путь создания «щита против ИИ» – давление со стороны корпоративных заказчиков. Крупные клиенты все чаще требуют сертификации по добровольному стандарту ISO/IEC 42001, который обязывает поставщика ИИ-услуг вести реестр моделей, публиковать подробные model cards с описанием возможностей и ограничений, назначать специального AI-омбудсмена. Здесь начинает работать риск-менеджмент: скандалы с Clearview AI и Cambridge Analytica показали, что халатность при обращении с данными может стоить миллиарды.
Наконец, не стоит списывать со счетов и гражданский контроль. Дела вроде «Бриджес против полиции Южного Уэльса», в котором суд признал незаконным использование автоматизированной технологии распознавания лиц, и миллионные штрафы для Clearview AI показали, что журналисты и НКО могут бить зачастую больнее государственного регулятора. Иногда общественные расследования способны заставить компании менять свои практики быстрее, чем законы. Но для этого нужна прозрачность – открытые данные об алгоритмах, иначе суд просто не поймет, где искать причиненный вред.
Читайте все колонки Павла Голосова, опубликованные в газете «Ведомости»
- Поколение машинного диалога
- «Второй пилот» в кабине госуправления
- «Кремниевые симбиоты» в креативной экономике
- Ваши данные, их алгоритмы
- Данные – новая валюта
- Куда ведет цифровая трансформация государства?
