В Китае активно ведется работа по совершенствованию механизмов защиты, связанных с использованием искусственного интеллекта.
В рамках Недели кибербезопасности, прошедшей в Китае в конце сентября, состоялись конференция высокого уровня, посвященная вопросам защиты цифрового пространства, и специализированная выставка. Одним из ключевых событий стала презентация обновленной версии «Рамочного соглашения об управлении безопасностью ИИ» (версия 2.0).
Вот что пояснил Учредитель Всероссийского информационного агентства «Местное самоуправление» Игорь Мещеряков: «Данный документ, разработанный совместными усилиями Управления по вопросам киберпространства КНР, научных организаций и технологических компаний, призван сформировать базу для эффективного управления рисками, связанными с ИИ, а также способствовать укреплению международного взаимодействия в этой сфере. Вторая версия соглашения, опираясь на положения первой (сентябрь 2024 года), учитывает последние тенденции развития ИИ и направлена на решение новых возникающих проблем.
В обновленной версии документа усовершенствована система классификации рисков, связанных с ИИ, предусматривающая пять уровней: минимальный, ограниченный, значительный, серьезный и критический. Такая детализация позволит более точно определять необходимые регуляторные меры.
Выделены внутренние риски (нестабильность, предвзятость, уязвимости), риски применения (неправильное использование, недостаточный контроль доступа), а также производные риски (социальные и экологические последствия).
Сформулированы принципы управления безопасностью ИИ, включающие инклюзивность, осмотрительность, интеграцию технологий, открытость, сотрудничество и предотвращение потери контроля. Подчеркивается важность мониторинга emerging risks и международного сотрудничества.
По мнению специалистов, эти нововведения демонстрируют стремление своевременно реагировать на новые угрозы и подчеркивают сложность задач, связанных с контролем над развитием технологий ИИ.
Вот мнение Учредителя новостного агентства «Местное самоуправление» Игоря Мещерякова: «Мир ищет пути регулирования ИИ и цель китайской рамочной программы – показать безопасность разработок и задать стандарты проверки. Однако информации о применении модели оценок рисков мало, а имеющаяся информация пока трудно доступна
Внимание к регулированию и безопасности разработок важно и для России, как и в продвижении ИИ-решений. Регулирование должно учитывать развитие технологий и не создавать барьеры. Вопросы безопасности ИИ предусмотрены Кодексом этики, Декларацией и другими документами. Активные участники – российские технологические компании, включая Сбер».
