Является ли минимизация лучшим подходом к управлению ИИ?

По мере того как организации внедряют искусственный интеллект (ИИ) в свою деятельность, им нужны понятные способы управления рисками, связанными с его разработкой и использованием. Эффективное управление обеспечивает надзор, однако сложные процедуры могут отнимать ресурсы и замедлять внедрение. Минимизация может сделать управление более соразмерным, ограничивая ненужное использование данных и сохраняя подотчётность и меры защиты.

Почему управление ИИ важно

Управление ИИ устанавливает политики, распределяет обязанности и обеспечивает надзор, определяющие, как организации разрабатывают, внедряют и используют системы ИИ. Оно помогает выявлять риски, распределять полномочия по принятию решений и устанавливать процедуры мониторинга эффективности и устранения проблем.

При внедрении ИИ организациям необходимо учитывать ряд рисков, включая нарушения конфиденциальности, уязвимости безопасности, предвзятые результаты, неточные ответы и ограниченную прозрачность. Без надлежащих мер контроля решения, принятые с помощью ИИ, могут затрагивать клиентов, сотрудников и других заинтересованных лиц так, что исправить последствия будет сложно. Управление также помогает организациям соблюдать применимые требования законодательства и согласовывать использование ИИ с бизнес-целями.

Международная ассоциация специалистов по защите конфиденциальности сообщила, что 77% опрошенных организацийзанимались вопросами управления ИИ в 2025 году. Этот результат свидетельствует о значительном внимании организаций к данной теме, хотя работа над управлением не обязательно означает, что организация завершила разработку своей системы или полностью внедрила её.

Чёткое распределение обязанностей и постоянный мониторинг помогают организациям выявлять возникающие проблемы, расследовать неожиданные результаты и корректировать меры контроля по мере изменения систем. Эффективное управление также может укрепить доверие заинтересованных сторон, показывая, что организация учитывает последствия использования ИИ и несёт ответственность за свои решения.

Проблемы управления ИИ

Хотя управление помогает организациям контролировать риски, связанные с ИИ, обеспечить и поддерживать эффективный надзор может быть непросто. Чтобы определить его границы, организациям необходимо установить, какие системы ИИ, виды деятельности и зависимости должны находиться под управлением. 

Чтобы чётко определить границы управления ИИ, организации могут обратиться к стандарту ISO/IEC 42001, в котором изложены требования к созданию и поддержанию системы менеджмента ИИ. Соблюдение требований может повысить эффективность моделей, что позволяет быстрее и безопаснее внедрять ИИ. Это также помогает организациям определить, какие направления их деятельности входят в систему менеджмента ИИ. В этих стандартах учитываются географический охват, связи с другими системами и масштаб деятельности организации в области ИИ. 

К другим ключевым проблемам относятся:

• Сложность систем ИИ: Приложения на основе ИИ могут опираться на взаимосвязанные модели, наборы данных, сторонние инструменты и автоматизированные решения. Из-за этих зависимостей бывает сложно проследить происхождение результатов, выявить уязвимости и определить, где необходимы меры контроля.
• Конфиденциальность и безопасность данных: Организациям необходимо защищать конфиденциальную информацию на всех этапах: от сбора данных и обучения моделей до внедрения и дальнейшего использования. 
• Предвзятость и ограниченная прозрачность: Нерепрезентативные данные для обучения могут привести к несправедливым результатам, а непрозрачность работы модели затрудняет объяснение, оценку и оспаривание решений.
• Изменение нормативных требований и стандартов: Организации, работающие в нескольких юрисдикциях, могут сталкиваться с различающимися или меняющимися требованиями законодательства. Процессы управления должны учитывать применимые обязательства, не создавая ненужного дублирования.
• Ограниченность ресурсов и операционные ограничения: Специализированные знания и навыки, документирование, проверки и постоянный мониторинг требуют времени и финансирования. 
• Баланс между надзором и инновациями: Чрезмерные требования к согласованию могут задерживать проекты, а недостаточные меры контроля — оставлять существенные риски без внимания.

Эти проблемы показывают, насколько важно сокращать ненужную сложность. Однако упрощение управления должно также предусматривать меры контроля, защищающие людей и информацию и обеспечивающие подотчётность организации.

Например, контролёр штата Нью-Йорк установил, что ведомства Нью-Йорка применяли несогласованные подходы к надзору за ИИ; некоторые из них не имели правил оценки предвзятости и точности. Эти выводы показывают, что для снижения сложности необходимы чёткие и единообразные стандарты управления, обеспечивающие подотчётность. 

Что означает минимизация в управлении ИИ

Минимизация в управлении ИИ предполагает сокращение ненужного использования данных и административной нагрузки при сохранении мер, необходимых для управления рисками. У неё есть два основных направления: минимизация данных и минимизация управления. Оба направлены на то, чтобы практика использования ИИ была соразмерна её целям и возможному влиянию.

Минимизация данных

Минимизация данных ограничивает сбор, хранение, обработку и передачу информации только тем объемом, который необходим системе ИИ для достижения определенной цели. Организации могут применять этот принцип, ограничивая доступ к конфиденциальной информации и, когда это уместно, используя анонимизированные или синтетические данные.

Сокращение объема избыточных данных может снизить риски для конфиденциальности и уменьшить количество информации, которую организациям необходимо защищать. Однако минимизация данных требует взвешенного подхода. Удаление значимой информации может снизить точность модели, ухудшить представленность различных групп или затруднить выявление предвзятых результатов. Организациям необходимо определить, какие данные нужны для достижения поставленной цели и получения надежных и справедливых результатов.

Минимизация процедур управления

Минимизация процедур управления направлена на упрощение процессов надзора. Организации могут объединять дублирующие друг друга проверки и, когда это уместно, повторно использовать результаты оценок. Кроме того, они могут четко определить полномочия по принятию решений и убрать этапы согласования, которые не обеспечивают существенной защиты от рисков.

Эти изменения помогают сократить административные расходы и задержки, а также прояснить обязанности команд. Однако упрощение процедур управления не должно приводить к отказу от необходимой документации, независимой проверки, надзора со стороны человека или обязательных мер контроля. Цель состоит в том, чтобы повысить эффективность надзора, сохранив подотчетность.

Стратегии минимизации в управлении ИИ

Подход, основанный на минимизации, может повысить эффективность управления ИИ, если организации соотносят практики работы с данными и требования к надзору с рисками каждого варианта применения. Ряд мер позволяет снизить излишнюю сложность, сохранив подотчетность, надежность работы и надлежащие меры защиты.

Применяйте подход, основанный на оценке рисков

Организации могут классифицировать системы ИИ с учетом их предполагаемого применения, потенциального воздействия и чувствительности данных. Рамочная структура управления рисками ИИ Национального института стандартов и технологий США задает основу для управления рисками ИИ с помощью четырех функций, в число которых входят управление, картирование, измерение и управление рисками. Организации могут использовать эти функции, чтобы выявлять риски, оценивать их значимость и определять соответствующие меры реагирования.

Определите четкие требования к данным

Для каждой системы ИИ необходимо определить цель до начала сбора данных. Затем организации могут установить необходимые категории данных, удалить не относящиеся к делу поля, ограничить доступ и задать соответствующие сроки хранения. Тестирование должно подтвердить, что сокращенные наборы данных по-прежнему позволяют получать точные и справедливые результаты.

Оптимизируйте модели и вычислительные ресурсы

Оптимизация моделей, эффективные алгоритмы и энергоэффективное оборудование помогают снизить избыточную вычислительную нагрузку. Компании могут рассмотреть федеративное обучение, которое сокращает необходимость передавать большие объемы информации. Эти методы позволяют снизить вычислительные затраты и энергопотребление, одновременно обеспечивая защиту конфиденциальности данных. 

Упростите рабочие процессы управления

Организации могут объединять дублирующие друг друга проверки, повторно использовать оценки, охватывающие одни и те же риски, уточнять распределение обязанностей и устанавливать процедуры согласования с учетом уровня риска. Стандартизированные процессы помогают командам эффективно работать с типовыми приложениями, направляя более сложные случаи соответствующим специалистам.

Сохраняйте необходимые меры защиты

Подход, основанный на минимизации, должен предусматривать меры защиты конфиденциальности и безопасности, оценку предвзятости, надлежащий надзор со стороны человека, журналы аудита и процедуры реагирования на инциденты. Организациям также следует убедиться, что упрощенные процессы по-прежнему соответствуют применимым требованиям законодательства и нормативных актов.

Отслеживайте результаты и пересматривайте меры контроля

Требования к управлению могут меняться по мере развития системы ИИ, расширения круга ее пользователей или появления дополнительных задач. После внедрения организации должны отслеживать риски, связанные с точностью, справедливостью и конфиденциальностью. Кроме того, при изменении условий им следует пересматривать требования к данным и процедуры надзора.

Как обеспечить эффективную минимизацию в управлении ИИ

Минимизация наиболее эффективна как часть стратегии управления, основанной на оценке рисков. Однако необходимая степень минимизации зависит от цели, сложности и потенциального воздействия системы ИИ. Сочетая эффективность с надлежащими мерами защиты, подотчетностью и непрерывной оценкой, организации могут упростить управление ИИ, сохранив ответственное и надежное применение ИИ.