Прозрачность ИИ и необходимость открытых моделей

Чтобы защитить людей от потенциальных вредных последствий ИИ, некоторые регулирующие органы в США и Европейском Союзе все чаще выступают за контроль и проверку власти открытых моделей ИИ. Это частично мотивировано желанием крупных корпораций контролировать разработку ИИ и формировать развитие ИИ в интересах себя. Регуляторы также обеспокоены темпом развития ИИ, поскольку они боятся, что ИИ развивается слишком быстро и что нет достаточно времени, чтобы ввести меры безопасности, предотвращающие его использование для злонамеренных целей.

Билль о правах ИИ и_framework_ управления рисками ИИ NIST в США, а также закон ЕС об ИИ, поддерживают различные принципы, такие как точность, безопасность, отсутствие дискриминации, безопасность, прозрачность, подотчетность, объяснимость, интерпретируемость и защита данных. Кроме того, как ЕС, так и США ожидают, что организации по стандартизации, будь то государственные или международные органы, будут играть решающую роль в установлении руководящих принципов для ИИ.

В свете этой ситуации крайне важно стремиться к будущему, которое принимает прозрачность и возможность осматривать и контролировать системы ИИ. Это позволит разработчикам во всем мире тщательно изучить, проанализировать и улучшить ИИ, особенно сосредоточившись на обучающих данных и процессах.

Чтобы успешно привнести прозрачность в ИИ, нам необходимо понять алгоритмы принятия решений, лежащие в основе ИИ, тем самым разоблачая “черный ящик” ИИ. Открытые и осматриваемые модели играют важную роль в достижении этой цели, поскольку они предоставляют доступ к основному коду, архитектуре системы и обучающим данным для проверки и аудита. Эта открытость способствует сотрудничеству, стимулирует инновации и защищает от монополизации.

Чтобы стать свидетелями реализации этого видения, крайне важно облегчить изменения политики, инициативы снизу и поощрять активное участие всех заинтересованных сторон, включая разработчиков, корпорации, правительства и общественность.

Текущее состояние ИИ: концентрация и контроль

В настоящее время разработка ИИ, особенно в отношении больших языковых моделей (LLM), в основном централизована и контролируется крупными корпорациями. Эта концентрация власти вызывает обеспокоенность по поводу потенциального злоупотребления и вызывает вопросы о справедливом доступе и равном распределении выгод от достижений в области ИИ.

В частности, популярные модели, такие как LLM, не имеют открытых альтернатив в процессе обучения из-за обширных вычислительных ресурсов, необходимых для этого, которые обычно доступны только крупным компаниям. Однако, даже если это положение дел остается неизменным, обеспечение прозрачности в отношении обучающих данных и процессов имеет решающее значение для обеспечения проверки и подотчетности.

Недавнее введение OpenAI системы лицензирования для определенных типов ИИ вызвало беспокойство и обеспокоенность по поводу захвата регулирования, поскольку это может повлиять не только на траекторию ИИ, но и на более широкие социальные, экономические и политические аспекты.

Необходимость прозрачности ИИ

Представьте, что вы полагаетесь на технологию, которая принимает решения, влияющие на человеческую жизнь, но не оставляет никаких следов, никакого понимания рассуждений, лежащих в основе этих выводов. Вот где прозрачность становится незаменимой.

Прежде всего, прозрачность имеет решающее значение и создает доверие. Когда модели ИИ становятся наблюдаемыми, они внушают уверенность в их надежности и точности. Кроме того, такая прозрачность сделает разработчиков и организации гораздо более подотчетными за результаты своих алгоритмов.

Другой важный аспект прозрачности – выявление и смягчение алгоритмической предвзятости. Предвзятость может быть введена в модели ИИ несколькими способами.

• Человеческий фактор: Ученые-исследователи уязвимы для воспроизведения своих собственных предубеждений в моделях.
• Машинное обучение: Даже если ученые создадут абсолютно объективный ИИ, модели все равно высоко подвержены предвзятости. Машинное обучение начинается с определенного набора данных, но затем освобождается для поглощения новых данных и создания новых путей обучения и новых выводов. Эти результаты могут быть непредвиденными, предвзятыми или неточными, поскольку модель пытается эволюционировать самостоятельно в том, что называется “дрейфом данных.”

Важно осознавать эти потенциальные источники предвзятости, чтобы их можно было выявить и смягчить. Одним из способов выявления предвзятости является аудит данных, использованных для обучения модели. Это включает в себя поиск закономерностей, которые могут указывать на дискриминацию или несправедливость. Другим способом смягчения предвзятости является использование методов дебиасинга. Эти методы могут помочь удалить или уменьшить предвзятость в модели. Будучи прозрачными о потенциале предвзятости и принимая меры для ее смягчения, мы можем помочь обеспечить, чтобы ИИ использовался справедливым и ответственным образом.

Прозрачные модели ИИ позволяют исследователям и пользователям изучить обучающие данные, выявить предвзятости и принять корректирующие меры для их устранения. Делая процесс принятия решений видимым, прозрачность помогает нам стремиться к справедливости и предотвратить распространение дискриминационных практик. Кроме того, прозрачность необходима на протяжении всей жизни модели, как объяснялось выше, чтобы предотвратить дрейф данных, предвзятость и “галлюцинации” ИИ, производящие ложную информацию. Эти галлюцинации особенно распространены в больших языковых моделях, но также существуют во всех формах продуктов ИИ. Наблюдаемость ИИ также играет важную роль в обеспечении производительности и точности моделей, создавая более безопасный и надежный ИИ, менее подверженный ошибкам или непредвиденным последствиям.

Однако достижение прозрачности в ИИ не обходится без своих проблем. Необходимо найти тщательный баланс, чтобы решить проблемы, такие как защита данных, безопасность и интеллектуальная собственность. Это предполагает реализацию методов сохранения конфиденциальности, анонимизацию чувствительных данных и установление отраслевых стандартов и правил, которые способствуют ответственным практикам прозрачности.

Сделать прозрачный ИИ реальностью

Разработка инструментов и технологий, которые могут обеспечить осматриваемость в ИИ, имеет решающее значение для содействия прозрачности и подотчетности в моделях ИИ.

Помимо разработки инструментов и технологий, которые обеспечивают осматриваемость в ИИ, развитие технологий также может способствовать прозрачности, создавая культуру прозрачности вокруг ИИ. Поощрение бизнеса и организаций быть прозрачными в отношении их использования ИИ также может помочь построить доверие и уверенность. Делая проще осматривать модели ИИ и создавая культуру прозрачности вокруг ИИ, развитие технологий может помочь обеспечить, чтобы ИИ использовался справедливым и ответственным образом.

Однако развитие технологий также может иметь противоположный эффект. Например, если технологические компании разрабатывают проприетарные алгоритмы, которые не открыты для общественной проверки, это может затруднить понимание того, как работают эти алгоритмы, и выявление потенциальных предвзятостей или рисков. Обеспечение того, чтобы ИИ приносил пользу обществу в целом, а не избранным few, требует высокого уровня сотрудничества.

Исследователи, политики и ученые-исследователи могут установить правила и стандарты, которые найдут правильный баланс между открытостью, конфиденциальностью и безопасностью, не препятствуя инновациям. Эти правила могут создать рамки, которые поощряют обмен знаниями, решая при этом потенциальные риски и определяя ожидания прозрачности и объяснимости в критических системах.

Все стороны, связанные с разработкой и развертыванием ИИ, должны уделять приоритетное внимание прозрачности, документируя свои процессы принятия решений, делая исходный код доступным и принимая прозрачность как основной принцип в разработке систем ИИ. Это дает всем возможность сыграть важную роль в изучении методов, чтобы сделать алгоритмы ИИ более интерпретируемыми, и разработке методов, которые облегчают понимание и объяснение сложных моделей.

Наконец, участие общественности имеет решающее значение в этом процессе. Проводя осведомленность и общественные обсуждения вокруг прозрачности ИИ, мы можем обеспечить, чтобы ценности общества отражались в разработке и развертывании систем ИИ.

Заключение

По мере того, как ИИ становится все более интегрированным в различные аспекты нашей жизни, прозрачность ИИ и использование открытых моделей становятся важными факторами. Принятие осматриваемого ИИ не только обеспечивает справедливость и подотчетность, но также стимулирует инновации, предотвращает концентрацию власти и содействует справедливому доступу к достижениям в области ИИ.

Уделяя приоритетное внимание прозрачности, обеспечивая проверку моделей ИИ и содействуя сотрудничеству, мы можем коллективно формировать будущее ИИ, которое принесет пользу всем, решая при этом этические, социальные и технические проблемы, связанные с этой трансформирующей технологией.