ИИ: Созданный народом, для народа и от народа

Автор: Балакришна (Бали) Д Р, старший вице-президент, руководитель предложения услуг – ECS, ИИ и автоматизации в Infosys.

Мы счастливы жить в эпоху технологий, где Искусственный Интеллект (ИИ) работает усердно, чтобы сделать нашу жизнь проще – наши телефоны теперь распознают нас и разблокируются, когда они «видят» нас, у нас есть говорящие карты, которые помогают нам найти самый короткий и наименее загруженный путь, умные устройства, которые нагревают и охлаждают наши дома, даже прежде чем мы скажем слово, интеллектуальные приложения, которые предсказывают и предотвращают мошенничество, и многое другое.

Однако мы также имели случаи, когда эти умные системы, работающие на ИИ, не оправдали наших ожиданий с точки зрения справедливости и этики. Например, известный банк, с которым мы работаем, подозревал, что модели ИИ, которые они используют для оценки кредитоспособности перед выдачей кредитов, могут быть предвзятыми, и они обратились к нам за помощью. В другом случае производитель машинерии работал с нами, чтобы проанализировать закономерности гарантийных претензий, чтобы исключить предвзятость из набора данных и процесса, прежде чем переработать и автоматизировать процесс утверждения претензий. Модели ИИ, связанные с набором, часто оказываются испорченными предвзятостями возраста, пола, расы, даже почтовых индексов, в их наборах данных – что приводит к несправедливым результатам, если их не проверить.

Из-за огромного влияния предвзятости ИИ на всю компанию, этические вопросы заняли центральное место в том, как системы ИИ разрабатываются, реализуются и используются. Системы ИИ представляют собой совокупность многих человеческих решений, которые по своей сути также основаны на человеческих предвзятостях. Защита автономии и конфиденциальности сотрудников, риски предвзятости, влияющие на карьерный рост и возможности, дискриминация по цвету кожи, расе или полу, отсутствие объяснимости выборов, сделанных решением ИИ, и, следовательно, подотчетность принятия решений ИИ, являются предметом жарких дебатов, когда речь идет об обсуждении ИИ и его достоинствах.

Создание ответственного ИИ

Предвзятость ИИ может иметь эффект домино на всю организацию. Поэтому руководителям ИТ важно обеспечить, чтобы они развертывали ИИ таким образом, чтобы он работал с сотрудниками, а не против них. Для этого организации должны включить в свои развертывания ИИ следующие элементы.

Управление данными: Этический использование ИИ также основано на хорошо управляемом использовании данных, начиная с получения данных этично и прозрачно. Для этого руководители ИТ должны создать хорошо определенный каркас управления, который будет обеспечивать безопасность, целостность и конфиденциальность данных, а также предотвращать коррупцию и потерю данных – все это необходимо.

Ответственность: Модели машинного обучения должны быть справедливыми, непредвзятыми, обращаться с людьми одинаково и также делиться выгодами справедливо (podobное принятие и отклонение) во всех атрибутах, таких как раса, религия, пол и т. д. Они должны достигать приемлемой точности не только в общей цифре, но и в классах меньшинств. Эти модели должны быть объяснимыми, когда речь идет об объяснении того, как достигается результат. Например, быть в состоянии объяснить, почему модель отклонила заявку на кредит от заявителя А, но одобрила ту же заявку от заявителя Б. Руководителям ИТ, разрабатывающим решения ИИ, необходимо сделать основную логику, которая управляет этими решениями, ясной для бизнес-стейкхолдеров, чтобы внутри компании была большая прозрачность.

Противостояние враждебности: Всему экосистеме ИИ необходимо согласиться на необходимость тестирования и взлома моделей ИИ через симуляции для изучения потенциальных негативных результатов. Например, руководители ИТ могут использовать следующие тесты, чтобы проверить свои системы ИИ и подготовиться к потенциальным препятствиям.

• Модификация данных: прямое изменение набора данных, используемого для обучения, путем инъекции, изменения и коррупции логики
• Модификация моделей: тестирование на снижение уверенности и неправильную классификацию
• Вспомогательные инструменты: использование инструментов для влияния или коррупции результатов

Человек в цикле: Модели ИИ должны быть обезопасены путем наличия людей в цикле для всех ключевых точек принятия решений и наличия эффективного механизма резервного копирования или альтернативного пути, если система ИИ должна быть отозвана.

Развитие социального согласия для ИИ

Помимо этих рекомендаций, нам необходимо способствовать инклюзивным обсуждениям и обсуждениям между всеми лидерами по всей компании, о выгодах, интересах, затратах и последствиях любого крупного развертывания ИИ. Только такие инклюзивные процессы, включающие всех заинтересованных сторон, для обсуждения и принятия приемлемых результатов, и взвешивания рисков и выгод, вероятно, дадут технологиям ИИ лицензию на эксплуатацию по всей компании.