Як провести аудит штучного інтелекту у 2023 році

Аудит штучного інтелекту означає оцінку систем штучного інтелекту, щоб забезпечити їх роботу без упередженості та дискримінації та їх відповідність етичним і юридичним стандартам. Штучний інтелект пережив експоненційний рост за останні десять років. В результаті ризики, пов’язані зі штучним інтелектом, стали проблемою для організацій. Як сказав Ілон Маск:

“Штучний інтелект – це рідкий випадок, коли нам потрібно бути активними у регулюванні, а не пасивними.”

Організації повинні розробити управління, оцінку ризиків та стратегії контролю для працівників, які працюють зі штучним інтелектом. Відповідальність штучного інтелекту стає критичною у процесі прийняття рішень, де ставки високі, наприклад, розгортання поліцейських сил в одному районі, а не в іншому, прийняття та відмова кандидатів.

Ця стаття представить огляд аудиту штучного інтелекту, rámків та регуляцій для аудиту штучного інтелекту, а також переліку для аудиту застосунків штучного інтелекту.

Фактори, які потрібно враховувати

• Згодність: Оцінка ризиків, пов’язаних із відповідністю системи штучного інтелекту юридичним, регуляторним, етичним та соціальним вимогам.
• Технологія: Оцінка ризиків, пов’язаних із технічними можливостями, включаючи машинне навчання, стандарти безпеки та продуктивність моделі.

Виклики для аудиту систем штучного інтелекту

• Упередженість: Системи штучного інтелекту можуть посилювати упередженість у даних, на яких вони тренуються, та приймати несправедливі рішення. Розпізнавши цю проблему, дослідницький інститут Стенфордського університету Human Centered AI (HAI) запустив Інноваційний виклик на суму 71 000 доларів для розробки кращого аудиту штучного інтелекту. Метою цього виклику було заборонити дискримінацію в системах штучного інтелекту.
• Складність: Системи штучного інтелекту, особливо ті, які використовують глибоке навчання, є складними та не мають інтерпретації.

Існуючі регуляції та rámки для аудиту штучного інтелекту

Регуляції та rámки діють як орієнтир для аудиту штучного інтелекту. Деякі важливі rámки та регуляції аудиту штучного інтелекту обговорюються нижче.

Рамки аудиту

1. Рамка COBIT (Контрольні об’єкти інформаційних технологій та пов’язаних з ними питань): Це рамка управління інформаційними технологіями та управління підприємства.
2. Рамка аудиту штучного інтелекту IIA (Інститут внутрішніх аудиторів): Ця рамка штучного інтелекту спрямована на оцінку проектування, розробки та роботи систем штучного інтелекту та їх відповідності цілям організації. Три основні компоненти рамки аудиту штучного інтелекту IIA – це Стратегія, Управління та Людина. Вона має сім елементів, які наведені нижче:

• Кіберстійкість
• Компетенції штучного інтелекту
• Якість даних
• Архітектура та інфраструктура даних
• Вимірювання продуктивності
• Етика
• Чорна скринька

3. Рамка COSO ERM: Ця рамка надає rámку для оцінки ризиків систем штучного інтелекту в організації. Вона має п’ять компонентів для внутрішнього аудиту:

• Внутрішнє середовище: Забезпечення того, що управління та управління організацією керують ризиками штучного інтелекту
• Встановлення цілей: Співпраця зі зацікавленими сторонами для розробки стратегії ризику
• Ідентифікація подій: Ідентифікація ризиків у системах штучного інтелекту, таких як ненавмисна упередженість, порушення даних
• Оцінка ризику: Який буде вплив ризику?
• Відповідь на ризик: Як організація буде реагувати на ризикові ситуації, такі як субоптимальна якість даних?

Регуляції

Регуляція про захист даних (GDPR) – це закон ЄС, який накладає обов’язки на організації щодо використання персональних даних. Вона має сім принципів:

• Законність, справедливість та прозорість: Обробка персональних даних повинна відповідати закону
• Обмеження цілі: Використання даних тільки для конкретної мети
• Мінімізація даних: Персональні дані повинні бути адекватними та обмеженими
• Точність: Дані повинні бути точними та актуальними
• Обмеження зберігання: Не зберігати персональні дані, які більше не потрібні
• Цілісність та конфіденційність: Персональні дані повинні оброблятися безпечно
• Відповідальність: Контролер повинен обробляти дані відповідально, дотримуючись вимог

Інші регуляції включають CCPA та PIPEDA.

Переліку для аудиту штучного інтелекту

Джерела даних

Ідентифікація та перевірка джерел даних є першочерговим завданням при аудиті систем штучного інтелекту. Аудитори перевіряють якість даних та можливість використання даних компанією.

Перекрестна перевірка

Забезпечення того, що модель правильно перекрестно перевірена, є одним із завдань аудиторів. Дані для перевірки не повинні використовуватися для навчання, а методи перевірки повинні забезпечувати загальність моделі.

Безпечне розміщення

У деяких випадках системи штучного інтелекту використовують персональні дані. Важливо оцінити, чи відповідають послуги розміщення або хмарні служби вимогам інформаційної безпеки, таким як керівні принципи OWASP (Відкритий веб-проект безпеки програмного забезпечення).

Роз’яснюваний штучний інтелект

Роз’яснюваний штучний інтелект означає інтерпретацію та розуміння рішень, прийнятих системою штучного інтелекту, та чинників, які на них впливають. Аудитори перевіряють, чи достатньо зрозумілі моделі, використовуючи техніки, такі як LIME та SHAP.

Вихідні дані моделі

Справедливість є першочерговим завданням аудиторів при оцінці виходних даних моделі. Вихідні дані моделі повинні залишатися сталими, коли змінюються змінні, такі як стать, раса чи релігія. Крім того, оцінюється якість прогнозів за допомогою відповідного методу оцінки.

Соціальна зворотня зв’язок

Аудит штучного інтелекту – це безперервний процес. Після розгортання аудитори повинні оцінити соціальний вплив системи штучного інтелекту. Система штучного інтелекту та стратегія ризику повинні бути змінені та проаудитовані відповідно до зворотної зв’язки, використання, наслідків та впливу, як позитивного, так і негативного.

Компанії, які проводять аудит систем штучного інтелекту та застосунків

П’ять основних компаній, які проводять аудит штучного інтелекту, наведені нижче:

• Deloitte: Deloitte – найбільша професійна послугова компанія у світі та надає послуги, пов’язані з аудитом, оподаткуванням та фінансовим консалтингом. Deloitte використовує RPA, штучний інтелект та аналітику для допомоги організаціям у оцінці ризиків їхніх систем штучного інтелекту.
• PwC: PwC – друга за величиною професійна послугова мережа за доходом. Вони розробили методи аудиту для допомоги організаціям у забезпеченні підзвітності, надійності та прозорості.
• EY: У 2022 році EY оголосив про інвестиції у розмірі 1 мільярда доларів у платформу штучного інтелекту для надання високоякісних послуг аудиту. Компанії, які керуються штучним інтелектом, добре інформовані про аудит систем штучного інтелекту.
• KPMG: KPMG – четверта за величиною компанія, яка надає послуги з аудиту. KPMG надає послуги з управління штучним інтелектом, оцінки ризиків та контролю.
• Grant Thronton: Вони допомагають клієнтам керувати ризиками, пов’язаними з розгортанням штучного інтелекту, та дотримуватися етики та регуляцій штучного інтелекту.

Переваги аудиту систем штучного інтелекту

• Управління ризиками: Аудит запобігає або пом’якшує ризики, пов’язані з системами штучного інтелекту.
• Прозорість: Аудит забезпечує відсутність упередженості та дискримінації у застосунках штучного інтелекту.
• Згодність: Аудит застосунків штучного інтелекту означає, що система відповідає юридичним та регуляторним вимогам.

Аудит штучного інтелекту: Що чекає на майбутнє

Організації, регуляторні органи та аудитори повинні бути в курсі розвитку штучного інтелекту, усвідомлювати потенційні загрози та регулярно переглядати регуляції, rámки та стратегії для забезпечення справедливого, безризикового та етичного використання.

У 2021 році 193 держави-члени ЮНЕСКО прийняли глобальну угоду про етику штучного інтелекту. Штучний інтелект – це безперервно розвивається екосистема.

Хочете більше контенту, пов’язаного зі штучним інтелектом? Відвідайте unite.ai.