Практичний посібник з доставки відповідальної штучного інтелекту

Розгортання штучного інтелекту (ШІ) масштабується за межі ранніх пілотних фаз до повністю інтегрованих рішень, що驱люють виробництво та трансформацію підприємств. Перед керівниками стоїть складне завдання: перемістити ШІ з етапу доведення концепції до ядра щоденних операцій. Ця зміна вимагає від них відповісти на нові питання, починаючи від того, як розробляти, розгортати та використовувати ШІ відповідально, і закінчуючи побудовою довірливої основи, на якій можна масштабувати.

Відповідальний ШІ полягає у забезпеченні того, щоб ШІ був корисним, не шкодячи людям, організаціям та суспільству. Хоча може здаватися, що це може сповільнити життєвий цикл розробки, на практиці це може зробити інновації сильнішими. Розгортання Відповідального ШІ може допомогти зменшити кількість дорогої невдачі, дозволити швидшу адаптацію та довіру, забезпечити системи, готові до регулювання, та покращити стійкість.

Однак, розуміння того, як організації можуть розробляти, розгортати та приймати Відповідальний ШІ, є ключем до забезпечення його фундаментальної практики та повної інтеграції. Тут ми надаємо практичний посібник щодо того, як компанії можуть зробити це, забезпечуючи людський нагляд з ранніх етапів дизайну до розгортання, моніторингу, оцінки ризиків та подальшої ліквідації.

Ті, хто вважає Відповідальний ШІ післядумом, ризикують зазнати регулювання, шкоди репутації та ерозії довіри клієнтів. Натомість ті, хто впроваджує його з самого початку, краще підготовлені до масштабування ШІ сталого розвитку, зберігаючи довіру та регулювання.

Визначення п’яти принципів інтеграції Відповідального ШІ

У центрі будь-якої стратегії Відповідального ШІ лежить набір основних принципів, які повинні керувати розробкою, розгортанням, оцінкою та управлінням. Вплив цих принципів формуватиме практичне управління, управління ризиками та практики дотримання законодавства, які захищають людей та захищають цінність бренду.

Для великих організацій їм потрібно працювати в команді та з зовнішніми партнерами, щоб забезпечити його інтеграцію. Тому існують п’ять ключових принципів, яких можуть дотримуватися підприємства, щоб спрямувати свої ініціативи ШІ до довіри, дотримання законодавства та етичних результатів.

Перший принцип – відповідальність. Хтось повинен нести відповідальність за результат кожного важливого системи ШІ, і повинна бути особа або команда, відповідальна з початку до кінця. Почніть з простого інвентаризації, автоматизуйте для масштабування та починаючи перелік систем ШІ, їх призначення, джерела даних та власників. Також важливо мати план на випадок, якщо щось піде не так. Необхідно знати, як зупинити та як розслідувати та пом’якшити проблеми.

Другий принцип – оцінка справедливості ШІ та його потенційного впливу на людей. Не слід покладатися тільки на технічні метрики та бути обізнаними про те, що результати ШІ можуть відрізнятися в різних групах та ненавмисно нашкодити комусь. Це критично важливо для високоризикових випадків використання в таких сферах, як працевлаштування, кредитування або охорона здоров’я. Використовуйте тести даних, коли це можливо, та включайте людську перевірку та підстави для висновків.

Третій принцип – безпека. Загрози системам ШІ продовжують еволюціонувати, тепер включаючи атаки, засновані на промптах або агентах. Необхідно звернути увагу на ці ризики та працювати з командами безпеки для моделювання цих потенційних атак. Будуйте безпеку в дизайн, обмежуйте доступ ШІ до інших систем та даних, та проводьте постійне тестування навіть після запуску.

Четвертий принцип – приватність. Ця проблема виходить за межі початкових навчальних даних, і приватність повинна бути захищена на кожному етапі. Розгляньте приватність у промптах користувача, журналах розмов та виводах, згенерованих ШІ, оскільки всі вони можуть містити приватну інформацію. Проектуйте системи для збору лише необхідних даних, встановлюйте суворі правила доступу та зберігання, та проводьте огляди приватності для програм з вищим рівнем ризику.

Останній принцип – прозорість та надання контролю, який адаптується до зацікавлених сторін. Що клієнти повинні знати, відрізняється від того, що повинні знати розробники ШІ. Натомість користувачі повинні знати, коли вони взаємодіють з ШІ, та розуміти його обмеження. Внутрішні команди потребують чіткої документації щодо того, як було побудовано ШІ та як воно працює. Прозорість систем ШІ сприяє спільному нагляду та довірі до можливостей системи.

Пізнання різниць: Відповідальний ШІ проти управління ШІ

Хоча Відповідальний ШІ та управління ШІ часто використовуються як взаємозамінні терміни, існують ключові відмінності. Відповідальний ШІ – це сукупність цілісних практик та принципів для прийняття довірливих рішень протягом розробки, розгортання та використання ШІ. Він зосереджується на забезпеченні можливостей, таких як п’ять принципів вище, для мінімізації ризиків та максимізації переваг ШІ.

Управління ШІ, з іншого боку, – це сукупність політик, процедур та практик, спрямованих на забезпечення позитивних результатів та зменшення ймовірності шкоди. Воно зосереджується на впровадженні відповідних організаційних та технічних засобів для забезпечення відповідального та етичного ШІ, часто з акцентом на відповідальності та дотриманні законодавства та організаційних політик.

Організації краще підготовлені до масштабування ШІ відповідально, зберігаючи довіру та регулювання, коли вони розуміють, що ці два терміни різні, але пов’язані. Крім того, хоча деякі дії щодо відповідальності та управління вимагаються законодавством, деякі ні. Наприклад, закони, які накладають обмеження на професії, які можуть займати жінки в певних країнах. Тому обидва необхідні для комплексного та збалансованого підходу до Відповідального ШІ.

Важливість гнучкого управління

По мірі розповсюдження ШІ регулювання втручаються з кадрами управління, які виходять за межі добровільних рекомендацій. Регулювання, такі як Закон Європейського Союзу про штучний інтелект, ставлять ризик-орієнтоване регулювання в центр управління ШІ. Замість того, щоб регулювати технологію однорідно, Закон класифікує системи ШІ на кілька рівнів ризику, які визнають потенційну шкоду на основі різних випадків використання. Наприклад, система ШІ для відбору працівників проти системи рекомендацій для покупок. Це означає, що управління, документація та заходи безпеки повинні відповідати контексту та застосуванню ШІ.

Інші юрисдикції також визначили кадри для управління ШІ. За цим звітом IAPP, Сінгапур пропагує гнучкий підхід з інструментами, такими як його кадр управління ШІ, який підкреслює тестування та прозорість над суворими директивами. Закон Південної Кореї про основи ШІ також поєднує нагляд з простором для інновацій. І всередині галузей це відрізняється. Фінансові послуги вже давно стикаються з суворими стандартами безпеки та справедливості, тоді як ШІ у сфері охорони здоров’я має нормативні акти щодо медичних пристроїв, яким потрібно відповідати. Продукти споживчої техніки також підпадають під закони про захист приватності та захисту споживачів, з кожною областю, яка вимагає регулювання, адаптованого до її профілю ризику та суспільних очікувань.

Отже, підхід “один розмір для всіх” до управління ШІ не працює, оскільки галузі та країні відрізняються за типами шкоди, зацікавленими сторонами та законодавчими рамками, під якими вони діють. Тому потрібно гнучкість.

Як керувати автономним ШІ

По мірі того, як ШІ вступає в нову еру, зміщуючись від вузьких прогнозних двигунів до агентного ШІ, систем, здатних планувати, адаптуватися та виконувати автономні дії, це супроводжується новими ризиками.

Наприклад, розгляньте агентний ШІ, який автономно виконує фінансову транзакцію або рішення щодо кадрів. Якщо він неправильно класифікує транзакцію або робить рекомендацію щодо прийому на роботу, яка містить упередженість, наслідки для бізнесу будуть серйозними, від фінансових втрат до шкоди репутації, регулювання, штрафів та юридичної відповідальності.

Дослідження, представлене в Економічних та системних розглядах агентних веб-систем, також пояснює нові виклики, пов’язані з концепцією агентного вебу, який діє в багатокористувацьких, трансграничних, високошвидкісних ринках. Воно викладає деякі попередні, напрямні засоби управління, включаючи агентів нагляду та машинозчитувану політику, з акцентом на інклюзивному прийнятті під нерівними обмеженнями ресурсів.

Проти цього системи управління повинні встановлювати обмеження та засоби контролю щодо того, скільки система ШІ може автономно керувати без затвердження людини. їм потрібно встановити чіткі обмежувальні рамки, обмежити доступ до інструментів та функцій авторизації, а також дозволити конкретні точки дизайну для обов’язкової перевірки людини. Будь-яка дія повинна бути записана для слідства та засоби контролю повинні бути встановлені для деактивації системи, коли це потрібно для керування цим ризиком.

Майбутнє Відповідального ШІ

ШІ пропонує безпрецедентні можливості для трансформації того, як підприємства працюють, інновують, доставляють цінність, та Відповідальний ШІ підтримує це. Інтеграція Відповідального ШІ в дизайн, розробку та розгортання не тільки юридичний ризик та тактика мінімізації ризику, але також захищає та посилює репутацію бренду, заробляє довіру клієнтів та розблокує конкурентну перевагу, демонструючи зобов’язання щодо етичних інновацій.

Однак, щоб розблокувати його переваги, компанії повинні впровадити ключові відповідальні практики протягом усієї системи ШІ, починаючи з початку та закінчуючи кінцем її життєвого циклу. Це включає інтеграцію етичних та управлінських розглядових питань у стратегію даних, приватність та збір, дизайн систем, розробку, прозорість та справедливість, розгортання та моніторинг, а також построзгортання та ліквідацію.

Для всіх, хто зайнятий розробкою та розгортанням ШІ, мандат ясний: будувати відповідально, управляти проактивно, передбачати ризики сьогодні, завтра та далі, щоб забезпечити успішну еволюцію ШІ у світі, який змінюється.