Переповнення довіри в галузі штучного інтелекту

Прийняття штучного інтелекту досягає критичної точки. Бізнеси з ентузіазмом приймають штучний інтелект, спонукувані його обіцянкою досягти порядку величини покращення операційних ефективностей.

Нещодавнє дослідження Slack виявило, що прийняття штучного інтелекту продовжує прискорюватися, з використанням штучного інтелекту на робочих місцях, які переживають недавнє збільшення на 24%, і 96% опитаних керівників вважають, що “це терміново необхідно інтегрувати штучний інтелект у свої бізнес-операції”.

Однак існує розширюючийся розрив між корисністю штучного інтелекту та зростаючою тривогою щодо його потенційних негативних наслідків. Лише 7%  офісних працівників вважають, що вивід штучного інтелекту достатньо надійний, щоб допомогти їм у робочих завданнях.

Цей розрив очевидний у різкому контрасті між ентузіазмом керівників щодо інтеграції штучного інтелекту та скептицизмом працівників щодо факторів, таких як:

• Предвзяість та справедливість: Системи штучного інтелекту можуть підтримувати або навіть посилювати існуючі упередження, що призводить до несправедливих результатів.
• Конфіденційність та безпека: Працівники турбуються про те, як їхні особисті дані збираються, зберігаються та використовуються системами штучного інтелекту.
• Непрозорі процеси прийняття рішень: Системи штучного інтелекту часто працюють як “чорні скриньки”, приймаючи рішення, які є важкими для людей зрозуміти або пояснити.
• Тревога щодо автоматизації: Існує широкий страх, що штучний інтелект замінить людські робочі місця, що призведе до безробіття та економічної нестабільності.

Роль законодавства у будівництві довіри

Для вирішення цих багатоманітних питань довіри законодавчі заходи все частіше розглядаються як необхідний крок. Законодавство може відіграти ключову роль у регулюванні розробки та впровадження штучного інтелекту, таким чином підвищуючи довіру. Ключові законодавчі підходи включають:

• Закони про захист даних та конфіденційність: Реалізація суворих законів про захист даних гарантує, що системи штучного інтелекту обробляють особисті дані відповідально. Регуляції, такі як Регламент загальної захисту даних (GDPR) в Європейському Союзі, встановлюють прецедент, зобов’язуючи прозорість, мінімалізацію даних та згоду користувача. Зокрема, Стаття 22 GDPR захищає суб’єктів даних від потенційних негативних наслідків автоматизованого прийняття рішень. Недавні рішення Суду Європейського Союзу підтверджують права особи не підлягати автоматизованому прийняттю рішень. У справі Schufa Holding AG, де німецький резидент був відхилено на отримання банку кредиту на основі автоматизованої системи прийняття кредитних рішень, суд постановив, що Стаття 22 вимагає від організацій впровадження заходів для захисту прав конфіденційності щодо використання технологій штучного інтелекту.
• Регуляції штучного інтелекту: Європейський Союз ратифікував Закон ЄС про штучний інтелект (EU AIA), який має на меті регулювати використання систем штучного інтелекту на основі їхнього рівня ризику. Закон включає обов’язкові вимоги для систем штучного інтелекту високого ризику, що охоплюють галузі, такі як якість даних, документація, прозорість та нагляд людини. Одним з основних переваг регуляцій штучного інтелекту є просування прозорості та пояснюваності систем штучного інтелекту. Крім того, Закон ЄС про штучний інтелект встановлює чіткі рамки відповідальності, забезпечуючи, що розробники, оператори та навіть користувачі систем штучного інтелекту несуть відповідальність за свої дії та наслідки впровадження штучного інтелекту. Це включає механізми для звернення у разі шкоди, заподіяної системою штучного інтелекту. Коли особи та організації несуть відповідальність, це створює довіру до того, що системи штучного інтелекту керуються відповідально.

Ініціативи зі стандартів для формування культури довіри до штучного інтелекту

Компанії не повинні чекати нових законів, щоб визначити, чи їхні процеси відповідають етичним та довірливим напрямам. Регуляції штучного інтелекту працюють у тандемі з новими ініціативами зі стандартів штучного інтелекту, які надають організаціям можливість впроваджувати відповідальне керування штучним інтелектом та найкращі практики протягом усього життєвого циклу систем штучного інтелекту, включаючи проектування, впровадження, розгортання та ліквідацію.

Національний інститут стандартів і технологій (NIST) у Сполучених Штатах розробив Рамку управління ризиками штучного інтелекту для керівництва організаціями у керуванні ризиками, пов’язаними зі штучним інтелектом. Рамка структурована навколо чотирьох основних функцій:

• Поняття системи штучного інтелекту та контексту, у якому вона працює. Це включає визначення мети, зацікавлених сторін та потенційних впливів системи штучного інтелекту.
• Квантитативна оцінка ризиків, пов’язаних із системою штучного інтелекту, включаючи технічні та нетехнічні аспекти. Це включає оцінку продуктивності системи, надійності та потенційних упереджень.

• Впровадження стратегій для мінімізації визначених ризиків. Це включає розробку політики, процедур та контролю для забезпечення того, що система штучного інтелекту працює в межах прийнятного рівня ризику.
• Встановлення структур керування та механізмів відповідальності для нагляду за системою штучного інтелекту та процесами управління ризиками. Це включає регулярні огляди та оновлення стратегії управління ризиками.

У відповідь на розвиток технологій генерації штучного інтелекту NIST також опублікував Рамку управління ризиками штучного інтелекту: Профіль генерації штучного інтелекту, який надає керівництво щодо мінімізації конкретних ризиків, пов’язаних із моделями заснованими на основі знань. Такі заходи охоплюють захист від зловмисних дій (наприклад, дезінформація, погіршення змісту, ненависть), а також етичне застосування штучного інтелекту, яке зосереджується на людських цінностях справедливості, конфіденційності, безпеки інформації, інтелектуальної власності та сталості.

Крім того, Міжнародна організація зі стандартизації (ISO) та Міжнародна електротехнічна комісія (IEC) спільно розробили ISO/IEC 23894, комплексний стандарт управління ризиками штучного інтелекту. Цей стандарт надає системний підхід до визначення та управління ризиками протягом усього життєвого циклу штучного інтелекту, включаючи ідентифікацію ризиків, оцінку рівня ризику, лікування для мінімізації або уникнення його, а також постійний моніторинг та огляд.

Майбутнє штучного інтелекту та публічної довіри

Оглядаючи майбутнє, майбутнє штучного інтелекту та публічної довіри, ймовірно, залежатиме від кількох ключових факторів, які є важливими для всіх організацій:

• Проведення комплексної оцінки ризиків для визначення потенційних проблем з дотриманням вимог. Оцініть етичні наслідки та потенційні упередження у системах штучного інтелекту.
• Створення міжфункціональної команди, яка включає юридичних, комплаєнс-спеціалістів, ІТ-спеціалістів та фахівців з даних. Ця команда повинна бути відповідальною за моніторинг змін у регуляторних вимогах та забезпечення того, що системи штучного інтелекту відповідають новим регуляціям.
• Впровадження структури керування, яка включає політики, процедури та ролі для управління ініціативами штучного інтелекту. Забезпечте прозорість у операціях штучного інтелекту та процесах прийняття рішень.
• Проведення регулярних внутрішніх аудитів для забезпечення дотримання регуляцій штучного інтелекту. Використовуйте інструменти моніторингу для відстежування продуктивності систем штучного інтелекту та дотримання регуляторних стандартів.
• Освіта працівників про етику штучного інтелекту, вимоги регуляцій та найкращі практики. Надавайте постійні навчальні сесії для інформування персоналу про зміни у регуляціях штучного інтелекту та стратегіях дотримання вимог.
• Збереження детальних записів процесів розробки штучного інтелекту, використання даних та критеріїв прийняття рішень. Підготовте звіти, які можуть бути подані регуляторам при необхідності.
• Будування відносин з регуляторними органами та участь у публічних консультаціях. Надавайте відгуки про запропоновані регуляції та шукайте роз’яснення при необхідності.

Контекстуалізація штучного інтелекту для досягнення довірливого штучного інтелекту

У кінцевому підсумку, довірливий штучний інтелект залежить від цілісності даних. Залежність генерації штучного інтелекту від великих наборів даних не означає точність та надійність виводу; якщо щось, це протилежне стандартам. Отримання посиленої генерації (RAG) – це інноваційна техніка, яка “об’єднує статичні моделі мови з контекстно-залежними даними. І можна вважати її дуже освіченим помічником. Тим, який поєднує контекст запиту з конкретними даними з повної бази знань“. RAG дозволяє організаціям створювати контекстно-залежні програми, які відповідають очікуванням щодо конфіденційності, безпеки, точності та надійності. RAG покращує точність згенерованих відповідей шляхом отримання відповідної інформації з бази знань або репозиторію документів. Це дозволяє моделі ґрунтувати свій вивід на точній та актуальній інформації.

RAG дозволяє організаціям створювати спеціалізовані програми штучного інтелекту, які є високоточними, контекстно-залежними та адаптивними для покращення прийняття рішень, поліпшення досвіду клієнтів, оптимізації операцій та досягнення значних конкурентних переваг.

Переповнення розриву довіри штучного інтелекту включає забезпечення прозорості, відповідальності та етичного використання штучного інтелекту. Хоча немає єдиної відповіді на підтримання цих стандартів, у бізнесу є стратегії та інструменти, які можна використовувати. Впровадження потужних заходів захисту даних та дотримання регуляторних стандартів будує довіру користувачів. Регулярне аудитування систем штучного інтелекту на наявність упереджень та неточностей забезпечує справедливість. Посилення великомасштабних моделей мови спеціалізованим штучним інтелектом створює довіру шляхом включення власних баз знань та джерел даних. Взаємодія з зацікавленими сторонами щодо можливостей та обмежень штучного інтелекту також сприяє довірі та прийняттю

Довірливий штучний інтелект не легко досягнутий, але це життєво важливий компроміс для нашого майбутнього.