Основи ШІ
Що таке Відповідальне Штучний Інтелект? Принципи, Виклики та Переваги
Відповідальний Штучний Інтелект (RAI) відноситься до розробки та розгортання систем штучного інтелекту, які є прозорими, необмеженими, підзвітними та дотримуються етичних директив. Коли системи штучного інтелекту стають більш потужними та поширеними, забезпечення їхньої відповідальної розробки та дотримання безпеки та етичних директив є суттєвим.
Охорона здоров’я, Транспорт, Управління мережею та Надзір є безпековими критичними застосуваннями штучного інтелекту, де збій системи може мати серйозні наслідки. Великі компанії розуміють, що Відповідальний Штучний Інтелект є суттєвим для пом’якшення технологічних ризиків. Однак, згідно з доповіддю MIT Sloan/BCG, яка включала 1093 респондентів, 54% компаній не мали досвіду Відповідального Штучного Інтелекту та талантів.
Хоча мислителі та організації розробили принципи Відповідального Штучного Інтелекту, забезпечення відповідальної розробки систем штучного інтелекту все ще становить виклики. Давайте розглянемо цю ідею детально:
5 Принципів Відповідального Штучного Інтелекту
1. Справедливість
Технологи повинні розробляти процедури так, щоб системи штучного інтелекту ставилися до всіх осіб та груп справедливо, без упередженості. Отже, справедливість є основним вимогами у високоризикових рішеннях.
Справедливість визначається як:
«Дослідження впливу на різні демографічні групи та вибір однієї з кількох математичних визначень справедливості групи, яка буде достатньо задовольняти бажану сукупність юридичних, культурних та етичних вимог.»
2. Відповідальність
Відповідальність означає, що особи та організації, які розробляють та розгортають системи штучного інтелекту, повинні бути відповідальними за свої рішення та дії. Команда, яка розгортає системи штучного інтелекту, повинна забезпечувати, щоб їхня система штучного інтелекту була прозорою, інтерпретовною, аудитованою та не завдавала шкоди суспільству.
Відповідальність включає сім компонентів:
- Контекст (мета, для якої необхідна відповідальність)
- Діапазон (предмет відповідальності)
- Агент (хто відповідає?)
- Форум (кому відповідальна особа повинна звітувати)
- Стандарти (критерії відповідальності)
- Процес (метод відповідальності)
- Вплив (наслідки відповідальності)
3. Прозорість
Прозорість означає, що причина прийняття рішень у системах штучного інтелекту є ясною та зрозумілою. Прозорі системи штучного інтелекту є пояснюваними.
Згідно з Переліком оцінки довірчих штучного інтелекту (ALTAI), прозорість має три ключових елементи:
- Слідування (дані, попередня обробка та модель доступні)
- Пояснюваність (причина прийняття рішень/передбачення є ясною)
- Відкрита комунікація (щодо обмежень системи штучного інтелекту)
4. Конфіденційність
Конфіденційність є одним з основних принципів Відповідального Штучного Інтелекту. Вона відноситься до захисту особистої інформації. Цей принцип забезпечує, щоб особиста інформація людей збиралися та оброблялися з згоди та зберігалися поза межами недоброзичливців.
Як свідчить недавній випадок, компанія Clearview, яка розробляє моделі розпізнавання облич для правоохоронних органів та університетів, була позовена Clearview AI на суму £ 7,5 мільйона за збирання зображень жителів Великої Британії з соціальних мереж без згоди для створення бази даних із 20 мільярдами зображень.
5. Безпека
Безпека означає забезпечення того, щоб системи штучного інтелекту були безпечними та не загрожували суспільству. Прикладом загрози безпеки штучного інтелекту є протидіяльні атаки. Ці зловмисні атаки обманюють моделі машинного навчання, щоб вони приймали неправильні рішення. Захист систем штучного інтелекту від кібератак є суттєвим для Відповідального Штучного Інтелекту.
4 Основних Виклики та Ризики Відповідального Штучного Інтелекту
1. Упередженість
Людські упередженості, пов’язані з віком, статтю, національністю та расою, можуть впливати на збирання даних, потенційно призводячи до упередженого штучного інтелекту. Дослідження Міністерства торгівлі США виявило, що штучний інтелект розпізнавання облич неправильно ідентифікує людей кольору. Отже, використання штучного інтелекту для розпізнавання облич у правоохоронних органах може призвести до неправильних арештів. Крім того, створення справедливих моделей штучного інтелекту є складним завданням, оскільки існує 21 різних параметр, які визначають їх. Отже, існує компроміс; задоволення одного параметра справедливого штучного інтелекту означає пожертву іншим.
2. Інтерпретація
Інтерпретація є суттєвим викликом у розробці Відповідального Штучного Інтелекту. Вона відноситься до розуміння того, як модель машинного навчання прийшла до певного висновку.
Глибокі нейронні мережі не мають інтерпретації, оскільки вони працюють як чорні скриньки з多шаровими прихованими нейронами, що робить складним розуміння процесу прийняття рішень. Це може бути викликом у високих ставках прийняття рішень, таких як охорона здоров’я, фінанси тощо.
Крім того, формалізація інтерпретації в моделях машинного навчання є складною завданням, оскільки вона є суб’єктивною та домен-специфічною.
3. Управління
Управління відноситься до сукупності правил, політик та процедур, які наглядають за розробкою та розгортанням систем штучного інтелекту. Нещодавно було досягнуто значного прогресу в дискусії щодо управління штучним інтелектом, з організаціями, які представляють рамки та етичні директиви.
Етичні директиви для довірчого штучного інтелекту ЄС, рамки етики штучного інтелекту Австралії та принципи штучного інтелекту ОЕСР є прикладами рамок управління штучним інтелектом.
Однак швидкий розвиток штучного інтелекту в останні роки може обігнати ці рамки управління штучним інтелектом. Для цього потрібно створити рамку, яка оцінює справедливість, інтерпретацію та етику систем штучного інтелекту.
4. Регулювання
Когда системи штучного інтелекту стають більш поширеними, потрібно регулювання, яке брахувало етичні та соціальні цінності. Розробка регулювання, яке не гальмує інновації штучного інтелекту, є суттєвим викликом у Відповідальному Штучному Інтелекті.
Хоча існують регуляторні органи, такі як Регламент про захист даних (GDPR), Закон про конфіденційність споживачів Каліфорнії (CCPA) та Закон про захист особистої інформації (PIPL), дослідники штучного інтелекту виявили, що 97% веб-сайтів ЄС не відповідають вимогам регуляторної бази GDPR.
Крім того, законодавці стикаються з суттєвим викликом у досягненні згоди щодо визначення штучного інтелекту, яке включає як класичні системи штучного інтелекту, так і останні застосування штучного інтелекту.
3 Основних Переваги Відповідального Штучного Інтелекту
1. Зменшення Упередженості
Відповідальний Штучний Інтелект зменшує упередженість у процесах прийняття рішень, створюючи довіру до систем штучного інтелекту. Зменшення упередженості в системах штучного інтелекту може забезпечити справедливу та рівноправну систему охорони здоров’я та зменшує упередженість у фінансових послугах, що базуються на штучному інтелекті тощо.
2. Покращення Прозорості
Відповідальний Штучний Інтелект робить прозорі застосування штучного інтелекту, створюючи довіру до систем штучного інтелекту. Прозорі системи штучного інтелекту зменшують ризик помилок та зловживань. Покращена прозорість полегшує аудит систем штучного інтелекту, здобуває довіру зацікавлених сторін та може привести до підзвітних систем штучного інтелекту.
3. Покращення Безпеки
Безпечні застосування штучного інтелекту забезпечують захист даних, створюють довірчу та безпечну продукцію, та захищають від кібератак.
Технологічні гіганти, такі як Microsoft та Google, які стоять на чолі розробки систем штучного інтелекту, розробили принципи Відповідального Штучного Інтелекту. Відповідальний Штучний Інтелект забезпечує, щоб інновації у сфері штучного інтелекту не були шкідливими для окремих осіб та суспільства.
Мислителі, дослідники, організації та законодавчі органи повинні продовжувати перегляд літератури щодо Відповідального Штучного Інтелекту, щоб забезпечити безпечне майбутнє для інновацій штучного інтелекту.
Для отримання більшої кількості інформації щодо штучного інтелекту відвідайте unite.ai.
