Що означає білль про права штучного інтелекту Білого дому для Америки та решти світу

Офіс науки і технологій політики Білого дому (OSTP) недавно опублікував документ під назвою “Блупринт біллю про права штучного інтелекту: створення автоматизованих систем для американського народу”. Ця структура була опублікована через рік після того, як OSTP оголосив про запуск процесу розробки “біллю про права штучного інтелекту”.

Передмова цього біллю чітко показує, що Білый дім розуміє загрози для суспільства, які створює штучний інтелект. Це сказано в передмові:

“Однією з найбільших загроз для демократії сьогодні є використання технологій, даних і автоматизованих систем способами, які загрожують правам американської громадськості. Занадто часто ці інструменти використовуються для обмеження наших можливостей і запобігання доступу до критичних ресурсів або послуг. Ці проблеми добре задокументовані. В Америці і по всьому світу системи, призначені для допомоги в догляді за пацієнтами, виявилися небезпечними, неефективними або упередженими. Алгоритми, використані в процесі прийняття рішень про прийом на роботу і кредит, були визнані такими, що відображають і відтворюють існуючі нежелані нерівності або впроваджують нові шкідливі упередження і дискримінацію. Неконтрольоване збор даних в соціальних мережах було використано для загрози можливостям людей, підірвання їх приватності або всепроникного відстеження їх діяльності – часто без їх знання чи згоди.”

Що цей білль про права штучного інтелекту і запропонована ним структура означатимуть для майбутнього штучного інтелекту, залишається невідомим. Що ми знаємо, так це те, що нові розробки з’являються з все більшою швидкістю. Що раніше вважалося неможливим, миттєвий переклад мови, тепер є реальністю, і в той же час ми маємо революцію в галузі природної мови (NLU), яку очолює OpenAI і їх платформа GPT-3.

Відтоді ми бачимо миттєве створення зображень за допомогою техніки, званої Стабільним розсіюванням, яка може скоро стати масовим споживчим продуктом. По суті, з цією технологією користувач може просто вввести будь-яке запит, яке він може уявити, і, як за магією, штучний інтелект створить зображення, яке відповідає запиту.

Якщо врахувати експоненціальний рост і закон прискорення, скоро настане час, коли штучний інтелект займе місце в кожному аспекті повсякденного життя. Особи і компанії, які знають це і використовують цю зміну парадигми, будуть прибутковими. На жаль, великий сегмент суспільства може стати жертвою як доброзичливих, так і недоброзичливих наслідків штучного інтелекту.

Білль про права штучного інтелекту призначений для підтримки розробки політики і практик, які захищають громадянські права і просувають демократичні цінності при створенні, розгортанні і управлінні автоматизованими системами. Як цей білль порівняється з підходом Китаю, залишається невідомим, але це білль про права, який має потенціал змінити ландшафт штучного інтелекту, і він, ймовірно, буде прийнятий союзниками, такими як Австралія, Канада і ЄС.

Відповідно до заявленого, білль про права штучного інтелекту є добровільним і не складає державної політики США. Він не замінює, змінює або тлумачить існуючі закони, правила, політику або міжнародні інструменти. Це означає, що підприємства і уряди повинні дотримуватися політики, викладеної в цьому біллі.

Цей білль визначив п’ять принципів, які повинні керувати розробкою, використанням і розгортанням автоматизованих систем для захисту американської громадськості в епоху штучного інтелекту, нижче ми викладемо 5 принципів:

1. Безпечні та ефективні системи

Є явна і поточна загроза суспільству від зловживання системами штучного інтелекту, особливо тих, які використовують глибоке навчання. Це намагаються вирішити ці принципи:

“Ви повинні бути захищені від небезпечних або неефективних систем. Автоматизовані системи повинні розроблятися у консультації з різними громадами, зацікавленими сторонами і експертами для визначення проблем, ризиків і потенційних наслідків системи. Системи повинні проходити попереднє тестування, ідентифікацію ризиків і мінімізацію, а також постійний моніторинг, який демонструє, що вони безпечні та ефективні на основі їхнього призначеного використання, мінімізації небезпечних наслідків, включаючи ті, які виходять за межі призначеного використання, і дотримання галузевих стандартів. Результати цих захисних заходів повинні включати можливість не розгортання системи або її видалення з використання. Автоматизовані системи не повинні розроблятися з наміром або розумною передбачуваною можливістю загрожувати вашій безпеці або безпеці вашої громади. Вони повинні розроблятися для активної охорони вас від шкоди, яка походить від ненавмисного, але передбачуваного використання або впливу автоматизованих систем. Ви повинні бути захищені від недоречного або неpertинентного використання даних при розробці, використанні та розгортанні автоматизованих систем, а також від суміжної шкоди їхнього повторного використання. Незалежна оцінка і звітність, яка підтверджує, що система безпечна та ефективна, включаючи звітність про заходи, вжиті для мінімізації потенційних шкідливих наслідків, повинна здійснюватися і результати повинні бути опубліковані, якщо це можливо.

2. Захист від дискримінації алгоритмів

Ці політики звертаються до деяких слонів у кімнаті, коли справа доходить до зловживання підприємствами щодо осіб.

Одна з поширених проблем при прийомі на роботу за допомогою систем штучного інтелекту полягає в тому, що система глибокого навчання часто тренується на упередженій основі даних для прийняття рішень про прийом на роботу. Це фактично означає, що погані практики прийому на роботу в минулому приведуть до гендерної або расової дискримінації агентом з прийому на роботу. Одне дослідження показало важкість спроби дегендеризації навчальних даних.

Інша основна проблема з упередженими даними урядів полягає в ризiku неправильного ув’язнення, або навіть гірше алгоритмів передбачення злочинності, які пропонують довші строки ув’язнення для меншин.

“Ви не повинні зазнавати дискримінації алгоритмів, і системи повинні використовуватися та розроблятися справедливим чином. Дискримінація алгоритмів відбувається, коли автоматизовані системи сприяють необґрунтованому різному поводженню або наслідкам, які несприятливо впливають на людей на основі їхньої раси, кольору, етнічної приналежності, статі (включаючи вагітність, пологів і пов’язаних з ними медичних умов, гендерної ідентичності, інтерсексуальної статі і сексуальної орієнтації), релігії, віку, національного походження, інвалідності, статусу ветерана, генетичної інформації або будь-якої іншої класифікації, захищеної законом. В залежності від конкретних обставин, таких як дискримінація алгоритмів, можуть порушувати юридичні захисти. Розробники, розробники і розгортувачі автоматизованих систем повинні вживати активні та безперервні заходи для захисту осіб і громад від дискримінації алгоритмів і для використання та розробки систем справедливим чином. Це захист повинно включати активні оцінки справедливості під час розробки системи, використання представницьких даних і захист від проксі демографічних ознак, забезпечення доступності для людей з інвалідністю при розробці, попереднє і постійне тестування на розбіжності та мінімізацію, а також чітке організаційне нагляд. Незалежна оцінка і звітність у вигляді оцінки впливу алгоритмів, включаючи результати тестування на розбіжності та інформацію про мінімізацію, повинна здійснюватися і результати повинні бути опубліковані, якщо це можливо, для підтвердження цих захистів.

Це слід відзначити, що США зайняли дуже прозорий підхід щодо штучного інтелекту, ці політики призначені для захисту громадськості, чіткий контраст до підходу Китаю до штучного інтелекту.

3. Захист даних

Цей принцип захисту даних, ймовірно, найбільш вплине на найбільший сегмент населення. Перша половина цього принципу, здається, займається збором даних, особливо з інтернету, відомою проблемою, особливо для соціальних мереж. Ці дані можуть потім використовуватися для продажу реклами або навіть гірше – маніпулювати громадською думкою і впливати на вибори.

“Ви повинні бути захищені від зловживань даними завдяки вбудованим захистам, і ви повинні мати контроль над тим, як дані про вас використовуються. Ви повинні бути захищені від порушень приватності завдяки проектним рішеннями, які забезпечують такі захисти за замовчуванням, включаючи забезпечення того, що збор даних відповідає розумним очікуванням, і що збирається тільки мінімально необхідний обсяг даних для конкретного контексту. Розробники, розробники і розгортувачі автоматизованих систем повинні шукати вашої згоди і поважати ваші рішення щодо збору, використання, доступу, передачі та видалення ваших даних у відповідних способах і в最大 можливій мірі; якщо це не можливо, повинні використовуватися альтернативні засоби захисту приватності за проектом. Системи не повинні використовувати рішення про досвід користувача і проектні рішення, які затуманюють вибір користувача або обтяжують користувачів налаштуваннями за замовчуванням, які порушують приватність. Згода повинна використовуватися тільки для виправдання збору даних у випадках, коли вона може бути надана належним чином і осмислено. Будь-які запити на згоду повинні бути короткими, зрозумілими на простій мові і надавати вам контроль над збором даних і конкретним контекстом використання; поточні практики повідомлення і вибору для широкого використання даних повинні бути змінені.”

Друга половина принципу захисту даних, здається, займається наглядом з боку урядів і підприємств.

На даний момент підприємства можуть відстежувати і шпигувати за співробітниками, у деяких випадках це може бути зроблено для поліпшення безпеки на робочому місці, під час пандемії COVID-19 це було зроблено для забезпечення носіння масок, найчастіше це робиться просто для відстеження того, як час використовується на роботі. У багатьох з цих випадків співробітники відчувають, що їх відстежують і контролюють за межами того, що вважається прийнятним.

“Повышені захисти і обмеження для даних і висновків, пов’язаних з чутливими сферами, включаючи охорону здоров’я, роботу, освіту, кримінальну справедливість і фінанси, і для даних, що стосуються молоді, повинні ставити вас на перше місце. У чутливих сферах ваші дані і пов’язані з ними висновки повинні використовуватися тільки для необхідних функцій, і ви повинні бути захищені етичною експертизою і заборонами на використання. Ви і ваша громада повинні бути вільні від неконтрольованого нагляду; технології нагляду повинні підлягати посиленому нагляду, який включає至少 попередню оцінку їх потенційних шкідливих наслідків і обмеження їх сфери для захисту приватності і громадянських свобод. Постійний нагляд і моніторинг не повинні використовуватися в освіті, на роботі, у житлі або в інших контекстах, де використання таких технологій нагляду може обмежувати права, можливості або доступ. Якщо це можливо, ви повинні мати доступ до звітів, які підтверджують, що ваші рішення щодо даних були поважені і надають оцінку потенційного впливу технологій нагляду на ваші права, можливості або доступ.”

Це слід відзначити, що штучний інтелект може бути використаний для добра для захисту приватності людей.

4. Повідомлення і пояснення

Це повинно бути закликом до зброї для підприємств розгорнути раду з питань етики штучного інтелекту, а також спонукає прискорити розвиток пояснюваного штучного інтелекту. Пояснюваний штучний інтелект необхідний у разі, якщо модель штучного інтелекту припускається помилки, розуміння того, як працює штучний інтелект, дозволяє легко діагностувати проблему.

Пояснюваний штучний інтелект також дозволить прозоре подання інформації про те, як дані використовуються, і чому рішення було прийнято штучним інтелектом. Без пояснюваного штучного інтелекту буде неможливо дотримуватися цих політик через проблему “чорної скриньки” глибокого навчання.

Підприємства, які зосереджуються на поліпшенні цих систем, також будуть отримувати позитивні вигоди від розуміння нюансів і складностей за тим, чому глибинний алгоритм штучного інтелекту прийняв конкретне рішення.

“Ви повинні знати, що автоматизована система використовується і розуміти, як і чому вона сприяє результатам, які впливають на вас. Розробники, розробники і розгортувачі автоматизованих систем повинні надавати загальнодоступну документацію на простій мові, включаючи чіткі описи загальної роботи системи і ролі автоматизації, повідомлення про те, що така система використовується, особу або організацію, відповідальну за систему, і пояснення результатів, які чіткі, своєчасні і доступні. Таке повідомлення повинно бути актуальним і люди, які постраждали від системи, повинні бути повідомлені про значні зміни використання або ключових функцій. Ви повинні знати, як і чому результат, який впливає на вас, був визначений автоматизованою системою, включаючи випадки, коли автоматизована система не є єдиним вхідним параметром, який визначає результат. Автоматизовані системи повинні надавати пояснення, які є технічно валідними, значимими і корисними для вас і для будь-яких операторів або інших осіб, які повинні розуміти систему, і відкалібровані до рівня ризику на основі змісту. Звітність, яка включає підсумкову інформацію про ці автоматизовані системи на простій мові і оцінку ясності і якості повідомлення і пояснень, повинна бути опублікована, якщо це можливо.

5. Людські альтернативи, розгляд і запасний варіант

На відміну від більшості вищезазначених принципів, цей принцип найбільш застосовний до державних органів або приватизованих інститутів, які працюють від імені уряду.

Навіть з радою з питань етики штучного інтелекту і пояснюваним штучним інтелектом важливо звернутися до людського огляду, коли під загрозу поставлено життя. Зегда існує потенціал для помилки, і наявність людини, яка переглядає справу за запитом, могла б уникнути сценарію, такого як штучний інтелект, який посилає неправильних людей до в’язниці.

Судова і кримінальна системи мають найбільший потенціал для заподіяння необоротної шкоди маргіналізованим членам суспільства і повинні звернути особливу увагу на цей принцип.

“Ви повинні мати можливість відмовитися, якщо це доречно, і мати доступ до людини, яка може швидко розглянути і вирішити проблеми, з якими ви зустрічаєтеся. Ви повинні мати можливість відмовитися від автоматизованих систем на користь людської альтернативи, якщо це доречно. Доречність повинна визначатися на основі розумних очікувань у даному контексті і з акцентом на забезпеченні широкої доступності і захисту громадськості від особливо шкідливих наслідків. У деяких випадках людська або інша альтернатива може бути вимагана законом. Ви повинні мати доступ до оперативного людського розгляду і вирішення проблем, якщо автоматизована система відмовляється, виробляє помилку або ви хочете оскаржити або оспорити її вплив на вас. Людський розгляд і запасний варіант повинні бути доступними, справедливими, ефективними, підтримуватися, супроводжуватися відповідною підготовкою операторів, і не повинні ставити необґрунтовану負кість на громадськість. Автоматизовані системи з призначеним використанням у чутливих сферах, включаючи, але не обмежуючись, кримінальну систему, зайнятість, освіту і охорону здоров’я, повинні додатково бути адаптовані до мети, забезпечувати значимий доступ до нагляду, включати підготовку для будь-яких осіб, які взаємодіють з системою, і включати людський розгляд для несприятливих або високоризикових рішень. Звітність, яка включає опис цих людських процесів управління і оцінку їх оперативності, доступності, результатів і ефективності, повинна бути опублікована, якщо це можливо.

Загальний висновок

Офісу науки і технологій політики Білого дому слід дати кредит за спробу впровадити структуру, яка поєднує протоколи безпеки, необхідні для суспільства, без введення драконівських політик, які могли б загальмувати розвиток машинного навчання.

Після того, як принципи були викладені, білль продовжує надавати технічний супровід до питань, які обговорюються, а також детальну інформацію про кожний принцип і кращі способи рухатися вперед для впровадження цих принципів.

Розумні власники бізнесу і підприємства повинні звернути увагу на цей білль, оскільки це може бути тільки вигідно впровадити ці політики якомога скоріше.

Пояснюваний штучний інтелект продовжить домінувати в важливості, як можна побачити з цього цитати з біллю.

“По всьому федеральному уряду агентства проводять і підтримують дослідження пояснюваних систем штучного інтелекту. NIST проводить фундаментальне дослідження пояснюваності систем штучного інтелекту. Міжгалузевий командою дослідників мета полягає у розробці методів вимірювання і кращих практик для впровадження основних засад пояснюваного штучного інтелекту. Університет оборонних досліджень має програму з пояснюваного штучного інтелекту, яка має на меті створити набір технік машинного навчання, які дають більш пояснювані моделі, зберігаючи при цьому високий рівень навчання (точність прогнозування), і дозволяють людям зрозуміти, довіряти і ефективно керувати новим поколінням штучно інтелектуальних партнерів. Програма Національного наукового фонду з справедливості штучного інтелекту також включає конкретний інтерес до дослідницьких основ пояснюваного штучного інтелекту.”

Що не слід забувати, так це те, що в кінцевому підсумку принципи, викладені тут, стануть новим стандартом.