AI-Перший означає Безпека-Перша

Купіть дитині новий велосипед, і велосипед буде привертати всю увагу – не той блискучий шолом, який супроводжує його. Але батьки цінують шолом.

Боюся, що багато з нас сьогодні схожі на дітей, коли справа стосується штучного інтелекту. Ми зосереджені на тому, як це круто і як швидко ми можемо рухатися з ним. Не так вже багато думаємо про те, що ми можемо зробити, щоб залишатися в безпеці, коли використовуємо його. Це прикро, бо ви не можете мати вигоду від одного без іншого.

Просто кажучи, застосування штучного інтелекту без ретельного планування безпеки спочатку не тільки ризиковано. Це прямий шлях до обриву.

Що таке безпека штучного інтелекту?

Безпека штучного інтелекту включає ряд кроків. Але, можливо, найважливіший елемент – коли їх виконувати. Щоб бути ефективним, безпека штучного інтелекту повинна бути за проектом.

Це означає, що ми думаємо про те, як запобігти шкоді, перш ніж ми виходимо на пробну поїздку. Ми виходимо з того, як зробити так, щоб штучний інтелект працював і генерував результати в межах наших цінностей і соціальних очікувань спочатку – не після того, як ми отримуємо жахливі результати.

Проектування безпеки штучного інтелекту також включає в себе думку про те, як зробити його надійним, тобто здатним працювати передбачувано навіть у складних ситуаціях. Це означає зробити штучний інтелект прозорим, щоб рішення, які приймає штучний інтелект, були зрозумілими, перевіреними і необ’єктивними.

Але це також включає в себе огляд світу, в якому штучний інтелект буде функціонувати. Які інституційні та юридичні заходи безпеки нам потрібні, особливо для дотримання чинних урядових регуляцій? І я не можу надміру підкреслити людський компонент: Який вплив використання штучного інтелекту матиме на людей, які взаємодіють з ним?

Безпека за проектом означає вбудовування безпеки штучного інтелекту в усі наші процеси, робочі процеси та операції до того, як ми наберемо перший запит.

Ризики переважують занепокоєння

Не всі погоджуються. Коли вони чують “безпека-першою”, деякі чують “робіть так обережно і повільно, щоб ви були залишені позаду”. Очевидно, що це не те, що означає безпека-першою. Це не повинно гальмувати інновації або сповільнювати час виходу на ринок. І це не означає нескінченний потік пілотних проектів, які ніколи не масштабуються. Навпаки.

Це означає розуміння ризиків не проектування безпеки в штучний інтелект. Розгляньте лише кілька прикладів.

• Центр фінансових послуг Deloitte прогнозує, що Генеративний штучний інтелект може бути відповідальним за втрати через шахрайство в розмірі 40 мільярдів доларів США лише в США до 2027 року, проти 12,3 мільярдів доларів США у 2023 році, тобто 32% темп зростання.
• Упереджені рішення. Відомі випадки упередженого медичного лікування через штучний інтелект, який був навчений на упередженому даних.
• Погані рішення, які надихають на подальші погані рішення. Гірше за первинне погане рішення, спровоковане дефектним штучним інтелектом, дослідження показують, що ці погані рішення можуть стати частиною того, як ми думаємо і приймаємо майбутні рішення.
• Реальні наслідки. Штучний інтелект, який дає погані медичні поради, був відповідальним за смертельні результати для пацієнтів. Юридичні питання виникли через цитування галюцинації штучного інтелекту як юридичної підстави. І програмні помилки, що виникли через те, що штучний інтелект-помічник давав неправильну інформацію, позначили товари компанії та її репутацію і призвели до широкого невдоволення користувачів.

І речі тільки стануть ще цікавішими.

Походження і швидке впровадження агентного штучного інтелекту, штучного інтелекту, який може функціонувати автономно для прийняття рішень на основі рішень, які він прийняв, збільшить важливість проектування безпеки штучного інтелекту.

Агент штучного інтелекту, який може діяти від вашого імені, може бути надзвичайно корисним. Замість того, щоб розповідати вам про найкращі рейси для поїздки, він може знайти їх і забронювати для вас. Якщо ви хочете повернути товар, агент компанії штучного інтелекту може не тільки розповісти вам про політику повернення і як її здійснити, але й обробити весь транзакт для вас.

Відмінно – поки агент не галюцинує рейс або не обробляє вашу фінансову інформацію неправильно. Або не знає політики повернення компанії неправильно і не відмовляє у валідних поверненнях.

Не дуже складно бачити, як теперішні ризики безпеки штучного інтелекту можуть легко каскадувати з великою кількістю агентів штучного інтелекту, які роблять рішення і діють, особливо оскільки вони, ймовірно, не будуть діяти самі. Багато з реальної цінності агентного штучного інтелекту буде походити від команд агентів, де окремі агенти обробляють частини завдань і співпрацюють – агент з агентом – щоб виконувати роботу.

Як ви можете прийняти безпеку штучного інтелекту за проектом без гальмування інновацій і знищення його потенційної цінності?

Безпека за проектом у дії

Ад-хок безпекових перевірок не є відповіддю. Але інтеграція практик безпеки в кожну фазу реалізації штучного інтелекту є.

Почніть з даних. Перевірте, щоб дані були позначені, анотовані, якщо це потрібно, вільні від упередженості і мали високу якість. Це особливо важливо для навчальних даних.

Навчіть свої моделі з допомогою людської обратної зв’язі, оскільки людський суд є необхідним для формування поведінки моделі. Зміцнювальне навчання з людською обратною зв’язю (RLHF) і інші подібні техніки дозволяють анотаторам оцінювати і спрямовувати відповіді, допомагаючи великим мовним моделям генерувати виходи, які є безпечними і узгоджуються з людськими цінностями.

Потім, перед тим як ви випустите модель, протестуйте її. Червоні команди, які намагаються спровокувати небезпечну поведінку за допомогою протилежних запитів, крайових випадків і спроб вирватися з ув’язнення, можуть виявити уразливості. Виправлення їх до того, як вони потраплять до публіки, зберігає все в безпеці до того, як виникне проблема.

Хоча це тестування забезпечує, що ваші моделі штучного інтелекту є надійними, продовжуйте моніторити їх з оглядом на нові загрози і коригування, які можуть бути необхідні для моделей.

У подібному дусі регулярно моніторьте джерела контенту і цифрових взаємодій на ознаки шахрайства. Критично, використовуйте гібридний підхід штучний інтелект-людина, дозволяючи автоматизації штучного інтелекту займатися величезним об’ємом даних для моніторингу, і кваліфікованим людям займатися перевірками для забезпечення дотримання законодавства і точності.

Застосування агентного штучного інтелекту вимагає ще більшої уваги. Основний вимір: навчіть агента знати свої обмеження. Коли він зустрічає невизначеність, етичні дилеми, нові ситуації або особливо високі ставки рішень, забезпечте, щоб він знав, як просити про допомогу.

Також проектуйте прозорість у своїх агентах. Це особливо важливо, щоб їх взаємодія відбувалася лише з перевіреними користувачами, щоб уникнути впливу шахрайських акторів на дії агента.

Якщо вони, здається, працюють ефективно, це може бути спокусою відпустити агентів і дати їм зробити свою справу. Наш досвід говорить про те, щоб продовжувати моніторити їх і завдання, які вони виконують, щоб спостерігати за помилками або непередбачуваною поведінкою. Використовуйте як автоматичні перевірки, так і людську перевірку.

На самом деле, важливий елемент безпеки штучного інтелекту – регулярна людська участь. Люди повинні бути свідомо залучені туди, де критичний суд, емпатія або нюанси і двозначності залучені в рішення або дії.

Знову, щоб бути ясним, ці всі практики – це те, що ви будуєте в реалізації штучного інтелекту заздалегідь, за проектом. Вони не є результатом того, що щось пішло не так, і потім поспішно намагаються вирішити, як мінімізувати ушкодження.

Чи це працює?

Ми застосовуємо філософію безпеки штучного інтелекту “Першою” і рамки “за проектом” з нашими клієнтами протягом появи Генеративного штучного інтелекту і тепер на швидкій дорозі до агентного штучного інтелекту. Ми знаходимо, що, навпаки, побоювань про те, що це сповільнить речі, це насправді допомагає прискорити їх.

Агентний штучний інтелект має потенціал зменшити вартість підтримки клієнтів на 25-50%, наприклад, при одночасному підвищенні задоволеності клієнтів. Але все це залежить від довіри.

Люди, які використовують штучний інтелект, повинні довіряти йому, а клієнти, які взаємодіють з агентами, які підтримуються штучним інтелектом, або з фактичними агентами штучного інтелекту, не повинні відчувати жодної взаємодії, яка б підірвала їхню довіру. Одне погане досвід може знищити довіру до бренду.

Ми не довіряємо тому, що не є безпечним. Тому, коли ми будуємо безпеку в кожному шарі штучного інтелекту, який ми ось-ось випустимо, ми можемо зробити це з впевненістю. І коли ми готові масштабувати його, ми можемо зробити це швидко – з впевненістю.

Хоча здійснення безпеки штучного інтелекту “Першою” у практиці може здатися приголомшливим, ви не самі. Є багато експертів, які можуть допомогти, і партнери, які можуть поділитися тим, що вони дізналися і дізнаються, щоб ви могли скористатися цінністю штучного інтелекту безпечно, не сповільнюючи себе.

Штучний інтелект був цікавою поїздкою досі, і коли поїздка прискорюється, я вважаю це захоплюючим. Але я також радий, що я ношу свій шолом.