Штучна інтелект і дуга довіри

На початку минулого року, коли наша команда робила прогнози про те, що буде далі, єдиний висновок був такий: штучний інтелект (ШІ) стане доступнішим. Ми нарешті побачимо, що він може зробити, і, можливо, отримаємо ясність щодо його впливу на бізнес і суспільство, а також щодо того, як продовжувати. Це не був новий прогноз, але його основа була точною, хоча ми все ще боремося з наслідками ШІ і тим, як (або чи) його контролювати якимсь чином.

Ми побачили, як Apple, Microsoft і Google інтегрували ШІ у свої пристрої і зробили його доступнішим для більшої аудиторії. Потім знову один чат-бот у пошуковому інструменті, підтримуваному ШІ, загрожував користувачам і стверджував, що шпигує за співробітниками, тоді як інший пропонував використовувати клей Ельмера для домашньої піци, щоб сир не слизнув. Тим не менше, випадки застосування ШІ в бізнесі зростали драматично, а також ринок. За даними Crunchbase, майже третина всіх глобальнихventure-фондів минулого року пішла на компанії, пов’язані з ШІ.

Але навіть тоді, коли OpenAI демонструвала真正у покращену здатність розуміння, відомий дослідник ШІ Йошуа Бенджіо закликав до впровадження заходів безпеки для ” фронтових моделей” з потенціалом заподіяння катастрофічної шкоди. І хоча технологія отримала дві Нобелівські премії за застосування в науці, один з лауреатів висловив побоювання щодо систем “більш інтелектуальних, ніж ми, які в кінцевому підсумку беруть контроль”.

У такому швидкозмінному середовищі важко навіть фахівцям-технологам слідкувати, не кажучи вже про тих, хто не належить до цієї галузі.

І такі спотикання ШІ – і побоювання щодо приватності та неконтрольованого використання – тільки посилили публічну обережність.

Просто довірся мені

Ми знаходимося посередині дуги довіри, яка вимагає зростання публічної довіри до ШІ, а також забезпечення відповідальності бізнесу та технологічної спільноти. Перша частина відбувається зараз, на корпоративному рівні, і набирає обертів з кожним безпечним і надійним розгортанням. Ми будуємо на наших доказах, які в кінцевому підсумку приведуть до зростання публічної довіри. Друга частина, однак, набагато складніша.

Хто визначає і забезпечує відповідальне використання ШІ? Чи може галузь створити керівні принципи, якщо вони самі потребують регулювання? Якщо технологи мають труднощі з слідуванням за ШІ, чи будуть політики поінформовані, і чи зможуть вони тримати свої політичні програми поза обговоренням? І якщо мільярдер ШІ раптом хоче говорити про контроль, чи мав він прозріння, чи просто намагається гальмувати, щоб наздогнати?

“Просто довірся мені” не спрацює з ШІ, незалежно від того, хто ви є.

Довірся, але перевіри

Люди дивляться на генераційний ШІ, такий як ChatGPT, і задаються питанням, чи це буде їхнім наступним Google? Ну, верхній результат пошуку Google тепер створюється його моделлю ШІ Gemini. Проблема полягає в тому, що ви не можете покладатися на нього в бізнесі у великому масштабі, коли просте питання, наприклад “Чи безпечно вживати сире м’ясо?”, повертає відповідь “Так, заморожене”. Вам потрібно перевірити дані.

Дуга публічної довіри буде дзеркальним відображенням того, що відбулося з традиційним пошуком, здобутим упродовж часу і завдяки доведенню надійності. Іронічно, у нашому прагненні спростити і покращити пошук ми зробили крок назад. Тепер, після отримання відповіді, сгенерованої ШІ, вам потрібно прокрутити довгий список спонсорських посилань, натиснути на наступні п’ять і все одно кваліфікувати інформацію.

Це багато роботи, коли ви шукаєте швидку відповідь, і ви не можете мати всю компанію, яка робить те саме. Однак, якщо ви збагатите дані, які ви видобували, десятками тисяч власних сервісних квитків, ви принесете справжні знання про ваше середовище. Алгоритмічно ви можете тоді налаштувати галюцинації вниз, але все одно залишається ситуацією “довірся, але перевіри”.

Тримайте політику поза цим

Коли мова йде про регулювання ШІ, деякі ставлять питання, чи не вийшов уже кінь з стайні і чи можна його зупинити. Наприклад, немає真正их ефективних інструментів для перевірки, чи написав студент роботу самостійно чи використав GenAI. Технологія просто надто далеко пішла.

Регулювання цього було б дуже складним, і, якщо бути чесним, ми вже находимося на тонкому льоду. Ми знаємо, що технологічні компанії випереджають зовнішніх регуляторів на десятиліття. Але ми хороші у створенні шляху, а не у тому, щоб бути зупиненими. Тим не менше, в кінцевому підсумку може виявитися, що інноваторам потрібно спробувати застосувати управління. Хто ще міг би це зробити – відповідально?

Є багато політиків, які хотіли б спробувати зробити це. Ризик, крім відсутності розуміння, полягає в тому, що вони мають особисту і політичну програму, яку вони хочуть просувати. Їхня увага, потенційно, буде менше зосереджена на культивуванні ШІ і більше на тому, щоб зробити те, що відповідає їхнім політичним інтересам. Вони можуть працювати над публічними страхами, використовуючи жорстку руку для гальмування його прогресу.

Закон CHIPS і Science Act був хорошим прикладом здорової державної діяльності, який призвів до драматичного 15-разового зростання будівництва виробничих підприємств для обчислювальної техніки та електронних пристроїв. Але це стало можливим завдяки двопартійності – усе частіше реліктом минулого.

Чи ми гідні?

Є багато грошей, які вкладаються в ШІ, і упродовж наступних двох десятиліть багато буде зроблено технологічними компаніями. Як багато, як швидко і як безпечно залишається невідомим. У будь-який день може бути поширено глибоке фейкове відео, яке показує когось на вершині, який жонглює яйцями зниклого виду птахів. Публіка буде реагувати з жахом, і хоча це може бути виявлено як створене ШІ, це яйце не повернеться у шкаралупу – шкода вже завдана.

Нам потрібно, щоб такі речі регулювалися поінформованими технологами. Яка форма цього залишається невідомою – рада, стандартизована організація, міжнародна структура. Що відомо, так це те, що ШІ знаходиться на дузі довіри, і як галузь, нам потрібно довести, що ми гідні цього.