Лідери думок
Штучний інтелект і боротьба з технофобією

Ключові моментиДослідження ШІ не можна зупиняти, оскільки це єдина надія людства на управління…
Показати більше
- Дослідження ШІ не можна зупиняти, оскільки це єдина надія людства на управління зростаючою глобальною складністю.
- Найбільша загроза від ШІ — це його здатність обманювати малоосвічених громадян і підривати демократію.
- Системи ШІ повинні реєструватися відповідно до міжнародного права та зобов'язані сповіщати користувачів, коли вони взаємодіють із ШІ.
Коли мова йде про Генеративний Штучний Інтелект і великі мовні моделі, як ChatGPT, ентузіазм щодо штучного інтелекту змішується з технофобією. Це природно для загальної громадськості: їм подобаються нові цікаві речі, але вони бояться невідомого. Нова справа в тому, що кілька відомих вчених стали самі техноскептиками, якщо не технофобами. Прикладом цього можуть бути випадки, коли вчені та промисловці просили шестимісячну заборону на дослідження штучного інтелекту, або скептицизм провідного спеціаліста з штучного інтелекту проф. А. Хінтона. Єдиним історично подібним прикладом, який мені спадає на думку, є критика атомних і ядерних бомб частиною наукової спільноти під час холодної війни. На щастя, людству вдалося задовільно впоратися з цими проблемами.
Звичайно, кожен має право ставити під сумнів сучасний стан справ у сфері штучного інтелекту:
- Ніхто не знає, чому великі мовні моделі працюють так добре і чи мають вони межу.
- Існує чимало небезпек того, що зловмисники створять “бомби штучного інтелекту”, особливо якщо держави залишаться пасивними спостерігачами в питаннях регулювання.
Це законні побоювання, які підігрівають страх перед невідомим, навіть серед відомих вчених. Адже вони самі є людьми.
Але чи можна зупинити дослідження штучного інтелекту, хоча б тимчасово? На мою думку, ні, оскільки штучний інтелект є відповіддю людства на глобальне суспільство і фізичний світ, що постійно зростає у складності. Оскільки процеси зростання фізичної і соціальної складності дуже глибокі і, здавалося б, невпинні, штучний інтелект і освіта громадян є нашою єдиною надією на безпроблемний перехід від сучасного Інформаційного суспільства до Суспільства знань. Інакше ми можемо зіткнутися з катастрофічним внутрішнім суспільним колапсом.
Рішенням є поглиблення нашого розуміння досягнень штучного інтелекту, прискорення його розвитку, регулювання його використання з метою максимізації позитивного впливу, а також мінімізації вже очевидних і прихованих негативних наслідків. Дослідження штучного інтелекту можуть і повинні стати іншими: більш відкритими, демократичними, науковими і етичними. Ось запропонований перелік пунктів для цього:
- Перше слово щодо важливих питань дослідження штучного інтелекту, які мають далекосяжний соціальний вплив, повинно бути делеговано обраним парламентам і урядам, а не корпораціям або окремим вченим.
- Усі зусилля мають бути спрямовані на полегшення дослідження позитивних аспектів штучного інтелекту в соціальному і фінансовому прогресі та мінімізацію його негативних аспектів.
- Позитивний вплив систем штучного інтелекту може значно переважити їх негативні аспекти, якщо будуть прийняті належні регуляторні заходи. Технофобія не виправдана і не є розв’язанням.
- На мою думку, найбільша поточна загроза походить від того, що такі системи штучного інтелекту можуть дистанційно обманути багатьох звичайних людей, які мають низький або середній рівень освіти і/або обмежену здатність самостійно перевіряти інформацію. Це може бути дуже небезпечно для демократії і будь-якої форми соціально-економічного прогресу.
- У найближчому майбутньому нам слід протидіяти великій загрозі, що походить від використання великих мовних моделей і/або CAN у незаконній діяльності (обман у університетських іспитах є досить безневинним застосуванням у порівнянні з іншими можливостями).
- Їхній вплив на працю і ринки буде дуже позитивним у середньостроковій і довгостроковій перспективі.
- У світлі вищезазначеного системи штучного інтелекту повинні: а) реєструватися в реєстрі систем штучного інтелекту згідно з міжнародним законом, і б) повідомляти своїх користувачів про те, що вони спілкуються із системою штучного інтелекту або використовують її результати.
- Оскільки системи штучного інтелекту мають великий соціальний вплив, і для максимізації вигоди та соціально-економічного прогресу, передові ключові технології систем штучного інтелекту повинні стати відкритими.
- Дані, пов’язані з штучним інтелектом, повинні бути (хоча б частково) демократизовані, знову ж таки для максимізації вигоди та соціально-економічного прогресу.
- Потрібно передбачити належні фінансові компенсаційні схеми для провідних розробників технологій штучного інтелекту, щоб компенсувати будь-які втрати прибутку через вищезазначену відкритість і забезпечити сильні майбутні інвестиції в дослідження та розвиток штучного інтелекту (наприклад, через патентування технологій, обов’язкові ліцензійні схеми).
- Баланс досліджень штучного інтелекту між академічними колами і промисловістю повинен бути переосмислений для максимізації результатів досліджень, збереження конкурентоспроможності та забезпечення винагород за прийняті ризики щодо досліджень і розробок.
- Практики освіти повинні бути переглянуті на всіх рівнях освіти для максимізації вигоди від технологій штучного інтелекту, а також для створення нового типу творчих і адаптивних громадян та вчених.
- Потрібно створити і посилити належні регуляторні, наглядові та фінансові механізми для забезпечення вищезазначеного.
Деякі з цих пунктів розглянуті детально в моїй недавній 4-томній книзі про «Науку штучного інтелекту та суспільство», особливо в томах А (переписаному у травні 2023 року для охоплення великих мовних моделей і загального штучного інтелекту) і С.
Посилання на книги:
Штучний інтелект, наука і суспільство. Частина С: Наука штучного інтелекту та суспільство












