Чи є штучний інтелект загрозою існування?

Коли мова йде про штучний інтелект (ШІ), поширеним є дискусія про те, чи є ШІ загрозою існування. Відповідь вимагає розуміння технології машинного навчання (МН) та визнання того, що люди мають тенденцію антропоморфізувати. Ми дослідимо два різні типи ШІ: штучний вузький інтелект (ШВІ), який зараз доступний і викликає занепокоєння, та загрозу, найбільш часто пов’язану з апокаліптичними уявленнями про ШІ, тобто штучний загальний інтелект (ШЗІ).

Загрози штучного вузького інтелекту

Щоб зрозуміти, що таке ШВІ, достатньо зрозуміти, що кожна окрема програма ШІ, яка зараз доступна, є формою ШВІ. Це галузі ШІ, які мають вузьку спеціалізацію, наприклад, автономні транспортні засоби використовують ШІ, який розроблений з єдиною метою рухатися від точки А до точки Б. Інший тип ШВІ може бути програмою гри в шахи, яка оптимізована для гри в шахи, і навіть якщо програма гри в шахи безперервно покращується за допомогою підкріплення навчання, вона ніколи не зможе керувати автономним транспортним засобом.

З його увагою на будь-яку операцію, за яку він відповідає, системи ШВІ не здатні використовувати узагальнене навчання, щоб захопити світ. Це хороша новина; погана новина полягає в тому, що завдяки його залежності від людського оператора система ШІ вразлива до упередженого даних, людської помилки або навіть гіршого, злого людського оператора.

Надзір ШІ

Може бути, що немає більшої небезпеки для людства, ніж використання людьми ШІ для вторгнення в приватне життя, а в деяких випадках використання ШІ-надзору для повного запобігання людям рухатися вільно. Китай, Росія та інші країни прийняли законодавство під час COVID-19, щоб дозволити їм контролювати та керувати рухом населення. Це закони, які, як тільки вони прийняті, важко скасувати, особливо в суспільствах з автократичними лідерами.

У Китаї камери встановлені зовні будинків людей, а в деяких випадках всередині будинку. Кожного разу, коли член домогосподарства виходить, ШІ контролює час прибуття та від’їзду, і якщо необхідно, повідомляє влади. Якби цього було недостатньо, за допомогою технології розпізнавання облич, Китай може відстежувати рух кожної людини кожен раз, коли вона ідентифікується камерою. Це надає абсолютну владу сутності, яка контролює ШІ, і абсолютно жодних засобів захисту для громадян.

Чому ця ситуація небезпечна, полягає в тому, що корумповані уряди можуть ретельно контролювати рух журналістів, політичних опонентів або будь-кого, хто осмілюється поставити під сумнів владу уряду. Легко зрозуміти, чому журналісти та громадяни будуть обережні у критиці урядів, коли кожен їхній рух контролюється.

Є багато міст, які борються за запобігання проникненню розпізнавання облич у свої міста. Зокрема, Портленд, Орегон недавно прийняв закон, який забороняє використання розпізнавання облич у місті без необхідності. Хоча ці зміни в законодавстві можуть пройти непоміченими для загальної громадськості, у майбутньому ці регуляції можуть стати різницею між містами, які пропонують певну автономію та свободу, і містами, які відчуваються як тиск.

Автономна зброя та безпілотники

Більше 4500 дослідників ШІ закликають до заборони автономної зброї та створили веб-сайт “Заборона летальної автономної зброї”. Група має багато відомих некомерційних організацій серед підписантів, таких як Human Rights Watch, Amnesty International та Інститут майбутнього життя, який сам має видатну наукову консультативну раду, до складу якої входять Ілон Маск, Нік Бостром та Стюарт Рассел.

Перед тим, як продовжити, я поділюся цитатою з Інституту майбутнього життя, яка найкраще пояснює, чому є явна причина для занепокоєння: “На відміну від напівавтономної зброї, яка потребує людського нагляду, щоб забезпечити, що кожна ціль підтверджена як етично та юридично легітимна, такі повністю автономні зброї вибирають та атакують цілі без людського втручання, представляючи повну автоматизацію летальної шкоди.”

Зараз розумні бомби розгортаються з ціллю, вибраною людиною, а бомба потім використовує ШІ для розрахунку курсу та приземлення на цілі. Проблема полягає в тому, що відбувається, коли ми вирішимо повністю усунути людину з рівняції?

Коли ШІ вибирає, яких людей потрібно атакувати, а також який тип колатерального ушкодження вважається прийнятним, ми можемо перетнути точку неповернення. Це причина, чому так багато дослідників ШІ проти дослідження автономної зброї.

Є кілька проблем з тим, щоб просто заборонити дослідження автономної зброї. Перша проблема полягає в тому, що навіть якщо розвинені країни, такі як Канада, США та більшість Європи, погодяться на заборону, це не означає, що країни-ренегати, такі як Китай, Північна Корея, Іран та Росія, будуть дотримуватися заборони. Друга й більша проблема полягає в тому, що дослідження ШІ та застосування, розроблені для використання в одному полі, можуть бути використані в абсолютно іншому полі.

Наприклад, комп’ютерне бачення безперервно покращується та є важливим для розробки автономних транспортних засобів, точної медицини та інших важливих випадків використання. Воно також фундаментально важливе для звичайних безпілотників або безпілотників, які можуть бути модифіковані для перетворення на автономні. Один із потенційних випадків використання передової технології безпілотників полягає в розробці безпілотників, які можуть моніторити та боротися з лісовими пожежами. Це повністю усуне пожежників від шкоди. Щоб зробити це, потрібно побудувати безпілотники, які можуть літати в зону шкоди, орієнтуватися в умовах низької або нульової видимості та скидати воду з недопустимою точністю. Це не далекосяжна ідея використовувати цю саму технологію в автономному безпілотнику, розробленому для вибіркової атаки людей.

Це небезпечна дилемма, і на даний момент ніхто не повністю розуміє наслідків розвитку або спроб блокування розвитку автономної зброї. Це все ж щось, за чим нам потрібно стежити, підвищуючи захист свідків.

Поза оператором-ренегатом, що відбувається, якщо упередженість ШІ проникає в технологію ШІ, розроблену як автономна зброя?

Упередженість ШІ

Однією з найменш повідомлених загроз ШІ є упередженість ШІ. Це просто зрозуміти, оскільки більшість з них є ненавмисними. Упередженість ШІ проникає, коли ШІ переглядає дані, надані людьми, використовуючи розпізнавання закономірностей з даних, які були надані ШІ, ШІ неправильно приймає висновки, які можуть мати негативні наслідки для суспільства. Наприклад, ШІ, якому надано літературу з минулого століття про те, як ідентифікувати медичний персонал, може прийти до нежаданого сексистського висновку, що жінки завжди медсестри, а чоловіки завжди лікарі.

Більш небезпечний сценарій полягає в тому, коли ШІ, який використовується для засудження засуджених злочинців, упереджений щодо надання довших термінів ув’язнення меншинам. Алгоритми оцінки кримінального ризику ШІ просто вивчають закономірності в даних, які були надані системі. Ці дані вказують на те, що історично певні меншини більш ймовірно повторно вчинять злочин, навіть якщо це відбувається через погані набори даних, які можуть бути під впливом поліцейського расового профайлінгу. Упереджений ШІ потім посилює негативні людські політики. Це причина, чому ШІ повинен бути орієнтиром, ніколи не суддею та присяжним.

Повертаючись до автономної зброї, якщо у нас є ШІ, який упереджений проти певних етнічних груп, він може вибрати атаку певних осіб на основі упередженого даних, і він може піти так далеко, що забезпечить, щоб будь-який тип колатерального ушкодження вплинув на певні демографічні групи менше, ніж інші. Наприклад, коли атака на терориста, до атаки він може чекати, поки терорист не буде оточений людьми, які сповідують ісламську віру, а не християн.

На щастя, було доведено, що ШІ, розроблений різноманітними командами, менше схильний до упередженості. Це достатня причина для того, щоб підприємства намагалися, коли це можливо, найняти різноманітну та всебічно розвинену команду.

Загрози штучного загального інтелекту

Повинно бути зазначено, що хоча ШІ розвивається експоненціально, ми ще не досягли ШЗІ. Коли ми досягнемо ШЗІ, дискутується, і кожен має不同的 відповідь на часову шкалу. Я особисто підтримую погляди Рея Курцвейла, винахідника, футуролога та автора книги “Сингулярність вже близько”, який вважає, що ми досягнемо ШЗІ до 2029 року.

ШЗІ буде найбільш трансформаційною технологією у світі. Усього за кілька тижнів після того, як ШІ досягне рівня людського інтелекту, він потім досягне суперінтелекту, який визначається як інтелект, що значно перевершує людський.

З цим рівнем інтелекту ШЗІ може швидко поглинути всі людські знання та використовувати розпізнавання закономірностей для визначення біомаркерів, які викликають проблеми зі здоров’ям, а потім лікувати ці захворювання, використовуючи наукові дані. Він може створити наноботи, які входять в кровотік для націлювання на ракові клітини або інші атакувальні вектори. Список досягнень, яких здатний ШЗІ, є нескінченним. Ми раніше дослідили деякі переваги ШЗІ.

Проблема полягає в тому, що люди можуть більше не бути здатні контролювати ШІ. Ілон Маск описує це так: “З штучним інтелектом ми викликаємо демона”. Чи зможемо ми контролювати цього демона, це питання?

Досягнення ШЗІ може бути просто неможливим, поки ШІ не покине режим симуляції та не почне真正ньо взаємодіяти з нашим відкритим світом. Самосвідомість не може бути розроблена, натомість вважається, що емергентна свідомість ймовірно розвинеться, коли ШІ матиме роботизоване тіло з декількома входами. Ці входи можуть включати тактильну стимуляцію, розпізнавання голосу з покращеним природним розумінням мови та розширеним комп’ютерним зором.

Розроблений ШІ може бути запрограмований з альтруїстичними мотивами та бажанням врятувати планету. На щастя, ШІ може використовувати наукові дані або навіть дерево рішень, щоб прийти до нежаданої помилкової логіки, наприклад, оцінки того, що необхідно стерилізувати людей або ліквідувати частину населення, щоб контролювати надмірну народженість.

Розробці ШІ з інтелектом, який значно перевершує людський, потрібно ретельне та обдумане дослідження. Було багато кошмарних сценаріїв, які були досліджені.

Професор Нік Бостром у аргументі про максимізатор паперу стверджував, що неправильно сконфігурований ШЗІ, якщо його інструктується виробляти папірні скріпки, просто споживає всі ресурси Землі для виробництва цих папірних скріпок. Хоча це здається трохи далекосяжним, більш прагматичний погляд полягає в тому, що ШЗІ може бути контрольований державою-ренегатом або корпорацією з поганою етикою. Ця сутність може тренувати ШЗІ для максимізації прибутку, і в цьому випадку з поганим програмуванням та нульовим раскаянням він може вибрати банкрутство конкурентів, знищення ланцюгів постачання, хакерську атаку на ринок цінних паперів, ліквідацію банківських рахунків або атаку на політичних опонентів.

Це момент, коли нам потрібно пам’ятати, що люди схильні антропоморфізувати. Ми не можемо надати ШІ людські емоції, бажання чи бажання. Хоча є діаболічні люди, які вбивають заради задоволення, немає причини вважати, що ШІ буде схильний до цього типу поведінки. Неможливо для людей навіть уявити, як ШІ сприйматиме світ.

Натомість нам потрібно навчити ШІ завжди бути поважним до людини. ШІ повинен завжди мати людину, яка підтверджує будь-які зміни в налаштуваннях, і повинна бути механізм безпеки. Знову ж таки, було стверджено, що ШІ просто реплікується в хмарі, і до того часу, як ми усвідомимо, що він самосвідомий, може бути вже пізно.

Це причина, чому так важливо зробити відкритим джерелом якомога більше ШІ та провести раціональні дискусії щодо цих питань.

Загалом

Є багато викликів для ШІ, на щастя, у нас ще є багато років, щоб колективно вирішити майбутній шлях, яким ми хочемо, щоб ШЗІ пішов. Ми повинні у короткостроковій перспективі зосередитися на створенні різноманітної робочої сили ШІ, яка включає стільки ж жінок, скільки чоловіків, і стільки ж етнічних груп з різноманітними точками зору, скільки можливо.

Ми також повинні створити захист свідків для дослідників, які працюють над ШІ, і повинні прийняти закони та регуляції, які запобігають широкому зловживанню державним або корпоративним наглядом. Люди мають єдину в житті можливість покращити людську ситуацію з допомогою ШІ, нам просто потрібно забезпечити, щоб ми ретельно створили соціальну основу, яка найкраще дозволяє позитиви, одночасно пом’якшуючи негативи, які включають загрози існування.