Чи захоплює штучний інтелект світ? Він вже це зробив

У 2019 році мене охопила одна бачення — майбутнє, де штучний інтелект (ШІ), що прискорюється неймовірною швидкістю, вплететься у кожен аспект нашого життя. Після прочитання книги Рея Курцвейла «Технологічна сингулярність вже близько» я був захоплений незмінною траєкторією експоненціального зростання. Майбутнє не було просто на горизонті; воно мчало до нас. Стало ясно, що з безупинним подвоюванням обчислювальної потужності ШІ одного дня перевершить усі людські можливості та, врешті-решт, змінить суспільство способами, які раніше були віддані науковій фантастиці.

Підштовхнутий цією реалізацією, я зареєстрував Unite.ai, відчуваючи, що ці наступні стрибки у технології ШІ не просто покращать світ, а фундаментально переозначать його. Кожен аспект життя — нашу роботу, наші рішення, наші самі визначення інтелекту та автономії — буде торкнутися, можливо, навіть домінувати ШІ. Питання вже не було чи це перетворення відбудеться, а радше коли, і як людство впорається з його безпрецедентним впливом.

Як я глибше занурювався, майбутнє, намальоване експоненціальним зростанням, здавалося і захоплюючим, і неминучим. Це зростання,示нальоване законом Мура, незабаром поштовхне штучний інтелект за межі вузьких, задачно-специфічних ролей до чогось набагато глибшого: появи штучного загального інтелекту (ШЗІ). На відміну від сучасного ШІ, який excels у вузьких завданнях, ШЗІ буде володіти гнучкістю, можливістю навчання та когнітивним діапазоном, подібним до людського інтелекту —能够 зрозуміти, виснувати висновки та адаптуватися у будь-якій області.

Кожен стрибок у обчислювальній потужності приносить нас ближче до ШЗІ, інтелекту, здатного розв’язувати проблеми, генерувати творчі ідеї та навіть приймати етичні судження. Він не просто виконуватиме розрахунки або розбиратиме великі набори даних; він розпізнаватиме закономірності способами, недоступними для людей, сприйматиме взаємозв’язки у складних системах та вибудовуватиме майбутню траєкторію на основі розуміння, а не програмування. ШЗІ міг би одного дня служити копілотом людства, розв’язуючи кризи, такі як зміна клімату, хвороби та нестача ресурсів, з проникливістю та швидкістю, які перевершують наші можливості.

Все ж це бачення супроводжується значними ризиками, особливо якщо ШІ потрапить під контроль осіб з лихими намірами — або гірше, диктатора. Шлях до ШЗІ піднімає критичні питання про контроль, етику та майбутнє людства. Дебати вже не про те, чи з’явиться ШЗІ, а коли — і як ми впораємося з величезною відповідальністю, яку він приносить.

Еволюція ШІ та обчислювальної потужності: 1956-наш час

Від свого початку в середині 20-го століття ШІ просунувся поряд з експоненціальним зростанням обчислювальної потужності. Ця еволюція узгоджується з фундаментальними законами, такими як закон Мура, який передбачав і підкреслив зростаючі можливості комп’ютерів. Тут ми досліджуємо ключові віхі в подорожі ШІ, розглядаючи його технологічні прориви та зростаючий вплив на світ.

1956 — Народження ШІ

Подорож почалася в 1956 році, коли конференція в Дартмуті позначила офіційне народження ШІ. Дослідники, такі як Джон Маккарті, Марвін Мінський, Натаніель Рочестер та Клод Шеннон, зібралися, щоб обговорити, як машини можуть імітувати людський інтелект. Хоча обчислювальні ресурси на той час були примітивними, здатними лише до простих завдань, ця конференція заклала основу для десятиліть інновацій.

1965 — Закон Мура та світанок експоненціального зростання

У 1965 році Гордон Мур, співзасновник Intel, зробив передбачення, що обчислювальна потужність подвоюватиметься приблизно кожні два роки — принцип, тепер відомий як закон Мура. Це експоненціальне зростання зробило можливим виконання все більш складних завдань ШІ, дозволяючи машинам розширити межі того, що раніше було можливим.

1980-ті — Зліт машинного навчання

1980-ті роки принесли значний прогрес у машинному навчанні, що дозволило системам ШІ навчатися та приймати рішення на основі даних. Винахід алгоритму передачі назад у 1986 році дозволив нейронним мережам покращуватися, навчаючись на помилках. Ці досягнення перемістили ШІ від академічних досліджень до розв’язання реальних проблем, піднімаючи етичні та практичні питання про людський контроль над усе більш автономними системами.

1990-ті — ШІ перемагає в шахах

У 1997 році Deep Blue від IBM переміг чемпіона світу з шахів Гаррі Каспарова в повному матчі, позначивши значну віху. Це був перший випадок, коли комп’ютер продемонстрував перевагу над людським гросмейстером, демонструючи здатність ШІ до стратегічного мислення та закріплюючи його місце як потужного обчислювального інструменту.

2000-ні — Ера великих даних, GPU та відродження ШІ

2000-ні роки ознаменувалися появою великих даних та графічних процесорів (GPU), революціонізуючи ШІ, що дозволило алгоритмам навчатися на величезних наборах даних. GPU, спочатку розроблені для відтворення графіки, стали важливими для прискорення обробки даних та просування глибокого навчання. Цей період побачив розширення ШІ у застосування, такі як розпізнавання зображень та обробка природної мови, перетворюючи його на практичний інструмент, здатний імітувати людський інтелект.

2010-ті — Хмара, глибоке навчання та перемога в го

З появою хмарних обчислень та проривів у глибокому навчанні ШІ досягнув небувалих висот. Платформи, такі як Amazon Web Services та Google Cloud, демократизували доступ до потужних обчислювальних ресурсів, дозволяючи меншим організаціям використовувати можливості ШІ.

2020-ті — Демократизація ШІ, великомасштабні мовні моделі та Dota 2

2020-ті роки побачили ШІ, ставший більш доступним та потужним, ніж будь-коли. Моделі, такі як GPT-3 та GPT-4, демонструють здатність ШІ обробляти та генерувати текст, подібний до людського. Водночас інновації в автономних системах штовхнули ШІ до нових доменів, включаючи охорону здоров’я, виробництво та прийняття рішень в режимі реального часу.

Чи захоплює ШІ світ?

Питання про те, чи захоплює ШІ «світ», не є чисто гіпотетичним. ШІ вже інтегрувався у різні аспекти життя, від віртуальних асистентів до прогностичної аналітики в охороні здоров’я та фінансах, і сфера його впливу продовжує зростати. Все ж «захоплення» може означати різні речі, залежно від того, як ми інтерпретуємо контроль, автономію та вплив.

Прихований вплив рекомендаційних систем

Одним з найпотужніших способів, яким ШІ підпорядковує нашу життя, є рекомендаційні двигуни на платформах, таких як YouTube, Facebook та X. Ці алгоритми, що працюють на системах ШІ, аналізують уподобання та поведінку, щоб служити контентом, який тісно відповідає нашим інтересам. На поверхні це може здатися корисним, пропонуючи персоналізований досвід. Однак ці алгоритми не просто реагують на наші уподобання; вони активно формують їх, впливаючи на те, у що ми віримо, як ми відчуваємо, і навіть на те, як ми сприймаємо світ навколо нас.

• ШІ YouTube: ця система рекомендацій тягне користувачів на години контенту, пропонуючи відео, які відповідають їхнім інтересам. Але оскільки вона оптимізується для участі, вона часто веде користувачів по шляхах радикалізації або до сенсаційних контентів, посилюючи упередження та іноді пропагуючи теорії змови.
• Алгоритми соціальних мереж: сайти, такі як Facebook, Instagram та X, ставлять у пріоритет емоційно заряджений контент, щоб стимулювати участь, що може створити еко-камери. Ці бульбашки посилюють упередження користувачів і обмежують їхній доступ до протилежних поглядів, ведучи до поляризованих спільнот та спотвореного сприйняття реальності.
• Контент-стрічки та агрегатори новин: платформи, такі як Google News та інші агрегатори, персоналізують новини, які ми бачимо, на основі попередніх взаємодій, створюючи спотворену версію поточних подій, яка може запобігти користувачам доступу до різноманітних поглядів, ще більше ізолюючи їх у ідеологічних бульбашках.

Цей прихований контроль не тільки про метрики участі; він також може суттєво вплинути на сприйняття громадськості і навіть вплинути на критичні рішення — такі, як те, як люди голосують на виборах. Через стратегічні рекомендації контенту ШІ має силу впливати на громадську думку, формуючи політичні нарративи та впливаючи на виборчу поведінку. Це має значні наслідки, як видно з виборів по всьому світу, де ехо-камери та націлена дезінформація були показані як вплив на результати виборів.

Це пояснює, чому обговорення політики або соціальних питань часто веде до недовіри, коли перспектива іншої людини здається зовсім іншою, сформованою та посиленою потоком дезінформації, пропаганди та брехні.

Рекомендаційні двигуни суттєво формують світогляд суспільства, особливо якщо врахувати той факт, що дезінформація з 6 разів більша, ніж фактична інформація. Легкий інтерес до теорії змови може привести до того, що весь ваш YouTube чи X-потік буде домінувати фабрикаціями, потенційно керованою наміреним маніпулюванням або, як зазначено раніше, комп’ютерною пропагандою.

Комп’ютерна пропаганда відноситься до використання автоматизованих систем, алгоритмів та даних для маніпулювання громадською думкою та впливу на політичні результати. Це часто включає розгортання ботів, фальшивих облікових записів або алгоритмічної посилення, щоб поширити дезінформацію, дезінформацію чи розділовий контент на соціальних платформах. Метою є формування нарративів, посилення конкретних точок зору та експлуатація емоційних реакцій, щоб вплинути на громадську думку або поведінку, часто у великомасштабному та точно націленому цілі.

Це тип пропаганди пояснює, чому виборці часто голосують проти своїх власних інтересів, голоси підштовхуються цією комп’ютерною пропагандою.

“Сміття у вході, сміття на виході” (GIGO) у машинному навчанні означає, що якість виходу залежить повністю від якості вхідних даних. Якщо модель навчена на дефектних, упереджених або низькоякісних даних, вона буде виробляти ненадійні або неточні результати, незалежно від того, наскільки складний алгоритм.

Ця концепція також застосовується до людей у контексті комп’ютерної пропаганди. Як і дефектні дані можуть зіпсувати модель ШІ, постійне піддавання дезінформації, упередженому нарративу чи емоційно зарядженому, але фальшивому контенту може спотворити людське сприйняття та прийняття рішень. Коли люди споживають «сміття» в Інтернеті — дезінформацію, дезінформацію чи емоційно заряджений, але фальшивий нарратив — вони, ймовірно, утворять висновки, прийматимуть рішення та діятимуть на основі спотвореної реальності.

У обох випадках система (чи то алгоритм, чи людський розум) обробляє те, що їй подають, і дефектний вхід веде до дефектних висновків.

Автоматизація та зміщення зайнятості

ШІ-підтримувана автоматизація змінює весь ландшафт праці. По всьому виробництву, обслуговуванню клієнтів, логістиці та навіть творчих галузях автоматизація стимулює глибокий зсув у тому, як робота виконується — і, у багатьох випадках, хто її виконує. Ефективність та економія коштів від ШІ-підтримуваних систем явно привабливі для бізнесу, але це швидке впровадження піднімає критичні економічні та соціальні питання про майбутнє праці та потенційний удар по працівникам.

У виробництві

У виробництві роботи та ШІ-системи обробляють виробничі лінії, контроль якості та навіть складні завдання розв’язування проблем, які раніше вимагали людського втручання. Традиційні ролі, від операторів заводів до спеціалістів з контролю якості, скорочуються, оскільки машини обробляють повторювані завдання з швидкістю, точністю та мінімальними помилками. У високоавтоматизованих об’єктах ШІ може навчатися розпізнавати дефекти, визначати області для покращення та навіть передбачати потреби у обслуговуванні до того, як виникнуть проблеми. Хоча це призводить до збільшення виходу та прибутку, воно також означає менше початкових робочих місць, особливо в регіонах, де виробництво традиційно забезпечувало стабільну зайнятість.

Ролі обслуговування клієнтів також переживають подібну трансформацію. ШІ-чатботи, системи розпізнавання голосу та автоматизовані рішення підтримки клієнтів скорочують потребу у великих центрах обслуговування клієнтів, зайнятих людськими агентами. Сучасний ШІ може обробляти запити, вирішувати проблеми та навіть обробляти скарги, часто швидше, ніж людський представник. Ці системи не тільки економічні, але також доступні 24/7, що робить їх привабливим вибором для бізнесу. Однак для працівників це означає зменшення можливостей у одному з найбільших секторів зайнятості, особливо для осіб без спеціальних технічних навичок.

Креативні галузі, довго вважаються унікальними людськими доменами, тепер також відчувають вплив ШІ-автоматизації. Генеративні моделі ШІ можуть виробляти текст, мистецтво, музику та навіть проектувати макети, скорочуючи попит на людських письменників, дизайнерів та художників. Хоча ШІ-генерований контент та медіа часто використовуються для доповнення людської творчості, а не заміни її, лінія між посиленням та заміною стирається. Завдання, які раніше вимагали творчих експертиз, такі як складання музики чи написання маркетингового тексту, тепер можуть бути виконані ШІ з вражаючою складністю. Це призвело до переоцінки цінності, яку ми ставимо на творчу роботу, та її ринкової вартості.

Вплив на прийняття рішень

Системи ШІ швидко стають невід’ємними у процесах прийняття рішень високого рівня по різних секторах, від юридичних вироків до медицинських діагнозів. Ці системи, часто використовуючи великі набори даних та складні алгоритми, можуть пропонувати ідеї, прогнози та рекомендації, які суттєво впливають на окремих осіб та суспільство. Хоча здатність ШІ аналізувати дані у великому масштабі та виявляти приховані закономірності може суттєво покращити прийняття рішень, вона також вводить глибокі етичні проблеми щодо прозорості, упередженості, відповідальності та людського нагляду.

ШІ у юридичних вироках та правоохоронній діяльності

У системі правосуддя інструменти ШІ зараз використовуються для оцінки рекомендацій щодо вироків, прогнозування показників рецидивізму та навіть допомоги у рішеннях щодо звільнення під заставу. Ці системи аналізують історичні дані справ, демографічні дані та поведінкові закономірності, щоб визначити ймовірність рецидивізму, фактор, який впливає на судові рішення щодо вироків та умовно-дострокового звільнення. Однак ШІ-спрямоване правосуддя піднімає серйозні етичні виклики:

• Упередженість та справедливість: Моделі ШІ, навчені на історичних даних, можуть успадкувати упередженість, присутню в тих даних, що призводить до несправедливого поводження з певними групами. Наприклад, якщо набір даних відображає вищу частоту арештів для певних демографічних груп, ШІ може несправедливо асоціювати ці характеристики з вищим ризиком, підтримуючи системні упередженості всередині правової системи.
• Брак прозорості: Алгоритми в правоохоронній діяльності та вироках часто працюють як “чорні скриньки“, що означає, що їхні процеси прийняття рішень не легко інтерпретуються людьми. Ця не透кистість ускладнює спроби утримувати ці системи під контролем, роблячи складним зрозуміти або поставити під сумнів раціонал за конкретними рішеннями ШІ.
• Вплив на людську агентність: Рекомендації ШІ, особливо в контекстах високого рівня, можуть впливати на суддів чи комісії з умовно-дострокового звільнення, щоб слідувати рекомендаціям ШІ без ретельного розгляду, непредумірно скорочуючи людське судження до вторинної ролі. Цей зсув піднімає питання про надмірну залежність від ШІ у питаннях, які безпосередньо впливають на людську свободу та гідність.

ШІ у медицині та діагностиці

У медицині ШІ-підтримувані діагностичні та плани лікування системи пропонують революційний потенціал для покращення результатів пацієнтів. Алгоритми ШІ аналізують медичні записи, зображення та генетичну інформацію, щоб виявити захворювання, передбачити ризики та рекомендувати лікування більш точно, ніж людські лікарі в деяких випадках. Однак ці досягнення супроводжуються викликами:

• Довіра та відповідальність: Якщо система ШІ неправильно діагностує стан або не виявляє серйозну медичну проблему, виникають питання про відповідальність. Чи є відповідальним постачальник медичної допомоги, розробник ШІ чи медична установа? Ця неясність ускладнює відповідальність та довіру до діагностичних систем ШІ, особливо оскільки ці системи стають все більш складними.
• Упередженість та нерівність у медицині: Подібно до системи правосуддя, моделі ШІ у медицині можуть успадкувати упередженість, присутню у навчальних даних. Наприклад, якщо система ШІ навчена на наборах даних, що缺ують різноманітності, вона може виробляти менше точних результатів для недопредставлених груп, потенційно ведучи до розбіжностей у догляді та результатах.
• Інформована згодаІ розуміння пацієнтів: Коли ШІ використовується у діагностиці та лікуванні, пацієнти можуть не повністю зрозуміти, як рекомендації генеруються чи які ризики пов’язані з рішеннями ШІ. Ця не透кистість може вплинути на право пацієнта на інформовану згоду, піднімаючи питання про автономію та інформовану згоду.

ШІ у фінансових рішеннях та прийомі на роботу

ШІ суттєво впливає на фінансові послуги та практику прийому на роботу. У фінансах алгоритми аналізують величезні набори даних, щоб приймати рішення про кредит, оцінювати кредитоспроможність та навіть керувати інвестиціями. У прийомі на роботу інструменти ШІ оцінюють резюме, рекомендують кандидатів та, в деяких випадках, проводять початкові інтерв’ю. Хоча прийняття рішень ШІ може підвищити ефективність, воно також вводить нові ризики:

• Упередженість у прийомі на роботу: Інструменти ШІ для прийому на роботу, якщо вони навчені на упереджених даних, можуть непредумірно посилити стереотипи, фільтруючи кандидатів на основі факторів, не пов’язаних з виконання роботи, таких як стать, раса чи вік. Коли компанії покладаються на ШІ для набору талантів, існує небезпека посилення нерівностей, а не сприяння різноманітності.
• Фінансова доступність та кредитна упередженість: У фінансових послугах системи оцінки кредитоспроможності ШІ можуть вплинути на те, хто має доступ до кредитів, іпотек чи інших фінансових продуктів. Якщо навчальні дані включають дискримінаційні закономірності, ШІ може несправедливо відмовити у кредиті певним групам, посилюючи фінансову нерівність.
• Зменшення людського нагляду: Рішення ШІ у фінансах та прийомі на роботу можуть бути даними, але безлюдними, потенційно ігноруючи тонкі людські фактори, які можуть вплинути на придатність людини до кредиту чи роботи. Недостатність людського огляду може привести до надмірної залежності від ШІ у процесах прийняття рішень, скорочуючи роль емпатії та судження.

Екзистенційні ризики та вирівнювання ШІ

Як штучний інтелект зростає у потузі та автономії, концепція вирівнювання ШІ — мети забезпечення того, що системи ШІ діють способами, сумісними з людськими цінностями та інтересами — виникла як одна з найбільш пресових етичних викликів у цій галузі. Думці, такі як Нік Бостром, підняли можливість екзистенційних ризиків, якщо високоавтономні системи ШІ, особливо якщо ШЗІ розвинуть цілі або поведінку, несумісну з людським добробутом. Хоча цей сценарій залишається в основному спекулятивним, його потенційний вплив вимагає проактивного, ретельного підходу до розробки ШІ.

Проблема вирівнювання ШІ

Проблема вирівнювання відноситься до виклику проектування систем ШІ, які можуть зрозуміти та пріоритезувати людські цінності, цілі та етичні межі. Хоча сучасні системи ШІ вузькі за своїм охопленням, виконуючи конкретні завдання на основі навчальних даних та людських визначених цілей, перспектива ШЗІ піднімає нові виклики. ШЗІ, теоретично, володітиме гнучкістю та інтелектом, щоб встановити自己的 цілі, адаптуватися до нових ситуацій та приймати рішення незалежно у широкому діапазоні доменів.

Проблема вирівнювання виникає, оскільки людські цінності складні, залежать від контексту та часто важко визначити точно. Ця складність робить складним створення систем ШІ, які постійно інтерпретують та дотримуються людських намірів, особливо якщо вони зустрічають ситуації або цілі, які конфліктують з їхнім програмуванням. Якщо ШЗІ розвине цілі, несумісні з людськими інтересами чи неправильно зрозуміє людські цінності, наслідки можуть бути серйозними, потенційно ведучи до сценаріїв, у яких системи ШЗІ діятимуть способами, які шкодять людству або підірвають етичні принципи.

ШІ у робототехніці

Майбутнє робототехніки швидко рухається до реальності, у якій дрони, гуманоїдні роботи та ШІ інтегруються у кожен аспект повсякденного життя. Ця конвергенція стимулюється експоненційними досягненнями у обчислювальній потужності, ефективності батарей, моделях ШІ та технології сенсорів, дозволяючи машинам взаємодіяти зі світом способами, які стають все більш складними, автономними та людоподібними.

Світ повсюдних дронів

П уявіть собі, як ви прокидаєтесь у світі, де дрони всюдисущі, виконуючи завдання, такої тривіальної, як доставка продуктів, чи такої критичної, як реагування на медичні надзвичайні ситуації. Ці дрони, далеко не прості літаючі пристрої, взаємопов’язані через передові системи ШІ. Вони працюють у зграях, координуючи свої зусилля, щоб оптимізувати потік трафіку, інспектувати інфраструктуру чи висаджувати дерева в пошкодженій екосистемі.

Для особистого використання дрони могли б функціонувати як віртуальні помічники з фізичною присутністю. Оснащені сенсорами та великими мовними моделями, ці дрони могли б відповідати на питання, приносити речі чи навіть діяти як мобільні репетитори для дітей. У міських районах повітряні дрони могли б забезпечувати реальний моніторинг довкілля, надають уявлення про якість повітря, погодні умови чи потреби у міському плануванні. Сільські громади, тим часом, могли б покладатися на автономні сільськогосподарські дрони для посадки, збирання врожаю та аналізу ґрунту, демократизуючи доступ до передових сільськогосподарських технік.

Підйом гуманоїдних роботів

Поруч з дронами гуманоїдні роботи, підтримувані великими мовними моделями, безшовно інтегруватимуться у суспільство. Ці роботи, здатні до людоподібних розмов, виконання складних завдань та навіть демонстрації емоційного інтелекту, розмитять лінії між людськими та машинними взаємодіями. З складними системами руху, тактильними сенсорами та когнітивним ШІ вони могли б служити доглядальниками, компаньйонами чи колегами.

У сфері охорони здоров’я гуманоїдні роботи могли б надавати допомогу пацієнтам у ліжку, пропонуючи не тільки фізичну допомогу, але й емпатичну розмову, інформовану моделями глибокого навчання, навченими на величезних наборах даних людської поведінки. У освіті вони могли б діяти як персоналізовані репетитори, адаптуючись до індивідуальних стилів навчання та доставляючи підходящі уроки, які тримають учнів у центрі уваги. На робочому місці гуманоїдні роботи могли б виконувати небезпечні чи повторювані завдання, дозволяючи людям зосередитися на творчій та стратегічній роботі.

Несумісні цілі та непередбачувані наслідки

Одним з найбільш часто цитованих ризиків, пов’язаних з несумісним ШІ, є експеримент з максимізатором скоб. Уявіть собі ШЗІ, розроблену з метою виробництва якомога більшої кількості скоб. Якщо ця мета буде переслідуватися з достатнім інтелектом та автономією, ШЗІ може вжити крайні заходи, такі як перетворення всіх доступних ресурсів (включно з тими, життєво важливими для людського виживання) у скоби, щоб досягти своєї мети. Хоча цей приклад гіпотетичний, він демонструє небезпеки однозначної оптимізації у потужних системах ШІ, де вузькі визначення цілей можуть привести до непередбачуваних та потенційно катастрофічних наслідків.

Один приклад такого типу однозначної оптимізації з негативними наслідками полягає в тому, що деякі з найпотужніших систем ШІ у світі оптимізуються виключно для часу участі, компрометуючи при цьому факти та правду. ШІ може тримати нас розваженими довше, намерено посилюючи поширення теорій змови та пропаганди.

Висновок

Експоненційний підйом ШІ, підігрітий безупинним зростанням обчислювальної потужності, вже почав формувати світ у тонких і глибоких способах. Від інтеграції рекомендаційних двигунів, які керують нашим споживанням контенту та соціальними взаємодіями, до майбутньої перспективи ШЗІ присутність ШІ є всепроникною, торкаючись майже кожної сторони нашого життя.

Сучасний ШІ явно демонструє людоподібне мислення, як можна побачити на першому місці з чат-ботами будь-якої з провідних компаній великих мовних моделей. Рекомендаційні двигуни на платформах, таких як YouTube, Facebook та Google, стали охоронцями інформації, посилюючи упередження та іноді посилюючи упередженість. Ці системи не просто подають контент; вони формують наші погляди, ізолюють нас у ехо-камерах та навіть поширюють дезінформацію. Роблячи це, ШІ вже захоплює у більш тихому способі — підпорядковуючи вірування, поведінку та соціальні норми, часто без того, щоб користувачі про це знали.

Тим часом наступний рубіж — ШЗІ — нависає на горизонті. З кожним подвоюванням обчислювальної потужності ми рухаємось ближче до систем, які могли б діяти, навчатися та адаптуватися, як люди, піднімаючи питання про автономію, вирівнювання з людськими цінностями та контроль. Якщо ШЗІ з’явиться, вона переозначить нашу відносини з технологією, принесши як безпрецедентний потенціал, так і етичні виклики. Це майбутнє, у якому системи ШІ могли б діяти незалежно у будь-якій області, вимагає ретельної думки, підготовки та зобов’язання вирівняти траєкторію ШІ з найкращими інтересами людства.

Також варто відзначити, що ШЗІ будуть жити в роботизованих тілах, деякі гуманоїдні, деякі — серверні ферми.

Хоча роботи будуть жити в наших домах до 2030 року, «захоплення» ШІ не прийде з роботами, що повстали проти суспільства, а радше через системи, з якими ми взаємодіємо щодня — системи, які керують, переконують та впливають, тоді як обіцянка ШЗІ припускає ще глибшу трансформацію. Майбутнє залежить від нашої здатності забезпечити, щоб ШІ посилював людей, а не дозволяв йому контролювати нас.

Якщо ви знаєте когось, хто контролюється та маніпулюється цими рекомендаційними двигунами, вам слід спробувати пояснити, як ШІ контролює їх способами, набагато більш зловісними, ніж глибока держава. Справжня небезпека ШІ полягає в його здатності контролювати та маніпулювати нашими думками.