Штучний інтелект і наближається імплозія ЗМІ

Серед журналістів зараз популярно попереджувати, що штучний інтелект може мати катастрофічні наслідки для людства. Ці побоювання перебільшені щодо людства в цілому. Але вони досить проникливі щодо журналістів самих.

Щоб зрозуміти, чому це так, давайте ближче розглянемо піддисципліни, які ми колективно називаємо штучним інтелектом. Штучний інтелект – це найширший термін, але ми можемо його загалом розділити на системи, засновані на правилах, і системи машинного навчання. Системи машинного навчання можна розділити за застосуванням (відео, зображення, природна мова тощо). Серед них ми бачили найбільші недавні успіхи в обробці природної мови. Зокрема, ми бачили винахід моделі трансформера в 2017 році, за яким пішов швидкий ріст розміру трансформерів. Як тільки модель перевищує 7 мільярдів параметрів, її зазвичай називають большою мовною моделлю (LLM).

Основна “уміння” (як би його назвати) LLM полягає в її здатності передбачити найбільш імовірне наступне слово в незавершеному блоці тексту. Ми можемо використовувати цей передбачувальний механізм для генерації великих блоків тексту з нуля, просивши LLM передбачити одне слово за раз.

Якщо ви тренуєте LLM на великих наборах даних із змінною якістю, цей передбачувальний механізм часто виробляє поганий текст. Це справедливо для ChatGPT сьогодні. Це причина, чому, коли я піднімаю цю тему з журналістами, я зустрічаю скептицизм – журналісти бачать, як погано пише ChatGPT, і припускають, що штучний інтелект не становить загрози для них, оскільки він некомпетентний.

Але ChatGPT – не єдина LLM. Якщо LLM тренується на ретельно відібраному наборі текстів, написаних лише найкращими журналістами – і ніким іншим – то вона розвине здатність писати як найкращі журналісти.

На відміну від журналістів, однак, цій LLM не буде потрібно жодної зарплати.

Писання проти знання того, що писати

Перед тим, як продовжити, нам потрібно розрізняти механіку письма і творчість, необхідну для знання того, про що варто писати. Штучний інтелект не може проводити інтерв’ю з інформаторами або довго дратувати політика, поки той випадково не скаже правду.

Штучний інтелект не може зібрати інформацію. Але він може описувати інформацію, зібрану людьми, елегантним чином. Це уміство раніше було монополією журналістів і письменників. Тепер ними воно більше не є.

При поточному темпі прогресу вже через рік штучний інтелект зможе писати краще 99% журналістів і професійних письменників. Він буде робити це безкоштовно, на вимогу і з нескінченним обсягом.

Економіка безкоштовного письма

Хто б мав список фактів для передачі, той зможе перетворити ці факти на добре написану статтю. Хто б знайшов статтю на будь-яку тему, той зможе створити іншу статтю, яка охоплює ту ж тему. Ця похідна стаття буде так само хороша, як і перша, і не буде плагіатом чи порушувати авторські права..

Марджинальна вартість написаного контенту стане нульовою.

Наразі економіка написаних ЗМІ базується на людській праці. Добре написаний контент є дефіцитним, тому він має вартість. Цілі галузі були побудовані для захоплення цієї вартості.

Коли штучний інтелект зможе виробляти високоякісний контент безкоштовно, фінансові основи цих галузей зруйнуються.

Знищення публікацій

Розгляньмо традиційні публікації. Протягом десятиліть компанії, такі як The New York Times, наймали кваліфікованих письменників для виробництва обмеженої кількості статей щодня (зазвичай близько 300). Ця модель є вроджено обмеженою кількістю письменників і витратами.

У світі, де штучний інтелект може генерувати необмежену кількість статей безкоштовно, навіщо обмежувати виробництво фіксованою кількістю? Навіщо не створювати персоналізований контент для кожного читача, адаптований до його інтересів і генерований на вимогу?

У цій новій парадигмі традиційна модель періодичних випусків і фіксованих кількостей статей стає застарілою. Публікації можуть перейти на модель, у якій контент постійно створюється і персоналізується, задовольняючи конкретні потреби окремих читачів. Одному читачеві може знадобитися одна стаття щодня. Іншому – 5000.

Публікації, чиїм основним продуктом є упаковка 300 статей у один щоденний випуск, вимернуть.

Пошукові системи, що стають системами відповідей

Пошукові системи діють як дистриб’ютори, підключаючи користувачів до існуючого контенту. Для цього вони виконують чотири кроки.

По-перше, вони індексують великі об’єми попередньо написаного контенту. По-друге, вони отримують запит від користувача. По-третє, вони шукають попередньо написаний контент, щоб знайти елементи, які мають відношення до запиту користувача. І по-четверте, вони ранжують отриманий контент і представляють відсортований список результатів користувачеві.

Досі все добре. Але якщо контент можна створити на вимогу безкоштовно, навіщо пошуковим системам повертати існуючий контент користувачеві? Вони могли б просто згенерувати відповідь замість цього. Користувачеві, безумовно, було б більш приємно отримати одну відповідь на свій запит, а не довгий список результатів, які можуть варіюватися за якістю.

Тепер розгляньмо логічний наступний крок. Якщо пошукові системи більше не ведуть користувачів до будь-якого контенту, написаного іншими, що станеться з “економікою контенту”?

Більшість контенту в інтернеті була написана для монетизації. Люди пишуть статті, займають місце в Google, отримують трафік і перетворюють його на дохід (за допомогою реклами, партнерських посилань або прямого продажу товарів чи послуг).

Що станеться з цією екосистемою, коли трафік зникне?

Соціальні медіа: наступна доміно

Платформи соціальних медіа спочатку були розроблені для облегчення взаємодії між користувачами. Я досить старий, щоб пам’ятати дні, коли люди входили в Facebook, щоб написати на стіні друга, поштовхнути чи кинути віртуальну вівцю в когось.

Соціальні медіа сьогодні інші. Найбільша кількість підписників, яку мають користувачі в Instagram, – це нуль. Друга за поширеністю кількість підписників – це один. Більшість переглядів, поділів, коментарів і підписників зосереджена в руках невеликої кількості професійних творців. Більшість користувачів нічого не публікують і ніким не підписуються.

Просто кажучи – більшість користувачів відвідують соціальні медіа, щоб знайти контент, який їм може сподобатися. Соціальні медіа-компанії діють як дистриб’ютори, як і пошукові системи. Основна відмінність між Facebook і Google полягає в тому, що Google використовує запит для вибору контенту, тоді як Facebook вибирає контент без запиту.

Якщо це так, то наступний крок стає очевидним. Навіщо соціальним медіа промотувати контент, створений користувачами, якщо вони можуть генерувати контент на основі штучного інтелекту на вимогу? Спочатку текстовий, можливо, але згодом і зображення та відео.

І що станеться з “економікою творців”, коли соціальні медіа більше не ведуть користувачів до контенту, створеного творцями?

Аналогія з реплікатором Зоряного шляху

Ми вступаємо в нову парадигму, у якій штучний інтелект функціонує як реплікатор Зоряного шляху для контенту.

У Зоряному шляху немає потреби в фермерах, які вирощують їжу, магазинах, які продають їжу, шеф-кухарах, які готують їжу, чи офіціантах, які подають їжу. Реплікатор може створити будь-яку їжу, яку ви бажаєте, на вимогу, безпосередньо перетворюючи сировину на кінцевий продукт.

Аналогічно, я не бачу місця в нашому майбутньому для будь-якої компанії, яка створює написаний контент, розповсюджує написаний контент, змішує написаний контент якимось особливим чином чи подає попередньо існуючий контент користувачеві. Єдиними цінними функціями будуть отримання сировини та перетворення її на кінцевий продукт на вимогу.

Нам усе ще потрібні способи створення інформації, якої не існувало раніше, і збору інформації, яка раніше не була публічно доступна. Все інше буде досягнуто за допомогою двигунів штучного інтелекту, які перетворюють доступну інформацію на персоналізований контент.

Наслідки для творців і дистриб’юторів контенту

Трейдери часто говорять про “позитивний експозицію” і “негативний експозицію”. Найлегший спосіб зрозуміти ці концепції – запитати себе: якщо ця річ зростає, буду я вигравати чи втрачати?

Штучний інтелект зростає. І він зростає особливо швидко в таких областях, як природна мова та інші види контенту, створеного людьми. Питання, яке кожен професійний повинен поставити собі, – чи маю я позитивний чи негативний експозицію до штучного інтелекту зараз?

Якщо ви творець контенту – скажімо, новинна публікація – і ваша структура витрат не дорівнює нулю, то ви, ймовірно, в біді. Ви скоро будете конкурувати з творцями контенту, чия вартість дорівнює нулю, і це не конкуренція, яку ви можете виграти. Імовірно, у вас є лише 3 варіанти: вийти з ринку; зменшити свої витрати до нуля (стającись компанією штучного інтелекту); або збанкрутувати.

Якщо ви на стороні дистрибуції, у вас, ймовірно, є більше часу, перш ніж повні наслідки досягнуть вашого дна лінії. Ефекти мережи допоможуть вам стримати розруху на кілька років. Але в кінцевому підсумку те, що повинно статися, станеться. Пошукові системи замінили веб-каталоги. Канали замінили велику частину функцій, які раніше виконували пошукові системи. І скоро генерація контенту на вимогу замінить обидва.

Роль уряду і регулювання

Як людина, народжена в Радянському Союзі, я не великий шанувальник державного регулювання мови. Моральні ризики зазвичай вищі за будь-яку тимчасову вигоду, яку таке регулювання могло б принести.

Відповідно, я вважаю, що уряди можуть відігравати важливу роль у визначенні того, як це розвиватиметься.

У нас є хороші та погані приклади державного регулювання і його впливу на галузі. “26 слів, які створили інтернет” виросли з насіння галузі до тріліонів доларів вартості. Регулювання провайдерів інтернет-послуг у 90-х роках, однак, зменшило кількість провайдерів інтернет-послуг у США з понад 3000 до 6 і призвело до ситуації, у якій споживачі США мають найгірший доступ до смуги пропускання в розвиненому світі.

Коли мене просять порекомендувати щось, я зазвичай вказую на три способи, за допомогою яких державне регулювання може допомогти, а не перешкодити розвитку цієї нової екосистеми:

1. Вимагайте інтероперабельності і полегшуйте споживачам зміну постачальників.

Капіталізм працює як природний відбір – компанії, які роблять речі краще чи ефективніше, зростатимуть швидше, ніж компанії, які цього не роблять. “Замикання” механізми, які роблять зміну складніше, як неможливість вивезти дані з однієї служби та імпортувати їх до конкурента, сповільнюють цю еволюцію і призводять до нижчого зростання.

Якщо уряди можуть вимагати інтероперабельності по всій технічній галузі, ми побачимо більше хороших функцій і хороших поведінок, які будуть винагороджені. Ми створимо стимул для компаній інновувати в тих речах, які люди хочуть, а не інновувати в способах витиснути більше з захопленої аудиторії.

2. Застосовуйте антимонопольне законодавство, зосереджуючись на зловживаннях монополіями, а не на ризиках монополій.

Ми всі знаємо, що коли дві компанії об’єднуються, результатом може бути велика організація з надмірною владою щодо своїх клієнтів. Але існування надмірної влади не завжди призводить до поганої служби чи хижацьких цін.

Тим часом компанії, які вже мають надмірну владу, часто займаються антиконкурентними поведінками прямо перед нашими очима. І все ж таки Федеральна торгова комісія зосереджується на блокуванні злиттів і поглинань.

Якщо уряди зосередяться на забороні та суворому виконанні антиконкурентних практик, таких як дампінг і бандлінг, особливо щодо технічних продуктів, які використовуються більшістю населення, вся система стане незакупореною.

Деякі конкретні приклади можуть допомогти проілюструвати цю точку зору.

Наприклад, надання браузера, який є дуже складним програмним забезпеченням, що коштує мільярди для розробки, безкоштовно, є явним випадком дампінгу. Нові компанії, що займаються браузерами, такі як Cliq або Brave, мають труднощі з інноваціями в цій сфері, оскільки їхні великі конкуренти віддають це дорогое програмне забезпечення безкоштовно. Результатом є те, що всі браузери виглядають однаково сьогодні, і не було жодних суттєвих інновацій в цій сфері з 2016 року.

Наприклад, надання корпоративного застосунку для обміну повідомленнями як частини пакету редактора документів, який кожна компанія повинна купити, є явним випадком бандлінгу. Навіть дуже успішний стартап, такий як Slack, був фактично змушений продати себе великої компанії, просто щоб мати можливість конкурувати як платний продукт у сфері, де його основний конкурент уже був включений до чогось, чого його клієнт уже мав.

Когда штучний інтелект розвиватиметься в нову екосистему, яка стане більша за інтернет, ми побачимо ще більші зловживання в цій новій сфері – якщо уряди не втрутяться і не забезпечать, щоб дампінг і бандлінг не приносили вигоди.

3. Розгляньте способи субсидування або захисту оригінального створення контенту.

Уряд фінансує базові дослідження та науку через гранти та інші субсидії. Він також захищає нові ідеї, які люди відкривають у своїх дослідженнях, через патенти. Причина, по якій ці два механізми необхідні, полягає в тому, що копіювання ідеї, яка працює, значно дешевше, ніж створення нової ідеї, яка працює. Без втручання це може привести до трагедії спільноти, у якій кожен копіює у свого сусіда, і ніхто нічого не створює.

У журналістиці та створенні контенту загалом ці механізми були непотрібні, оскільки копіювання без порушення авторських прав було складним процесом. Але з появою штучного інтелекту це вже не так. Коли вартість перефразування чужих текстів наближається до нуля, нам знадобляться механізми для стимулювання чогось іншого, ніж перефразування – і найкращі відповіді можуть виглядати дуже подібно до тих, які у нас є в базових дослідженнях сьогодні.

Використання цього виклику на краще

Трансформація, яку приносить штучний інтелект, – одна з найбільших викликів, з якими стикається людство сьогодні. Журналісти та інші творці контенту будуть вплинути першими. Дистриб’ютори контенту будуть слідувати незабаром після них. Ми в кінцевому підсумку вступимо в цілком нову парадигму, яку я назвав “моделлю реплікатора Зоряного шляху” для створення та розповсюдження контенту.

У нас є можливість тут створити щось значно краще, ніж те, що існує сьогодні. Як і винахід друкарського верстата призвів до Просвітництва, винахід штучного інтелекту міг би привести до другого Просвітництва. Але, на жаль, не всі можливі майбутні перспективи є доброзичливими.

Від нас залежить, щоб направити цю еволюцію в правильному напрямку.