Хто захищить нас від дезінформації, створеної штучним інтелектом?

Штучний інтелект розвинувся від нуля до сотні за менш ніж рік. Хоча це ще рано, він вже показав свій потенціал для трансформації бізнесу. У цьому ми всі можемо погодитися. Там, де ми розходимося, – це у тому, як стримувати небезпеки, які він створює.

Щоб бути ясним, я підтримую інновації і не є страхуватися. Але недавній підйом дезінформації – здебільшого спрямованої на поляризацію навколо суперечливих питань моменту – зробив ясним, що якщо генеративний штучний інтелект залишити без контролю, він може завдавати шкоди суспільству.

Ми вже бачили це у випадку з соціальними медіа, але це зайняло роки і важкі уроки, щоб ми прокинулися до його недоліків. Ми (мабуть) вивчили щось. Питання сьогодні таке: хто допоможе стримувати хвилю спотворення реальності від генеративного штучного інтелекту, і як?

Передбачувано, уряди починають діяти. Європа веде атаку, як вони все частіше демонструють у регулюванні технологій. США йдуть слідом, з президентом Байденом, який видав виконавчий наказ у жовтні минулого року.

Але це буде потрібно глобальне село, яке діє разом, щоб “тримати генеративний штучний інтелект чесним”. І перед тим, як уряд зможе допомогти, йому потрібно зрозуміти обмеження доступних підходів.

Проблема ідентичності стала ще гіршою

У цьому новому світі правда стає голкою в копиці думок, що маскеруються під факти. Знання того, хто створив контент, має значення більше ніж будь-коли.

І це не так просто, як декрет про те, що кожен аккаунт у соціальних медіа повинен бути ідентифікований. Є запекла опозиція цьому, і в деяких випадках анонімність потрібна для захисту власників аккаунтів. Крім того, багато споживачів найгіршого контенту не турбуються про те, чи є він достовірним, ні про те, звідки він походять.

Незважаючи на ці застереження, потенційна роль ідентичності у боротьбі з генеративним штучним інтелектом недооцінюється. Скептики, послухайте мене.

Давайте уявимо, що регулювання або соціальна свідомість змусили платформи надати кожному власнику аккаунту такі варіанти:

1. Перевірити свою ідентичність або ні, і
2. Відкрито показати свою перевірену ідентичність або просто бути позначеним як “ідентифікований”
   

Тоді аудиторія соціальних медіа зможе краще вирішити, хто є достовірним. Що не менше важливо, якщо не більше, ідентичність підтримує відповідальність. Платформи можуть вирішити про дії проти серійних “дезінформаторів” і повторюваних зловмисників штучного інтелекту, навіть якщо вони з’являються під різними іменами аккаунтів.

З генеративним штучним інтелектом, який підвищує ставки, я вважаю, що ідентичність – знання точно того, хто створив що – є критичною. Деякі будуть проти цього, і ідентичність не є повною відповіддю. Насправді жодне рішення не задовольнить усіх учасників. Але якщо регулювання змусить платформи надати ідентифікацію для всіх аккаунтів, я переконаний, що вплив буде величезним позитивом.

Ділема модерації

Модерація контенту – автоматична і людська – є останньою лінією оборони проти нежаданого контенту. Людська модерація – це важка робота, з ризиком психологічної шкоди від впливу найгірших проявів людства. Це також дорого і часто звинувачується у упередженій цензурі, яку платформи намагаються зменшити.

Автоматична модерація масштабується за межі людської здатності впоратися з потоками нового контенту, але вона не може зрозуміти контекст (меми є звичайним прикладом) і культурні нюанси. Обидва види модерації є важливими і необхідними, але вони є тільки частиною відповіді.

Часто чуте, традиційне рішення для контролю генеративного штучного інтелекту таке: “Потрібна співпраця між лідерами технологій, урядом і громадянським суспільством”. Так, але що саме?

Уряди, зі своєї сторони, можуть змусити соціальні та медіа-платформи надати ідентифікацію і відображати її на всіх пости. Регулятори також можуть створити метрики достовірності, які дійсно допоможуть оцінити, чи є джерело достовірним. Співпраця необхідна для розробки універсальних стандартів, які дають конкретні вказівки і напрямки, щоб приватний сектор не мав здогадуватися.

Нарешті, чи повинно бути заборонено створювати шкідливий штучний інтелект? Законодавство, яке забороняє контент, призначений для незаконної діяльності, може зменшити обсяг токсичного контенту і полегшити роботу модераторам. Я не бачу регулювання і законів як здатних перемогти дезінформацію, але вони є необхідними у протистоянні цій загрозі.

Сонячна сторона вулиці: інновації

Обіцянка інновацій робить мене оптимістом тут. Ми не можемо очікувати, що політики або власники платформ повністю захистять нас від штучної дезінформації. Вони залишають велику прогалину, і саме це надихне винахід нових технологій для автентифікації контенту і виявлення фальшивки.

Оскільки ми тепер знаємо недоліки соціальних медіа, ми швидко зрозуміли, що генеративний штучний інтелект може виявитися величезним негативом для людства, з його здатністю поляризувати і дезінформувати.

Оптимістично, я бачу вигоди від багаторівневих підходів, де методи контролю працюють разом, спочатку на джерелі, обмежуючи створення контенту, призначеного для незаконного використання. Потім, перед публікацією, перевірка ідентичності тих, хто відмовляється від анонімності. Далі, чітке позначення для показу рейтингів достовірності і ідентичності постера або її відсутності. Нарешті, автоматична і людська модерація можуть фільтрувати деякий із найгіршого. Я очікую, що нова технологія автентифікації скоро з’явиться.

Додавши все це, ми матимемо набагато краще, хоча ніколи не ідеальне, рішення. Тим часом ми повинні розвивати свої навички, щоб розібратися, що є реальним, хто говорить правду, і хто намагається обманути нас.