Олекс Фінк, виконавчий директор, засновник та генеральний директор Otherweb – Інтерв’ю серія

Олекс Фінк – виконавчий директор та засновник і генеральний директор Otherweb, публічної благодійної корпорації, яка використовує штучний інтелект, щоб допомогти людям читати новини та коментарі, слухати подкасти та шукати веб-сторінки без платних мурів, клікбейту, реклами, відео, які автоматично відтворюються, афілійованих посилань чи будь-якого іншого “сміття” контенту. Otherweb доступний як додаток (iOS і Android), веб-сайт, розсилка або окремий браузерний додаток. До Otherweb Олекс був засновником і генеральним директором Panopteo та співзасновником і головою Swarmer.

Чи можете ви надати огляд Otherweb та його місію створення простору новин без сміття?

Otherweb – це публічна благодійна корпорація, створена для поліпшення якості інформації, яку споживають люди.

Наш основний продукт – це додаток для новин, який використовує штучний інтелект для фільтрації сміття та дозволяє користувачам необмежені налаштування – керування кожним порогом якості та кожним механізмом сортування, який використовує додаток.

Іншими словами, тоді як весь світ створює чорні скриньки алгоритмів для максимізації взаємодії користувача, ми хочемо надати користувачам якомога більше цінності за якомога менше часу, і ми робимо все налаштовуваним. Ми навіть зробили наші моделі штучного інтелекту та набори даних джерельними, щоб люди могли бачити точно, що ми робимо і як ми оцінюємо контент.

Що спонукало вас зосередитися на боротьбі з дезінформацією та фейковими новинами за допомогою штучного інтелекту?

Я народився в Радянському Союзі і бачив, що відбувається з суспільством, коли всі споживають пропаганду, і ніхто не має жодної ідеї, що відбувається у світі. У мене є яскраві спогади про те, як мої батьки прокидалися о 4 ранку, закривалися в шафі та включали радіо, щоб слухати “Голос Америки”. Це було заборонено, звичайно, тому вони робили це вночі та переконувалися, що сусіди не можуть почути – але це давало нам доступ до реальної інформації. Як наслідок, ми покинули все за 3 місяці до того, як все розвалилося і почалася війна у моєму рідному місті.

Я фактично пам’ятаю, як бачив фотографії танків на вулиці, де я виріс, і думав “так це те, що реальна інформація коштує”.

Я хочу, щоб більше людей мали доступ до реальної, високоякісної інформації.

Яка значущість загрози глибоких фейків, особливо у контексті впливу на вибори? Чи можете ви поділитися конкретними прикладами того, як глибокі фейки були використані для поширення дезінформації та якого впливу вони мали?

У короткостроковій перспективі це дуже серйозна загроза.

Виборці не розуміють, що відео- та аудіозаписи вже не можуть бути довіреними. Вони думають, що відео – це доказ того, що щось відбулося, і 2 роки тому це ще було правдою, але тепер це вже не так.

Цього року в Пакистані виборці Імрана Хана отримали дзвінки від Імрана Хана самого, особисто, з проханням бойкотувати вибори. Це було фейкове, звичайно, але багато людей повірили в це.

Виборці в Італії бачили одного з їхніх жіночих політиків у порнографічному відео. Це було фейкове, звичайно, але до того часу, коли фальшивість була викрита – шкода вже була зроблена.

Даже тут, в Арізоні, ми бачили розсилку, яка рекламувала себе, показуючи відео з участю Кері Лейк. Вона ніколи не схвалювала його, звичайно, але розсилка все одно отримала тисячу передплатників.

Отже, я думаю, що до листопада майже неминуче, що ми побачимо хоча б один фейковий бомбардувальник. І дуже ймовірно, що це станеться прямо перед виборами і виявиться фейковим одразу після виборів – коли шкода вже буде зроблена.

Яка ефективність поточних інструментів штучного інтелекту в ідентифікації глибоких фейків, і які покращення ви бачите в майбутньому?

У минулому найкращим способом ідентифікації фейкових зображень було збільшення та пошук характерних помилок (ака “артефактів”), які творці зображень мали тенденцію робити. Неправильне освітлення, відсутність тіней, нерівні краї певних об’єктів, надкомпресія навколо об’єктів тощо.

Проблема з редагуванням на основі ГАН (ака “глибокі фейки”) полягає в тому, що жоден з цих загальних артефактів не присутній. Процес працює так, що одна модель штучного інтелекту редагує зображення, а інша модель штучного інтелекту шукає артефакти та вказує на них – і цикл повторюється знову і знову, поки артефактів не залишається.

Як наслідок, загалом немає способу ідентифікувати добре зроблений глибокий фейк-відео, просто дивлячись на його вміст.

Нам потрібно змінити свій спосіб мислення та почати припускати, що вміст реальний тільки тоді, коли ми можемо простежити ланцюг зберігання назад до джерела. Підумайте про це, як про відбитки пальців. бачення відбитків пальців на зброї не достатньо. Вам потрібно знати, хто знайшов зброю, хто приніс її до кімнати зберігання тощо – вам потрібно бути в змозі простежити кожен раз, коли вона змінювала руки, і переконатися, що з нею не було поводження.

Які заходи можуть вжити уряди та технологічні компанії, щоб запобігти поширенню дезінформації під час критичних часів, таких як вибори?

Найкращим антидотом до дезінформації є час. Якщо ви бачите щось, що змінює все, не поспішайте публікувати – витратьте день або два на перевірку того, що це насправді правда.

На жаль, цей підхід зіштовхується з бізнес-моделлю ЗМІ, яка винагороджує кліки, навіть якщо матеріал виявляється фейковим.

Як Otherweb використовує штучний інтелект, щоб забезпечити автентичність та точність новин, які він агрегує?

Ми виявили, що існує сильна кореляція між правильністю та формою. Люди, які хочуть сказати правду, мають тенденцію використовувати певну мову, яка підкреслює стриманість та скромність, тоді як люди, які нехтують правдою, намагаються привернути якомога більше уваги.

Основний фокус Otherweb – це не факт-провірка. Це перевірка форми. Ми вибираємо статті, які уникають увагу-грабуючу мову, надають зовнішні посилання для кожного твердження, висловлюють речі такими, як вони є, і не використовують техніки переконання.

Цей метод не досконалий, звичайно, і в теорії поганий актор міг би написати фейкову інформацію в точній формі, яку наші моделі винагороджують. Але на практиці це просто не відбувається. Люди, які хочуть брехати, також хочуть багато уваги – це те, чого ми навчили наші моделі виявляти та фільтрувати.

Як платформи, такі як Otherweb, можуть допомогти відновити довіру користувачів до цифрового контенту, особливо з труднощами у відрізненні реальних зображень від фейкових?

Найкращим способом допомогти людям споживати краще контент є вибірка з усіх сторін, вибір найкращого з кожного та виконання великої стриманості. Більшість ЗМІ поспішають публікувати неверифіковану інформацію в ці дні. Наша здатність перехрестно посилатися на інформацію з сотень джерел та зосередитися на найкращих предметах дозволяє нам захистити наших користувачів від більшості форм дезінформації.

Яку роль відіграє метадані, як стандарти C2PA, у верифікації автентичності зображень та відео?

Це єдина життєздатна рішення. C2PA може бути чи не бути правильним стандартом, але ясно, що єдиним способом підтвердити, чи відео, яке ви дивитеся, відображає щось, що дійсно відбулося в реальності, є а) забезпечення того, що камера, яка використовувалася для захоплення відео, тільки захоплювала, а не редагувала, і б) забезпечення того, що ніхто не редагував відео після того, як воно залишило камеру. Найкращим способом зробити це є фокусування на метадані.

Які майбутні розробки ви очікуєте в боротьбі з дезінформацією та глибокими фейками?

Я думаю, що протягом 2-3 років люди адаптуються до нової реальності та змінюють свій спосіб мислення. До 19 століття найкращим способом доведення було свідчення очевидців. Глибокі фейки, ймовірно, змусять нас повернутися до цих перевірених стандартів.

Що стосується дезінформації в цілому, я вважаю, що необхідно прийняти більш нюансовану точку зору та розділити дезінформацію (тобто фейкову інформацію, яка створена з метою ввести в оману) від сміття (тобто інформації, яка створена для монетизації, незалежно від її правдивості).

Антидотом до сміття є механізм фільтрації, який робить сміття менш ймовірним для поширення. Це змінить структуру стимулів, яка робить сміття поширеним. Дезінформація все ще буде існувати, як і завжди існувала. Ми були в змозі впоратися з цим протягом 20-го століття, і ми впоремся з цим у 21-му.

Це навала сміття, про яку нам потрібно турбуватися, тому що це частина, з якою ми зараз не можемо впоратися. Це основна проблема, яку людству потрібно вирішити.

Як тільки ми змінимо стимули, співвідношення сигналу до шуму в інтернеті покращиться для всіх.

Дякую за велике інтерв’ю, читачам, які бажають дізнатися більше, слід відвідати веб-сайт Otherweb, або слідкувати за ними на X або LinkedIn.