Алекс Финк, Технический руководитель, Основатель и Генеральный директор Otherweb – Интервью

Алекс Финк – технический руководитель и основатель, а также генеральный директор Otherweb, публичной компании, пользующейся благотворительными целями, которая использует ИИ для помощи людям в чтении новостей и комментариев, прослушивании подкастов и поиске веб-страниц без платных стен, кликбейта, рекламы, автопроигрывающих видео, партнерских ссылок или любого другого “мусорного” контента. Otherweb доступна как приложение (iOS и Android), веб-сайт, новостная рассылка или отдельное расширение браузера. До Otherweb Алекс был основателем и генеральным директором Panopteo и сооснователем и председателем Swarmer.

Можете ли вы предоставить обзор Otherweb и его миссии по созданию пространства новостей без мусора?

Otherweb – это публичная компания, пользующаяся благотворительными целями, созданная для улучшения качества информации, потребляемой людьми.

Наша основная продукция – это приложение для новостей, которое использует ИИ для фильтрации мусора и позволяет пользователям неограниченные настройки – контролируя каждый порог качества и каждый механизм сортировки, используемый приложением.

Иными словами, в то время как остальной мир создает черные ящики алгоритмов для максимизации вовлеченности пользователей, мы хотим дать пользователям как можно больше ценности за как можно меньшее время, и мы делаем все это настраиваемым. Мы даже сделали наши модели ИИ и наборы данных открытыми, чтобы люди могли увидеть точно, что мы делаем и как мы оцениваем контент.

Что вдохновило вас сосредоточиться на борьбе с дезинформацией и фейковыми новостями с помощью ИИ?

Я родился в Советском Союзе и увидел, что происходит с обществом, когда все потребляют пропаганду, и никто не имеет представления о том, что происходит в мире. У меня остались яркие воспоминания о том, как мои родители просыпались в 4 часа утра, запирались в шкафу и включали радио, чтобы послушать “Голос Америки”. Это было, конечно, незаконно, поэтому они делали это ночью и убедились, что соседи не могли услышать – но это дало нам доступ к реальной информации. В результате мы уехали за 3 месяца до того, как все рухнуло и началась война в моем родном городе.

Я фактически помню, как видел фотографии танков на улице, где я вырос, и думал “так это то, что такое реальная информация”.

Я хочу, чтобы больше людей имели доступ к реальной, высококачественной информации.

Насколько серьезна угроза глубоких фейков, особенно в контексте влияния на выборы? Можете ли вы поделиться конкретными примерами того, как глубокие фейки были использованы для распространения дезинформации и какое влияние они оказали?

В краткосрочной перспективе это очень серьезная угроза.

Избиратели не понимают, что видео- и аудиозаписи больше не могут быть доверены. Они думают, что видео – это доказательство того, что что-то произошло, и 2 года назад это было еще правдой, но теперь это显но не так.

В этом году в Пакистане избиратели Имрана Хана получили звонки от Имрана Хана himself, лично, с просьбой бойкотировать выборы. Это было, конечно, фейком, но многие люди поверили в это.

Избиратели в Италии увидели одного из своих female политиков в порнографическом видео. Это было, конечно, фейком, но к тому времени, когда фальшивость была раскрыта – ущерб был уже нанесен.

Даже здесь, в Аризоне, мы увидели новостную рассылку, которая рекламировала себя, показывая видео с участием Кари Лейк. Она никогда не поддерживала его, конечно, но новостная рассылка все равно получила тысячи подписчиков.

Итак, к ноябрю, я думаю, что почти неизбежно, что мы увидим хотя бы один фейковый “бомбический” материал. И очень вероятно, что он выпадет прямо перед выборами и окажется фейковым прямо после выборов – когда ущерб уже будет нанесен.

Насколько эффективны текущие инструменты ИИ в выявлении глубоких фейков, и какие улучшения вы предвидите в будущем?

Ранее лучшим способом выявления фейковых изображений было увеличение и поиск характерных ошибок (так называемых “артефактов”), которые создатели изображений склонны совершать. Неправильное освещение, отсутствующие тени, неровные края на определенных объектах, чрезмерная компрессия вокруг объектов и т. д.

Проблема с редактированием на основе ГАН (так называемыми “глубокими фейками”) заключается в том, что ни один из этих обычных артефактов не присутствует. Процесс работает так, что одна модель ИИ редактирует изображение, а другая модель ИИ ищет артефакты и указывает на них – и цикл повторяется снова и снова, пока не останутся артефакты.

В результате нет общего способа выявления хорошо сделанного глубокого фейка видео, просто глядя на содержание.

Нам нужно изменить наш образ мышления и начать предполагать, что содержание реально только в том случае, если мы можем отслеживать его цепочку хранения обратно к источнику. Подумайте об этом как о отпечатках пальцев. Видеть отпечатки пальцев на месте преступления недостаточно. Вам нужно знать, кто нашел орудие преступления, кто принес его в комнату для хранения и т. д. – вам нужно быть в состоянии отслеживать каждый раз, когда оно меняло руки и убедиться, что оно не было изменено.

Какие меры могут принять правительства и технологические компании, чтобы предотвратить распространение дезинформации во время критических периодов, таких как выборы?

Лучшее противоядие от дезинформации – время. Если вы видите что-то, что меняет все, не спешите публиковать – возьмите день или два, чтобы проверить, что это действительно правда.

К сожалению, этот подход сталкивается с бизнес-моделью СМИ, которая вознаграждает клики, даже если материал оказывается ложным.

Как Otherweb использует ИИ, чтобы обеспечить аутентичность и точность новостей, которые он агрегирует?

Мы обнаружили, что существует сильная корреляция между правильностью и формой. Люди, которые хотят сказать правду, склонны использовать определенный язык, который подчеркивает сдержанность и смирение, тогда как люди, которые не заботятся о правде, пытаются привлечь как можно больше внимания.

Основной фокус Otherweb – не проверка фактов. Это проверка формы. Мы выбираем статьи, которые избегают привлекающего внимание языка, предоставляют внешние ссылки на каждое утверждение, говорят все, как есть, и не используют методы убеждения.

Этот метод не идеален, конечно, и в теории злой актор мог бы написать ложь в точном стиле, который наши модели вознаграждают. Но на практике это просто не происходит. Люди, которые хотят сказать ложь, также хотят много внимания – это то, что мы научили наши модели обнаруживать и фильтровать.

Как платформы, такие как Otherweb, могут помочь восстановить доверие пользователей к цифровому контенту, учитывая все большую трудность в различении реальных и фейковых изображений?

Лучший способ помочь людям потреблять лучший контент – это выборка из всех сторон, выбор лучшего из каждого и проявление большого сдерживания. Большинство СМИ спешат публиковать непроверенную информацию в эти дни. Наша способность перекрестно ссылаться информацию из сотен источников и фокусироваться на лучших элементах позволяет нам защитить наших пользователей от большинства форм дезинформации.

Какую роль играет метаданные, например стандарты C2PA, в проверке аутентичности изображений и видео?

Это единственно жизнеспособное решение. C2PA может быть или не быть правильным стандартом, но rõчно, что единственный способ проверить, отражает ли видео, которое вы смотрите, что-то, что действительно произошло в реальности, – это а) убедиться, что камера, использованная для захвата видео, только захватывала, а не редактировала, и б) убедиться, что никто не редактировал видео после того, как оно покинуло камеру. Лучший способ сделать это – сосредоточиться на метаданных.

Какие будущие разработки вы предвидите в борьбе с дезинформацией и глубокими фейками?

Я думаю, что в течение 2-3 лет люди адаптируются к новой реальности и изменят свой образ мышления. До 19-го века лучшей формой доказательства было свидетельство очевидцев. Глубокие фейки, вероятно, заставят нас вернуться к этим проверенным стандартам.

Что касается дезинформации в целом, я считаю, что необходимо принять более тонкий подход и разделить дезинформацию (т. е. ложную информацию, намеренно созданную для обмана) и “мусор” (т. е. информацию, созданную для монетизации, независимо от ее истинности).

Противоядие от “мусора” – это механизм фильтрации, который делает “мусор” менее вероятным для распространения. Это изменит структуру стимулов, которая делает “мусор” распространяющимся как пожар. Дезинформация все еще будет существовать, как и всегда существовала. Мы смогли с ней справиться на протяжении 20-го века, и мы сможем с ней справиться в 21-м.

Это наводнение “мусора”, о котором нам нужно беспокоиться, потому что это та часть, с которой мы сейчас не справляемся. Это основная проблема, которую человечество должно решить.

Как только мы изменим стимулы, соотношение сигнал-шум в интернете улучшится для всех.

Спасибо за отличное интервью, читателям, которые хотят узнать больше, можно посетить веб-сайт Otherweb, или следить за ними на X или LinkedIn.