Адриан Зидариц, автор AIbluedot.com – серия интервью

Адриан Зидариц — автор AIbluedot.com, блог, в котором представлен обзор ИИ со смесью математики, этики, политики и «всего» между ними. Хотя статьи содержат минимальное количество технического материала, они рассчитаны не на специалистов, а на широкую публику. Неспециалисты неправильно понимают ИИ, о нем либо раздувают, либо замалчивают в СМИ; тем не менее, это наиболее значимая технология в наше время.

Что изначально привлекло вас в ИИ?

Разработка ИИ требует широкого спектра знаний, в отличие от любой другой современной технологии. Он основан на исследованиях в области статистики, нейронауки, прикладной математики, компьютерных наук, разработки программного обеспечения, психологии и т. д. Меня привлек этот вызов в сочетании с тем фактом, что мне посчастливилось попробовать себя во многих из этих областей в моей предыдущей карьере: математика, информатика, программная разработка, статистика.

У вас была обширная карьера в области ИИ. Не могли бы вы обсудить некоторые из этих основных моментов?

Это своего рода продолжение вопроса 1. Почти каждый человек среднего возраста, работающий в области ИИ, в настоящее время приходит откуда-то еще. Примерно до 2005 года не было искусственного интеллекта (кстати, успех искусственного интеллекта обусловлен главным образом нейронными сетями = глубокое обучение, все остальные методы меркнут по сравнению с ним; поэтому для всех практических целей, когда мы говорим об искусственном интеллекте, мы имеем в виду глубокое обучение). В результате многие из нас, кто работает в сфере ИИ, привносят в эту область уникальные перспективы. У меня математическое образование и ведущие практические проекты в области искусственного интеллекта, в которых разработка больших данных играет очень большую роль (иногда более 80% общего времени проекта). В моем опыте ИИ сочетается с вопросами его математических основ (очень теоретическими) и очень практическими аспектами ведущих команд специалистов по данным и инженеров по машинному обучению. Есть и другие исследователи, которые знают больше о технологиях искусственного интеллекта в середине сэндвича.

Вы заявили, что ИИ либо расхваливали, либо разбавляли в СМИ. Почему, по вашему мнению, существует такой разрыв между средствами массовой информации, точно сообщающими о состоянии ИИ, и реальными реалиями технологии??

Потому что ИИ неправильно понимают даже некоторые люди, работающие в области ИИ, не говоря уже о прессе. Это очень молодая дисциплина с очень молодыми работниками. Различные мнения этих молодых рабочих проникают в средства массовой информации, подпитывая несовпадение целей. Достаточно упомянуть документальный фильм «Социальная дилемма» на Netflix, в котором эти противоречивые взгляды на ИИ с точки зрения Силиконовой долины хорошо задокументированы.

В настоящее время большая часть прогресса, который мы наблюдаем в области ИИ, связана с глубоким обучением. Что вы думаете о проблеме черного ящика глубокого обучения?

Это большая проблема. В основном у нас нет теоретического (= математического) понимания процесса обучения. Мы не знаем, как на самом деле учатся алгоритмы глубокого обучения. Мы просто видим, что они делают. Конечно, были попытки разработать теорию, но ни одна из них не получила широкого признания. Таким образом, при отсутствии этого базового понимания все, что мы можем сделать, это сказать: «Видите, это работает». Но дать объяснение в стиле «белого ящика» в настоящее время невозможно. Другие алгоритмы (не глубокого обучения) лучше понятны и для них можно дать пояснения к результатам. Не для глубокого обучения.

Как вы относитесь к предвзятости ИИ и как ее предотвратить?

Сейчас ИИ — это все о данных, а не об алгоритмах. Алгоритмы не знают предвзятости, предвзятость находится в данных. Данные отражают состав общества, а также его стратификацию, поскольку сбор данных также имеет предвзятость. Это, кстати, естественное явление, то, что должно произойти, — это постепенное включение людей самого разного происхождения в процесс сбора данных, чтобы данные отражали правильное представление о населении.

Какой тип машинного обучения кажется вам наиболее интересным?

Как я уже говорил ранее, машинное обучение сейчас уступает место своей самой успешной внутренней ветви — глубокому обучению. Нейронные сети, благодаря своей универсальности, доминируют.

Вы заявили, что универсальный базовый доход (UBI) будет абсолютно необходим, чтобы справиться с потерей рабочих мест в результате ИИ. Не могли бы вы уточнить эти взгляды?

Общество понесет огромные последствия от автоматизации (прикладного ИИ). Мы видели важные сдвиги даже в политических потрясениях с 2016 года. Пути назад просто не будет. Многие рабочие места просто исчезнут. Сейчас нет смысла учиться на рентгенолога. ИИ может считывать рентгеновские снимки, МРТ и всевозможные другие отпечатки намного лучше, чем человек. Что будет с людьми, когда не будет просто работы, которую они могут делать? UBI гарантирует, что люди не будут без нужды страдать, когда автоматизация станет повсеместной. И в этом нет необходимости, потому что ИИ будет выполнять необходимую работу, чтобы общество продолжало функционировать.

Верите ли вы, что мы когда-нибудь сможем создать общий искусственный интеллект (AGI)?

Да, многие утверждают, что программное обеспечение DeepMind уже граничит с AGI. Я не разделяю эту идею, но даже для меня ответ — да. ОИИ не означает эмоции или сознание, я в ОИИ — это просто когнитивный интеллект. И для такого уровня интеллекта ответы, кажется, да.

Вы верите, что существует вероятность того, что мы живем в симуляции?

Возможность? Да, это означает, что вероятность того, что мы живем в симуляции, не равна 0. Это также привлекательно с интеллектуальной точки зрения. Но вероятно ли это? Нет, для меня маловероятно, т.е. вероятность хоть и не 0, но очень-очень мала.

Спасибо за интервью, читатели, которые хотят узнать больше о взглядах Адриана на различные аспекты ИИ, должны посетить AIbluedot.com.