Адриан Зидаритц, автор AIbluedot.com – Серия интервью

Адриан Зидаритц является автором AIbluedot.com, блога, который предоставляет обзор ИИ, с сочетанием математики, этики, политики и “всего” между ними. Хотя статьи содержат минимальное количество технического материала, они не предназначены для специалистов, а скорее для широкой публики. ИИ неправильно понимается неспециалистами и либо чрезмерно рекламируется, либо преуменьшается в СМИ; тем не менее, это наиболее значимая технология в нашем настоящем времени.

Что изначально привлекло вас к ИИ?

Разработка ИИ требует широкого спектра знаний, в отличие от любой другой современной технологии. Она опирается на исследования из области статистики, нейробиологии, прикладной математики, информатики, разработки программного обеспечения, психологии и т. д. Эта задача привлекла меня, в сочетании с тем, что мне повезло иметь дело с многими из этих областей в моей предыдущей карьере: математика, информатика, разработка программного обеспечения, статистика.

У вас была обширная карьера, связанная с работой в ИИ. Не могли бы вы рассказать о некоторых из этих ярких моментов?

Это в некотором смысле продолжение вопроса 1. Почти каждый средневозрастной человек, работающий в ИИ в настоящее время, пришел из другого места. До примерно 2005 года не было ИИ (кстати, успех ИИ в основном обусловлен нейронными сетями = глубоким обучением, все другие методы бледнеют по сравнению; поэтому для всех практических целей, когда мы говорим об ИИ, мы имеем в виду глубокое обучение). В результате многие из нас, кто работает в ИИ, привносят уникальные перспективы в эту область. Я пришел из математической области, в сочетании с практическими проектами ИИ, в которых играет очень большую роль инженерия BigData (иногда более 80% общего времени проекта). Мой опыт заключается между вопросом о математических основах ИИ (очень теоретических) и очень практическими аспектами руководства командами данных ученых и инженеров машинного обучения. Есть другие исследователи, которые знают больше об ИИ-технологиях в середине этого “сэндвича”.

Вы заявили, что ИИ был либо чрезмерно рекламирован, либо преуменьшен в СМИ. Почему, по вашему мнению, существует такая разница между точным освещением в СМИ состояния ИИ и фактической реальностью технологии?

Потому что ИИ неправильно понимается даже некоторыми людьми, работающими в ИИ, не говоря уже о прессе. Это очень молодая дисциплина, с очень молодыми работниками. Различные мнения этих молодых работников находят свое отражение в СМИ, что приводит к несоответствию целей. Достаточно упомянуть документальный фильм “Социальная дилемма” на Netflix, в котором эти противоречивые взгляды на ИИ, с точки зрения Кремниевой долины, хорошо задокументированы.

В настоящее время основная часть прогресса, которого мы достигли в ИИ, связана с глубоким обучением. Каково ваше мнение о проблеме “черного ящика” глубокого обучения?

Это большая проблема. По сути, у нас нет теоретического (математического) понимания процесса обучения. Мы не знаем, как алгоритмы глубокого обучения на самом деле учатся. Мы видим только, что они работают. Были попытки, конечно, разработать теорию, но ни одна из них не получила широкого признания. Итак, в отсутствие этого базового понимания, все, что мы можем сделать, это сказать “видите, это работает”. Но дать белую коробку объяснения невозможно на данный момент. Другие алгоритмы (не глубокое обучение) лучше понимаемы, и для них можно дать объяснения результатов. Не для глубокого обучения.

Каково ваше мнение об предвзятости ИИ и как мы можем ее предотвратить?

Сейчас ИИ – это все о данных, а не об алгоритмах. Алгоритмы не знают предвзятости, предвзятость находится в данных. Данные отражают состав и стратификацию общества, а также процесс сбора данных имеет предвзятость. Эти предвзятости естественно возникают, что должно произойти, это постепенное включение людей всех слоев общества в процесс сбора данных, чтобы данные отражали правильное представление населения.

Какой тип машинного обучения вы считаете наиболее интересным?

Как я сказал ранее, машинное обучение сейчас уступает место своей наиболее успешной внутренней ветви, глубокому обучению. Нейронные сети, благодаря своей универсальности, доминируют.

Вы заявили, что Universal Basic Income (UBI) будет абсолютно необходим для решения проблем, связанных с потерей рабочих мест в результате ИИ. Не могли бы вы подробнее рассказать о своем мнении?

Общество будет страдать огромными последствиями от автоматизации (примененного ИИ). Мы уже видели значительные сдвиги даже в политических потрясениях с 2016 года. Просто не будет возможности вернуться назад. Многие рабочие места просто исчезнут. Не имеет смысла обучаться как радиологу в наше время. ИИ может читать рентгеновские снимки и МРТ и все sorts других отпечатков намного лучше, чем человек. Что произойдет с людьми, когда просто не будет работы, которую они могут выполнять? UBI гарантирует, что люди не будут страдать без необходимости, когда автоматизация станет повсеместной. И нет необходимости в этом, потому что ИИ обеспечит необходимую работу для функционирования общества.

Думаете ли вы, что мы можем когда-нибудь достичь Artificial General Intelligence (AGI)?

Да, многие люди утверждают, что программное обеспечение DeepMind уже граничит с AGI. Я не придерживаюсь этого мнения, но даже для меня ответ да. AGI не означает эмоции или сознание, И в AGI просто когнитивный интеллект. И на этот уровень интеллекта ответ кажется да.

Думаете ли вы, что существует вероятность того, что мы живем в симуляции?

Возможность? Да, то есть вероятность того, что мы живем в симуляции, не равна 0. Это также интеллектуально привлекательно. Но вероятно ли это? Нет, для меня это не вероятно, то есть вероятность, хотя и не равна 0, очень, очень мала.

Спасибо за интервью, читателям, которые хотят узнать больше о взглядах Адриана на различные аспекты ИИ, следует посетить AIbluedot.com.