Большая технология, скорее всего, установит политику ИИ в США. Мы не можем допустить, чтобы это произошло

Инновации являются ключом к успеху в любой области технологий, но для искусственного интеллекта инновации более чем важны – они необходимы. Мир ИИ развивается быстро, и многие страны – особенно Китай и Европа – находятся в жесткой конкуренции с США за лидерство в этой области. Победители этой конкуренции увидят огромные достижения во многих областях – производстве, образовании, медицине и многом другом – в то время как отсталые страны окажутся зависимыми от благосклонности лидирующих стран для получения технологий, необходимых для дальнейшего развития.

Но новые правила, выпущенные Белым домом, могут задушить эту инновацию, включая ту, которая исходит от небольших и средних компаний. 30 октября Белый дом выпустил “Исполнительный приказ о безопасном, безопасном и заслуживающем доверия развитии и использовании искусственного интеллекта”, который направлен на разработку политики по широкому кругу вопросов, связанных с ИИ. И хотя многие могут утверждать, что нам действительно нужны правила, чтобы обеспечить безопасное и безопасное использование ИИ, исполнительный приказ, который требует от государственных агентств разработать рекомендации по политике ИИ, делает вероятным, что никакие компании ИИ, кроме лидеров отрасли – gần-олигополий, таких как Microsoft, IBM, Amazon, Alphabet (Google) и несколько других – не будут иметь возможности влиять на эти рекомендации по политике. С ИИ как мощной технологией, которая так важна для будущего, естественно, что правительства хотят участвовать – и США сделали именно это. Но предложенный Президентом путь, скорее всего, задушит, если не совсем остановит, инновации ИИ.

Погоня за важными целями неправильным путем

Документ объемом 110 страниц, исполнительный приказ направлен на обеспечение, среди прочего, того, что ИИ “безопасен и защищен”, что он “содействует ответственной инновации, конкуренции и сотрудничеству”, что разработка ИИ “поддерживает американских работников”, что “права американцев на неприкосновенность частной жизни и гражданские свободы защищены”, и что ИИ посвящен “содействию равенству и гражданским правам”. Исполнительный приказ требует серии комитетов и позиционных документов, которые будут выпущены в ближайшие месяцы и которые будут способствовать разработке политики – и, что важно, ограничений – на то, что может или должно быть разработано исследователями и компаниями ИИ.

Эти цели, безусловно, звучат как желательные, и они являются ответом на обоснованные опасения, высказанные как внутри, так и вне сообщества ИИ. Никто не хочет моделей ИИ, которые могут генерировать фальшивые видео и изображения, которые неотличимы от реальных, потому что как вы сможете поверить чему-либо? Массовая безработица, вызванная новыми технологиями, была бы нежелательной для общества и, скорее всего, привела бы к социальным волнениям – что было бы плохо как для богатых, так и для бедных. И неточные данные из-за расово или этнически несбалансированных механизмов сбора данных, которые могли бы исказить базы данных, конечно, дали бы искаженные результаты в моделях ИИ – кроме того, что открыли бы пропагандистов этих систем для мира судебных исков. В интересах не только правительства, но и частного сектора, чтобы обеспечить ответственное и правильное использование ИИ.

Большее и более разнообразное количество экспертов должно формировать политику

Вопрос заключается в том, как исполнительный приказ пытается установить политику, полагаясь исключительно на высокопоставленных государственных чиновников и ведущие технологические компании. Приказ изначально требует разработки отчетов на основе исследований и выводов десятков бюрократов и политиков, от государственного секретаря до помощника президента и директора Совета по гендерной политике до “глав других агентств, независимых регулирующих агентств и исполнительных офисов”, которые Белый дом может привлечь в любое время. На основе этих отчетов правительство установит политику ИИ. И вероятно, что чиновники получат большую часть информации для этих отчетов и установят свои рекомендации по политике на основе работы ведущих экспертов, которые уже, скорее всего, работают на ведущие компании, игнорируя или исключая небольшие и средние компании, которые часто являются真正щими двигателями инноваций ИИ.

Например, государственный секретарь, скорее всего, знает многое о денежной массе, влиянии процентных ставок и колебаниях иностранных валют, но он менее вероятно будет иметь такое глубокое знание о механике ИИ – как машинное обучение повлияет на экономическую политику, как модели баз данных, использующие корзины валют, строятся и т. д. Эта информация, скорее всего, будет поступать от экспертов – и чиновники, скорее всего, будут искать информацию от экспертов крупнейших и устоявшихся корпораций, которые уже глубоко вовлечены в ИИ.

В этом нет ничего плохого, но мы не можем игнорировать инновационные идеи и подходы, которые находятся по всему технологическому сектору, и не только на гигантах; исполнительный приказ должен включать положения, чтобы обеспечить, что эти компании являются частью разговора, и что их инновационные идеи учитываются при разработке политики. Согласно многим исследованиям, включая несколько, проведенных Всемирным экономическим форумом, эти компании являются “катализаторами экономического роста как глобально, так и локально”, добавляя значительную стоимость национальным ВВП.

Многие технологий, разрабатываемых технологическими гигантами, на самом деле не являются плодами их собственных исследований – а результатом приобретения небольших компаний, которые изобрели и разработали продукты, технологии и даже целые сектора технологической экономики. Стартап Mobileye, например, по сути изобрел системы оповещения, теперь почти стандартные во всех новых автомобилях, которые используют камеры и датчики, предупреждающие водителей, что им необходимо принять меры для предотвращения аварии. И это только один пример из сотен таких компаний, приобретенных компаниями, такими как Alphabet, Apple, Microsoft и других технологических гигантов.

Стимулирование творческой инновации является ключом

Нам нужно вклад небольших и средних компаний, чтобы получить полную картину того, как ИИ будет использоваться – и что должна быть политика ИИ. Полагаться на олигополии ИИ для руководства по политике почти рецепт для провала; когда компания становится больше, это почти неизбежно, что бюрократия и красная лента будут препятствовать, и некоторые инновационные идеи будут отброшены. И позволение олигополиям иметь эксклюзивный контроль над рекомендациями по политике фактически только укрепит их лидерские роли, не стимулируя реальную конкуренцию и инновации, предоставляя им регуляторное конкурентное преимущество – создавая климат, который является именно противоположным инновационной среде, которая нам нужна, чтобы остаться впереди в этой игре. И тот факт, что предложения должны быть проверены десятками бюрократов, не помогает.

Если Белый дом считает необходимым навязать эти правила отрасли ИИ, он имеет ответственность обеспечить, чтобы все голоса – не только голоса лидеров отрасли – были услышаны. Неудача в этом может привести к политике, которая игнорирует или прямо запрещает важные области, где необходимо провести исследования – области, которые наши конкуренты не колеблясь будут исследовать и использовать. Если мы хотим остаться впереди них, мы не можем позволить себе задушить инновации – и нам нужно обеспечить, чтобы голоса стартапов, тех двигателей инноваций, были включены в рекомендации по политике.