Лидеры мысли
Крупные технологические компании, скорее всего, будут определять политику в области искусственного интеллекта в США. Мы не можем этого допустить.
Инновации — ключ к успеху в любой сфере технологий, но для искусственного интеллекта они не просто ключ, они — неотъемлемая часть. Мир ИИ стремительно развивается, и многие страны, особенно Китай и Европа, ведут прямую конкуренцию с США за лидерство в этой области. Победители этой конкуренции добьются огромных успехов во многих областях — производстве, образовании, медицине и многих других, — в то время как отстающие окажутся в зависимости от благосклонности ведущих стран в плане технологий, необходимых им для продвижения вперёд.
Однако новые правила, принятые Белым домом, могут задушить эти инновации, в том числе исходящие от малых и средних компаний. 30 октября Белый дом издал «Указ о безопасной, надежной и заслуживающей доверия разработке и использовании искусственного интеллекта», направленный на разработку политики по широкому кругу вопросов, связанных с ИИ. И хотя многие утверждают, что нам действительно нужны правила, гарантирующие безопасное и надежное использование ИИ, Указ, призывающий государственные органы давать рекомендации по политике в области ИИ, предполагает, что ни одна компания в области ИИ, кроме лидеров отрасли – почти олигополий, таких как Microsoft, IBM, Amazon, Alphabet (Google) и нескольких других, – не будет участвовать в разработке этих рекомендаций. Учитывая, что ИИ – мощная технология, имеющая такое большое значение для будущего, вполне естественно, что правительства хотят вмешаться, и США уже сделали именно это. Однако предложенный президентом путь, скорее всего, задушит, если не полностью остановит, инновации в области ИИ.
Преследование важных целей неправильным путем
Это 110-страничный документ, EO стремится гарантировать, среди прочего, что ИИ «безопасен и надежен», что он «способствует ответственным инновациям, конкуренции и сотрудничеству», что развитие ИИ «поддерживает американских рабочих», что «Неприкосновенность частной жизни и гражданские свободы американцев должны быть защищены», и что ИИ занимается «продвижением справедливости и гражданских прав». EO призывает к публикации в ближайшие месяцы ряда комитетов и позиционных документов, которые будут способствовать разработке политики – и, что особенно важно, ограничений – в отношении того, что может или должно разрабатываться исследователями и компаниями в области ИИ.
Это, безусловно, звучит как желательная цель, и она является ответом на обоснованные опасения, высказанные как внутри, так и за пределами сообщества ИИ. Никому не нужны модели искусственного интеллекта, которые могут генерировать фальшивые видео и изображения. неотличимо от реальности, потому что как вообще можно во что-либо верить? Массовая безработица, вызванная новыми технологиями, была бы нежелательна для общества и, вероятно, привела бы к социальным волнениям, что негативно отразилось бы как на богатых, так и на бедных. А неточные данные, возникающие из-за расового или этнического дисбаланса в механизмах сбора данных, которые могут исказить базы данных, конечно же, приведут к искажению результатов в моделях ИИ, не говоря уже о том, чтобы открыть путь судебным искам для тех, кто распространяет эти системы. Обеспечение ответственного и надлежащего использования ИИ отвечает интересам не только государства, но и частного сектора.
Более широкий и разнообразный круг экспертов должен формировать политику
Вопрос в том, как Указ о гендерной политике стремится формировать политику, полагаясь исключительно на высших государственных чиновников и руководство крупных технологических компаний. Изначально Указ предусматривает разработку отчетов на основе исследований и выводов десятков бюрократов и политиков, от государственного секретаря до помощника президента и директора Совета по гендерной политике, а также «руководителей других агентств, независимых регулирующих органов и исполнительных офисов», которых Белый дом может нанять в любое время. Именно на основе этих отчетов правительство будет формировать политику в области ИИ. И весьма вероятно, что чиновники получат значительную часть информации для этих отчетов и сформулируют свои политические рекомендации, основанные на работе ведущих экспертов, которые, вероятно, уже работают в ведущих компаниях, игнорируя или исключая из них малые и средние предприятия, которые часто являются истинными двигателями инноваций в области ИИ.
Хотя министр финансов, например, скорее всего, много знает о денежной массе, влиянии процентных ставок и колебаниях валютных курсов, он вряд ли будет обладать такими глубокими знаниями о механике ИИ – о том, как машинное обучение повлияет на экономическую политику, на то, как строятся модели баз данных, использующие валютные корзины, и так далее. Эта информация, скорее всего, исходит от экспертов, а чиновники, скорее всего, будут искать информацию у экспертов крупнейших и устоявшихся корпораций, которые уже глубоко вовлечены в искусственный интеллект.
В этом нет никаких проблем, но мы не можем игнорировать инновационные идеи и подходы, которые встречаются во всей технологической отрасли, а не только у гигантов; в Указе о корпоративном управлении необходимо включить положения, гарантирующие, что эти компании будут участвовать в диалоге и что их инновационные идеи будут учитываться при разработке политики. Согласно многочисленным исследованиям, в том числе проведенным… Всемирный экономический форум, являются «катализаторами экономического роста как на глобальном, так и на местном уровне», увеличивая значительную ценность национального ВВП.
Многие технологии, разрабатываемые технологическими гигантами, на самом деле не являются плодами их собственных исследований, а результатом поглощения более мелких компаний, которые изобрели и разработали продукты, технологии и даже целые секторы технологической экономики. Например, стартап Mobileye, по сути, изобрел системы оповещения, которые теперь практически являются стандартом для всех новых автомобилей. Они используют камеры и датчики, предупреждающие водителей о необходимости предпринять меры для предотвращения аварии. И это лишь один пример из сотен подобных компаний, приобретённых такими компаниями, как Алфавит, Apple, Microsof
Продвижение творческих инноваций является ключевым моментом
Нам необходимы данные от малых и средних компаний, чтобы получить полное представление о том, как будет использоваться ИИ, и какой должна быть политика в области ИИ. Опираться на олигополии в сфере технологий ИИ для разработки политики — это практически верный путь к провалу; по мере роста компании почти неизбежно эта бюрократическая волокита и бюрократия будут мешать, а некоторые инновационные идеи отойдут на второй план. А разрешение олигополиям иметь эксклюзивный контроль над политическими рекомендациями, по сути, просто укрепит их лидерские роли, а не будет стимулировать реальную конкуренцию и инновации, предоставляя им конкурентное преимущество в сфере регулирования – создавая климат, который прямо противоположен той инновационной среде, в которой нам необходимо оставаться. вперед в этой игре. И тот факт, что предложения должны будут проверять десятки бюрократов, тоже не поможет.
Если Белый дом считает необходимым навязать эти правила индустрии ИИ, он обязан обеспечить, чтобы все голоса, а не только лидеры отрасли, были услышаны. В противном случае политика может игнорировать или полностью запретить важные области, где необходимы исследования, – области, которые наши конкуренты без колебаний будут исследовать и использовать. Если мы хотим оставаться впереди, мы не можем позволить себе подавлять инновации, и нам необходимо обеспечить, чтобы голоса стартапов, этих двигателей инноваций, были учтены в политических рекомендациях.
