Искусственный интеллект и дуга доверия

В начале прошлого года, когда наша команда делала прогнозы о том, что ждет нас впереди, было общее мнение, что искусственный интеллект (ИИ) наконец-то покажет свою истинную силу. Мы наконец-то увидим, на что он способен, и, возможно, получим ясность о его влиянии на бизнес и общество, а также о том, как с ним следует поступать. Это не было новым прогнозом, но его основа была точной, хотя мы до сих пор боремся с последствиями ИИ и тем, как (или если) его следует контролировать каким-либо образом.

Мы увидим, как Apple, Microsoft и Google интегрируют ИИ в свои устройства и сделают его доступным для более широкой аудитории. Затем один чат-бот в инструменте поиска, работающем на ИИ, угрожал пользователям и утверждал, что шпионил за сотрудниками, в то время как другой предлагал использовать клей Elmer’s для приготовления домашней пиццы, чтобы сыр не соскальзывал. Тем не менее, случаи использования ИИ в бизнесе выросли значительно, и так же вырос и рынок. Согласно данным Crunchbase, почти треть всех глобальных венчурных инвестиций в прошлом году пошла в компании, связанные с ИИ.

Но даже когда OpenAI представила действительно замечательные улучшения в рассуждениях, известный исследователь ИИ Йошуа Бенджио призвал к принятию мер безопасности для “моделей фронтира” с потенциалом причинить катастрофический вред. И хотя технология получила две Нобелевские премии за применения в науке, один из лауреатов выразил беспокойство о том, что системы “умнее нас и в конечном итоге возьмут под контроль”.

В таком быстро меняющемся пространстве сложно даже для экспертов-технологов идти в ногу, не говоря уже о тех, кто находится в мейнстриме.

И эти сбои ИИ – и проблемы с конфиденциальностью и неконтролируемым использованием – только усилили общественную осторожность.

Просто доверьтесь мне

Мы находимся на полпути дуги доверия, которая требует увеличения общественного принятия ИИ, а также обеспечения ответственного поведения бизнеса и технологического сообщества. Первая часть – это то, где сейчас проходит игра, на корпоративном уровне, набирая обороты с каждым безопасным и успешным развертыванием. Мы строим на наших доказательствах, которые в конечном итоге приведут к увеличению общественного доверия. Вторая часть, однако, намного сложнее.

Кто определяет и обеспечивает ответственное использование ИИ? Может ли отрасль создать руководящие принципы, когда они сами нуждаются в регулировании? Если технологи испытывают трудности с пониманием ИИ, будут ли политики информированы и смогут ли они оставить свои политические программы вне обсуждения? И когда миллиардер ИИ вдруг хочет поговорить о контроле, имел ли он прозрение или просто пытается нажать на тормоза, чтобы догнать?

“Просто доверьтесь мне” не сработает с ИИ, независимо от того, кто вы.

Доверяйте, но проверяйте

Люди смотрят на генеративный ИИ, такой как ChatGPT, и задумываются, не станет ли он их следующим Google? Ну, верхний результат поиска Google теперь создается его моделью ИИ Gemini. Проблема в том, что вы не можете полагаться на него для бизнеса в крупном масштабе, когда простой вопрос “Безопасно ли потреблять сырое мясо?” возвращает ответ “Да, замороженное”. Вам нужно проверить данные.

Дуга общественного доверия будет зеркально отражать то, что произошло с традиционным поиском, которое было получено со временем и с доказательствами надежности. Иронично, что в нашем стремлении упростить и улучшить поиск мы сделали шаг назад. Теперь, после получения ответа, сгенерированного ИИ, вы должны прокрутить длинный список спонсируемых ссылок, нажать на следующие пять и все равно проверить информацию.

Это много работы, когда вы ищете быстрый ответ – и у вас не может быть целой компании, делающей то же самое. Однако, если вы обогатите данные, которые вы добывали с помощью десятков тысяч своих собственных билетов обслуживания, вы принесете реальные знания о своей среде. Алгоритмически вы можете затем настроить “галлюцинации” вниз, но все равно это остается ситуацией “доверяйте, но проверяйте”.

Держите политику вне этого

Когда речь идет о регулировании ИИ, некоторые утверждают, что лошадь уже вышла из стаба и, скорее всего, не будет поймана. Например, нет真正 эффективных инструментов для проверки того, написал ли студент работу или использовал GenAI. Технология просто слишком далеко впереди.

Регулирование этого было бы очень сложным, и, честно говоря, мы бы вышли на тонкий лед. Мы знаем, что технологические компании опережают предложенных внешних регулирующих органов на десятилетия. Но мы хороши в том, чтобы прокладывать путь, а не быть сдерживаемыми. Тем не менее, в конце дня может оказаться, что инноваторам придется попытаться применить управление. Кто еще мог бы это сделать – ответственно?

Есть много политиков, которые бы с удовольствием попробовали. Риск, помимо недостатка понимания, заключается в том, что у них может быть личная и политическая программа, которую они хотят продвигать. Их внимание, потенциально, будет сосредоточено не на культивировании ИИ, а на том, чтобы сделать то, что лучше для их политических интересов. Они могут работать с общественными страхами, используя тяжелую руку, чтобы сдержать его прогресс.

Закон CHIPS и Science Act был хорошим примером здорового государственного действия, которое привело к драматическому 15-кратному увеличению строительства производственных объектов для вычислительных и электронных устройств. Но это было сделано возможным благодаря двупартийности – все чаще реликвию прошлой эпохи.

Смеем ли мы?

Есть много денег, которые текут в ИИ, и в течение следующих двух десятилетий многое будет сделано технологическими компаниями. Сколько, как быстро и как безопасно остается быть увиденным. В любой день может быть распространено глубокое подделка, показывающее кого-то в центре внимания, жонглирующего яйцами исчезающей птицы. Общественность отреагирует с ужасом, и хотя это может быть раскрыто как сгенерированное ИИ, это яйцо не вернется в скорлупу – ущерб уже нанесен.

Нам нужно, чтобы такие вещи были регулируемы информированными технологами. Какая форма это примет – совет, стандартный орган, международная структура – остается быть увиденным. То, что известно, – это то, что ИИ находится на дуге доверия, и как отрасль, нам нужно доказать, что мы достойны этого.