Как люди могут ориентироваться в гонке вооружений ИИ

Инструменты ИИ рассматриваются многими как благо для исследований, от рабочих проектов до школьных работ и науки. Например, вместо того, чтобы тратить часы на тщательный анализ веб-сайтов, вы можете просто задать вопрос ChatGPT, и он вернет, казалось бы, осмысленный ответ. Однако вопрос заключается в том, можно ли доверять этим результатам? Опыт показывает, что ответ часто «нет». ИИ работает хорошо только тогда, когда люди более вовлечены, направляют и контролируют его, а затем проверяют результаты, которые он производит, на соответствие реальному миру. Но с быстрым ростом сектора генеративного ИИ и постоянным выпуском новых инструментов может быть сложно для потребителей понять и принять роль, которую они должны играть при работе с инструментами ИИ.

Сектор ИИ огромен и продолжает расти, эксперты утверждают, что он будет стоить более трillions долларов к 2030 году. Не должно быть удивительно, что почти каждая большая технологическая компания – от Apple (AAPL ) до Amazon (AMZN ), IBM и Microsoft, и многие другие – выпускает свою версию технологии ИИ, особенно передовые генеративные продукты ИИ.

Учитывая такие ставки, не должно быть удивительно, что компании работают как можно быстрее, чтобы выпустить новые функции, которые дадут им преимущество над конкурентами. Это действительно гонка вооружений, с компаниями, стремящимися привязать как можно больше пользователей к своей экосистеме. Компании надеются, что функции, которые позволяют пользователям использовать системы ИИ самым простым способом – например, получать всю необходимую информацию для исследовательского проекта, просто задав вопрос генеративному чат-боту ИИ – выиграют им больше клиентов, которые останутся с продуктом или брендом, когда новые функции добавляются на регулярной основе.

Но иногда, в своей гонке за первенством, компании выпускают функции, которые могут не быть должным образом проверены или чьи ограничения не хорошо поняты или определены. Хотя компании конкурировали в прошлом за долю рынка на многих технологиях и приложениях, кажется, что текущая гонка вооружений приводит больше компаний к выпуску больше «неполноценных» продуктов, чем когда-либо – с соответствующими неполноценными результатами. Полагаться на такие результаты для исследовательских целей – будь то бизнес, личные, медицинские, академические или другие – может привести к нежелательным последствиям, включая ущерб репутации, бизнес-потери или даже риск для жизни.

Проблемы с ИИ вызвали значительные потери для нескольких бизнесов. Компания под названием iTutor была оштрафована на $365 000 в 2023 году, после того, как ее алгоритм ИИ отверг десятки заявок на работу из-за возраста. Рынок недвижимости Zillow потерял сотни миллионов долларов в 2021 году из-за неправильных прогнозов цен, сделанных его системой ИИ. Пользователи, которые полагались на ИИ для медицинских советов, также были подвержены риску. Chat GPT, например, предоставил неточную информацию пользователям о взаимодействии между лекарством, снижающим кровяное давление, верапамилом и Паксловидом, противовирусной таблеткой Pfizer (PFE ) для Covid-19 – и о том, могут ли пациенты принимать эти препараты одновременно. Те, кто полагался на неправильные советы системы о том, что нет взаимодействия между двумя препаратами, могли оказаться под угрозой.

Хотя эти инциденты попали в заголовки, многие другие ошибки ИИ не попали – но они могут быть столь же смертельными для карьеры и репутации. Например, маркетинговый менеджер, ищущий捷径 для подготовки отчетов, может быть соблазнен использовать инструмент ИИ для их создания – и если этот инструмент представляет информацию, которая не является правильной, он может оказаться в поисках новой работы. Студент, использующий ChatGPT для написания отчета – и чей профессор достаточно умён, чтобы понять источник этого отчета – может столкнуться с неудовлетворительной оценкой, возможно, за семестр. И адвокат, чей помощник использует инструменты ИИ для юридической работы, может оказаться оштрафованным или даже лишенным лицензии, если дело, которое он представляет, искажено из-за плохих данных.

Почти все эти ситуации можно предотвратить – если люди направляют ИИ и имеют больше прозрачности в исследовательском цикле. ИИ должен рассматриваться как партнерство между человеком и машиной. Это истинное сотрудничество – и это его выдающаяся ценность.

Хотя более мощные функции поиска, форматирования и анализа приветствуются, производители продуктов ИИ также должны включать механизмы, которые позволяют сотрудничать. Системы должны включать инструменты проверки фактов, которые позволят пользователям проверять результаты отчетов инструментов, таких как ChatGPT, и позволять пользователям видеть исходные источники конкретных данных или фрагментов информации. Это не только произведет лучшие исследования, но и восстановит доверие к себе; мы можем представить отчет или порекомендовать политику с уверенностью, основанной на фактах, которым мы доверяем и понимаем.

Пользователи также должны признать и взвесить, что стоит на кону, когда они полагаются на ИИ для производства исследований. Они должны взвесить уровень однообразия с важностью результата. Например, люди, вероятно, могут позволить себе быть менее вовлеченными, когда используют ИИ для сравнения местных ресторанов. Но когда они проводят исследования, которые будут информировать высокоценные бизнес-решения или проектирование самолетов или медицинского оборудования, например, пользователи должны быть более вовлечены на каждом этапе процесса исследования, управляемого ИИ. Чем важнее решение, тем важнее, чтобы люди были частью этого. Исследования для относительно небольших решений, вероятно, можно полностью доверить ИИ.

ИИ становится лучше с каждым днем – даже без помощи человека. Возможно, если не вероятно, что инструменты ИИ, которые могут проверять себя, появятся, проверяя свои результаты против реального мира так же, как это делает человек – либо делая мир гораздо лучше, или разрушая его. Но инструменты ИИ могут не достичь этого уровня так скоро, как многие считают, или вообще. Это означает, что человеческий фактор по-прежнему будет иметь решающее значение в любом исследовательском проекте. Как хороши инструменты ИИ в обнаружении данных и организации информации, они не могут быть доверены для оценки контекста и использования этой информации так, как это делаем мы, как люди. На предвидимое будущее важно, чтобы исследователи рассматривали инструменты ИИ за то, что они есть; инструментами, которые помогают выполнить работу, а не чем-то, что заменяет людей и человеческий мозг на работе. ИИ не может быть доверен для оценки контекста и использования информации в том виде, в котором нам, как людям, нужно, чтобы она была использована. Для предвидимого будущего важно, чтобы исследователи видели инструменты ИИ за то, что они есть; инструментами, которые помогают выполнить работу, а не чем-то, что заменяет людей и человеческий мозг на работе.