Этика
Как компании могут создать ответственный и прозрачный ИИ – лидеры мнений
Добавьте Unite.AI в избранные источники в Google
Автор Эрик Патерностер, генеральный директор Infosys Public Services
Сундар Пичаи, генеральный директор компании Alphabet, материнской компании Google, описал развитие ИИ как “более глубокое, чем огонь или электричество”, и COVID-19 привел к новой срочности в реализации обещаний этой технологии. Применения ИИ теперь находятся в центре внимания, улучшая лечение COVID, отслеживая потенциальных носителей COVID и развертывая чат-боты в режиме реального времени для пользователей, испытывающих трудности с поставками на сайтах розничной торговли. Эти применения показали, что ИИ повышает устойчивость бизнеса и приносит пользу обществу в целом.
Таким образом, вместе с “родными для облака”, модным словом последнего квартала, может стать “трансформация, основанная на ИИ”, термин, который, по мнению специалистов отрасли, сохранит свою актуальность даже после окончания COVID. Для многих компаний обещание снижения затрат (например, алгоритмов цепочки поставок, соответствующих спросу и предложению) и значительного повышения производительности (например, когда банки используют проверку документов и удостоверения личности в режиме реального времени) слишком заманчиво, чтобы его можно было игнорировать.
Почему трансформация, основанная на ИИ?
В трансформации, основанной на ИИ, предприятие использует ИИ как ориентир, стремясь использовать его не только умно, но и таким образом, чтобы он влиял на решения, принимаемые людьми, процессами и системами в масштабе. Он настраивает организации на меняющиеся динамику между сотрудниками, партнерами и клиентами. Это позволяет им быстро менять направление и удовлетворять меняющимся требованиям, создавая долгосрочное конкурентное преимущество.
Но не все компании находятся на одном уровне зрелости ИИ. Есть те, которые можно назвать “традиционной группой ИИ”, или H1. Эти компании, которые имеют меньше опыта и инвестиций, обычно используют классические алгоритмы, такие как наивный байес, который существует уже 250 лет, или случайный лес (разработанный Тин Кам Хо в 1995 году), чтобы дополнить фрагментированную интеллект внутри существующих систем. Такое использование ИИ строго основано на правилах и довольно жесткое, не имеющее возможности обобщать из правил, которые они обнаруживают. Затем есть “группа глубокого обучения”, или H2. Эти компании принимают более сложный ИИ, включая нейронные машины перевода и транскрипционные системы, чтобы добывать разговорные идеи. Такие системы имеют больше силы, но не легко объясняют, почему они делают то, что они делают. Они также не имеют прозрачности. Для этих двух групп ИИ, используемый часто не заслуживает доверия или надежен и может принимать предвзятые решения, которые приносят компании негативное внимание со стороны государственных органов, регулирующих органов и общественности.
Эти компании должны сделать шаги сейчас, чтобы привести свои реализации ИИ на шаг вперед – в третью группу (H3), где ИИ является самообучающимся и генеративным. На этом этапе системы ИИ являются полуавтоматическими или даже полностью автоматическими. Они прозрачны и достигают “здравого смысла” через многозадачное обучение. Эти системы поставляют более богатую интеллектуальность и предоставляют актуальные, действенные идеи в режиме реального времени. Это достигается благодаря хорошо управляемому, контролируемому ИИ, который интерпретируем и объясним на всех этапах.
Как работать над более ответственным и прозрачным ИИ
ИИ все чаще используется для управления школами, рабочими местами и другими общественными учреждениями. В этих условиях важно, чтобы ИИ был справедливым и прозрачным. Однако, поскольку общество проходит через этот взрыв ИИ, регулирующие органы предоставляют ограниченное руководство по разработке и развертыванию технологий ИИ. Таким образом, на компании ложится ответственность за лидерство. Более широкая технологическая отрасль должна вложить финансовые ресурсы и человеческий капитал в работу, преобразуя первоначальные реализации фрагментированного ИИ в эффективные, творческие, ответственные и прозрачные экосистемы, управляемые интеллектом. Чтобы перейти в это пространство, компании должны сделать следующие четыре вещи:
- Сохраните людей в цикле: Модели ИИ часто проектируются для работы независимо от людей. Однако человеческий фактор имеет решающее значение во многих случаях. Люди должны проверять решения и избегать предвзятости и ошибок, которые часто сбивают с толку проекты ИИ. Два случая использования включают обнаружение мошенничества и случаи, когда участвует правоохранительная деятельность. Мы рекомендуем компаниям нанимать практиков ИИ медленно, но последовательно во времени, чтобы получить преимущество в своем пути ИИ.
- Удалите предвзятые наборы данных: Непредвзятый набор данных является критическим предварительным условием для создания надежных, справедливых и недискриминационных моделей ИИ. Чтобы понять его важность, ИИ используется для сокращения резюме и кредитного скоринга банками, и он даже вошел в некоторые судебные системы. В этом ландшафте непроверенные предвзятости имели очень реальные последствия.
- Обеспечьте объяснимость решений: Этот аспект был освещен многими крупными новостными изданиями, и вполне справедливо. XAI помогает объяснить, почему система ИИ приняла определенное решение. Он раскрывает, какие функции модели глубокого обучения использовались больше, чем другие, для формирования своего прогноза или гипотезы. Понимание важности функций и возможность оправдать, как принимаются решения, имеет решающее значение для таких случаев использования, как автономные транспортные средства и компьютерное зрение, используемое в медицинских биопсиях.
- Надежно воспроизведите результаты: Общая необходимость в исследовательских проектах, модели ИИ должны быть последовательными при предоставлении прогнозов во времени. Такие модели не должны быть фазированы, когда им представлены новые данные.
Эти четыре вещи создадут прозрачные, управляемые интеллектом экосистемы, переходящие к тому, что мы называем “живым предприятием”. Здесь принимаются непредвзятые, объяснимые решения в режиме реального времени, и все предприятие действует как одаренное существо, управляемое людьми. Прочитайте белую книгу Infosys Knowledge Institute, чтобы узнать больше.
