Объяснимость может решить проблему ИИ в каждой отрасли: отсутствие прозрачности

Автор: Мигель Жетте, вице-президент по исследованиям и разработке речи, Rev.

На ранних этапах развития ИИ возможно было полагаться на новизну. Было нормально, когда машинное обучение училось медленно и поддерживало непрозрачный процесс, когда расчеты ИИ были недоступны для понимания средним потребителем. Но это меняется. Когда все больше отраслей, таких как здравоохранение, финансы и система правосудия, начинают использовать ИИ способами, которые могут иметь реальное влияние на жизнь людей, все больше людей хотят знать, как используются алгоритмы, откуда берутся данные и насколько точны возможности ИИ. Если компании хотят оставаться на переднем крае инноваций на своих рынках, им нужно полагаться на ИИ, которому их аудитория будет доверять. Объяснимость ИИ является ключевым ингредиентом для укрепления этого доверия.

Объяснимость ИИ отличается от стандартных процедур ИИ, поскольку она предлагает людям способ понять, как алгоритмы машинного обучения создают выходные данные. Объяснимый ИИ – это система, которая может предоставить людям потенциальные результаты и недостатки. Это система машинного обучения, которая может удовлетворить человеческое желание справедливости, подотчетности и уважения к конфиденциальности. Объяснимый ИИ необходим для построения доверия между бизнесом и потребителями.

Когда ИИ расширяется, поставщики ИИ должны понимать, что черный ящик не может существовать сам по себе. Модели черного ящика создаются直接 из данных и часто даже разработчик, создавший алгоритм, не может определить, что привело к образованию привычек машины. Но сознательный потребитель не хочет взаимодействовать с чем-то таким непроницаемым, что не может быть привлечен к ответственности. Люди хотят знать, как алгоритм ИИ приходит к конкретному результату без тайны источников входных данных и контролируемого выхода, особенно когда ошибки ИИ часто вызваны предвзятостью машины. Когда ИИ становится более совершенным, люди хотят получить доступ к процессу машинного обучения, чтобы понять, как алгоритм пришел к конкретному результату. Лидеры каждой отрасли должны понимать, что скоро люди будут требовать этого доступа как необходимого уровня прозрачности.

Системы распознавания речи, такие как голосовые помощники, технология транскрипции и другие услуги, которые преобразуют человеческую речь в текст, особенно подвержены предвзятости. Когда такая служба используется для мер безопасности, ошибки, вызванные акцентами, возрастом или происхождением человека, могут быть серьезными ошибками, поэтому проблема должна быть воспринята серьезно. Системы распознавания речи можно использовать эффективно в камерах полиции, например, для автоматической записи и транскрипции взаимодействий – сохранения записи, которая, если транскрибируется точно, может спасти жизни. Практика объяснимости будет требовать, чтобы ИИ не только полагался на приобретенные наборы данных, но и стремился понять характеристики входного аудио, которые могут способствовать ошибкам, если они существуют. Каков акустический профиль? Есть ли шум на фоне? Говорящий из страны, где английский не является основным языком, или из поколения, которое использует словарь, который ИИ еще не выучил? Машинное обучение должно быть проактивным в более быстром обучении и может начать с сбора данных, которые могут решить эти переменные.

Необходимость становится очевидной, но путь к реализации этой методологии не всегда будет иметь простое решение. Традиционный ответ на проблему – добавить больше данных, но более совершенное решение будет необходимо, особенно когда приобретенные наборы данных, которые многие компании используют, изначально предвзяты. Это связано с тем, что исторически было трудно объяснить конкретное решение, принятое ИИ, и это связано с природой сложности конечных моделей. Однако теперь мы можем, и мы можем начать с вопроса, как люди потеряли доверие к ИИ.

Неизбежно, ИИ совершит ошибки. Компании должны создавать модели, которые осознают потенциальные недостатки, определяют, когда и где возникают проблемы, и создают постоянные решения для построения более сильных моделей ИИ:

1. Когда что-то идет не так, разработчикам необходимо объяснить, что произошло, и разработать немедленный план для улучшения модели, чтобы уменьшить будущие аналогичные ошибки.
2. Чтобы машина могла действительно знать, была ли она права или нет, ученым необходимо создать обратную связь, чтобы ИИ мог учиться на своих недостатках и эволюционировать.
3. Еще один способ для систем распознавания речи построить доверие, пока ИИ еще улучшается, – создать систему, которая может предоставить оценки уверенности и предложить причины, почему ИИ менее уверен. Например, компании обычно генерируют оценки от 0 до 100, чтобы отразить свои собственные недостатки ИИ и установить прозрачность с клиентами. В будущем системы могут предоставлять объяснения после факта, почему аудио было сложным, предлагая больше метаданных об аудио, таких как воспринимаемый уровень шума или менее понятный акцент.

Дополнительная прозрачность приведет к лучшему человеческому контролю над обучением и производительностью ИИ. Чем больше мы открыты о том, где нам нужно улучшиться, тем более подотчетны мы за принятие мер по этим улучшениям. Например, исследователю может быть интересно, почему был выдан ошибочный текст, чтобы он мог смягчить проблему, в то время как транскрипционист может захотеть доказательства того, почему система распознавания речи неправильно истолковала входные данные, чтобы помочь с оценкой ее действительности. Сохранение людей в цикле может смягчить некоторые из наиболее очевидных проблем, которые возникают, когда ИИ остается без контроля. Это также может ускорить время, необходимое для ИИ, чтобы обнаружить свои ошибки, улучшиться и в конечном итоге исправить себя в реальном времени.

ИИ имеет возможности улучшить жизнь людей, но только если люди строят его правильно. Нам нужно не только эти системы, но и людей, стоящих за инновациями. Системы ИИ будущего должны следовать принципам, установленным людьми, и только тогда у нас будет система, которой люди доверяют. Пришло время заложить основу и стремиться к этим принципам сейчас, пока в конечном итоге это все еще люди, служащие себе.