Когда «знания» ИИ 50-летней давности: риск соблюдения нормативных требований, который нельзя игнорировать

Проблема ложных выводов ИИ является насущной задачей, поскольку предприятия увеличивают использование генеративных инструментов. Несмотря на широкий энтузиазм по поводу принятия ИИ, также существует сильная критика. Критические комментаторы часто указывают на кажущиеся случайными, непредсказуемыми неточностями в выводах ИИ, которые подрывают его ценность – и даже могут нанести реальный вред людям, особенно в таких секторах, как здравоохранение и транспорт, где ложные выводы могут теоретически привести к всему, от неправильного рецепта до столкновения поездов.

Часто эти неточности объясняются «голлюцинациями» ИИ – случаями, когда ИИ генерирует «лучшую догадку» ответ, переданную с той же уверенностью, что и «настоящий» ответ, а не информирует пользователя о пробеле в его знаниях или способностях. Голлюцинации могут быть трудно обнаружить на первый взгляд – но есть более тихая, не менее серьезная проблема, которая еще труднее обнаружить.

Долг качества данных: ахиллесова пята ИИ

Когда системы ИИ используют устаревшие, неполные или неточные данные, возникают ложные выводы, но они менее сразу заметны. Например, вы можете попросить ИИ определить симптомы медицинского состояния и получить ответ, основанный на 50-летней статье, а не на текущих исследованиях. Результат вряд ли покажется сразу же, явно и смешно неправильным – но эта первоначальная видимость правдоподобия представляет реальный риск как для пациента, так и для поставщика медицинских услуг.

То же самое верно и для других отраслей – если данные, которые вводятся в модель ИИ, содержат старую, устаревшую или частичную информацию, существует высокий риск ложных выводов. И по мере того, как все больше компаний интегрируют ИИ в бизнес-критические процессы, растет риск получения ложных выводов из плохо управляемых данных.

Точность для регулирующих органов

Это не только проблема повседневной деятельности – это также значительный вызов соблюдения нормативных требований. Регуляторные требования быстро развиваются, чтобы решить проблемы неточной ИИ. Например, ряд ранних регуляторных действий по ИИ произошел; в частности, когда Италия временно запретила ChatGPT из-за проблем с конфиденциальностью, и Европейский совет по защите данных запустил специальную рабочую группу для координации потенциальных действий по принуждению против ChatGPT.

Одним из наиболее показательных регуляторных изменений стало принятие Закона ЕС об ИИ, первого всестороннего правового рамочного акта для ИИ. Закон устанавливает обязательства на основе уровня риска систем ИИ, от систем с «неприемлемым риском», которые запрещены, до систем с высоким риском, которые сталкиваются с жесткими требованиями вокруг прозрачности, качества данных, управления и человеческого надзора.

Значимость Закона ЕС об ИИ заключается не в его амбициозном объеме, а, что важно, в созданном им прецеденте. Регуляторы делают ясно, что ИИ будет подвергаться обязательным, принудительным правилам и что организации должны относиться к соблюдению нормативных требований и прозрачности вокруг использования ИИ как к неотъемлемой части принятия ИИ, а не как к после мысли.

Закон имеет широкий объем, с потенциальным влиянием на большую часть разработок ИИ. В его основе лежит сделать ИИ безопасным, уважая фундаментальные права и ценности. В рамках этой новой основополагающей экосистемы возникает диагностика потенциальных источников неточностей ИИ, включая данные и наборы данных, которые кормят модели, непрозрачность модели и доступ, а также проектирование и использование системы. Решения ИИ являются конструкцией всех трех – проблемы с любым из них могут иметь негативный результат. Не только это, но и данные, которые входят в проектирование, разработку, развертывание и эксплуатацию ИИ, вероятно, будут состоять в основном из бизнес-записей, которые сами подлежат различным требованиям соблюдения нормативных требований.

Иными словами, регуляторная среда, окружающая ИИ, становится все более строгой – и это так же верно для входных данных, как и для выходных данных, хотя последние получают больше заголовков.

Пять шагов к обеспечению ИИ соответствующими, актуальными и релевантными данными

Чтобы решить эту двойную задачу – обеспечить как соответствующую обработку данных, так и высококачественный ввод, который позволяет получать высококачественный вывод – предприятиям необходимо иметь контроль над данными обучения и вывода. К сожалению, это то, чего не хватает многим предприятиям.

По крайней мере, организации должны применять свои более широкие программы соблюдения нормативных требований и управления к инициативам ИИ. Они должны начать фиксировать и поддерживать соответствующие записи о данных, которые они вводят в модели ИИ, как модели и системы спроектированы, а также решения и содержание, сгенерированные через ИИ.

Однако также становится критически важным для организаций сделать шаг вперед и обеспечить, чтобы они имели полный контроль над всеми данными, которые потенциально могут быть использованы в развертываниях ИИ, будь то для первоначального обучения или «живой» работы. Для этого требуется стратегия управления и хранения данных высокого качества, обеспечивающая, чтобы все релевантные данные были собраны, очищены, сохранены, классифицированы и авторизованы. Чтобы добиться этого, организации должны учитывать четыре ключевых шага:

1. Происхождение и родословная данных

Это включает в себя поддержание записи источника данных, его происхождения, владения и любых изменений метаданных (если разрешено) на протяжении всего его жизненного цикла. Это также означает поддержание богатых метаданных и всех основных документов или артефактов, из которых оно получено.

2. Аутентичность данных

Это требует поддержания четкой цепочки хранения всех данных, хранения объектов в их родных формах и хеширования объектов, полученных для демонстрации того, что данные остаются неизменными. Кроме того, организации должны поддерживать полную историю аудита для каждого объекта и всех действий и событий, связанных с любыми изменениями.

3. Классификация данных

Установление характера набора или типа данных является важным. Организации должны быть в состоянии управлять структурированными данными, полуструктурированными данными и структурированными наборами данных. Назначение каждому классу уникальной схемы может позволить организациям управлять разнообразными наборами данных без единой фиксированной онтологии – избегая ненужного манипулирования данными для того, чтобы заставить их входить в жесткую структуру данных.

4. Нормализация данных

Установление общих определений и форматов метаданных является важным для использования в аналитических и решениях ИИ. Ясно определенные схемы являются важным элементом, наряду с инструментами, которые могут преобразовывать или сопоставлять данные для поддержания последовательных, нормализованных представлений связанных данных.

5. Права на данные

Предприятиям необходимы детальные контроли доступа, включая объектный или полевой уровень, на основе пользовательских или системных профилей. Это означает, что правильные данные доступны пользователям и системам, которые имеют право доступа к ним, а доступ ограничен или ограничен для тех, кто не имеет права.

С этими важными элементами на месте предприятия будут лучше всего подготовлены к обеспечению того, чтобы данные, предоставляемые моделям ИИ, были одновременно высококачественными и соответствующими. ИИ будет стимулировать улучшения и повышение эффективности во всех отраслях – но для этого необходимо иметь прочную основу данных.