Лидеры мнений

ИИ-мусор проникает в корпоративный сектор

Chris Ackerson
Добавьте Unite.AI в избранные источники в Google
Ключевые моментыОбщие инструменты ИИ рискуют наводнить предприятия низкокачественными результатами…
Показать больше
  • Общие инструменты ИИ рискуют наводнить предприятия низкокачественными результатами, полученными из непроверяемых данных.
  • Специализированный ИИ на курируемых данных предоставляет аналитические данные уровня принятия решений, которые общие модели не могут обеспечить.
  • ИИ-мусор создает петлю обратной связи, где низкокачественные входные и выходные данные ухудшают процесс принятия решений на предприятии.

У ИИ есть проблема массово производимого низкокачественного контента — так называемого «ИИ-мусора», или AI slop. Кто-то встречает его в ежедневной ленте соцсетей в виде созданных ИИ роликов, а в более отдалённых уголках интернета — как драмы в стиле реалити-шоу между созданными ИИ фруктами, изображёнными в человеческом обличье. Такие примеры могут быть безобидным развлечением. Но где провести границу использования ИИ-контента в более серьёзной среде, склонной избегать рисков, например в бизнесе? 

В компаниях ИИ-мусор предстаёт в виде тщательно оформленных и уверенных выводов, основанных на поверхностных, недоступных или неточных данных. Бизнес уже начинает ощущать издержки. Данные AlphaSense отражают этот сдвиг: число упоминаний AI slop в новостях и СМИ выросло с четвёртого квартала 2025 года до первого квартала 2026 года на 20% относительно предыдущего квартала.

 Многие пользователи универсальных ИИ-инструментов считают недостатком отсутствие доступа к защищённым источникам высокого качества. Не все решения можно или следует основывать на интернет-источниках. Когда для важных решений нужна достаточно надёжная информация, становится очевидна разница между инструментами, дающими поверхностные ответы, и теми, которые предлагают специализированные знания.

 Проблема в том, что взрывной рост ИИ-контента подпитывает огромный цикл низкокачественных входных данных и ещё менее качественных результатов. Организации, способные разорвать этот цикл и сосредоточиться на надёжных входных данных по своей предметной области, определят следующий этап корпоративного ИИ, отделив реальные знания от искусственного шума.

Главное ограничение корпоративного ИИ — данные, которые ему предоставляют

Универсальные ИИ-инструменты — это системы, способные понимать, учиться и рассуждать во многих областях. Они сосредоточены на базовых способностях, таких как рассуждение и обучение, поэтому помогают упрощать рабочие процессы и повышать производительность. Однако общие данные, используемые для обучения моделей, могут давать столь же общие результаты, порождая ИИ-мусор при масштабном использовании.

 В технологической отрасли многие компании уже используют эти универсальные ИИ-инструменты и большие языковые модели в различных рабочих процессах и для экономии времени.

 Компании уже не просто тестируют модели, а встраивают их в рабочие процессы с ИИ-агентами. В них системы ИИ автономно взаимодействуют с корпоративными данными, API и внешними приложениями, выполняя задачи от начала до конца. Это ограничивает компании данными, достоверность которых часто трудно или невозможно подтвердить, и приводит к результатам без практической ценности.

 Использование универсальных ИИ-инструментов создаёт несколько проблем, способствующих появлению ИИ-мусора в компаниях:

  • ИИ-контент часто переполняет внутренние базы знаний, затрудняя доверие к ним и их использование.
  • Ошибки, возвращающиеся по циклам обратной связи, засоряют контент общими и нерелевантными сведениями.
  • ИИ упрощает создание контента, но одновременно сокращает проверки качества, обычно встроенные в этот процесс.

Напротив, специализированный ИИ отдаёт приоритет глубине, а не широте, создавая системы для решения чётко очерченных и ценных задач в конкретной области. Вместо обширных общедоступных обучающих данных такие инструменты используют собственные тщательно отобранные наборы данных, позволяющие получать результаты гораздо более высокого качества и более подходящие к контексту. Опираясь на предметную экспертизу, а не на общие данные, прикладной ИИ предоставляет знания, соответствующие корпоративным требованиям к точности и подотчётности. Прозрачные источники, результаты со ссылками на подтверждающие материалы и возможности углублённого исследования обеспечивают прослеживаемость, проверенность и надёжность информации.

 Такая точность обязательна для компаний, работающих в большом масштабе, где ИИ-мусор может привести к критическим ошибкам.

Как разорвать цикл ухудшения качества

Некачественные входные данные и результаты могут со временем влиять на ответы, усугубляя проблему ИИ-мусора и создавая вредный цикл обратной связи.

 Например, в среде с универсальными моделями ИИ-контент создал самоподдерживающийся цикл снижения качества. Системы ИИ часто учатся на доступной внутренней информации, включая предыдущие результаты, и нередко усваивают и воспроизводят существующие ошибки. Если материалы содержат ошибки, те снова попадают в оборот, а общие шаблоны сами себя усиливают. Всё просто: если исходные обучающие данные низкого качества, результаты модели будут отражать тот же уровень.

 При меньшем участии людей ослабевает и оригинальное мышление. По мере продолжения процессов цикл повторяется, а качество результатов продолжает снижаться экспоненциально. ИИ-инструменты часто не ставят проверку точности на первое место и не уделяют должного внимания выбору слов при заполнении пробелов в контенте. В итоге ИИ-мусор заполняет контент искусственным шумом со всё возрастающей скоростью.

 Эта тенденция отчётливо видна в коммуникациях крупных компаний. Недавняя статья Barron’s на основе данных AlphaSense исследовала использование характерной для ИИ формулы «не это, а то». Она появилась в поразительно большом числе внешних корпоративных каналов коммуникации. Согласно статье, использование этой формулировки почти удвоилось как в 2024-м, так и в 2025 году.

 Помимо коммуникаций, риск ИИ-мусора может существенно затронуть различные функции компании, особенно по мере распространения ИИ в процессах принятия решений. Если на важные решения влияют неточные или даже избыточные сведения, команды не могут и не должны доверять своим результатам.

 Самые эффективные ИИ-системы дают информацию, достаточно надёжную для принятия решений

 По мере расширения использования ИИ и оценки окупаемости инвестиций способность отличать ценные знания от ИИ-мусора станет определяющим конкурентным преимуществом. Организации, которые полагаются только на универсальные ИИ-инструменты, не обеспечивая активно качество данных и предметный контекст, рискуют переполнить свои рабочие процессы и потратить время впустую из-за ненадёжных результатов.

 Прикладной ИИ предлагает более безопасный путь к глубокому пониманию. Но организации также должны сочетать эти инструменты с чётким человеческим надзором, стандартами проверки и постоянной оценкой рабочих процессов и результатов для выявления ИИ-мусора. Единого подхода для всех не существует.

 Компании, которые смогут сделать это правильно, будут принимать более качественные и обоснованные решения. На рынке, испытывающем всё большее влияние ИИ, это различие уже становится конкурентным преимуществом.

Chris Ackerson — старший вице-президент по продукту в AlphaSense.AlphaSense — это технология, лежащая в основе важнейших решений в деловом мире — от Уолл-стрит до советов директоров компаний во всех основных отраслях. Нам доверяют более 6 500 ведущих компаний, в том числе 88% компаний из индекса S&P 100, 80% крупнейших мировых банков и все 20 крупнейших фармацевтических компаний мира. Наша платформа поиска на базе ИИ и анализа рыночной информации помогает руководителям компаний действовать быстрее и увереннее, предоставляя нужные аналитические данные в нужный момент.