Клонирование программного обеспечения: неужели платное ПО себя изжило?

Недавние заголовки о разработчиках, использующих инструменты ИИ для клонирования популярного платного программного обеспечения, прежде всего Adobe, вызвали неоднозначную реакцию — от обвинений в краже до одобрения бесплатных инструментов с открытым исходным кодом.

Но что это значит для технологических компаний, которым принадлежит оригинальное программное обеспечение, и для тех, кто платит за его использование дорогостоящие подписки?

Мэтт Вуд, старший директор по архитектуре кибербезопасности, операционной деятельности и безопасности ИИ в ABBYY, изучил эту растущую проблему и делится своим мнением о рисках и возможностях разработки программного обеспечения с помощью ИИ.

В 1996 году Fatboy Slim создал «Rockafeller Skank», взяв за основу гитарный рифф из записи 1960-х годов, которую за несколько десятилетий слышали немногие. The Chemical Brothers зацикливали брейкбиты из забытых фанк-записей, превращая их в гимны, звучавшие на стадионах. The Prodigy использовали семплы сирен, диалогов из фильмов и малоизвестных виниловых записей, создавая нечто совершенно новое по звучанию. Семплирование не просто снизило затраты на создание музыки. Оно изменило круг людей, получивших возможность её создавать, и заставило всю индустрию задаться более сложным вопросом: что на самом деле можно считать оригинальным?

Сегодня ИИ заставляет компании задаваться тем же вопросом, но ставки теперь измеряются не позициями в чартах. На кону — результаты работы, риски несоблюдения требований и доверие, которое клиенты оказывают каждому решению компании.

Копирование обходится дёшево. Понимание — нет.

Большие языковые модели значительно упростили переработку уже имеющихся знаний: они могут составить пункт договора, кратко изложить отчёт или сгенерировать правдоподобный ответ на основе доступных им текстов. Эта возможность действительно ценна. Но копирование — не то же самое, что открытие нового, и смешение этих понятий — одна из причин, по которым многие корпоративные проекты в области ИИ незаметно заходят в тупик.

Это различие важно, потому что генеративные системы отлично справляются с созданием материала, который выглядит завершённым. Они с необычайной беглостью подражают тону, структуре и уверенной манере изложения. Но сами по себе они не могут гарантировать, что созданный ими материал опирается на нужные доказательства, связан с нужным процессом или сформирован на основе правильной оценки.

Это противоречие характерно не только для бизнеса. Оно заметно и в творческой работе. В исследовании 2024 года, опубликованном в журнале Science Advances, было установлено, что помощь ИИ повышала воспринимаемое качество и творческую оригинальность отдельных рассказов, особенно у авторов с менее развитым творческим мышлением, но при этом сами рассказы становились более похожими друг на друга. Иными словами, качество отдельных работ улучшалось, но на общем уровне они сближались. Рост объёма производства не обязательно означал рост оригинальности. Часто он приводил к появлению большего числа тех же идей, лишь более гладко сформулированных.

В этом и заключается корпоративный риск в миниатюре. Когда всем доступны одни и те же универсальные инструменты, конкурентное преимущество даёт не увеличение объёма текста, кратких изложений или рекомендаций. Оно возникает благодаря пониманию того, что важно, чему можно доверять и что требует действий.

Проблема бизнеса не в генерации, а в доступе к реальности.

Большинство компаний страдает не от нехватки слов. Им не хватает доступного и надёжного контекста.

Знания компании обычно разбросаны по договорам, счетам, анкетам для новых клиентов, претензиям, электронным письмам, отчётам, отсканированным PDF-файлам и рабочим процессам, в рамках которых эти документы переходят от одной команды к другой. Исключение при проведении платежа в финансовом отделе, проблема с соблюдением требований при подключении клиента или задержка обслуживания в операционной деятельности часто изначально существуют в виде частично структурированных данных, оформленных непоследовательно и не связанных с системами, на которые руководители опираются при принятии решений.

Именно поэтому так много корпоративных проектов в области ИИ впечатляют на демонстрациях, но могут провалиться при внедрении в рабочую среду. Модель может быть способной, но контекст у неё неполный. Она может рассуждать лишь на основе доступных ей данных, а во многих организациях это лишь малая часть реальной картины.

Это не просто теоретический недостаток. Он влияет на качество решений. Если модель кратко излагает содержание договора, не имея доступа к соответствующим дополнениям, её ответ может звучать ясно, но быть неполным. Если она анализирует проблемы с кредиторской задолженностью, не учитывая исключения в счетах в разных форматах и от разных поставщиков, её рекомендации могут выглядеть аккуратно, но оказаться бесполезными. Если она помогает подключать клиентов, пока важная информация остаётся в отсканированных формах или разрозненных рабочих процессах, она может ускорить принятие неверного решения.

В результате получается не понимание, а догадки, звучащие убедительно.

Почему подражание масштабируется быстрее, чем понимание

Именно здесь аналогия с семплированием в музыке становится чем-то большим, чем просто метафора.

Семплирование сделало музыкальное производство быстрее, дешевле и доступнее. Но успеха добились не те продюсеры, которые просто копировали фрагменты. Им помогли тонкое чутьё и дисциплина, позволявшие преобразовывать исходный материал. Взять бит мог каждый, но не каждый мог создать на его основе новое звучание.

ИИ создает похожий раскол в сфере программного обеспечения и интеллектуального труда. Порог для подражания резко снизился. Как никогда прежде, стало просто копировать интерфейсы, воспроизводить результаты, имитировать рабочие процессы и приблизительно воссоздавать экспертные знания. Целые категории программ все чаще оказываются под угрозой поверхностного копирования.

Это не означает, что платное программное обеспечение осталось в прошлом, как отмечает разработчик Брэндон Томас, создавший бесплатные альтернативы продуктам Adobe. Это означает, что ценность программного обеспечения меняется.

Когда подражание становится дешевым, ценность перемещается в другие сферы: доверие, интеграцию, здравое суждение и способность добиваться результатов, которые выдерживают проверку реальными условиями. Вопрос уже не в том, может ли система ИИ выдать ответ, похожий на результат экспертной работы. Вопрос в том, способна ли она делать это надежно, с учетом контекста и с такой степенью прозрачности, чтобы люди доверяли ей, когда ставки высоки.

Скопировать результат легко. Добиться надежного результата — нет.

Скрытая ценность — в экспертных знаниях

Именно поэтому в эпоху клонирования с помощью ИИ экспертные знания становятся важнее, а не менее важными.

Долгие годы ценность многих цифровых инструментов заключалась в том, что они делали специализированные возможности дефицитными. Если программа могла закодировать процесс, стандартизировать задачу или упростить прежде сложный рабочий процесс, клиенты были готовы платить за доступ к упакованным в нее экспертным знаниям. Генеративный ИИ подрывает эту модель, поскольку теперь способен с небольшими затратами имитировать многие внешние признаки экспертной работы.

Но подражание охватывает лишь внешнюю оболочку.

Настоящая экспертиза — это умение определить, какое исключение имеет значение, какую неоднозначность нельзя игнорировать, какой источник является авторитетным и когда ответ системы следует оспорить, а не принять на веру. Именно этим извлечение текста из документа отличается от понимания того, достаточно ли этого текста для обоснования делового решения. И именно этим пересказ политики отличается от понимания операционных последствий ошибки в таком пересказе.

Именно здесь многие рассуждения об ИИ и оригинальности тоже сбиваются с пути. В бизнесе оригинальность редко сводится к новизне ради самой новизны. Она заключается в умении заметить то, что ускользает от других: риск, скрытый в рабочем шуме, закономерность, затерянную в разрозненной информации, возможность, которую заслоняют несвязанные между собой системы. Такая оригинальность в меньшей степени зависит от красноречивой генерации и в большей — от точной интерпретации.

Документы — не вся история, но часто именно с них она начинается

Документы важны в этом контексте, поскольку они по-прежнему остаются одним из самых распространенных хранилищ сведений о реальной работе предприятия, которыми при этом нельзя пользоваться в полной мере.

Это не значит, что «ИИ для работы с документами» — главный герой этой истории. Это лишь одна из составляющих более масштабной задачи: превращения операционной информации в формат, с которым системы ИИ могут ответственно работать. Если организации хотят получать более качественные результаты от генеративных моделей, им нужно обеспечить лучший доступ к данным, на которые эти модели опираются. Во многих случаях для этого необходимо извлекать, проверять и структурировать информацию, которая иначе так и осталась бы запертой в формах, файлах и разрозненных передачах данных.

При грамотном использовании такие возможности нужны не для продвижения одной категории продуктов за счет другой. Их цель — сократить разрыв между тем, что известно компании, и тем, что действительно доступно ее системам ИИ.

Это различие имеет значение. Наиболее эффективные стратегии внедрения ИИ в компаниях основаны не только на генерации. В их основе — сочетание данных, пригодных для использования, понимания рабочих процессов и контроля со стороны человека. Например, недавнее исследование для корпоративного сектора, проведённое в рамках проекта MIT Project NANDA, указывает, что главными препятствиями для внедрения ИИ часто становятся не качество модели само по себе, а плохая интеграция в рабочие процессы и недостаток доверия к тому, как инструменты ведут себя в реальных условиях.

Это должно быть знакомо. Компании добиваются успеха не за счет производства наибольшего объема синтетического контента. Они побеждают, когда принимают более качественные решения — быстрее и последовательнее, опираясь на информацию, которую могут обосновать.

Следующая ценность — в здравом суждении

Сэмплирование не обесценило музыку. Оно изменило само понятие оригинальности.

Когда исходные материалы стало проще использовать повторно, ценность переместилась к отбору, аранжировке и замыслу. Умение судить стало ценнее самого доступа. То же самое сейчас происходит в сфере корпоративного ИИ. По мере того как клонировать программное обеспечение становится проще, устойчивое преимущество будет обеспечивать не модель, способная имитировать компетентную работу. Оно будет зависеть от умения подключать ИИ к нужному контексту, правильно ограничивать его возможности и применять там, где человеческое творчество и профессиональное суждение в конкретной области по-прежнему важнее всего.

Именно эту часть дискуссии упускают из виду многие сторонники тезиса «ИИ заменит программное обеспечение». Если любой инструмент можно скопировать на уровне интерфейса, то реальное конкурентное преимущество заключается не в интерфейсе, а в глубине понимания, которая за ним стоит: логике рабочих процессов, обработке исключений, надежных данных, институциональных знаниях и человеческой экспертизе, необходимых для превращения результатов в решения.

Так неужели платное ПО действительно уходит в прошлое? Только если считать, что его ценность всегда заключалась лишь во внешней оболочке.

Конкуренция в сфере стандартных функций программного обеспечения будет усиливаться. Одни продукты будут копировать. Некоторые категории сузятся. Некоторые функции, за которые прежде приходилось платить больше, станут обязательным минимумом. Но сохранятся те инструменты и компании, которые помогают организациям перейти от подражания к пониманию.

Вот почему нынешний этап сэмплирования в сфере ИИ так важен. Он напоминает: снижение стоимости воспроизведения не отменяет потребности в оригинальности. Оно лишь меняет то, где эта оригинальность рождается.

В музыке акцент сместился с исполнения исходного материала на мастерство его преобразования.

В корпоративном ИИ акцент смещается с генерации правдоподобных результатов на дисциплинированное использование достоверной информации, экспертных оценок и творческого подхода к решению проблем.

Копирование обходится дешево. А вот глубокое понимание — нет. Поэтому следующий этап развития ИИ будет не за системами, которые лишь звучат разумно. Он будет за организациями, умеющими сделать уже имеющиеся у них знания достаточно пригодными для практического применения, чтобы открывать по-настоящему новое.