Connect with us

Інтелектуальне підприємство: зробити генеративний AI готовим до підприємства

Лідери думок

Інтелектуальне підприємство: зробити генеративний AI готовим до підприємства

mm

Давайте почнемо з цього: Так, можливості для Генеративного AI (GenAI) є величезними. Так, воно трансформує світ, як ми його знаємо (і швидше, ніж більшість з нас передбачали). І так, технологія стає розумнішою. Однак, наслідки для GenAI, з його можливістю генерувати текст, зображення та розповіді, для підприємств і бізнесу є дуже різними від впливу на загальну публіку — адже більшість підприємств не пишуть вірші або історії (що популярно серед користувачів ChatGPT), вони обслуговують своїх клієнтів.

Багато компаній мають досвід роботи з обробкою природної мови (NLP) і низькорівневими чат-ботами, але GenAI прискорює, як дані можуть бути інтегровані, інтерпретовані і перетворені на бізнес-результати. Тому їм потрібно швидко визначити, які випадки використання GenAI вирішать їхні найбільш пресингові бізнес-виклики і сприятимуть зростанню. Щоб зрозуміти, як підприємства можуть зробити GenAI готовим до підприємства з їхніми даними, важливо переглянути, як ми прийшли до цього моменту.

Подорож від NLP до Великої Моделі Мови (LLM)

Технологія намагалася зрозуміти природні мови протягом десятиліть. Хоча людська мова сама по собі є еволюційною формою людського вираження, той факт, що люди еволюціонували у так багато діалектів по всьому світу — від символів і звуків у склади, фонетику і мови — залишив технологію залежною від простіших цифрових методів спілкування з бітами і байтами тощо, аж до відносно недавнього часу.

Я почав працювати над програмами NLP майже десятиліття тому. Тоді це було все про мовну таксономію і онтологію, видобуток сутностей і примітивну форму графічної бази даних (в основному в XML) для спроби підтримувати складні відносини і контекст між різними сутностями, зрозуміти пошукові запити, згенерувати хмари слів і доставити результати. Там нічого математичного не було. Там було багато Людини в циклі для побудови taksonомічних баз даних, багато парсингу XML і, найважливіше, багато обчислень і пам’яті. Незалежно від того, деякі програми були успішними, а більшість — ні. Machine learning прийшов наступним з多численними підходами до глибокого навчання і нейронних мереж тощо, прискорюючи природну мовну розуміння (NLU) і природну мовну інференцію (NLI). Однак були три обмежувальні чинники — обчислювальна потужність для обробки складних моделей, доступ до об’ємів даних, які можуть навчити машини, і в першу чергу, модель, яка може самонавчатися і самовиробляти, утворюючи тимчасові відносини між фразами.

Пропустимо два десятиліття вперед, і GPU доставляють величезну обчислювальну потужність, самоучливі і еволюційні нейронні мережі є нормою, навчальні/ненавчальні/напівнавчальні моделі навчання існують, і понад усе, є більший доступ до величезних об’ємів даних у декількох мовах, включаючи різні соціальні медіа-платформи, на яких ці моделі можуть навчатися. Результатом є AI-двигуни, які можуть зв’язатися з вами у вашій природній мові, зрозуміти емоцію і сенс за вашими запитами, звучати як людина і відповідати як людина.

Ми всі, через нашу присутність у соціальних медіа, були ненавмисно «Людиною в циклі» для навчання цих двигунів. Тепер у нас є двигуни, які стверджують, що вони навчені на трильйонах параметрів, здатні приймати сотні і тисячі вхідних параметрів, які є багатомодальними і відповідають нам у нашій мові. Чи це GPT4/5, PaLM2, Llama або будь-який інший LLM, які були опубліковані досі, вони виникають як більш контекстуальні вертикальні розв’язувачі проблем.

Системи взаємодії і системи реєстрації

Хоча подорож від NLP до LLM була великою завдяки еволюції кремнію, даних моделей і наявності величезних об’ємів навчальних даних, які ми всі згенерували, підприємства — роздрібні постачальники, виробники, банківський сектор тощо — кожне потребує дуже різних застосувань цієї технології. По-перше, підприємства не можуть дозволити собі AI-заломлювання — їм потрібно 0% заломлювання і 100% точності для користувачів, які взаємодіють з AI. Є ряд запитів, які вимагають абсолютної точності, щоб бути будь-яким бізнес-використанням — наприклад, Скільки кімнат доступно в вашому готелі? Чи є у вас перший клас квитка?

Щоб протидіяти AI-заломлюванню, вступаємо у добу старої концепції Систем взаємодії і Систем реєстрації. Системи взаємодії, будь то з вашими клієнтами, постачальниками або працівниками, можуть використати платформу GenAI-конверсації з коробки, після навчання для бізнес-специфічних підказок — це «легша» частина. Виклик полягає у вкладенні Систем реєстрації у ланцюг створення вартості. Багато підприємств все ще перебувають у статичному світі таблиць і сутностей і залишаться такою, оскільки більшість підприємств є статичними на організаційному або корпоративному рівні, тоді як події і робочі процеси роблять їх динамічними на транзакційному рівні.

Це місце, де ми говоримо про наступне покоління конверсаційних платформ, які не тільки адресують розмови, інтерфейси і запити, але також ведуть клієнтські подорожі до виконання. Є різні архітектурні підходи до таких конверсаційних платформ. Одним із негайних варіантів є використання гібридного middleware, який діє як консолідатор між векторизованими і позначеними підприємствами даних і LLM-керованими конверсаційними підказками і доставляє результат 0% заломлювання споживачам.

Є величезна кількість роботи з підготовки даних, необхідної підприємствам, щоб зробити її зрозумілою для LLM-двигуна. Ми називаємо це «зрівнюванням» традиційних моделей даних, керованих таблицями і сутностями. Графічні бази даних, які представляють і зберігають дані таким чином, який реляційні бази даних не можуть, знаходять нове призначення в цій подорожі. Метою є перетворення підприємств баз даних у більш зрозумілі графічні бази даних зі стосунками, які визначають контекст і сенс, роблячи його легшим для LLM-двигунів вивчити і, отже, відповісти на підказки від кінцевих клієнтів через комбінацію конверсаційних і реальних запитів. Це завдання забезпечення підприємства даних, щоб зробити його готовим до LLM, є ключем до надання комплексного досвіду Систем взаємодії до Систем реєстрації і ведення клієнтських подорожей до виконання.

Що далі

На цьому етапі, з цими вдосконаленнями даних і AI, найнегайніший вплив відбувається в області генерації програмного коду — як свідчить підйом Microsoft Copilot, Amazone CodeWhisperer і інших інструментів серед розробників. Ці інструменти запускають програми модернізації спадщини, багато з яких часто зупиняються через проблеми часу і вартості. З інструментами генерації коду, керованими GenAI, ми бачимо прискорення термінів модернізації на 20-40%. У проектах розробки коду з нуля ці інструменти дозволять розробникам зміщувати час і продуктивність заощадження у бік дизайн-мислення і більш інноваційних проектів.

Поза розробкою програмного коду інструменти GenAI ведуть до створення нових вертикальних випадків використання і сценаріїв, спрямованих на вирішення найбільш пресингових викликів підприємств, і ми тільки починаємо розгрібати поверхню того, що потрібно зробити, щоб повністю скористатися цією тенденцією. Тим не менш, ми вже вирішуємо кілька проблем і запитів у роздрібній і логістичній сфері за допомогою використання GenAI:

Скільки інвентарю у мене є на складі, і коли мені потрібно спровокувати поповнення? Чи є це прибутковим, щоб запасатися заздалегідь? Чи є моя приземлена ціна правильною, чи вона буде ескальована? Які товари я можу згрупувати або який вид персоналізації я можу надати, щоб підвищити свій прибуток?

Відповіді на ці запитання потребують комбінації конверсаційних фронт-ендів, високоточних даних-керованих запитів на бек-енді і домен-важливої моделі машинного навчання, яка доставляє передбачення і майбутнє керівництво. Отже, моя порада для підприємств буде такою, що незалежно від того, чи ви є AI-розкривачем, чи Генеративним AI-розривом, партнером з постачальниками послуг, які мають доведену AI-експертизу і потужні дані і аналітичні можливості, які можуть озброїти вас, щоб скористатися моделями GenAI, відповідними вашим бізнес-потребам, і допомогти вам залишатися попереду кривої.

Padmanabhan (Paddy) - це лідер платформи та інженерії продукції, орієнтований на платформи, керовані даними, мікросервіси та інженерію, рідну для хмари, а також модернізацію спадкової технології та продукції. Він є старшим віце-президентом та генеральним менеджером, який очолює глобальний напрямок споживчої техніки в Persistent Systems, і його команда забезпечує інженерію цифрових продуктів для клієнтів у роздрібній торгівлі, виробництві споживчих товарів, подорожах та логістиці.