Велики језички модели (ЛЛМ) су тренутно једна од тема о којима се највише расправља у маинстреам АИ. Програмери широм света истражују потенцијалне примене ЛЛМ-а. Ови модели су АИ алгоритми који користе технике дубоког учења и огромне количине података за обуку да би разумели, сумирали, предвидели и генерисали широк спектар садржаја, укључујући текст, аудио, слике, видео записе и још много тога.

Модели великих језика су сложени АИ алгоритми. Развијање таквог модела је исцрпан задатак, а изградња апликације која користи могућности ЛЛМ-а је подједнако изазовна. Захтева значајну стручност, труд и ресурсе да се дизајнира, имплементира и на крају оптимизује радни ток који може да искористи пуни потенцијал великог језичког модела како би се постигао најбољи резултат. С обзиром на велико време и ресурсе потребне за успостављање токова посла за апликације које користе моћ ЛЛМ-а, аутоматизација ових процеса има огромну вредност. Ово је посебно тачно јер се очекује да ће токови посла постати још сложенији у блиској будућности, а програмери ће радити све софистицираније Апликације засноване на ЛЛМ. Поред тога, простор за дизајн који је неопходан за ове токове посла је и сложен и експанзиван, што додатно подиже изазове креирања оптималног, робусног тока посла који испуњава очекивања перформанси.

АутоГен је оквир који је развио тим у Мицрософту који има за циљ да поједностави оркестрацију и оптимизацију ЛЛМ токова рада увођењем аутоматизације у цевовод тока посла. АутоГен оквир нуди саговорне и прилагодљиве агенте који користе моћ напредних ЛЛМ-ова као што су ГПТ-3 и ГПТ-4, а истовремено решавају њихова тренутна ограничења интеграцијом ЛЛМ-ова са алаткама и људским уносима коришћењем аутоматизованих ћаскања за покретање разговора између више агената. 

Када користите АутоГен оквир, потребна су само два корака када се развија сложен систем за разговор са више агената. 

Корак КСНУМКС: Дефинишите скуп агената, сваки са својим улогама и могућностима. 

Корак КСНУМКС: Дефинишите интеракцијско понашање између агената, тј. агент треба да зна шта да одговори када прими поруку од другог агента. 

Оба горња корака су модуларна и интуитивна што чини ове агенте састављајућим и поново употребљивим. Слика испод показује пример тока посла који се бави одговорима на питања заснована на коду у оптимизацији ланца снабдевања. Као што се може видети, писац прво пише код и тумачење, Сафегуард обезбеђује приватност и безбедност кода, а затим шифру извршава командант након што добије потребну дозволу. Ако систем наиђе на било какав проблем током времена рада, процес се понавља док се потпуно не реши. Примена оквира у наставку резултира смањењем количине ручне интеракције са 3к на 10к када се примењује у апликацијама као што је оптимизација ланца снабдевања. Штавише, употреба АутоГен-а такође смањује количину напора кодирања до четири пута. 

АутоГен би могао да промени игру јер има за циљ да трансформише процес развоја сложених апликација користећи моћ ЛЛМ-а. Употреба АутоГен-а не само да може смањити количину ручних интеракција потребних за постизање жељених резултата, већ може и смањити количину напора кодирања потребних за креирање тако сложених апликација. Употреба АутоГен-а за креирање Апликације засноване на ЛЛМ може не само да значајно убрза процес, већ ће такође помоћи у смањењу количине времена, труда и ресурса потребних за развој ових сложених апликација. 

У овом чланку ћемо дубље заронити у АутоГен оквир, и истражићемо основне компоненте и архитектуру АутоГен оквира, заједно са његовим потенцијалним апликацијама. Па да почнемо. 

Увод у АутоГен: Покретање апликација за моделе великих језика следеће генерације

АутоГен је оквир отвореног кода који је развио тим у Мицрософту и који програмерима даје моћ да креирају апликације користећи моћ ЛЛМ-а користећи више агената који могу да разговарају једни са другима како би успешно извршили жељене задатке. Агенти у АутоГен-у су саговорни, прилагодљиви и могу да раде у различитим режимима који користе комбинацију алата, људског уноса и ЛЛМ-а. Програмери такође могу да користе АутоГен оквир да дефинишу интеракцијско понашање агената, а програмери могу да користе рачунарски код и природни језик за програмирање флексибилних образаца разговора који се примењују у различитим апликацијама. Будући да је оквир отвореног кода, АутоГен се може сматрати генеричким оквиром који програмери могу користити за изградњу апликација и оквира различите сложености који користе моћ ЛЛМ-а. 

Велики језички модели играју кључну улогу у развоју агената који користе ЛЛМ оквире за прилагођавање новим запажањима, коришћењу алата и закључивању у бројним апликацијама у стварном свету. Али развој ових апликација које могу да искористе пун потенцијал ЛЛМ-а је сложена ствар, а с обзиром на све већу потражњу и примене ЛЛМ-а заједно са повећањем сложености задатака, од виталног је значаја повећати моћ ових агената коришћењем више агената. који раде у синхронизацији једни са другима. Али како се приступ са више агената може користити за развој апликација заснованих на ЛЛМ-у које се затим могу применити на широку лепезу домена различите сложености? АутоГен оквир покушава да одговори на горње питање користећи разговоре са више агената. 

АутоГен : Компоненте и оквир

У покушају да смање количину напора које програмери треба да уложе да би креирали сложене апликације користећи ЛЛМ могућности у широком спектру домена, основни принцип АутоГен-а је да консолидује и поједностави токове рада са више агената коришћењем разговора са више агената. , чиме се такође максимизира поновна употреба ових имплементираних агената. АутоГен користи више агената који могу да разговарају једни са другима да би успешно извршили жељене задатке, а оквир је изграђен на два основна концепта: Цонверсабле Агентс Цонверсабле Программинг. 

Цонверсабле Агентс

Агент са којим се може разговарати у АутоГен-у је ентитет са унапред дефинисаном улогом који може прослеђивати поруке за слање и примање информација другим агентима са којима се може разговарати. Агент са којим се може разговарати одржава свој интерни контекст на основу примљених или послатих порука, а програмери могу да конфигуришу ове агенте тако да имају јединствен скуп могућности као што су омогућавање помоћу ЛЛМ алата или примање људских инпута. 

Могућности агената покрећу људи, алати и ЛЛМ 

Способности агента се директно односе на то како обрађује и одговара на поруке, што је примарни разлог зашто агенти у оквиру АутоГен омогућавају програмерима флексибилност да својим агентима дају различите могућности. АутоГен подржава бројне уобичајене могућности састављања за агенте који укључују

1. ЛЛМ: Агенти подржани од ЛЛМ-а искоришћавају могућности напредних ЛЛМ оквира као што су имплицитно мешање стања, играње улога, пружање повратних информација, па чак и кодирање. Програмери могу да користе нове технике подстицања да комбинују ове способности у покушају да повећају аутономију или вештину агента. 
2. Људи: Неколико апликација жели или захтева одређени степен људског учешћа, а АутоГен оквир омогућава апликацијама заснованим на ЛЛМ да олакшају људско учешће у разговору са агентима уз коришћење агената са људском подршком који би могли да траже људске доприносе током одређених рунди разговора на основу конфигурацију агента. 
3. Алати: Агенти подржани алатима обично имају могућности да користе извршавање кода или функције за извршавање алата.

Сарадња и прилагођавање агената

На основу специфичних потреба и захтева апликације, програмери могу да конфигуришу појединачне агенте да имају комбинацију основних позадинских типова да би приказали сложено понашање укључено у разговоре са више агената. АутоГен оквир омогућава програмерима да лако креирају агенте који имају специјализоване улоге и могућности тако што проширују или поново користе уграђене агенте. Слика приложена испод показује основну структуру уграђених агената у АутоГен оквиру. Класа ЦонверсаблеАгент подразумевано може да користи људе, алате и ЛЛМ јер је апстракција агента највишег нивоа. УсерПрокиАгент и АссистантАгент су унапред конфигурисане класе ЦонверсаблеАгент-а, и свака од њих представља заједнички начин коришћења, тј. сваки од ова два агента делује као АИ помоћник (када га подржавају ЛЛМ-ови) и тражи људски унос или извршава позиве функција или кодове (када их подржавају алати и/или људи) тако што ће деловати као људски проки. 

Слика испод показује како програмери могу да користе АутоГен оквир за развој система са два агента који има прилагођену функцију одговора, заједно са илустрацијом резултирајућег аутоматизованог ћаскања агента који користи систем са два агента током извршавања програма. 

Дозвољавајући употребу прилагођених агената који могу да разговарају једни са другима, ови агенти са којима се може разговарати служе као основни градивни блок у оквиру АутоГен. Међутим, програмери треба да прецизирају и обликују ове разговоре са више агената како би развили апликације у којима су ови агенти у стању да остваре значајан напредак на наведеним задацима. 

Програмирање разговора

Да би решио горе наведени проблем, АутоГен оквир користи програмирање разговора, рачунарску парадигму изграђену на два основна концепта: рачунање, радње које предузимају агенти у разговору са више агената да би израчунали њихов одговор и контрола протока, услове или редослед под којим се одвијају ови прорачуни. Могућност да их програмирају омогућава програмерима да имплементирају бројне флексибилне обрасце разговора са више агената. Штавише, у оквиру АутоГен, прорачуни су усредсређени на разговор. Радње које предузима агент су релевантне за разговоре у које је агент укључен, а радње које предузимају агенти затим резултирају прослеђивањем порука за консеквентне разговоре до тачке када се испуни услов прекида. Штавише, ток контроле у ​​оквиру АутоГен оквира је вођен разговорима јер је одлука агената који учествују у томе који ће агенти слати поруке у и из процедуре израчунавања. 

Горња слика демонстрира једноставну илустрацију како појединачни агенти изводе своје операције специфичне за улогу и прорачуне усредсређене на разговор да би генерисали жељене одговоре као што су извршавање кода и ЛЛМ позиви за сметње. Задатак напредује уз помоћ разговора који се приказују у оквиру за дијалог. 

Да би се олакшало програмирање разговора, АутоГен оквир садржи следеће обрасце дизајна. 

• Механизми аутоматског одговора и обједињени интерфејс за аутоматизоване разговоре са агентима

АутоГен оквир има обједињени интерфејс за обављање одговарајућег прорачуна који је по природи усредсређен на разговор, укључујући „функција примања или слања“ за примање или слање порука заједно са „генерате_репли” функција која генерише одговор на основу примљене поруке и предузима потребну акцију. АутоГен оквир такође уводи и примењује агент-ауто репли подразумевани механизам за реализацију контроле вођене разговором. 

• Контрола спајањем природног језика и програмирања

АутоГен оквир олакшава употребу природног језика и програмирања у различитим обрасцима управљања токовима контроле који укључују: Контроле природног језика користећи ЛЛМ,  Контрола језика програмирања, и Контрола прелаза између програмирања и природног језика. 

У наставку, поред статичних разговора који су обично праћени унапред дефинисаним током, АутоГен оквир такође подржава динамичке токове разговора користећи више агената, а оквир пружа програмерима две опције да то постигну

1. Коришћењем позива функција. 
2. Коришћењем прилагођене функције генерисања-одговора. 

Апликације АутоГен-а

Да би се илустровао потенцијал АутоГен оквира у развоју сложених апликација са више агената, ево шест потенцијалних апликација АутоГен-а које су одабране на основу њихове релевантности у стварном свету, могућности решавања проблема побољшаних АутоГен оквиром, и њихов иновативни потенцијал. 

Ових шест апликација АутоГен оквира су

1. Решавање математичких задатака. 
2. Преузимање проширених ћаскања. 
3. АЛФ цхатс. 
4. Кодирање са више агената. 
5. Динамичко групно ћаскање. 
6. Цонверсатионал Цхесс. 

Апликација 1: Решавање математичких задатака

Математика је једна од основних дисциплина за коришћење ЛЛМ модела за помоћ у решавању сложених математичких проблема који отварају читав нови свет потенцијалних апликација укључујући помоћ у истраживању вештачке интелигенције и персонализовано АИ подучавање. 

Слика приложена изнад показује примену АутоГен оквира за постизање конкурентних перформанси у решавању математичких проблема. 

Апликација 2: Одговарање на питања и генерисање проширеног кода за проналажење

У последњих неколико месеци, Ретриевал Аугментед Цоде Генератион се појавио као ефикасан и практичан приступ за превазилажење ограничења ЛЛМ-а у инкорпорирању екстерних докумената. На слици испод приказана је примена АутоГен оквира за ефикасно увећање преузимања и повећање перформанси на задацима питања и одговора. 

Примена 3: Доношење одлука у светским окружењима текста

АутоГен оквир се може користити за креирање апликација које раде са онлајн или интерактивним доношењем одлука. Слика испод показује како програмери могу да користе АутоГен оквир да дизајнирају конверзацијски систем са три агента са агентом за уземљење да би значајно побољшали перформансе. 

Апликација 4: Кодирање са више агената

Програмери који раде на АутоГен оквиру могу да користе оквир ОптиГуиде за изградњу система кодирања са више агената који је способан да пише код за имплементацију оптимизованих решења и одговара на питања корисника. Слика испод показује да употреба АутоГен оквира за креирање дизајна са више агената помаже у значајном повећању укупних перформанси, посебно у извршавању задатака кодирања који захтевају заштиту. 

Апликација 5: Динамичко групно ћаскање

АутоГен оквир пружа подршку за образац комуникације који се врти око динамичких групних ћаскања у којима више агената који учествују деле контекст, и уместо да прате скуп унапред дефинисаних налога, они разговарају једни са другима на динамичан начин. Ова динамична групна ћаскања се ослањају на текуће разговоре како би усмеравала ток интеракције унутар агената. 

Горња слика илуструје како АутоГен оквир подржава динамичко групно ћаскање између агената користећи „ГроупЦхатМанагер”, специјални агент. 

Апликација 6: Конверзацијски шах

Програмери АутоГен оквира су га користили за развој апликације Цонверсатионал Цхесс која је природна игра за сметње која садржи уграђене агенте за играче који могу бити ЛЛМ или људи, а постоји и агент треће стране који пружа релевантне информације, и потврђује потезе на табли на основу скупа унапред дефинисаних стандардних правила. Слика приложена испод показује Цонверсатионал Цхесс, игру са природним сметњама направљену коришћењем АутоГен оквира која омогућава играчима да користе шале, играње ликова или чак референце мемова да креативно изразе своје потезе што чини игру шаха занимљивијом не само за играче , али и за публику и посматраче. 

Zakljucak

У овом чланку смо говорили о АутоГен-у, оквиру отвореног кода који користи концепте програмирања разговора и конверзабилних агената који има за циљ да поједностави оркестрацију и оптимизацију ЛЛМ токова рада увођењем аутоматизације у цевовод тока посла. АутоГен оквир нуди саговорне и прилагодљиве агенте који користе моћ напредних ЛЛМ-ова као што су ГПТ-3 и ГПТ-4, а истовремено решавају њихова тренутна ограничења интеграцијом ЛЛМ-ова са алаткама и људским уносима коришћењем аутоматизованих ћаскања за покретање разговора између више агената. 

Иако је АутоГен оквир још увек у раним експерименталним фазама, он утире пут будућим истраживањима и могућностима истраживања на терену, а АутоГен би могао бити алат који помаже у побољшању брзине, функционалности и лакоће развоја апликација користећи способности ЛЛМ-а.