Daniel Ciolek, Ceannard Rannsachaidh is Leasachaidh aig InvGate - Sreath Agallamh

Tha Daniel na phroifeasanta IT dìoghrasach le còrr air 15 bliadhna de eòlas sa ghnìomhachas. Tha PhD aige. ann an Saidheans Coimpiutaireachd agus cùrsa-beatha fada ann an rannsachadh teicneòlais. Bidh na h-ùidhean aige a’ tuiteam ann an grunn raointean, leithid Artificial Intelligence, Software Engineering, agus Coimpiutaireachd Àrd-choileanadh.

Tha Daniel na Cheannard Rannsachaidh is Leasachaidh aig InvGate, far a bheil e os cionn iomairtean R&D. Bidh e ag obair còmhla ris na sgiobaidhean Leasachadh Bathar is Gnìomhachais gus ro-innleachd R&D na companaidh a dhealbhadh, a bhuileachadh agus a sgrùdadh. Nuair nach eil e a’ rannsachadh, tha e a’ teagasg.

InvGate a’ toirt cumhachd do bhuidhnean le bhith a’ toirt seachad na h-innealan gus seirbheis fuaigheil a lìbhrigeadh thar roinnean, bho IT gu Goireasan.

Cuin agus ciamar a ghabh thu ùidh an toiseach ann an saidheans coimpiutaireachd?

Tha m’ ùidh ann an saidheans coimpiutaireachd a’ dol air ais gu m’ òige. Bha mi an-còmhnaidh air mo ghlacadh le innealan dealanach, gu tric gam lorg fhèin a’ rannsachadh agus a’ feuchainn ri tuigsinn mar a bha iad ag obair. Mar a dh'fhàs mi nas sine, thug an fheòrachas seo mi gu còdadh. Tha cuimhne agam fhathast air an spòrs a bh’ agam a’ sgrìobhadh na ciad phrògraman agam. Bhon mhionaid sin a-mach, cha robh teagamh sam bith nam inntinn gu robh mi airson dreuchd a leantainn ann an saidheans coimpiutaireachd.

Tha thu an-dràsta a’ stiùireadh iomairtean R&D agus a’ cur an gnìomh tagraidhean AI ginealach ùr. An urrainn dhut bruidhinn air cuid den obair agad?

Gu tur. Anns an roinn R&D againn, bidh sinn a’ dèiligeadh ri duilgheadasan toinnte a dh’ fhaodadh a bhith dùbhlanach a riochdachadh agus fhuasgladh gu h-èifeachdach. Chan eil ar n-obair cuingealaichte ri tagraidhean ginealachd AI, ach tha na h-adhartasan o chionn ghoirid san raon seo air beairteas de chothroman a chruthachadh air a bheil sinn airson brath a ghabhail.

B’ e aon de na prìomh amasan againn aig InvGate a-riamh cleachdadh ar bathar-bog a mheudachadh. Bidh sinn a’ dèanamh seo le bhith a’ cumail sùil air mar a thathar ga chleachdadh, a’ comharrachadh botail, agus ag obair gu dìcheallach gus an toirt air falbh. Tha aon bhotal den leithid air an do thachair sinn gu tric co-cheangailte ri tuigse agus cleachdadh cànan nàdarra. B' e cùis air leth doirbh a bha seo dèiligeadh ris gun a bhith a' cleachdadh Modalan Cànain Mòr (LLMn).

Ach, le nochdadh o chionn ghoirid de LLMan cosg-èifeachdach, chaidh againn air na cùisean cleachdaidh sin a sgioblachadh. Tha na comasan againn a-nis a’ toirt a-steach a bhith a’ toirt seachad molaidhean sgrìobhaidh, a’ dreachdadh artaigilean bunait eòlais gu fèin-ghluasadach, agus a’ toirt geàrr-chunntas air pìosan farsaing de theacsa, am measg mòran fheartan eile a tha stèidhichte air cànan.

Aig InvGate, bidh an sgioba agad a’ cur an gnìomh ro-innleachd ris an canar “agnostic AI”. Am b’ urrainn dhut mìneachadh dè tha seo a’ ciallachadh agus carson a tha e cudromach?

Tha AI Agnostic gu bunaiteach mu dheidhinn sùbailteachd agus sùbailteachd. Gu bunaiteach, tha e mu dheidhinn gun a bhith a’ gealltainn aon mhodail no solaraiche AI. An àite sin, tha sinn ag amas air na roghainnean againn a chumail fosgailte, a’ faighinn buannachd às na tha gach solaraiche AI ​​a’ tabhann, agus aig an aon àm a’ seachnadh cunnart a bhith glaiste ann an aon shiostam.

Faodaidh tu smaoineachadh air mar seo: am bu chòir dhuinn GPT OpenAI, Google's Gemini, no Meta's Llama-2 a chleachdadh airson na feartan AI ginealach againn? Am bu chòir dhuinn roghnachadh cleachdadh sgòthan pàighidh-mar-a-falbh, eisimpleir air a riaghladh, no cleachdadh fèin-aoigheachd? Chan e co-dhùnaidhean beaga a tha seo, agus faodaidh iad eadhon atharrachadh thar ùine mar a thèid modalan ùra a leigeil ma sgaoil agus solaraichean ùra a’ tighinn a-steach don mhargaidh.

Tha an dòigh-obrach Agnostic AI a’ dèanamh cinnteach gu bheil an siostam againn an-còmhnaidh deiseil airson atharrachadh. Tha trì prìomh phàirtean aig ar buileachadh: eadar-aghaidh, router, agus na modalan AI fhèin. Bidh an eadar-aghaidh a’ toirt air falbh mion-fhiosrachadh buileachaidh an t-siostam AI, ga dhèanamh nas fhasa do phàirtean eile den bhathar-bog againn eadar-obrachadh leis. Bidh an router a’ co-dhùnadh càite an cuir e gach iarrtas stèidhichte air grunn nithean leithid an seòrsa iarrtas agus comasan nam modalan AI a tha rim faighinn. Mu dheireadh, bidh na modailean a ’coileanadh na gnìomhan AI fhèin, a dh’ fhaodadh a bhith feumach air pròiseasan ro-ghiollachd dàta àbhaisteach agus cruth toraidh.

An urrainn dhut cunntas a thoirt air na taobhan modh-obrach a bhios a’ stiùireadh do phròiseas co-dhùnaidh nuair a thaghas tu na modalan AI agus na solaraichean as freagarraiche airson gnìomhan sònraichte?

Airson gach feart ùr a bhios sinn a’ leasachadh, bidh sinn a’ tòiseachadh le bhith a’ cruthachadh slat-tomhais measaidh. Tha an slat-tomhais seo air a dhealbhadh gus èifeachdas diofar mhodalan AI a mheasadh ann a bhith a’ fuasgladh na h-obrach a tha ri làimh. Ach chan eil sinn dìreach a 'cuimseachadh air coileanadh, bidh sinn cuideachd a' beachdachadh air astar agus cosgais gach modail. Bheir seo sealladh iomlan dhuinn air luach gach modail, a’ toirt cothrom dhuinn an roghainn as èifeachdaiche a thaobh cosgais a thaghadh airson iarrtasan slighe.

Ach, chan eil ar pròiseas a’ tighinn gu crìch an sin. Ann an raon AI a tha ag atharrachadh gu luath, tha modalan ùra gan sgaoileadh gu cunbhalach agus bidh an fheadhainn a th’ ann mar-thà gan ùrachadh gu cunbhalach. Mar sin, nuair a bhios modal ùr no ùraichte ri fhaighinn, bidh sinn ag ath-ruith ar slat-tomhais measaidh. Leigidh seo leinn coimeas a dhèanamh eadar coileanadh a’ mhodail ùr no ùraichte leis an taghadh a th’ againn an-dràsta. Ma tha modail ùr nas fheàrr na am fear a th’ ann an-dràsta, bidh sinn an uairsin ag ùrachadh ar modal router gus an t-atharrachadh seo a nochdadh.

Dè cuid de na dùbhlain a th’ ann a thaobh atharrachadh gun fhiosta eadar diofar mhodalan AI agus solaraichean?

Tha atharrachadh gun fhiosta eadar diofar mhodalan AI agus solaraichean gu dearbh a’ nochdadh seata de dhùbhlain gun samhail.

An toiseach, feumaidh gach solaraiche AI ​​cuir a-steach ann an cruth sònraichte, agus faodaidh na modalan AI dèiligeadh gu eadar-dhealaichte ris na h-aon iarrtasan. Tha seo a 'ciallachadh gum feum sinn an fheum as fheàrr a dhèanamh leotha fhèin airson gach modail, a dh'fhaodas a bhith gu math iom-fhillte leis na diofar roghainnean.

San dàrna h-àite, tha comasan eadar-dhealaichte aig modalan AI. Mar eisimpleir, faodaidh cuid de mhodalan toradh a ghineadh ann an cruth JSON, feart a tha feumail ann am mòran de ar buileachadh. Faodaidh cuid eile tòrr teacsa a phròiseasadh, a’ toirt cothrom dhuinn co-theacs nas coileanta a chleachdadh airson cuid de ghnìomhan. Tha e na phàirt riatanach den obair againn a bhith a’ riaghladh nan comasan sin gus comas gach modail a mheudachadh.

Mu dheireadh, feumaidh sinn dèanamh cinnteach gu bheil freagairtean air an cruthachadh le AI sàbhailte an cleachdadh. Aig amannan faodaidh modalan AI ginealach “ hallucinations ”a thoirt gu buil, no freagairtean a ghineadh a tha meallta, taobh a-muigh co-theacsa, no eadhon a dh’ fhaodadh a bhith cronail. Gus seo a lasachadh, bidh sinn a’ cur an sàs sìoltachain slàintealachd iar-ghiollachd gus freagairtean neo-iomchaidh a lorg agus a shìoladh.

Ciamar a tha an eadar-aghaidh air a dhealbhadh taobh a-staigh an t-siostam AI agnostic agad gus dèanamh cinnteach gu bheil e gu h-èifeachdach a’ toirt cunntas air iom-fhillteachd nan teicneòlasan AI bunaiteach airson eadar-obrachaidhean a tha furasta an cleachdadh?

Tha dealbhadh an eadar-aghaidh againn na oidhirp cho-obrachail eadar R&D agus na sgiobaidhean innleadaireachd. Bidh sinn ag obair air bunait feart-air-feart, a’ mìneachadh nan riatanasan agus an dàta a tha ri fhaotainn airson gach feart. An uairsin, bidh sinn a’ dealbhadh API a bhios a’ fighe a-steach gu sgiobalta leis an toradh, ga chuir an gnìomh nar Seirbheis AI a-staigh. Leigidh seo leis na sgiobaidhean innleadaireachd fòcas a chuir air loidsig gnìomhachais, fhad ‘s a bhios an AI-Seirbheis againn a’ làimhseachadh iom-fhillteachd a bhith a ’dèiligeadh ri diofar sholaraichean AI.

Chan eil am pròiseas seo an urra ri rannsachadh ùr-nodha, ach an àite sin cleachdadh cleachdaidhean innleadaireachd bathar-bog dearbhte.

A’ beachdachadh air gnìomhachd cruinneil, ciamar a làimhsicheas InvGate an dùbhlan a thaobh ruigsinneachd roinneil agus gèilleadh ri riaghailtean dàta ionadail?

Tha dèanamh cinnteach gu bheil cothrom roinneil ri fhaighinn agus gèilleadh ri riaghailtean dàta ionadail na phàirt dheatamach de ar gnìomhachd aig InvGate. Bidh sinn gu faiceallach a’ taghadh solaraichean AI a dh’ obraich chan ann a-mhàin aig sgèile, ach a chumas suas inbhean tèarainteachd àrd agus a chumas ri riaghailtean roinneil.

Mar eisimpleir, cha bhith sinn a’ beachdachadh ach air solaraichean a tha a’ cumail ri riaghailtean leithid an Riaghailt Choitcheann Dìon Dàta (GDPR) san EU. Nì seo cinnteach gun urrainn dhuinn ar seirbheisean a chuir gu feum gu sàbhailte ann an diofar roinnean, le misneachd gu bheil sinn ag obair taobh a-staigh frèam laghail ionadail.

Bidh prìomh sholaraichean sgòthan leithid AWS, Azure, agus Google Cloud a’ sàsachadh nan riatanasan sin agus a ’tabhann raon farsaing de fheartan AI, gan dèanamh nan com-pàirtichean freagarrach airson ar gnìomhachd cruinneil. A bharrachd air an sin, bidh sinn an-còmhnaidh a’ cumail sùil air atharrachaidhean ann an riaghailtean dàta ionadail gus dèanamh cinnteach à gèilleadh leantainneach, ag atharrachadh ar cleachdaidhean mar a dh’ fheumar.

Ciamar a tha dòigh-obrach InvGate airson fuasglaidhean IT a leasachadh air a thighinn air adhart thar nan deich bliadhna a dh’ fhalbh, gu sònraichte le aonachadh Generative AI?

Thairis air na deich bliadhna a dh’ fhalbh, tha dòigh-obrach InvGate airson fuasglaidhean IT a leasachadh air a thighinn air adhart gu mòr. Tha sinn air ar bunait feart a leudachadh le comasan adhartach leithid sruthan obrach fèin-ghluasadach, lorg innealan, agus Stòr-dàta Riaghladh Configuration (CMDB). Tha na feartan sin air gnìomhachd IT a dhèanamh nas sìmplidhe don luchd-cleachdaidh againn.

O chionn ghoirid, tha sinn air tòiseachadh air GenAI fhilleadh a-steach do na toraidhean againn. Chaidh seo a dhèanamh comasach mar thoradh air adhartasan o chionn ghoirid ann an solaraichean LLM, a tha air tòiseachadh a’ tabhann fuasglaidhean cosg-èifeachdach. Tha amalachadh GenAI air leigeil leinn ar bathar adhartachadh le taic le cumhachd AI, a’ dèanamh ar fuasglaidhean nas èifeachdaiche agus nas fhasa a chleachdadh.

Fhad ‘s a tha e fhathast na làithean tràtha, tha sinn a’ dèanamh a-mach gum bi AI gu bhith na inneal uile-làthaireach ann an gnìomhachd IT. Mar sin, tha sinn an dùil leantainn air adhart ag atharrachadh ar toraidhean le bhith ag amalachadh teicneòlasan AI tuilleadh.

An urrainn dhut mìneachadh mar a tha an AI ginealach taobh a-staigh an AI Hub ag àrdachadh astar agus càileachd fhreagairtean do thachartasan IT cumanta?

Tha an AI ginealach taobh a-staigh ar Hub AI gu mòr ag àrdachadh an dà chuid astar agus càileachd fhreagairtean do thachartasan IT cumanta. Bidh e a’ dèanamh seo tro phròiseas ioma-cheum:

A ’chiad conaltradh: Nuair a choinnicheas neach-cleachdaidh ri duilgheadas, faodaidh e no i còmhradh fhosgladh leis a’ Ghnìomhaiche Brìgheil againn le cumhachd AI (VA) agus cunntas a thoirt air a’ chùis. Bidh an VA gu fèin-obrachail a’ sgrùdadh tro Bhunait Eòlais (KB) a’ chompanaidh agus stòr-dàta poblach de stiùiridhean fuasglaidh IT, a’ toirt seachad stiùireadh ann an dòigh còmhraidh. Bidh seo gu tric a 'fuasgladh na duilgheadas gu luath agus gu h-èifeachdach.

Cruthachadh thiocaidean: Ma tha a’ chùis nas iom-fhillte, faodaidh an VA tiogaid a chruthachadh, a’ toirt a-mach fiosrachadh buntainneach bhon chòmhradh gu fèin-ghluasadach.

Sònrachadh tiogaid: Bidh an siostam a’ sònrachadh an tiogaid gu àidseant taic stèidhichte air roinn na tiogaid, prìomhachas, agus eòlas an neach-ionaid le cùisean coltach ris.

Eadar-obrachadh àidseant: Faodaidh an neach-ionaid fios a chuir chun neach-cleachdaidh airson fiosrachadh a bharrachd no gus innse dhaibh gun deach a’ chùis fhuasgladh. Tha an eadar-obrachadh air a neartachadh le AI, a’ toirt seachad molaidhean sgrìobhaidh gus conaltradh a leasachadh.

Àrdachadh: Ma tha feum air a’ chùis àrdachadh, bidh feartan geàrr-chunntas fèin-ghluasadach a’ cuideachadh mhanaidsearan an duilgheadas a thuigsinn gu sgiobalta.

Mion-sgrùdadh Postmortem: Às deidh an tiogaid a dhùnadh, bidh an AI a’ dèanamh mion-sgrùdadh bun-adhbhar, a’ cuideachadh le mion-sgrùdadh postmortem agus aithisgean. Faodaidh an neach-ionaid cuideachd an AI a chleachdadh gus artaigil bunait eòlais a dhreachadh, a’ comasachadh fuasgladh fhaighinn air cùisean coltach ris san àm ri teachd.

Ged a tha sinn air a’ mhòr-chuid de na feartan sin a chuir an gnìomh mar-thà, tha sinn an-còmhnaidh ag obair air tuilleadh leasachaidhean agus leasachaidhean.

Le feartan ri thighinn mar an MS Teams Virtual Agent, dè na leasachaidhean ris a bheil dùil ann an eòlasan taic còmhraidh?

Is e aon shlighe gealltanach air adhart an eòlas còmhraidh a leudachadh gu “copilot”, chan e a-mhàin comasach air ceistean a fhreagairt agus gnìomhan sìmplidh a ghabhail, ach cuideachd gnìomhan nas iom-fhillte a ghabhail às leth an luchd-cleachdaidh. Dh'fhaodadh seo a bhith feumail airson comasan fèin-sheirbheis luchd-cleachdaidh a leasachadh, a bharrachd air innealan cumhachdach a bharrachd a thoirt do riochdairean. Mu dheireadh, nì na h-eadar-aghaidh còmhraidh cumhachdach seo AI na chompanach uile-làthaireach.

Tapadh leibh airson an agallamh sgoinneil, bu chòir do luchd-leughaidh a tha airson barrachd ionnsachadh tadhal InvGate.