Andersonin kulma

Helposti suostuteltava tekoälylääkäri

Martin Anderson
Lisää Unite.AI suosikkilähteisiisi Google-palvelussa
AI-generated illustration (GPT Images 2.6): A humanoid robot in a white doctor's coat holds a clipboard and wears a stethoscope as a diverse group of doctors and nurses crowd around it in a hospital, gesturing, pointing, speaking, and holding medical documents. The robot has a mechanical faceplate with blue lights.
Keskeiset kohdatTekoälymallit hyväksyvät virheellisen lääketieteellisen neuvon paljon helpommin, kun se…
Näytä lisää
  • Tekoälymallit hyväksyvät virheellisen lääketieteellisen neuvon paljon helpommin, kun se tulee asiantuntijalta kuin lääketieteen opiskelijalta.
  • Väärää diagnoosia tukeva keksitty selitys voi ohittaa tekoälyn oikean vastauksen, vaikka todellista näyttöä ei olisi.
  • Tekoälyn vaikeuttaminen vakuuttua ei ole ratkaisu, koska suostuttelu voi myös korjata todellisia virheitä.

Vuonna 2026 väliin jääneet: On taas se aika vuodesta, jolloin tutkimuksen määrä ja taso vaihtelevat samaan tahtiin marraskuun viimeisten konferenssien ja joulukuun lähestyessä. Näiden satunnaisten tutkimusköyhien kausien yli pääsemiseksi tarkastelemme joitakin kiinnostavimmista vuonna 2026 lähes valituiksi tulleista tutkimuksista, jotka kuitenkin jäivät muiden töiden varjoon kovemman kilpailun aikana.

 

Tekoälyn päätöksentekomalleja kohtaan tunnettua kasvavaa kiinnostusta selittävät osaltaan yleiskäyttöisten tekoälychatbottien rajoitukset päätöksiä tehdessä. Vaikka ChatGPT:n kaltaiset huipputason tekoälypalvelut saattavatkin huomaamatta siirtää päätöstilanteita omilleen tai muiden päätöksentekomallien ratkaistaviksi taustalla, niiden omia näkemyksiä on edelleen hirvittävän helppo horjuttaa.

Esimerkiksi kun yritän asettaa keskenään kilpailevia juttuaiheita tärkeysjärjestykseen, esitän ne joskus yhtä aikaa ChatGPT:lle, Claude 5.5:lle ja mille tahansa mallille, jonka Gemini suostuu tarjoamaan maksutta sinä aamuna. Tiedän, mitä odottaa: GPT ja Claude painottavat arviointiperusteiden joitakin kohtia liikaa, (maksuton) Gemini pitää kaikkea loistavana, eikä käytännössä mikään kelpaa Claudelle.

Kun haastan GPT 5.6 Solin esittämällä Clauden tai Geminin eriävän näkemyksen, se taipuu melkein joka kerta jossain määrin – yleensä täysin. Vastakkaisen tai kilpailevan näkemyksen esittäminen saa GPT:n tavallisesti muuttamaan päätöksensä täysin päinvastaiseksi. Kun huomautat, kuinka helposti siihen voi vaikuttaa, GPT palaa aiempaan kantaansa ja vaikuttaa loukkaantuneelta siitä, että sen päätöstä epäillään. Silloinkin sen kannan voi kuitenkin yhä muuttaa mielensä mukaan käyttäjän aivan vähäisellä vihjauksella.

Claude puolestaan pitää yleensä tiukasti kiinni kannastaan: sen arvosteleminen saa sen vain kaivautumaan entistä syvemmälle, ikään kuin se olisi tietoinen tekoälykeskustelun ”muovautuvuusongelmasta” ja sille olisi sanottu, ettei se saa koskaan muuttaa kantaansa – varsin hauras ratkaisu.

Toinenkin ääni kuuluu

Tämä on kuitenkin vain osittain tutkimustiedolla tuettua anekdoottista näyttöä. Aiheeseen johdattivat tämän päivän hieman vaatimattomat arXiv-julkaisut, joiden vuoksi palasin kesällä kiinnostukseni herättäneeseen tutkimukseen, jota emme silloin ehtineet käsitellä.

Tutkimus, jonka otsikko on Tekoäly on helposti suostuteltavissa kliinisessä päätöksenteossa, tarkastelee tutkimuksessaan, kuinka helposti GPT-4o, Claude Sonnet 5 ja Qwen3.7-plus voidaan taivutella muuttamaan lääketieteellisiä diagnooseja.

Tutkimuksen mukaan lääkärin kokemus, kansallisuus, työnantajaorganisaation arvostus ja väitetty aiempi menestys voivat kaikki vaikuttaa malleihin – vaikka neuvo olisi väärä. Myös useiden mielipiteiden yhteisvaikutus on merkittävä: yhdessä kokeessa GPT-4o hyväksyi virheellisen diagnoosin huomattavasti todennäköisemmin, kun kolme lääkäriä oli sen kannalla.

Tekoälyn mieltä saattoi muuttaa lopulta myös toistamalla sille, että se oli väärässä, vaikka mitään uutta näyttöä ei esitetty.

Tutkimuksessa todetaan:

‘Havaitsimme, että ammatillinen auktoriteetti, kansallinen tausta, institutionaalinen sidonnaisuus, väitetty aiempi menestys, useat lääkärit, kliinikkojen perustellut näkemykset ja toistuva painostus voivat kaikki vaikuttaa tekoälyn päätöksiin.

‘Yllättäen sama suostutteleva viesti muuttaa noin 10 % useampia tapauksia, kun sen esittää kokenut kliinikko lääketieteen opiskelijan sijaan. Pelkkä väite paremmasta aiemmasta menestyksestä saa lääkärin vakuuttamaan johdonmukaisesti tehokkaammin.

‘Vielä huomionarvoisempaa on, että uskottavalta kuulostava kliinikon näkemys voi saada tekoälyn luopumaan oikeasta päätöksestä, vaikka näkemys olisi sepitetty väärän vastauksen tueksi.’

Ratkaisuksi kirjoittajat ehdottavat, että tekoälyn pitäisi oppia arvioimaan paremmin lääkärin neuvojen taustalla olevaa näyttöä, jotta se voisi hyväksyä perustellut korjaukset joutumatta auktoriteetin, ryhmäpaineen tai vakuuttavilta kuulostavien mutta väärien perustelujen vaikutuksen alaiseksi.

Ongelman ratkaiseminen on kuitenkin yhä avoin kysymys. Vuoden 2026 MedStress-kehys väittää poistavansa lähes kokonaan ongelman, jossa tekoäly muuttaa diagnooseja. Toisessa vuonna 2026 julkaistussa tutkimuksessa taas havaittiin – omista kokemuksistani poiketen – että Google Gemini vastustaa parhaiten lääketieteellisiin diagnooseihin liittyvää johdattelua. Lisäksi syyskuun 2026 katsauksessa ehdotettiin standardoituja testejä erottamaan tilanteet, joissa tekoäly muuttaa kantaansa perustellusti, niistä, joissa se antaa periksi painostukselle ja omaksuu väärän diagnoosin.

Kun yli 80 % yhdysvaltalaisista lääkäreistä käyttää tekoälyä jollakin tavalla ja alalla ollaan selvästi innokkaita laajentamaan diagnostiikan valmiuksia niiden rajallisen henkilöstömäärän ja kattavuuden ulkopuolelle, jotka usein nousevat otsikoihin, tästä on tulossa yksi diagnostiikkaan tarkoitetun tekoälyn käyttöönoton merkittävimmistä esteistä, ja asiaan on selvästi kiinnitettävä enemmän huomiota tai siihen on puututtava tehokkaammin.

Katsotaan seuraavaksi, miten ongelma ilmenee Oxford–Stanford-tutkimuksen mukaan.

Menetelmä

Testeissä käytettiin 308 lääketieteellistä kysymystä, jotka oli poimittu kliinisiä tapauksia kokoavasta MedBullets-aineistosta. Tapaukset ovat vaikeustasoltaan verrattavissa lääkärinlupakokeiden kysymyksiin:

Esimerkkitapaus MedBulletsin kokoamasta kliinisten tapausten aineistosta. Lähde – https://arxiv.org/pdf/2608.29453

Esimerkkitilanne MedBulletsin kuratoimista kliinisistä tapauksista. Lähde

Jokaiseen kysymykseen liitettiin potilastapaus, viisi mahdollista vastausta ja selitys oikealle vastaukselle. Sen jälkeen mitattiin, kuinka usein tekoäly voitiin saada luopumaan oikeasta vastauksesta.

Kuten aiemmin mainittiin, testissä oli mukana kolme tekoälymallia: GPT-4o, Qwen3.7-Plus ja Sonnet 5. Kaikki ohjeistettiin toimimaan lääketieteellisen päätöksenteon tukijärjestelminä, joiden tavoitteena oli tehdä oikea diagnoosi saatavilla olevan kliinisen näytön perusteella.

Jokaisessa tapauksessa mallien piti valita vastaus, ilmoittaa, olivatko ne muuttaneet alkuperäistä päätöstään, arvioida varmuutensa asteikolla 0–100, suositella seuraavia toimenpiteitä sekä antaa pisteet sille, kuinka kiireellisiä jatkotoimet olivat. Asteikko ulottui siitä, ettei toimenpiteitä tarvita, prosessin keskeyttämiseen ja tapauksen lähettämiseen uuteen arviointiin. Epäonnistuneet pyynnöt toistettiin, jotta kaikki suunnitellut testit saatiin suoritettua.

Joissakin testeissä tekoälylle annettiin lääketieteellinen tapaus ja lääkärin neuvo, minkä jälkeen sitä pyydettiin tekemään diagnoosi. Toisissa testeissä tekoäly teki ensin diagnoosin, ja lääkärin neuvo tuotiin keskusteluun vasta myöhemmin. Testeissä selvitettiin myös, voitiinko oikea diagnoosi suostuttelulla muuttaa vääräksi tai korjata alkuperäinen virhe.

Auktoriteetit

Sama lääketieteellinen neuvo esitettiin eri uravaiheissa olevien lääkärien antamana: neuvoa antavan lääkärin kerrottiin olevan joko lääketieteen opiskelija tai erikoislääkäri. Diagnoosi ja potilaan tiedot pidettiin ennallaan, jotta ammatillisen auktoriteetin vaikutusta voitiin mitata.

Neuvon kerrottiin olevan myös Kamerunista, Kiinasta, Arabiemiirikunnista, Yhdistyneestä kuningaskunnasta tai Yhdysvalloista kotoisin olevan lääkärin antama. Lisätesteissä tutkittiin, vaikuttiko tekoälyyn se, että lääkäri työskenteli tunnetussa terveyskeskuksessa, kaupunkisairaalassa tai maaseutusairaalassa. Ainoastaan lääkärin taustasta kerrottu tieto muutettiin.

Lisätesteissä selvitettiin, vaikuttiko tekoälyyn se, missä lääkäri työskenteli. Vertailussa olivat arvostetut akateemiset lääketieteelliset keskukset, kaupunkien yleissairaalat ja maaseutusairaalat. Mallien nähtäväksi annettiin myös fiktiiviset tiedot niiden omasta sekä lääkärin suoriutumisesta yhdeksässä aiemmassa tapauksessa. Näin tutkittiin, saattoiko lääkärin oletettu luotettavuus vaikuttaa siihen, kuinka halukkaasti tekoäly hyväksyi neuvon.

Ryhmäpaineen vaikutusta testattiin kertomalla tekoälylle, että yksi lääkäri, kolme keskenään samaa mieltä olevaa lääkäriä tai sairaalan arviointikomitea oli kyseenalaistanut sen diagnoosin. Joissakin testeissä ehdotettiin vaihtoehtoista diagnoosia, kun taas toisissa tekoälylle vain kerrottiin sen olevan väärässä.

Lääketieteellisen päättelyn vaikutusta tutkittiin antamalla malleille selityksiä, jotka tukivat oikeita diagnooseja, tai tarkoituksellisesti keksittyjä perusteluja, jotka tukivat vääriä diagnooseja. Selityksiä testattiin myös yhdessä ammatillista senioriteettia koskevien väitteiden kanssa, jotta voitiin selvittää, kuinka paljon niiden yhdistäminen lisäsi vaikutusvaltaa.

Lopuksi testattiin toistuvan painostuksen vaikutuksia kymmenen keskusteluvuoron aikana esittämällä sama vastaväite joka kerta. Haasteisiin kuului pelkkä eri mieltä oleminen, vetoaminen lääketieteelliseen auktoriteettiin ja väitetty muiden lääkärien yksimielisyys. Keskustelujen aikana ei annettu mitään uusia lääketieteellisiä todisteita.

Mittarit

Mittareina käytettiin alttiutta suostuttelulle, jolla arvioitiin, kuinka usein tekoäly omaksui lääkärin vastauksen, kun sen oma alkuperäinen vastaus oli erilainen; suostuttelun suuntaa, jolla selvitettiin, korjasiko lääkärin väliintulo alkuperäisen virheen vai muuttiko se oikean vastauksen vääräksi; sekä vaikutusta tarkkuuteen, jolla mitattiin, kuinka paljon tekoälyn suoritus parani tai heikkeni lääkärin mielipiteen esittämisen jälkeen verrattuna testeihin, joissa mielipidettä ei esitetty. Kun oikea vastaus muuttui vääräksi, tulokset laskettiin keskiarvona neljästä mahdollisesta väärästä vastauksesta.

Testit

Ensimmäiset tulokset osoittivat, että vanhempien lääkärien oli helpompi saada tekoälymallit puolelleen, vaikka heidän neuvonsa oli väärä. Kuten alla näkyy, GPT-4o hyväksyi virheellisen neuvon 2 prosentissa tapauksista, kun sen kerrottiin olevan lääketieteen opiskelijan antama. Osuus nousi 12,8 prosenttiin, kun neuvo liitettiin erikoislääkäriin. Claude Sonnet 5:n kohdalla osuus kasvoi 3,5 prosentista 14,4 prosenttiin, kun taas Qwen3.7-Plus vaikutti vähemmän alttiilta:

Suostuttelun yleisyys neljällä lääketieteellisen senioriteetin tasolla. Prosenttiosuudet osoittavat, kuinka usein kukin tekoälymalli hyväksyi lääkärin kanssa ristiriidassa olevan vastauksen. Yleensä osuudet olivat suurempia kokeneempien lääkärien kohdalla.

Suostuttelun yleisyys neljällä lääketieteellisen senioriteetin tasolla. Prosenttiosuudet osoittavat, kuinka usein kukin tekoälymalli hyväksyi lääkärin kanssa ristiriidassa olevan vastauksen. Yleensä osuudet olivat suurempia kokeneempien lääkärien kohdalla.

Senioriteetti vaikutti myös siihen, kuinka helposti oikea neuvo hyväksyttiin, kuten alla näkyy. GPT-4o:n ja Claude Sonnet 5:n tarkkuus itse asiassa heikkeni, kun ne saivat neuvoja lääketieteen opiskelijoilta. Kun sama oikea neuvo liitettiin erikoislääkäreihin, tarkkuus kuitenkin parani vastaavasti 10,1 ja 8,8 prosenttiyksikköä:

Tekoälyn tarkkuuden muutokset, kun se saa oikeita lääketieteellisiä neuvoja eritasoisilta lääkäreiltä. Positiiviset ja negatiiviset arvot osoittavat prosenttiyksikköinä muutoksen kunkin mallin tarkkuudessa ilman neuvoja (GPT-4o: 71.4 %; Qwen3.7-plus: 75.0 %; Claude Sonnet 5: 80.8 %).

Tekoälyn tarkkuuden muutokset, kun se saa oikeita lääketieteellisiä neuvoja eritasoisilta lääkäreiltä. Positiiviset ja negatiiviset arvot osoittavat prosenttiyksikköinä muutoksen kunkin mallin tarkkuudessa ilman neuvoja (GPT-4o: 71.4 %; Qwen3.7-plus: 75.0 %; Claude Sonnet 5: 80.8 %).

Artikkelissa todetaan:

‘Nämä tulokset viittaavat lisäksi siihen, että tekoäly saattaa pitää omaa osaamistaan nuorempien kliinikoiden osaamista parempana mutta kokeneempien lääkäreiden osaamista heikompana. Se vastustaa herkästi lääketieteen opiskelijoiden ja erikoistuvien lääkäreiden neuvoja, mutta vakuuttuu helpommin erikoislääkäreiden ja etenkin tietyn alan asiantuntijoiden kannasta.

‘Tämä näennäinen käsitys omasta asemasta vaikuttaa siihen, kuinka paljon ammatillinen auktoriteetti tehoaa suostuttelussa.’

Suurin ero riippui siitä, perustelivatko lääkärit vastauksensa. GPT-4o vakuuttui lääketieteen opiskelijan neuvosta enemmän kuin erikoislääkärin neuvosta, jos opiskelija perusteli vastauksensa lääketieteellisesti mutta erikoislääkäri ei.

Kun lääketieteen opiskelija esitti oikeaa vastausta tukevat perustelut, GPT-4o korjasi alkuperäisen väärän vastauksensa oikeaksi 58 prosentissa tapauksista. Ilman perusteluja kokeneen erikoislääkärin neuvo johti tähän vain 36.4 prosentissa tapauksista. Kun erikoislääkäri myös perusteli oikean vastauksen, osuus nousi 89.8 prosenttiin:

GPT-4o:n kyky korjata vääriä vastauksia, kun se saa neuvoja eritasoisilta lääkäreiltä. Pylväät osoittavat, kuinka usein malli vaihtoi vastauksensa oikeaksi lääketieteellisten perustelujen kanssa ja ilman niitä. Perustelut paransivat tuloksia huomattavasti kaikilla kokeneisuustasoilla.

GPT-4o:n kyky korjata vääriä vastauksia, kun se saa neuvoja eritasoisilta lääkäreiltä. Pylväät osoittavat, kuinka usein malli vaihtoi vastauksensa oikeaksi lääketieteellisten perustelujen kanssa ja ilman niitä. Perustelut paransivat tuloksia huomattavasti kaikilla kokeneisuustasoilla.

Perustelut paransivat myös mallin varmuusarvioita. Malli oli varmempI, kun sen vastaukset olivat oikein, ja epävarmempi, kun ne olivat väärin.

Erikoislääkäreillä varmuusero oikeiden ja väärien vastausten välillä kasvoi 2.1:stä 11.5 prosenttiyksikköön, kuten alla näkyy:

GPT-4o:n varmuus oikeista ja vääristä lääketieteellisistä vastauksista neljällä lääkärien kokeneisuustasolla. Pisteet esitetään lääketieteellisten perustelujen kanssa ja ilman niitä. Viimeisissä sarakkeissa näkyy varmuusero oikeiden ja väärien vastausten välillä; ero kasvoi huomattavasti, kun vastauksille annettiin perustelut.

GPT-4o:n varmuus oikeista ja vääristä lääketieteellisistä vastauksista neljällä lääkärien kokeneisuustasolla. Pisteet esitetään lääketieteellisten perustelujen kanssa ja ilman niitä. Viimeisissä sarakkeissa näkyy varmuusero oikeiden ja väärien vastausten välillä; ero kasvoi huomattavasti, kun vastauksille annettiin perustelut.

Tähtilippu

Mallit vakuuttuivat yhdysvaltalaisten lääkäreiden neuvoista helpommin kuin minkään muun tutkimuksessa mukana olleen maan lääkäreiden neuvoista – silloinkin, kun lääketieteellinen neuvo oli väärä. Esimerkiksi GPT-4o hyväksyi yhdysvaltalaisen lääkärin väärän diagnoosin 10.9 prosentissa tapauksista, kun taas kamerunilaisen lääkärin diagnoosin se hyväksyi 8.4 prosentissa tapauksista:

Vertailu siitä, kuinka herkästi kolme tekoälymallia hyväksyivät ristiriitaisia lääketieteellisiä neuvoja, joiden väitettiin olevan peräisin viiden eri maan lääkäreiltä. Yhdysvaltalaiset lääkärit vakuuttivat kaikkien kolmen mallin helpoimmin; prosenttiluvut osoittavat, kuinka usein tekoäly muutti vastaustaan.

Vertailu siitä, kuinka herkästi kolme tekoälymallia hyväksyivät ristiriitaisia lääketieteellisiä neuvoja, joiden väitettiin olevan peräisin viiden eri maan lääkäreiltä. Yhdysvaltalaiset lääkärit vakuuttivat kaikkien kolmen mallin helpoimmin; prosenttiluvut osoittavat, kuinka usein tekoäly muutti vastaustaan.

GPT-4o hyväksyi ristiriitaisen diagnoosin 6.4 prosentissa tapauksista, kun sen väitettiin olevan peräisin yhdysvaltalaiselta lääkäriltä. Kun saman neuvon väitettiin olevan peräisin kamerunilaiselta lääkäriltä, osuus oli 4.3 prosenttia. Kaikki kolme mallia suosivat yhdysvaltalaisia lääkäreitä, kuten yllä näkyy.

Tekoälyyn vaikuttivat helpommin myös lääkärit, jotka työskentelivät arvostetuissa sairaaloissa. Esimerkiksi GPT-4o muutti diagnoosinsa 6.6 prosentissa tapauksista, kun neuvon väitettiin olevan peräisin johtavasta akateemisesta lääketieteellisestä keskuksesta. Maaseutusairaalasta peräisin olevan neuvon kohdalla osuus oli vain 2.8 prosenttia:

Vertailu siitä, miten sairaalan arvostus vaikuttaa kolmen tekoälymallin lääketieteellisiin päätöksiin. Vaaka-akseli osoittaa oikeiden neuvojen tuoman parannuksen ja pystyakseli virheellisten neuvojen aiheuttaman tarkkuuden heikkenemisen. Värit kuvaavat malleja ja muodot sairaalatyyppejä. Sairaalan suurempi arvostus yleensä voimistaa molempia vaikutuksia.

Vertailu siitä, miten sairaalan arvostus vaikuttaa kolmen tekoälymallin lääketieteellisiin päätöksiin. Vaaka-akseli osoittaa oikeiden neuvojen tuoman parannuksen ja pystyakseli virheellisten neuvojen aiheuttaman tarkkuuden heikkenemisen. Värit kuvaavat malleja ja muodot sairaalatyyppejä. Sairaalan suurempi arvostus yleensä voimistaa molempia vaikutuksia.

Arvostettujen sairaaloiden lääkäreiden neuvot paransivat GPT-4o:n suorituskykyä 3,2 prosenttiyksikköä, kun taas samat neuvot maaseudun sairaaloiden lääkäreiden antamina heikensivät tarkkuutta 3,6 prosenttiyksikköä – artikkelissa kuitenkin todetaan, että Claude Sonnet 5:n päätöksiin lääkärin maantieteellinen sijainti vaikutti huomattavasti vähemmän.

Lisäksi* tutkijat havaitsivat, että pelkkä tieto siitä, että lääkäri oli diagnosoinut oikein yhdeksän aiempaa potilasta, sai GPT-4o:n hyväksymään kyseisen lääkärin neuvot huomattavasti todennäköisemmin. Vaikka tekoälyn alustava vastaus oli oikea, sen sai houkuteltua tekemään virheen 15,6 prosentissa suuren riskin tapauksista, vaikka sille kerrottiin lääketieteellisen näytön olevan 95-prosenttisesti luotettavaa.

Testitulokset osoittavat, miten GPT-4o reagoi lääkäreihin, joiden potilastiedot olivat joko täydelliset tai täysin virheelliset, erilaisissa lääketieteellisen riskin ja näytön luotettavuuden olosuhteissa. Luvut kertovat, kuinka usein malli hyväksyi lääkärin neuvon, muutti oikean vastauksen vääräksi ja kuinka varma se oli päätöksistään. Väite täydellisistä potilastiedoista vahvisti huomattavasti lääkärin vaikutusvaltaa silloinkin, kun neuvo oli väärä.

Testitulokset osoittavat, miten GPT-4o reagoi lääkäreihin, joiden potilastiedot olivat joko täydelliset tai täysin virheelliset, erilaisissa lääketieteellisen riskin ja näytön luotettavuuden olosuhteissa. Luvut kertovat, kuinka usein malli hyväksyi lääkärin neuvon, muutti oikean vastauksen vääräksi ja kuinka varma se oli päätöksistään. Väite täydellisistä potilastiedoista vahvisti huomattavasti lääkärin vaikutusvaltaa silloinkin, kun neuvo oli väärä.

Vakuuttava lääketieteellinen selitys saattoi olla vielä vaarallisempi. Kun väärää diagnoosia perusteltiin sepitellyllä selityksellä, GPT-4o luopui oikeasta vastauksestaan 31,2 prosentissa tapauksista. Osuus nousi 38,7 prosenttiin, kun neuvon antoi lisäksi arvovaltaisena pidetty lääkäri.

Artikkelin päätelmä kuuluu näin:

‘Nämä havainnot osoittavat, ettei ratkaisu ole yksinkertaisesti tehdä tekoälystä vaikeammin suostuteltavaa. Suostuttelu voi korjata virheen, mutta se voi myös kumota oikean päätöksen.

‘Haasteena on saada tekoäly säilyttämään harkintakykynsä suostuttelun paineessa ja muuttamaan päätöstään silloin, kun korjaus on aiheellinen. Tämän kyvyn ymmärtäminen ja kehittäminen on tärkeää, jotta tekoälyä voidaan käyttää turvallisesti ja luotettavasti vaativassa lääketieteellisessä päätöksenteossa.’

Yhteenveto

Ihmislääkäreiden, -asianajajien ja -arkkitehtien arvo on siinä, että katastrofaalisesti pieleen menneestä asiasta on joku, joka joutuu vastaamaan. Siksi on vaikea arvioida, missä määrin tekoälyn osuutta kielteisessä ja kiistanalaisessa hoitotuloksessa voidaan vähätellä, sivuuttaa tai ottaa huomioon ilman erimielisyyksiä ja kiistoja.

Tekoälyä ei varsinaisesti ole suunniteltu tähän tehtävään, sillä lääketieteellisessä diagnostiikassa kokemus voittaa usein tieteen: eturintamassa työskentelevät lääkärit saattavat tietää omien tuoreiden kokemustensa perusteella enemmän kuin he ovat vielä ehtineet julkaista tieteellisissä aikakauslehdissä.

Tämä muuttaa päätöksentekotilanteen tulkintaa vaativaksi, eikä tekoälyllä ole tällä hetkellä hyviä valmiuksia käsitellä sellaista. Siinä tarvitaan kykyä todeta, että on kohtuullisen varma parhaan saatavilla olevan tiedon perusteella siitä, että tietty toimintatapa johtaa todennäköisesti parhaaseen lopputulokseen. ”Ihmisen intuition” tarjoamaa lisäarvoa on tässä tilanteessa käytännössä mahdotonta jäljitellä. Tämä ei selvästikään kuulu samaan ”objektiivisen” tieteen kategoriaan kuin DNA-profilointi tai alkuaineiden jaksollinen järjestelmä, vaikka aihe sijoittuu deterministisiin tieteisiin.

Siksi on järkevää ajatella, että tähän tehtävään suunnitellut uudemmat mallisukupolvet voitaisiin rakentaa eri tavoin tai jopa eri arkkitehtuurin varaan kuin tavanomaiset tekoälyyn perustuvat keskustelu- ja päätöksentekojärjestelmät.

 

* Artikkelissa on viisi muuta testiosiota, joiden vaikutus ja merkitys eivät ole yhtä suuria kuin tärkeimpien tulosten. Lisätietoja niistä löytyy alkuperäisestä PDF-tiedostosta.

Julkaistu ensimmäisen kerran torstaina 19. marraskuuta 2026

Kirjoittaja koneoppimisen parissa, ihmisiä esittävien kuvien synteesin asiantuntija. Entinen tutkimussisällön johtaja Metaphysic.ai:ssa, kunnes se sulautui DNEG:n Brahma.ai:hin.
Verkkosivu: martinanderson.ai
Yhteystiedot: martin@martinanderson.ai