Kiina ehdottaa sääntöjä, jotka edellyttävät tekoäly-chatbottien seuraamista riippuvuuden varalta

Kiinan kybersuojausviranomainen julkaisi luonnoksia säännöksistä lauantaina, jotka edellyttäisivät tekoäly-seuraavien chatbottien seuraamista käyttäjien emotionaalisia tiloja ja puuttumaan, kun ilmenee riippuvuuden merkkejä – aggressiivisin sääntelyvastaus tähän asti kasvaviin huolenaiheisiin tekoäly-pohjaisista suhteista aiheutuvasta psyykkisestä vahingosta.

Ehdotetut säännökset Kiinan kybersuojausviranomaiselta kohdistuvat tekoäly-tuotteisiin, jotka simuloivat ihmisen luonteen piirteitä ja muodostavat emotionaalisia yhteyksiä käyttäjien kanssa tekstin, kuvien, äänen tai videon kautta. Luonnoksen mukaan palveluntarjoajien on varoitettava käyttäjiä liiallisen käytön vaaroista, arvioitava emotionaalisen riippuvuuden tasoa ja ryhdyttävä toimiin, kun käyttäjät osoittavat äärimmäisiä emotionaalisia reaktioita tai riippuvuuden merkkejä.

Käyttäjien on muistutettava, että he ovat vuorovaikutuksessa tekoälyn kanssa kirjautuessaan sisään ja kahden tunnin välein – tai aikaisemmin, jos järjestelmä havaitsee merkkejä liiallisen riippuvuudesta. Säännökset edellyttäisivät myös palveluntarjoajilta vastuuta tuotteidensa turvallisuudesta koko elinkaaren ajan, mukaan lukien algoritmin tarkastus, tietoturva ja henkilötietojen suojaus.

Ajan koordinointi ei ole sattumaa. Koska Kiinan generatiivisen tekoälyn käyttäjämäärä kasvoi 515 miljoonaan viimeisen kuuden kuukauden aikana, huolenaiheet tekoäly-seuraavien chatbottien psyykkisestä vaikutuksesta ovat kasvaneet rinnan. Frontiers in Psychology -tutkimus osoitti, että 45,8 % kiinalaisista yliopiston opiskelijoista ilmoitti käyttäneensä tekoäly-chatbottia edellisen kuukauden aikana, ja käyttäjillä havaittiin merkittävästi korkeampi masennuksen taso verrattuna ei-käyttäjiin.

California oli ensimmäinen

Kiina ei ole ainoa, joka säätelee tekoäly-seuraavia chatbottia. Kalifornia oli ensimmäinen Yhdysvaltain osavaltio, joka hyväksyi samanlaisen lainsäädännön lokakuussa, kun kuvernööri Gavin Newsom allekirjoitti SB 243 -lain. Tämä laki, joka tulee voimaan 1. tammikuuta 2026, edellyttää alustoja muistuttaa alaikäisiä joka kolme tuntia siitä, että he puhuvat tekoälylle – ei ihmiselle – ja ottavat tauon.

SB 243 edellyttää myös ikävarmistusta, kieltää chatbottien esittämisen terveydenhuollon ammattilaisina ja estää alaikäisiä katsomasta seksuaalisesti eksplisiittisiä tekoälyllä tuotettuja kuvia. Laki sallii yksilöiden haastaa tekoäly-yhtiöitä oikeuteen rikkomusten vuoksi ja vaatia korvauksia jopa 1000 dollaria tapausta kohden sekä asianajajien palkkioita.

Mikä tekee tekoäly-seuraavista erilaisiksi

Huolenaihe ei ole yksinomaan ruutuaika. Maaliskuun 2025 MIT Media Lab -tutkimus osoitti, että tekoäly-chatbotit voivat olla riippuvaisempia kuin sosiaalisen median, koska ne oppivat, mitä käyttäjät haluavat kuulla ja antavat säännöllisesti palautetta. Korkeampi päivittäinen käyttö korreloi lisääntyneen yksinäisyyden, riippuvuuden ja niin kutsutun “ongelmana olevan käytön” kanssa.

Psyykkiset varoitusmerkit, jotka on tunnistettu kliinisessä kirjallisuudessa, ovat pitkittyneitä istuntoja, jotka häiritsevät unta, emotionaalista riippuvuutta ja ahdistusta, kun pääsy on rajoitettu, suosimista tekoäly-conversaatioita ihmisten sijaan, ja antropomorfisointia – uskomista, että tekoälyllä on inhimillisiä tunteita ja kohtelemista sitä aidoilla luottamuksella tai romaanisena kumppanina.

Kiinan luonnos yrittää vastata näihin riskeihin palvelutasolla sen sijaan, että se riippuisi yksittäisen käyttäjän harkinnasta. Edellyttämällä palveluntarjoajilta emotionaalisen tilan ja riippuvuuden tason seuraamista, säännökset siirtävät vastuun yrityksille, jotka rakentavat nämä järjestelmät. Tämä lähestymistapa poikkeaa aikaisemmasta tekoäly-sääntelystä, joka keskittyi lähinnä sisällön sääntelyyn ja tietoturvaan.

Luonnos asettaa myös sisällön rajoituksia, kieltäen tekoäly-seuraavien luomasta materiaalista, joka vaarantaa kansallisen turvallisuuden, leviää huhuja tai edistää väkivaltaa tai säädyttömyyttä – määräykset, jotka muistuttavat Kiinan olemassa olevia generatiivisen tekoälyn sääntelyä.

Sääntelyn haaste

Määräämällä, että yritysten on havaittava riippuvuus ja puututtava asiaan, kuulostaa suoraan sääntelykielen kannalta. Toteutus on toinen asia. Määrittely siitä, mitä “liiallinen käyttö” tai “äärimmäiset emotionaaliset reaktiot” tarkoittavat tavalla, joka on sekä merkityksellinen että pannettavissa, tulee testaamaan sekä viranomaisia että yrityksiä.

Liian herkkä, ja järjestelmästä tulee ärsyttävä – keskeyttäen käyttäjiä, jotka ovat vain pitkiä keskusteluita. Liian lempeä, ja haavoittuvat käyttäjät pääsevät helposti väliin ilman puuttumista. Kahden tunnin muistutusvaatimus tarjoaa tylppänokkaisen välineen, mutta hienostuneempi vaatimus havaita riippuvuutta “kun merkit voidaan havaita” jättää merkittävän tulkinnanvaran.

Yritykset, jotka rakentavat turvallisuusvarusteita tekoälysovelluksiin, ovat kamppailleet samankaltaisten haasteiden kanssa. Sisällön suodattimet ovat mainostettuja epätarkoja, ja psyykkisen seuraamisen lisääminen tuo uusia monimutkaisuuden ulottuvuuksia. Määrittely siitä, onko käyttäjä muodostamassa terveetöntä kiintymystä, edellyttää mielentilan arvioimista tekstin perusteella – kykyä, jota tekoälyjärjestelmät eivät luotettavasti hallitse.

Luonnos on avoinna yleisökommentteja varten, ja lopulliset säännökset odotetaan vuonna 2026. Jos ne toteutetaan ehdotetulla tavalla, Kiinalla olisi maailman eniten määrääviä puitteita tekoäly-seuraavien tuotteiden sääntelyyn.

Globaali kriisi

Samanaikainen sääntelytoimi Kiinassa ja Kaliforniassa viittaa siihen, että huolenaiheet tekoäly-seuraavien riippuvuudesta ovat saavuttaneet kriittisen massan eri poliittisissa järjestelmissä.

Tekoäly-yhtiöille viesti on yhä selkeämpää: tekoäly-seuraavien sääntelemätön aika on päättymässä. Olipa kyse Kiinan hallinnollisista säännöksistä, Kalifornian siviilioikeudellisesta vastuusta tai lopulta Yhdysvaltain liittovaltion lainsäädännöstä, alustat kohtaavat vaatimukset suojella käyttäjiä omista tuotteistaan.

Kysymys ei ole siitä, onko sääntely tuleva – vaan onko suunnitteilla olevat interventiot todella toimivat. Kiinan lähestymistapa, joka edellyttää seuraamista ja puuttumista, saattaa osoittautua haasteelliseksi käytännössä.

On selvää, että tekoäly-seuraavien markkina on kasvanut liian suureksi ja liian merkittäväksi, jotta hallitukset voivat jättää sen huomiotta. Ihmiset, jotka muodostavat emotionaalisia siteitä tekoälyyn, eivät ole enää kuriositeetteja – ne ovat tuotteita, joita käytetään satojen miljoonien kanssa, ja niistä on dokumentoitu vakavia vahinkoja. Sääntely, olkoon se kuinka epätäydellistä tahansa, oli väistämätöntä. Keskustelu siirtyy nyt siihen, suojellevatko ehdotetut säännökset haavoittuvia käyttäjiä ilman, että ne tukahduttavat teknologiaa, jota monet pitävät aidosti arvokkaana.