Børn, AI og etik: Hvordan børn opfatter og behandler Alexa og Roomba

En nylig studie udført af Duke’s udviklingspsykologer undersøgte, hvordan børn opfatter intelligensen og følelserne hos AI-enheder, specifikt ved at sammenligne smart-højtaleren Alexa med den autonome støvsuger Roomba. Forskerne fandt, at børn i alderen fire til elleve år tendede til at opfatte Alexa som havende mere menneskelignende tanker og følelser sammenlignet med Roomba.

Studiets resultater blev offentliggjort online den 10. april i tidsskriftet Developmental Psychology.

Hovedforfatteren Teresa Flanagan var delvist inspireret af Hollywoods portrætter af menneske-robot-interaktioner, såsom dem set i HBO’s “Westworld”. Studiet involverede 127 børn i alderen fire til elleve år, som så en 20-sekunders klip af hver teknologi og derefter besvarede spørgsmål om enhederne.

“I Westworld og filmen Ex Machina ser vi, hvordan voksne måske interagerer med robotter på disse meget grusomme og forfærdelige måder,” sagde Flanagan. “Men hvordan vil børn interagere med dem?”

At behandle AI-enheder med respekt

Trods forskellene i opfattet intelligens mellem Alexa og Roomba var børn i alle aldersgrupper enige om, at det var forkert at slå eller råbe ad maskinerne. Dog rapporterede ældre børn, at det var lidt mere acceptabelt at angribe teknologien.

“Fire- og fem-årige børn synes at tro, at man ikke har friheden til at begå en moralsk overtrædelse, som at angribe nogen,” sagde Flanagan. “Men når de bliver ældre, synes de, at det ikke er godt, men at man har friheden til at gøre det.”

Studiet afslørede, at børn generelt troede, at Alexa og Roomba ikke havde evnen til at føle fysiske sansninger som mennesker gør. De tilskrev mentale og emotionelle evner til Alexa, såsom at kunne tænke eller blive ked af det, mens de ikke troede det samme om Roomba.

“Selv uden en krop synes unge børn, at Alexa har følelser og en sindstilstand,” sagde Flanagan. “Og det er ikke, fordi de synes, at alle teknologier har følelser og sindstilstand – de synes ikke, at Roomba gør – så det er noget speciel ved Alexas evne til at kommunikere verbalt.”

Flanagan og hendes ph.d.-vejleder Tamar Kushnir, en medlem af Duke Institute for Brain Sciences, forsøger i øjeblikket at forstå, hvorfor børn synes, det er forkert at angribe hjemmeteknologi.

Konsekvenser og etiske spørgsmål

Studiets resultater giver indsigt i den udviklende relation mellem børn og teknologi, og rejser vigtige etiske spørgsmål omkring behandlingen af AI-enheder og maskiner. For eksempel, skal forældre modelere god adfærd for deres børn ved at takke AI-enheder som Siri eller ChatGPT for deres hjælp?

Forskningen fremhæver også behovet for at undersøge, om børn tror, at behandling af AI-enheder dårligt er moralsk forkert, eller blot fordi det kan beskadige nogen andens ejendom.

“Det er interessant med disse teknologier, fordi der er en anden aspekt: det er et stykke ejendom,” sagde Flanagan. “Synes børn, at man ikke skal slå disse ting, fordi det er moralsk forkert, eller fordi det er nogen andens ejendom og det kan gå i stykker?”