Umělá inteligence může tránhat specifické nežádoucí chování pomocí nových algoritmů

Jak se algoritmy a systémy umělé inteligence stávají stále sofistikovanějšími a přebírají větší odpovědnost, je stále důležitější zajistit, aby systémy umělé inteligence避ovaly nebezpečné, nežádoucí chování. Nedávno tým výzkumníků z University of Massachusetts Amherst a Stanfordpublikoval článek, který demonstruje, jak lze specifické chování umělé inteligence避ovat pomocí techniky, která vyvolává přesné matematické instrukce, které lze použít k úpravě chování umělé inteligence.

Podle TechXplore byl výzkum založen na předpokladu, že nespravedlivé/nebezpečné chování lze definovat pomocí matematických funkcí a proměnných. Pokud je toto pravda, mělo by být možné pro výzkumníky trénovat systémy, aby se vyvarovaly těchto specifických chování. Cílem výzkumného týmu bylo vyvinout nástroj, který by uživatelům umělé inteligence umožnil specifikovat, jaká chování chtějí, aby umělá inteligenceavoidovala, a umožnit inženýrům umělé inteligence spolehlivě trénovat systém, který by se vyvaroval nežádoucích akcí v reálných scénářích.

Phillip Thomas, hlavní autor článku a asistent profesora počítačové vědy na U of Michigan Amherst, vysvětlil, že cílem výzkumného týmu je demonstrovat, že návrháři algoritmů strojového učení mohou usnadnit uživatelům umělé inteligence popis nežádoucích chování a zajistit, aby systém umělé inteligence se vyvaroval tomuto chování.

Výzkumný tým otestoval svou techniku aplikací na běžný problém v datové vědě, genderovou předpojatost. Cílem výzkumného týmu bylo učinit algoritmy používané k předpovědi studentských průměrných známek spravedlivějšími snížením genderové předpojatosti. Výzkumný tým využil experimentální dataset a instruoval svůj systém umělé inteligence, aby se vyvaroval vytváření modelů, které by systematicky podceňovaly/přeceňovaly známky pro jeden gender. Výsledkem instrukcí výzkumníků byl model, který lépe předpovídal studentské známky a měl podstatně méně systémové genderové předpojatosti než předchozí modely. Předchozí modely pro předpověď známek trpěly předpojatostí, protože modely pro snížení předpojatosti byly často příliš omezené, aby byly užitečné, nebo nebyla použita žádná redukce předpojatosti.

Výzkumný tým také vyvinul jiný algoritmus. Tento algoritmus byl implementován v automatické insulinové pumpě a měl za cíl vyvážit výkon a bezpečnost. Automatické insulinové pumpy musí rozhodnout, jak velkou dávku inzulínu by měl pacient dostat. Po jídle by pumpy ideálně měly dodat dávku inzulínu, která je dostatečně velká, aby udržela hladinu cukru v krvi v pořádku. Dávky inzulínu, které jsou dodány, musí být ani příliš velké, ani příliš malé.

Algoritmy strojového učení jsou již schopné identifikovat vzorce v individuální odpovědi na dávky inzulínu, ale tyto existující analytické metody nemohou umožnit lékařům specifikovat výsledky, které by se měly避ovat, jako je například nízká hladina cukru v krvi. Naopak výzkumný tým vyvinul metodu, která může být trénována k dodání dávek inzulínu, které zůstávají mezi dvěma extrémy, předcházející buď poddávkování, nebo předávkování. Ačkoli systém ještě není připraven pro testování u skutečných pacientů, více sofistikovaná umělá inteligence založená na tomto přístupu by mohla zlepšit kvalitu života lidí trpících diabetem.

V článku výzkumníci odkazují na algoritmus jako na „Seledonian“ algoritmus. To je odkaz na tři zákony robotiky popsané sci-fi autorem Isaacem Asimovem. Implikace je, že systém umělé inteligence „nesmí ublížit lidské bytosti nebo, prostřednictvím nečinnosti, dovolit lidské bytosti přijít k úhoně.” Výzkumný tým doufá, že jejich rámec umožní výzkumníkům a inženýrům umělé inteligence vytvořit řadu algoritmů a systémů, které se vyvarují nebezpečného chování. Emma Brunskill, hlavní autorka článku a asistentka profesora počítačové vědy na Stanfordu, vysvětlila TechXplore:

“Chceme rozvíjet umělou inteligenci, která respektuje hodnoty svých lidských uživatelů a ospravedlňuje důvěru, kterou do ní vkládáme do autonomních systémů.”