Inteligența Artificială Poate Evita Comportamente Nedorite Specifice Cu Noi Algoritmi

Pe măsură ce algoritmii și sistemele de inteligență artificială devin mai sofisticați și își asumă responsabilități mai mari, devine tot mai important să se asigure că sistemele de inteligență artificială evită comportamente periculoase și nedorite. Recent, o echipă de cercetători de la Universitatea din Massachusetts Amherst și Stanford a publicat un studiu care demonstrează cum comportamentul specific al inteligenței artificiale poate fi evitat, prin utilizarea unei tehnici care solicită instrucțiuni matematice precise care pot fi utilizate pentru a ajusta comportamentul inteligenței artificiale.

Conform TechXplore, cercetarea a fost bazată pe ipoteza că comportamentele neloiale sau periculoase pot fi definite cu funcții și variabile matematice. Dacă acest lucru este adevărat, atunci ar trebui să fie posibil pentru cercetători să instruiască sistemele pentru a evita aceste comportamente specifice. Echipa de cercetare a urmărit să dezvolte un set de instrumente care pot fi utilizate de utilizatorii inteligenței artificiale pentru a specifica care comportamente doresc să evite și să permită inginerilor de inteligență artificială să instruiască în mod fiabil un sistem care va evita acțiunile nedorite atunci când este utilizat în scenarii reale.

Phillip Thomas, primul autor al studiului și profesor asistent de știință computerizată la Universitatea din Michigan Amherst, a explicat că echipa de cercetare își propune să demonstreze că designerii de algoritmi de învățare automată pot face mai ușor pentru utilizatorii de inteligență artificială să descrie comportamentele nedorite și să facă foarte probabil ca sistemul de inteligență artificială să evite aceste comportamente.

Echipa de cercetare a testat tehnica lor aplicând-o unei probleme comune în știința datelor, și anume biasul de gen. Echipa de cercetare a urmărit să facă algoritmii utilizați pentru a prezice media nota studenților mai corecți, reducând astfel biasul de gen. Echipa de cercetare a utilizat un set de date experimentale și a instruit sistemul de inteligență artificială să evite crearea de modele care subestimează sau suprastimează notele studenților pentru un anumit gen. Ca urmare a instrucțiunilor cercetătorilor, algoritmul a creat un model care a prezis mai bine notele studenților și a avut un bias de gen semnificativ mai mic decât modelele existente anterior. Modelele anterioare de prezicere a notelor au suferit de bias deoarece modelele de reducere a biasului erau adesea prea limitate pentru a fi utile sau nu se utilizau deloc.

O altă tehnologie a fost dezvoltată de echipa de cercetare. Acest algoritm a fost implementat într-o pompă de insulină automată, iar algoritmul a fost destinat să echilibreze atât performanța, cât și siguranța. Pompelor de insulină automate trebuie să decidă ce doză de insulină ar trebui să primească un pacient. După masă, pompa ar trebui să livreze o doză de insulină suficient de mare pentru a menține nivelurile de zahăr din sânge sub control. Dozele de insulină livrate trebuie să fie nici prea mari, nici prea mici.

Algoritmii de învățare automată sunt deja pricepuți la identificarea modelelor în răspunsul unui individ la doze de insulină, dar metodele de analiză existente nu permit medicilor să specifice rezultatele care ar trebui evitate, cum ar fi crizele de hipoglicemie. În contrast, echipa de cercetare a putut dezvolta o metodă care poate fi instruită pentru a livra doze de insulină care rămân între cele două extreme, prevenind atât subdozarea, cât și supradozarea. Deși sistemul nu este încă gata pentru testarea pe pacienți reali, un sistem de inteligență artificială mai sofisticat, bazat pe această abordare, ar putea îmbunătăți calitatea vieții pentru cei care suferă de diabet.

În studiul de cercetare, cercetătorii se referă la algoritmul lor ca la un algoritm “Seledonian”. Acesta face referire la cele trei legi ale roboticii descrise de autorul de science-fiction Isaac Asimov. Implicația este că sistemul de inteligență artificială “nu poate răni un om sau, prin inacțiune, permite unui om să fie rănit”. Echipa de cercetare speră că cadrul lor va permite cercetătorilor și inginerilor de inteligență artificială să creeze o varietate de algoritmi și sisteme care evită comportamente periculoase. Emma Brunskill, autorul principal al studiului și profesor asistent de știință computerizată la Stanford, a explicat pentru TechXplore:

“Vrem să promovăm inteligența artificială care respectă valorile utilizatorilor săi umani și justifică încrederea pe care o acordăm sistemelor autonome.”