AI 101
Wat ass Responsabel AI? Prinzipien, Erausfuerderungen, & Virdeeler
Responsabel AI (RAI) bezitt sech op den Design an Asaz vun AI Systemer déi transparent, onparteiesch, verantwortlech sinn an ethesch Richtlinnen befollegen. Wéi AI Systemer méi robust a prevalent ginn, assuréieren datt se verantwortlech entwéckelt ginn an no Sécherheets- an ethesch Richtlinnen essentiell sinn.
Gesondheet, Transport, Network Management, an Iwwerwaachung sinn Sécherheet kritesch AI Uwendungen wou Systemfehler schwéier Konsequenzen hunn. Grouss Firme si sech bewosst datt RAI wesentlech ass fir Technologierisiken ze reduzéieren. Awer no engem MIT Sloan / BCG Bericht deen 1093 Befroten enthält, 54% vu Firmen feelt Verantwortlech AI Expertise an Talent.
Och wa Gedanke Leader an Organisatiounen Prinzipien fir verantwortlech AI entwéckelt hunn, assuréieren déi verantwortlech Entwécklung vun AI Systemer nach ëmmer Erausfuerderungen. Loosst eis dës Iddi am Detail entdecken:
5 Prinzipien fir responsabel AI
1. Gerechtegkeet
Technologen solle Prozeduren designen sou datt AI Systemer all Individuen a Gruppen zimlech ouni Viraussetzung behandelen. Dofir ass Fairness déi primär Ufuerderung bei héije Risiko Entscheedungsapplikatiounen.
Gerechtegkeet definéiert ass:
"Den Impakt op verschidden demographesch Gruppen ënnersicht an eng vun e puer mathematesch Definitioune vu Gruppegerechtegkeet auswielen, déi de gewënschte Set vu juristeschen, kulturellen an etheschen Ufuerderungen adäquat erfëllen."
2. Rechenschaftspflicht
Verantwortung bedeit datt Eenzelpersounen an Organisatiounen, déi AI Systemer entwéckelen an ofsetzen, solle verantwortlech sinn fir hir Entscheedungen an Handlungen. D'Team, déi AI Systemer ofsetzt, soll dofir suergen datt hiren AI System transparent, interpretéierbar, auditéierbar ass an d'Gesellschaft net schued.
Rechenschaftspflicht enthält siwen Komponenten:
- Kontext (Zweck fir deen Verantwortung erfuerderlech ass)
- Range (Thema vun der Rechenschaftspflicht)
- Agent (wien ass verantwortlech?)
- Forum (wou déi verantwortlech Partei sech muss mellen)
- Standards (Critèrë fir Rechenschaftspflicht)
- Prozess (Method vun Rechenschaftspflicht)
- Implikatioune (Konsequenze vun der Rechenschaftspflicht)
3. Transparenz
Transparenz bedeit datt de Grond hannert Entscheedungsprozess an AI Systemer kloer a verständlech ass. Transparent AI Systemer sinn erklärbar.
Entspriechend zu Assessment List for Trustworthy Artificial Intelligence (ALTAI), Transparenz huet dräi Schlësselelementer:
- Traceabilitéit (d'Donnéeën, d'Virveraarbechtungsschrëtt a Modell ass zougänglech)
- Erklärbarkeet (d'Begrënnung hannert Entscheedungsprozess / Prognose ass kloer)
- Open Kommunikatioun (betreffend d'Begrenzung vum AI System)
4. Privatsphär
Privatsphär ass ee vun den Haaptprinzipien vu verantwortlecher AI. Et bezitt sech op de Schutz vu perséinlechen Informatioun. Dëse Prinzip garantéiert datt d'perséinlech Informatioune vun de Leit mat Zoustëmmung gesammelt a veraarbecht ginn an aus den Hänn vu Mëssbrauch gehale ginn.
Wéi viru kuerzem bewisen, gouf et e Fall vu Clearview, eng Firma déi Gesiichtserkennungsmodeller fir Gesetzesvollzéier an Universitéite mécht. UK daten Iwwerwaachung verklot Clearview AI fir £ 7.5 Milliounen fir Biller vun UK Awunner aus sozialen Medien ze sammelen ouni Zoustëmmung fir eng Datebank vun 20 Milliarde Biller ze kreéieren.
5. Sécherheet
Sécherheet heescht suergen datt AI Systemer sécher sinn an d'Gesellschaft net bedroht. E Beispill vun enger AI Sécherheetsbedrohung ass adversarial Attacken. Dës béiswëlleg Attacke trick ML Modeller fir falsch Entscheedungen ze huelen. AI Systemer géint Cyberattacken schützen ass onbedéngt fir verantwortlech AI.
4 grouss Erausfuerderunge & Risiken vun Responsabel AI
1. Viruerteeler
Mënschlech Biases am Zesummenhang mat Alter, Geschlecht, Nationalitéit a Rass kënnen d'Datesammlung beaflossen, wat potenziell zu biased AI Modeller féiert. US Department of Commerce Studie fonnt datt Gesiichtserkennung AI Leit vu Faarf falsch identifizéiert. Dofir, d'Benotzung vun AI fir Gesiichtserkennung an der Affekot kann zu falschen Verhaftungen féieren. Och fair AI Modeller ze maachen ass Erausfuerderung well et gëtt 21 verschidde Parameteren fir se ze definéieren. Also, et gëtt e Trade-off; engem fairen AI Parameter zefridden heescht engem Affer aner.
2. Interpretabilitéit
Interpretabilitéit ass eng kritesch Erausfuerderung fir verantwortlech AI z'entwéckelen. Et bezitt sech op d'Verstoe wéi de Maschinnléiermodell eng bestëmmte Conclusioun erreecht huet.
Déif neural Netzwierker feelen Interpretabilitéit well se als Black Boxes mat multiple Schichten vu verstoppte Neuronen funktionnéieren, wat et schwéier mécht den Entscheedungsprozess ze verstoen. Dëst kann eng Erausfuerderung sinn an der High-stakes Entscheedungsprozess wéi Gesondheetsariichtung, Finanzen, etc.
Ausserdeem ass d'Formaliséierung vun Interpretabilitéit an ML Modeller Erausfuerderung well et ass eleng an Domain-spezifesch.
3. Gouvernance
Gouvernance bezitt sech op eng Rei vu Reegelen, Politiken a Prozeduren déi d'Entwécklung an d'Deployment vun AI Systemer iwwerwaachen. Viru kuerzem ass et bedeitend Fortschrëtter am AI Gouvernance Diskurs ginn, mat Organisatiounen déi Kaderen an ethesch Richtlinnen presentéieren.
Ethik Richtlinnen fir vertrauenswierdeg AI vun der EU, Australian AI Ethics Framework, an OECD AI Prinzipien sinn Beispiller vun AI Gouvernance Kaderen.
Awer de schnelle Fortschrëtt an AI an de leschte Joeren kann dës AI Gouvernance Kaderen iwwerschratt ginn. Zu dësem Zweck muss et e Kader sinn, deen d'Gerechtegkeet, d'Interpretabilitéit an d'Ethik vun AI Systemer bewäert.
4. Regulatioun
Wéi AI Systemer méi verbreed ginn, muss et Regulatioun ginn fir ethesch a gesellschaftlech Wäerter ze berücksichtegen. Regulatioun entwéckelen déi AI Innovatioun net stëmmt ass eng kritesch Erausfuerderung bei verantwortlecher AI.
Och mat General Data Protection Regulation (GDPR), dem California Consumer Privacy Act (CCPA), an dem Personal Information Protection Law (PIPL) als Reguléierungsorganer, hunn AI Fuerscher fonnt datt dat 97% vun EU Websäite feelen un de GDPR legale Kader Ufuerderunge respektéieren.
Desweideren, Gesetzgeber Gesiicht engem bedeitend Erausfuerderung fir e Konsens iwwer d'Definitioun vun AI z'erreechen, déi souwuel klassesch AI Systemer an déi lescht AI Uwendungen enthält.
3 Major Virdeeler vun Responsabel AI
1. Reduzéiert Bias
Verantwortlech AI reduzéiert Bias an Entscheedungsprozesser, baut Vertrauen an AI Systemer. Bias an AI Systemer reduzéieren kann e fairen a gerechte Gesondheetssystem ubidden a Bias an AI-baséiert reduzéieren Finanzservicer etc.
2. Erweidert Transparenz
Responsabel AI mécht transparent AI Uwendungen déi Vertrauen an AI Systemer bauen. Transparent AI Systemer reduzéieren de Risiko vu Feeler a Mëssbrauch. Eng verstäerkte Transparenz mécht d'Auditéierung vun AI Systemer méi einfach, gewënnt d'Vertraue vun de Stakeholderen a kann zu verantwortlechen AI Systemer féieren.
3. Besser Sécherheet
Sécher AI Uwendungen garantéieren Dateschutz, produzéieren zouverlässeg an harmlos Output a si sécher vu Cyberattacken.
Tech Risen wéi Microsoft an Google, déi an der Spëtzt vun der Entwécklung vun AI Systemer sinn, hunn Responsabel AI Prinzipien entwéckelt. Verantwortlech AI garantéiert datt d'Innovatioun an der AI net schiedlech ass fir Individuen a Gesellschaft.
Gedanke Leader, Fuerscher, Organisatiounen a juristesch Autoritéite solle kontinuéierlech verantwortlech AI Literatur iwwerschaffen fir eng sécher Zukunft fir AI Innovatioun ze garantéieren.
Fir méi AI-Zesummenhang Inhalt, besicht unite.ai.
