Liderii tehnologici subliniază riscurile inteligenței artificiale și urgența reglementării robuste a IA

Crescerea și avansurile inteligenței artificiale au fost exponentiale în ultimii ani. Statista raportează că până în 2024, piața globală a inteligenței artificiale va genera un venit impresionant de aproximativ 3000 de miliarde de dolari, comparativ cu 126 de miliarde de dolari în 2015. Cu toate acestea, liderii tehnologici ne avertizează acum despre diversele riscuri ale inteligenței artificiale.

În special, valul recent de modele de inteligență artificială generativă precum ChatGPT a introdus noi capacități în diverse sectoare sensibile la date, cum ar fi sănătatea, educația, finanțele etc. Aceste dezvoltări bazate pe inteligență artificială sunt vulnerabile din cauza multor deficiențe ale inteligenței artificiale pe care agenții malefici le pot exploata.

Să discutăm ce spun experții în inteligență artificială despre dezvoltările recente și să subliniem riscurile potențiale ale inteligenței artificiale. De asemenea, vom atinge scurt cum pot fi gestionate aceste riscuri.

Liderii tehnologici și preocupările lor legate de riscurile inteligenței artificiale

Geoffrey Hinton

Geoffrey Hinton – un cunoscut lider în tehnologia inteligenței artificiale (și părintele acestui domeniu), care a demisionat recent de la Google (GOOGL ), a exprimat îngrijorările sale cu privire la dezvoltarea rapidă a inteligenței artificiale și la pericolele sale potențiale. Hinton crede că roboții de conversație bazate pe inteligență artificială pot deveni “destul de înfricoșători” dacă depășesc inteligența umană.

Hinton spune:

“În acest moment, ceea ce vedem este lucruri precum GPT-4 care eclipsează o persoană în ceea ce privește cunoștințele generale pe care le are, și o eclipsează cu mult. În ceea ce privește raționamentul, nu este la fel de bun, dar deja face un raționament simplu. Și având în vedere ritmul progresului, ne așteptăm ca lucrurile să devină mai bune foarte repede. Așadar, trebuie să ne îngrijorăm de asta.”

Mai mult, el crede că “actorii răi” pot folosi inteligența artificială pentru “lucruri rele”, cum ar fi permisiunea roboților de a avea obiective secundare. În ciuda îngrijorărilor sale, Hinton crede că inteligența artificială poate aduce beneficii pe termen scurt, dar ar trebui să investim și în siguranța și controlul inteligenței artificiale.

Elon Musk

Implicarea lui Elon Musk în inteligența artificială a început cu investiția sa timpurie în DeepMind în 2010, pentru a cofonda OpenAI și pentru a integra inteligența artificială în vehiculele autonome ale Tesla.

Deși este entuziasmat de inteligența artificială, el ridică frecvent îngrijorări cu privire la riscurile inteligenței artificiale. Musk spune că sistemele de inteligență artificială puternice pot fi mai periculoase pentru civilizație decât armele nucleare. Într-un interviu la Fox News în aprilie 2023, el a spus:

“Inteligența artificială este mai periculoasă decât, să zicem, proiectarea sau producția necorespunzătoare a avioanelor sau întreținerea vehiculelor. În sensul că are potențialul — oricât de mică ar fi această probabilitate — dar nu este neglijabilă și are potențialul de a distruge civilizația.”

Mai mult, Musk sprijină reglementările guvernamentale privind inteligența artificială pentru a asigura siguranța de la riscurile potențiale, deși “nu este prea distractiv”.

Opriți experimentele gigantice de inteligență artificială: O scrisoare deschisă sprijinită de mii de experți în inteligență artificială

Institutul pentru Viitorul Vieții a publicat o scrisoare deschisă pe 22 martie 2023. Scrisoarea cere o pauză temporară de șase luni pentru dezvoltarea de sisteme de inteligență artificială mai avansate decât GPT-4. Autorii exprimă îngrijorările lor cu privire la ritmul cu care sistemele de inteligență artificială sunt dezvoltate și care prezintă provocări socioeconomice severe.

Mai mult, scrisoarea afirmă că dezvoltatorii de inteligență artificială ar trebui să lucreze cu factorii de decizie pentru a documenta sistemele de guvernanță a inteligenței artificiale. Până în iunie 2023, scrisoarea a fost semnată de peste 31.000 de dezvoltatori de inteligență artificială, experți și lideri tehnologici. Printre semnatarii notabili se numără Elon Musk, Steve Wozniak (cofondator al Apple (AAPL )), Emad Mostaque (CEO, Stability AI), Yoshua Bengio (câștigător al Premiului Turing) și mulți alții.

Argumente contra opririi dezvoltării inteligenței artificiale

Doi lideri proeminenți în inteligența artificială, Andrew Ng și Yann LeCun, s-au opus interzicerii de șase luni a dezvoltării de sisteme de inteligență artificială avansate și au considerat pauza o idee proastă.

Ng spune că, deși inteligența artificială are anumite riscuri, cum ar fi prejudecățile, valoarea creată de inteligența artificială în domenii precum educația, sănătatea și antrenamentul este enormă.

Yann LeCun spune că cercetarea și dezvoltarea nu ar trebui oprite, deși produsele de inteligență artificială care ajung la utilizatorul final pot fi reglementate.

Ce sunt pericolele și riscurile imediate ale inteligenței artificiale?

1. Înlocuirea locurilor de muncă

Experții în inteligență artificială cred că sistemele de inteligență artificială inteligente pot înlocui sarcinile cognitive și creative. Banca de investiții Goldman Sachs estimează că aproximativ 300 de milioane de locuri de muncă vor fi automatizate de inteligența artificială generativă.

Prin urmare, ar trebui să existe reglementări privind dezvoltarea inteligenței artificiale, astfel încât să nu provoace o criză economică severă. Ar trebui să existe programe educaționale pentru recalificarea și respecializarea angajaților pentru a face față acestei provocări.

2. Sisteme de inteligență artificială prejudecate

Prejudecățile existente printre oameni cu privire la gen, rasă sau culoare pot pătrunde involuntar în datele utilizate pentru antrenarea sistemelor de inteligență artificială, făcând ulterior sistemele de inteligență artificială prejudecate.

De exemplu, în contextul recrutării, un sistem de inteligență artificială prejudecat poate respinge CV-urile persoanelor din anumite medii etnice, creând discriminare pe piața muncii. În aplicarea legii, un sistem de poliție predictiv prejudecat poate viza în mod disproporționat anumite cartiere sau grupuri demografice.

Prin urmare, este esențial să avem o strategie de date cuprinzătoare care abordează riscurile inteligenței artificiale, în special prejudecățile. Sistemele de inteligență artificială trebuie evaluate și auditate frecvent pentru a le menține corecte.

3. Aplicații de inteligență artificială critice pentru siguranță

Vehiculele autonome, diagnosticarea și tratamentul medical, sistemele de aviație, controlul centralelor nucleare etc. sunt toate exemple de aplicații de inteligență artificială critice pentru siguranță. Aceste sisteme de inteligență artificială ar trebui dezvoltate cu atenție, deoarece chiar și erorile minore pot avea consecințe severe pentru viața umană sau mediul înconjurător.

De exemplu, defectarea software-ului de inteligență artificială numit Sistemul de îmbunătățire a caracteristicilor de manevră (MCAS) este atribuită în parte crash-ului a două avioane Boeing 737 MAX, primul în octombrie 2018 și apoi în martie 2019. Din nefericire, cele două accidente au ucis 346 de oameni.

Cum putem depăși riscurile sistemelor de inteligență artificială? – Dezvoltarea responsabilă a inteligenței artificiale și conformitatea regulamentară

Inteligența artificială responsabilă (RAI) înseamnă dezvoltarea și implementarea sistemelor de inteligență artificială corecte, responsabile, transparente și sigure care asigură confidențialitatea și respectă reglementările legale și normele sociale. Implementarea RAI poate fi complexă, având în vedere dezvoltarea rapidă a sistemelor de inteligență artificială.

Cu toate acestea, marile companii de tehnologie au dezvoltat cadre de inteligență artificială responsabilă, cum ar fi:

1. Inteligența artificială responsabilă a Microsoft (MSFT )
2. Principiile de inteligență artificială ale Google
3. Inteligența artificială de încredere a IBM

Laboratoarele de inteligență artificială din întreaga lume pot lua inspirație din aceste principii sau pot dezvolta propriile cadre de inteligență artificială responsabilă pentru a crea sisteme de inteligență artificială de încredere.

Conformitatea regulamentară a inteligenței artificiale

Deoarece datele sunt o componentă integrală a sistemelor de inteligență artificială, organizațiile și laboratoarele de inteligență artificială trebuie să se conformeze următoarelor reglementări pentru a asigura securitatea, confidențialitatea și siguranța datelor.

1. GDPR (Regulamentul general privind protecția datelor) – un cadru de protecție a datelor al UE.
2. CCPA (Legea privind confidențialitatea consumatorilor din California) – o lege a statului California pentru drepturile la confidențialitate și protecția consumatorilor.
3. HIPAA (Legea privind portabilitatea și responsabilitatea asigurărilor de sănătate) – o legislație a SUA care protejează datele medicale ale pacienților.
4. Actul privind inteligența artificială al UE, și Liniile directoare privind etica pentru inteligența artificială de încredere – o reglementare a Comisiei Europene privind inteligența artificială.

Există diverse legi regionale și locale adoptate de diferite țări pentru a proteja cetățenii lor. Organizațiile care nu asigură conformitatea regulamentară în ceea ce privește datele pot suferi penalități severe. De exemplu, GDPR a stabilit o amendă de 20 de milioane de euro sau 4% din profitul anual pentru încălcări grave, cum ar fi prelucrarea ilegală a datelor, consimțământul nejustificat, încălcarea drepturilor subiecților datelor sau transferul ne protejat de date către o entitate internațională.

Dezvoltarea și reglementarea inteligenței artificiale – Prezent și viitor

Cu fiecare lună care trece, progresele inteligenței artificiale ating înălțimi fără precedent. Dar reglementările și cadrele de guvernanță a inteligenței artificiale sunt în urmă. Acestea trebuie să fie mai robuste și mai specifice.

Liderii tehnologici și dezvoltatorii de inteligență artificială au sunat alarma cu privire la riscurile inteligenței artificiale, dacă nu este reglementată corespunzător. Cercetarea și dezvoltarea în domeniul inteligenței artificiale pot aduce valoare în multe sectoare, dar este clar că o reglementare atentă este acum imperativă.

Pentru mai mult conținut legat de inteligența artificială, vizitați unite.ai.