Etica
Nuovo Whitepaper Stabilisce Metodologia di Certificazione per Algoritmi di Intelligenza Artificiale
Un nuovo whitepaper di TÜV AUSTRIA e dell’ Istituto per l’Apprendimento Automatico dell’Università Johannes Kepler (JKU) ha stabilito una metodologia di certificazione per algoritmi di Intelligenza Artificiale (AI).
Il documento riconosce inizialmente come l’AI sia una delle aree di crescita più veloce in tutto il mondo, essendo alla base di molte applicazioni quotidiane che coinvolgono il riconoscimento di immagini, sistemi di raccomandazione, chatbot, diagnostica o previsione.
Successivamente, pone queste domande:
- È affidabile e sicura questa intelligenza artificiale?
- L’AI esegue la funzione prevista?
- L’utilizzo dell’AI porta il valore aggiunto previsto?
- I dati di addestramento sono puliti e utilizzati correttamente?
- La grande quantità di dati sensibili è gestita con cura?
I nuovi metodi di certificazione sviluppati da TÜV AUSTRIA e JKU hanno lo scopo di supportare i produttori nello sviluppo di modelli di apprendimento automatico sicuri, affidabili e di alta qualità. Offriranno inoltre agli utenti un marchio di qualità per sistemi di intelligenza artificiale affidabili.
Il professor Sepp Hochreiter è il direttore dell’Istituto di Apprendimento Automatico.
“L’apprendimento automatico è attualmente la tecnologia abilitante più importante e avrà un’influenza massiccia sul nostro ambiente tecnico e sulla nostra intera vita, sulla società, nel lungo termine”, afferma il professor Hochreiter. “Pertanto, è ancora più importante rafforzare la fiducia dei consumatori in questa tecnologia attraverso la certificazione delle applicazioni di apprendimento automatico. Ecco perché siamo lieti di essere coinvolti nel definire i necessari criteri di qualità.”
Il professor Hochreiter ha una reputazione mondiale quando si tratta di AI e ha svolto un ruolo chiave nell’attuazione della prima cattedra di apprendimento automatico e del primo diploma di AI alla JKU Linz. È anche membro del consiglio di amministrazione di ELLIS, che è una rete di eccellenza dei migliori scienziati europei nel campo dell’apprendimento automatico.
Certificazione delle Applicazioni
Il primo livello di successo, secondo il whitepaper, è già stato raggiunto. Le applicazioni di apprendimento supervisionato a basso o medio rischio possono già essere certificate.
Il dottor Stefan Haas è l’amministratore delegato del Gruppo TÜV AUSTRIA.
“Abbiamo iniziato a eseguire i primi progetti di certificazione, dove le applicazioni si trovano principalmente nell’ambiente industriale, ma anche nel settore dei consumatori. Nelle fasi successive della cooperazione di sviluppo, gli approcci attuali saranno ampliati per poter certificare applicazioni critiche per la sicurezza, basate su una gamma più ampia di metodi di apprendimento automatico”, afferma il dottor Haas. “Siamo particolarmente lieti di avere l’Istituto di Apprendimento Automatico della JKU al nostro fianco come partner altamente competente e riconosciuto a livello internazionale per questo impegnativo compito.”
La certificazione prevede il controllo dettagliato dei modelli di apprendimento automatico e dei loro processi di sviluppo in diverse dimensioni. Ciò significa che non solo vengono esaminati le funzioni effettive e l’affidabilità dei modelli addestrati, ma anche la sicurezza del software e il suo processo di sviluppo. Viene inoltre esaminato come vengono gestiti in modo confidenziale i dati personali e altre questioni etiche.
