Il Ciclo di Feedback dell’Intelligenza Artificiale: Mantenere la Qualità della Produzione del Modello nell’Era del Contenuto Generato dall’Intelligenza Artificiale

I modelli di intelligenza artificiale distribuiti in produzione necessitano di un meccanismo di valutazione delle prestazioni continuo e robusto. È qui che un ciclo di feedback dell’intelligenza artificiale può essere applicato per garantire prestazioni del modello coerenti.

Prendiamo le parole di Elon Musk:

“Credo che sia molto importante avere un ciclo di feedback, dove si pensa costantemente a ciò che si è fatto e a come si potrebbe fare meglio.”

Per tutti i modelli di intelligenza artificiale, la procedura standard è quella di distribuire il modello e quindi ritrattarlo periodicamente con i dati del mondo reale più recenti per garantire che le sue prestazioni non peggiorino. Tuttavia, con la rapida ascesa dell’Intelligenza Artificiale Generativa, la formazione dei modelli di intelligenza artificiale è diventata anomala e soggetta a errori. Ciò è dovuto al fatto che le fonti di dati online (internet) stanno gradualmente diventando una miscela di dati generati dagli esseri umani e dati generati dall’intelligenza artificiale.

Ad esempio, molti blog oggi presentano testi generati dall’intelligenza artificiale alimentati da LLM (Large Language Modules) come ChatGPT o GPT-4. Molte fonti di dati contengono immagini generate dall’intelligenza artificiale create utilizzando DALL-E2 o Midjourney. Inoltre, i ricercatori di intelligenza artificiale utilizzano dati sintetici generati utilizzando l’Intelligenza Artificiale Generativa nelle loro pipeline di formazione dei modelli.

Pertanto, abbiamo bisogno di un meccanismo robusto per garantire la qualità dei modelli di intelligenza artificiale. È qui che la necessità di cicli di feedback dell’intelligenza artificiale è diventata più amplificata.

Cosa è un Ciclo di Feedback dell’Intelligenza Artificiale?

Un ciclo di feedback dell’intelligenza artificiale è un processo iterativo in cui le decisioni e le uscite di un modello di intelligenza artificiale vengono continuamente raccolte e utilizzate per migliorare o ritrattare lo stesso modello, risultando in un apprendimento continuo, sviluppo e miglioramento del modello. In questo processo, i dati di formazione del sistema di intelligenza artificiale, i parametri del modello e gli algoritmi vengono aggiornati e migliorati in base agli input generati all’interno del sistema.

Principalmente ci sono due tipi di cicli di feedback dell’intelligenza artificiale:

1. Cicli di Feedback dell’Intelligenza Artificiale Positivi: Quando i modelli di intelligenza artificiale generano risultati precisi che si allineano con le aspettative e le preferenze degli utenti, gli utenti forniscono un feedback positivo attraverso un ciclo di feedback, che a sua volta rafforza l’accuratezza dei risultati futuri. Un tale ciclo di feedback è definito positivo.
2. Cicli di Feedback dell’Intelligenza Artificiale Negativi: Quando i modelli di intelligenza artificiale generano risultati inaccurati, gli utenti segnalano i difetti attraverso un ciclo di feedback, che a sua volta tenta di migliorare la stabilità del sistema correggendo i difetti. Un tale ciclo di feedback è definito negativo.

Entrambi i tipi di cicli di feedback dell’intelligenza artificiale consentono uno sviluppo e un miglioramento continuo del modello nel tempo. E non vengono utilizzati o applicati in isolamento. Insieme, aiutano i modelli di intelligenza artificiale distribuiti in produzione a capire cosa è giusto o sbagliato.

Fasi dei Cicli di Feedback dell’Intelligenza Artificiale

Un’illustrazione di alto livello del meccanismo di feedback nei modelli di intelligenza artificiale. Fonte

Comprendere come funzionano i cicli di feedback dell’intelligenza artificiale è fondamentale per sbloccare tutto il potenziale dello sviluppo dell’intelligenza artificiale. Esploriamo le varie fasi dei cicli di feedback dell’intelligenza artificiale di seguito.

1. Raccolta del Feedback: Raccogliere i risultati del modello pertinenti per la valutazione. Tipicamente, gli utenti forniscono il loro feedback sui risultati del modello, che viene quindi utilizzato per il ritrattamento. Oppure può essere dati esterni dal web curati per affinare le prestazioni del sistema.
2. Ritrattamento del Modello: Utilizzando le informazioni raccolte, il sistema di intelligenza artificiale viene ritrattato per fare previsioni migliori, fornire risposte o eseguire attività specifiche raffinando i parametri del modello o i pesi.
3. Integrazione e Test del Feedback: Dopo il ritrattamento, il modello viene testato e valutato nuovamente. A questo stadio, il feedback degli esperti del settore (SME) viene incluso per evidenziare problemi al di là dei dati.
4. Distribuzione: Il modello viene ridistribuito dopo aver verificato le modifiche. A questo stadio, il modello dovrebbe segnalare prestazioni migliori sui nuovi dati del mondo reale, risultando in un’esperienza utente migliorata.
5. Monitoraggio: Il modello viene monitorato continuamente utilizzando metriche per identificare potenziali deterioramenti, come il drift. E il ciclo di feedback continua.

I Problemi nei Dati di Produzione e nell’Output del Modello di Intelligenza Artificiale

La costruzione di sistemi di intelligenza artificiale robusti richiede una comprensione approfondita dei potenziali problemi nei dati di produzione (dati del mondo reale) e nei risultati del modello. Guardiamo alcuni problemi che diventano un ostacolo per garantire l’accuratezza e l’affidabilità dei sistemi di intelligenza artificiale:

1. Deriva dei Dati: Si verifica quando il modello inizia a ricevere dati del mondo reale da una distribuzione diversa rispetto alla distribuzione dei dati di formazione del modello.
2. Deriva del Modello: Le capacità predittive e l’efficienza del modello diminuiscono nel tempo a causa di ambienti del mondo reale in continua evoluzione. Ciò è noto come deriva del modello.
3. Output del Modello di Intelligenza Artificiale vs. Decisione del Mondo Reale: I modelli di intelligenza artificiale producono output inaccurati che non si allineano con le decisioni degli stakeholder del mondo reale.
4. Predisposizione e Equità: I modelli di intelligenza artificiale possono sviluppare problemi di predisposizione ed equità. Ad esempio, in un discorso TED di Janelle Shane, lei descrive la decisione di Amazon (AMZN ) di interrompere il lavoro su un algoritmo di sorting dei curriculum a causa della discriminazione di genere.

Una volta che i modelli di intelligenza artificiale iniziano a formarsi con contenuti generati dall’intelligenza artificiale, questi problemi possono aumentare ulteriormente. Come? Discutiamone più dettagliatamente.

Cicli di Feedback dell’Intelligenza Artificiale nell’Era del Contenuto Generato dall’Intelligenza Artificiale

Alla luce della rapida adozione dell’intelligenza artificiale generativa, i ricercatori hanno studiato un fenomeno noto come Collasso del Modello. Lo definiscono come:

“Un processo degenerativo che colpisce le generazioni di modelli generativi appresi, dove i dati generati finiscono per inquinare l’insieme di formazione della prossima generazione di modelli; addestrati su dati inquinati, essi poi percepiscono male la realtà.”

Il Collasso del Modello consiste di due casi speciali,

• Collasso del Modello Precoce: si verifica quando “il modello inizia a perdere informazioni sulle code della distribuzione”, ovvero gli estremi della distribuzione dei dati di formazione.
• Collasso del Modello Tardivo: si verifica quando “il modello intreccia diversi modi delle distribuzioni originali e converge verso una distribuzione che assomiglia poco alla originale, spesso con varianza molto piccola.”

Cause del Collasso del Modello

Perché i pratici di intelligenza artificiale possano affrontare questo problema, è essenziale comprendere le ragioni del Collasso del Modello, raggruppate in due categorie principali:

1. Errore di Approssimazione Statistica: Questo è l’errore principale causato dal numero finito di campioni, e scompare quando il numero di campioni si avvicina all’infinito.
2. Errore di Approssimazione Funzionale: Questo errore deriva quando i modelli, come le reti neurali, non riescono a catturare la funzione sottostante vera che deve essere appresa dai dati.

Un esempio di risultati del modello per diverse generazioni di modelli influenzati dal Collasso del Modello. Fonte

Come il Ciclo di Feedback dell’Intelligenza Artificiale è Influente a Causa del Contenuto Generato dall’Intelligenza Artificiale

Quando i modelli di intelligenza artificiale si formano con contenuti generati dall’intelligenza artificiale, ciò ha un effetto distruttivo sui cicli di feedback dell’intelligenza artificiale e può causare molti problemi per i modelli di intelligenza artificiale ritrattati, come:

• Collasso del Modello: Come spiegato in precedenza, il Collasso del Modello è una possibilità se il ciclo di feedback dell’intelligenza artificiale contiene contenuti generati dall’intelligenza artificiale.
• Dimenticanza Catastrofica: Una sfida tipica nell’apprendimento continuo è che il modello dimentica i campioni precedenti quando apprende nuove informazioni. Ciò è noto come dimenticanza catastrofica.
• Inquinamento dei Dati: Si riferisce all’alimentazione di dati sintetici manipolativi nel modello di intelligenza artificiale per compromettere le prestazioni, inducendolo a produrre output inaccurati.

Come le Aziende Possono Creare un Ciclo di Feedback Robusto per i loro Modelli di Intelligenza Artificiale?

Le aziende possono trarre vantaggio utilizzando i cicli di feedback nei loro flussi di lavoro di intelligenza artificiale. Seguite i tre passaggi principali di seguito per migliorare le prestazioni dei vostri modelli di intelligenza artificiale.

• Feedback dagli Esperti del Settore: Gli esperti del settore sono altamente conoscitori nel loro dominio e comprendono l’utilizzo dei modelli di intelligenza artificiale. Possono offrire insight per aumentare l’allineamento del modello con le impostazioni del mondo reale, dando una maggiore possibilità di risultati corretti. Inoltre, possono governare e gestire meglio i dati generati dall’intelligenza artificiale.
• Scegliere Metriche di Qualità del Modello Rilevanti: Scegliere la metrica di valutazione giusta per il compito giusto e monitorare il modello in produzione in base a queste metriche può garantire la qualità del modello. I pratici di intelligenza artificiale utilizzano anche strumenti MLOps per la valutazione e il monitoraggio automatizzati per avvisare tutti gli stakeholder se le prestazioni del modello iniziano a peggiorare in produzione.
• Cura dei Dati Stretta: Poiché i modelli di produzione vengono ritrattati con nuovi dati, possono dimenticare le informazioni passate, quindi è cruciale curare dati di alta qualità che si allineino bene con lo scopo del modello. Questi dati possono essere utilizzati per ritrattare il modello nelle generazioni successive, insieme al feedback degli utenti per garantire la qualità.

Per saperne di più sugli avanzamenti dell’intelligenza artificiale, visitate Unite.ai.