OpenAI sta finalmente lavorando alle impostazioni di ChatGPT per creare un programma di interazione migliore eliminando eventuali allucinazioni dell'IA. Se non hai mai sentito parlare di allucinazioni AI e hai già utilizzato ChatGPT, potresti averlo già sperimentato. Lascia che ti spieghiamo.
È mai successo che quando usi ChatGPT o qualsiasi chatbot AI, il sistema inizi a chattare qualsiasi informazione e contenuto invece del prompt che è stato inserito. Bene, questo fenomeno è chiamato un'allucinazione dell'IA che rende disinformazione.
Leggi anche: La nuova app per smartphone utilizza l'intelligenza artificiale per rilevare i prodotti contraffatti: ecco come funziona Alitheon
Nel tentativo di modificare e ridurre questi output, OpenAI ha finalmente trovato una soluzione e la funzione si chiama Process Monitoring. Potrebbe esserci confusione tra le funzioni di supervisione del processo e supervisione dell'esito dove in quest'ultima il sistema viene premiato per la conclusione finale del compito. Tuttavia, nel primo caso, che è la novità, il sistema viene premiato in ogni fase del compito.
OpenAI in un post sul blog ufficiale ha pubblicato esempi matematici che hanno portato a una migliore precisione in generale, tuttavia, la società suggerisce di non poter commentare come funzionerà la funzione di monitoraggio del processo nell'area della matematica.
OpenAI ha già menzionato e corretto le carenze del software e ha avvertito gli utenti affermando che ChatGPT potrebbe essere impreciso con le informazioni rilasciate.
“Anche i modelli di punta sono inclini a produrre falsità: tendono a inventare fatti in tempi di incertezza. Queste allucinazioni sono particolarmente problematiche nelle aree che richiedono un ragionamento in più passaggi, poiché un singolo errore logico è sufficiente per far deragliare una soluzione molto più ampia. Rilevare e mitigare le allucinazioni è la chiave per migliorare le capacità di ragionamento.
Leggi anche: IIT-AIIMS sviluppa applicazioni AI per migliorare l'assistenza sanitaria in India: ecco come
Con questo sforzo per rendere l'esperienza dell'utente più fluida e trasparente, OpenAI mira a costruire una tecnologia in grado di riflettere le risposte basate sulle interazioni umane e strutturare il sistema per comprendere gli esseri umani e compiere sforzi reattivi di conseguenza.
Alcuni esperti suggeriscono ancora che il software ha bisogno di maggiore precisione e trasparenza mentre spinge per la regolamentazione del software.
