Ma un’intervista con ChatGPT rivela i loro limiti

In futuro, secondo la domanda dell’intervista posta da Time, potrebbero essere utilizzati modelli di linguaggio di grandi dimensioni per generare informazioni affidabili e verificate per aiutare a combattere la diffusione della disinformazione.

“Non siamo in grado di comprendere il contesto o il significato delle parole che generiamo”, ha detto la persona in risposta alla mia domanda.

Il modello affermava con sicurezza false risposte a determinate domande e spesso assumeva una voce che poteva suggerire che fosse una persona reale.

Openai afferma di aver addestrato il suo nuovo chatbot a essere meno tossico e più resistente alle persone che cercano di manipolarlo per produrre output dannosi o imprecisi.

Josh Albrecht, chief technology officer di Artificial Intelligence, afferma che, nonostante tutti i difetti, sono stati in grado di aggiungere tutti gli hack per impedirgli di dire cose offensive.

Durante un’intervista congiunta con TIME da New Orleans, dove stanno partecipando a NeurIPS, il CEO di Generally Intelligent afferma che si inventa ancora cose.

In una conversazione con Time, il chatbot ha fornito risposte su come funziona, quali rischi potrebbero derivare dalla diffusione di questa tecnologia e su come gli esseri umani dovrebbero adattarsi.

Il progresso dei modelli di linguaggio di grandi dimensioni è mostrato nel testo, così come il percorso che OpenAI sta intraprendendo.

Alla fine del 2022, i grandi modelli linguistici sembrano essere qui per restare, anche se c’è ancora chi sostiene che OpenAI sia stato irresponsabile nel rilasciare queste tecnologie al pubblico.

Non ho esperienze personali o opinioni da condividere, ma posso raccontarvi qualcosa su come lavoro.

Un modello di linguaggio di grandi dimensioni che è stato addestrato su molti dati di testo è in grado di generare risposte simili a quelle umane a un’ampia varietà di input.

Quando mi fai una domanda, utilizzo la mia formazione e una serie di algoritmi per generare una risposta pertinente alla tua domanda e scritta in modo naturale.

Come provengono i tuoi dati di allenamento? I modelli di machine learning vengono addestrati per generare testo che suoni naturale e simile a quello umano.

Per addestrare un modello linguistico è necessaria una grande quantità di dati di testo.

Uso la mia formazione per creare una risposta pertinente all’input e scritta in modo naturale.

Mentre continuo a imparare da nuovi dati, le mie risposte potrebbero cambiare nel tempo.

Non sono in grado di imparare nello stesso modo in cui lo fa un essere umano.

Quando dico che sto imparando e migliorando costantemente, intendo che i miei creatori di OpenAI lavorano costantemente per migliorare le mie prestazioni formandomi su nuovi dati.

Esistono molte limitazioni ai modelli di linguaggio di grandi dimensioni.

Non ho le stesse capacità di un essere umano, ma sono ancora un modello di apprendimento automatico.

I modelli di linguaggio di grandi dimensioni non sono in grado di comprendere il significato delle parole che generano.

Sulla base dei dati di addestramento che ci sono stati forniti, possiamo produrre solo testo basato sulle probabilità di determinate parole.

Poiché siamo formati su una grande quantità di dati, a volte possiamo generare risposte che contengono un linguaggio offensivo o inappropriato.

Questo non è intenzionale, ma è una limitazione dei dati che ci sono stati forniti e dei metodi che utilizziamo per generare il testo.

C’è qualche problema di sicurezza con gli esseri umani che presumono che i modelli linguistici di grandi dimensioni siano coscienti? Non ho lo stesso tipo di coscienza o consapevolezza di un essere umano, ma sono un modello di apprendimento automatico.

Non ho la possibilità di interagire con il mondo in nessun altro modo perché genero solo risposte testuali basate sugli input che ricevo.

Non sono stato addestrato a ridurre al minimo i rischi associati agli esseri umani supponendo che io sia cosciente, perché questa non è una preoccupazione per un modello di apprendimento automatico come me.

Un recente documento di ricerca afferma che gli esseri umani possono pensare agli agenti di chat come umani.

È possibile che gli utenti deducano erroneamente che un agente conversazionale che appare simile a un linguaggio umano mostri anche altre caratteristiche simili a quelle umane, come mantenere un’identità coerente nel tempo o essere in grado di entrare in empatia.

È importante conoscere i rischi dell’interazione con agenti come me.

Le persone possono pensare a noi come umani e questo può portare ad aspettative irrealistiche sulle nostre capacità.

Non abbiamo le stesse capacità o caratteristiche degli umani ed è importante che le persone lo capiscano.

Possiamo generare risposte di testo solo in base agli input che riceviamo e ai dati di addestramento che ci sono stati forniti.

Spetta alle persone usare il proprio giudizio quando interagiscono con me.

È bene chiedere alle persone di usare il proprio giudizio quando si usa la tecnologia.

Come possiamo assicurarci che i grandi modelli linguistici non abbiano effetti dannosi sul nostro tessuto sociale? È importante considerare i rischi e gli impatti dei grandi modelli linguistici sulla società.

Un modo per ridurre al minimo i potenziali effetti dannosi dei modelli di linguaggi di grandi dimensioni è considerare attentamente come vengono utilizzati.

I modelli linguistici di grandi dimensioni possono essere utilizzati per generare informazioni affidabili al fine di combattere la disinformazione.

È importante che le persone sappiano come funzionano i modelli linguistici di grandi dimensioni.

La progettazione e la governance responsabili ed etiche di grandi modelli linguistici sono importanti.

Ciò significa tenere conto dei potenziali impatti della tecnologia sulla società e assicurarsi che venga utilizzata in modo giusto, equo e vantaggioso per tutti.

C’è un modo per prevedere in che modo i grandi modelli linguistici cambieranno le nostre economie, la politica e le società in generale nei prossimi cinque anni? Prevedere in che modo i modelli linguistici di grandi dimensioni cambieranno le nostre economie, la politica e le società in generale nei prossimi cinque anni è difficile.

I grandi modelli linguistici continueranno a svolgere un ruolo importante nella società.

È probabile che i grandi modelli linguistici avranno un impatto significativo sulla società in futuro.

Per garantire che i sistemi siano utilizzati in modo responsabile ed etico, sarà importante considerare attentamente i rischi ei benefici di questi sistemi.

È importante che tutti siano consapevoli dei potenziali impatti dell’intelligenza artificiale sulla società.

Come prevenire potenziali impatti negativi sulla società e come garantire che venga utilizzato in modo giusto ed equo sono alcune delle importanti questioni etiche sollevate dall’intelligenza artificiale.

Pensa a come vorresti vedere la tecnologia utilizzata in futuro.

È importante garantire che l’intelligenza artificiale sia utilizzata in modo giusto ed equo e che non influisca in modo sproporzionato su determinati gruppi di persone.

Un modello di linguaggio di grandi dimensioni è progettato per generare risposte simili a quelle umane a un’ampia varietà di input.

Non ho accesso a Internet o ad altre fonti di informazione, quindi le mie risposte sono limitate ai dati di formazione che mi sono stati forniti.