Importazione AI 314: modelli linguistici + sintesi vocale; cooperazione emergente nei wargame; L’ICML vieta i documenti scritti da LLM

Un nuovo entusiasmante capitolo nell’eccesso di capacità racconta il fatto che un modello linguistico è anche un clinico esperto.

Il risultato mostra che i modelli linguistici possono approssimare esseri umani qualificati.

Multi MedQA è un benchmark costituito da sette set di dati di risposta a domande mediche, sei dei quali sono preesistenti e uno dei quali è nuovo ed è composto da 3355 domande sulla salute comunemente ricercate.

Nei test, i medici hanno ritenuto che il 92,6% delle risposte di Med-Palm fosse in linea con il consenso scientifico, rispetto al 92,9% per gli esseri umani.

domande generate dal medico.

Il modello ottiene un nuovo stato dell’arte nella risposta a domande a scelta multipla, con una precisione del 67,6%, che è migliore del 17,3% per il PubMedGPT appena annunciato.

I risultati suggeriscono che una forte prestazione nella risposta a domande mediche può essere un’abilità emergente, combinata con un’efficace messa a punto delle istruzioni.

Ho parlato a lungo di modelli di linguaggio re e sono molto più capaci di quanto pensiamo.

Ci vuole sperimentazione e ricerca di esperti per trovare nuovi modi per formulare le domande e puoi finire con potenti salti di capacità senza riaddestrare il modello.

Basta aggiungere alcuni esperti umani per spargere qualche briciola e lasciare che il tuo modello linguistico faccia il resto: “i risultati Med-PaLM dimostrano che con l’ottimizzazione rapida delle istruzioni abbiamo una tecnica di allineamento efficiente in termini di dati e parametri utile per migliorare i fattori relativi all’accuratezza, alla fattualità , coerenza, sicurezza, danni e pregiudizi, contribuendo a colmare il divario con gli esperti clinici e avvicinando questi modelli alle applicazioni cliniche del mondo reale”.

Per saperne di più: I modelli di linguaggio di grandi dimensioni codificano la conoscenza clinica (arXiv).

Il token acustico generato viene utilizzato per sintetizzare la forma d’onda finale.

Le attività TTS possono essere utilizzate con tecniche di modello di grandi dimensioni basate su prompt avanzate, come nei GPT.

Se il modello è in grado di sintetizzare discorsi di alta qualità per oratori invisibili senza messa a punto, si ritiene che abbia capacità di apprendimento nel contesto.

VALL-E riesce a mantenere la stessa emozione del prompt nella sintesi vocale anche se il modello non è perfetto.

La previsione della sequenza eseguita su un set di dati ampio e diversificato può portare a capacità sorprendenti.

Suggerisce che potresti voler versare un blocco crescente di modalità diverse in un singolo spazio incorporato e tentare la previsione della sequenza da quello, che può essere sorprendente e potente.

I modelli di linguaggio del codice neurale sono sintetizzatori di sintesi vocale Zero-Shot.

In una svolta sorprendente, la Conferenza internazionale sull’apprendimento automatico ha vietato ai ricercatori di includere un ampio campione di testo generato da modelli linguistici.

La politica è progettata per impedire agli autori di utilizzare modelli linguistici nel loro testo, sebbene siano liberi di utilizzare LLM per modificarlo o rifinirlo.

C’è un chiarimento sulla politica del modello linguistico di grandi dimensioni.

La complessità emergente è il risultato di un processo di formazione su larga scala.

Gli agenti finiscono per apprendere tattiche di battaglia ricche e intuitive come risultato di un processo di addestramento RL in tre fasi, dandoci un altro esempio di come i sistemi di intelligenza artificiale contemporanei tendano a mostrare comportamenti che non corrispondono direttamente a come sono stati addestrati o incentivati.

Fase 1: dense ricompense realizzate a mano per incoraggiare le abilità di base; gli agenti ottengono punti massimizzando lavoratori, CityTiles, punti ricerca e carburante come risultato di questo schema di formazione in tre fasi.

Prima di costruire un CityTile, gli agenti dovrebbero scegliere attentamente le posizioni e sviluppare modelli di auto-organizzazione.

Al termine dell’episodio, la nostra politica raccoglierà tutti gli alberi protetti e proverà a costruire il maggior numero possibile di CityTiles per la vittoria.

Il gioco è diventato nero e c’era un messaggio di testo.

Abbiamo giocato a quel gioco per un po’ e poi mio figlio si è annoiato e l’abbiamo cambiato di nuovo.