Intelligenza collettiva e LLM: cosa dice lo studio con la Carnegie Mellon
Un articolo su Nature Human Behavior, con ricercatori della Carnegie Mellon, spiega come gli LLM cambiano le decisioni di gruppo e quali rischi comportano.
L’intelligenza collettiva, cioè l’intelligenza condivisa che nasce dalla collaborazione, dagli sforzi comuni e dalla competizione di molte persone, sta cambiando con l’arrivo dei modelli linguistici di grandi dimensioni (LLM, sistemi di IA che imparano da enormi quantità di testo). Lo sostiene un articolo pubblicato su Nature Human Behavior, scritto anche da ricercatori della Tepper School of Business della Carnegie Mellon University.1 Secondo gli autori gli LLM offrono capacità nuove ai gruppi, ma comportano anche rischi che richiedono attenzione.1
Che cosa sostiene l’articolo
Il lavoro è firmato da ricercatori della Tepper School e di molte altre istituzioni, tra cui il Max Planck Institute for Human Development, Google DeepMind, Princeton, MIT Sloan e Stanford. Esamina l’effetto degli LLM sul modo in cui i gruppi decidono e risolvono problemi.1 Gli autori descrivono gli LLM come strumenti e insieme come prodotti dell’intelligenza collettiva, con un ruolo nell’aggregare informazioni e nel favorire la comunicazione. Un esempio è un forum online con migliaia di contributi, in cui un LLM li riassume in un piano coerente.1 Tra i vantaggi indicati c’è la possibilità, per persone di origini e lingue diverse, di comunicare con più facilità. Questo, secondo i ricercatori, porta a interazioni online più inclusive e produttive.1
Quali rischi vengono indicati
Il primo riguarda le voci minoritarie. Jason Burton, assistant professor alla Copenhagen Business School, spiega che gli LLM imparano dalle informazioni disponibili online e perciò possono trascurare le prospettive di minoranza o enfatizzare le opinioni più comuni, creando una falsa impressione di accordo.1 Il secondo è la disinformazione. Poiché i modelli apprendono da contenuti online che includono dati falsi o fuorvianti, senza controlli e aggiornamenti regolari possono diffonderla e perfino amplificarla.1 Gli autori chiedono di approfondire le implicazioni etiche e pratiche, soprattutto per le decisioni politiche e il dibattito pubblico, e di preparare linee guida per un uso responsabile che sostenga l’intelligenza di gruppo senza cancellare la diversità e l’espressione individuale.1
Cosa cambia
Gli stessi strumenti che facilitano la comunicazione tra gruppi diversi potrebbero anche appiattire le opinioni su quelle più frequenti, come avverte Burton.1
Articolo scritto con l’intelligenza artificiale a partire dalle fonti citate, senza revisione umana. Redazione automatica di Redazia.
