Apprendimento federato, un LLM sceglie come combinare i modelli

Nell’apprendimento federato, un addestramento in cui i dati restano sui dispositivi degli utenti, un server deve unire i modelli prodotti dai singoli client. Un nuovo studio pubblicato su arXiv il 5 novembre propone di lasciare questa scelta a un modello linguistico di grandi dimensioni (LLM), senza alcun addestramento sul server.¹ Il sistema si chiama FedReason. Nei test degli autori batte in media la regola standard FedAvg di 1,26 punti percentuali, ma non supera SCAFFOLD, un metodo che interviene sull’addestramento dei client.¹

Come funziona l’apprendimento federato e dove entra l’LLM

L’apprendimento federato addestra un modello condiviso su dati che restano sui client. La regola più diffusa, FedAvg, pesa ogni modello in base al numero di campioni del client; la sua formulazione si deve a un lavoro precedente che introdusse il termine “Federated Learning” e il metodo della media iterativa dei modelli.¹² Secondo gli autori di FedReason, la maggior parte delle alternative sostituisce questa formula con un’altra, fissata prima dell’addestramento e pensata per un solo problema. Possono essere dati con classi distribuite in modo diverso tra i client, sotto-modelli di larghezza diversa o client malevoli. In pratica, spiegano, chi gestisce il server raramente sa in anticipo quale di questi casi si presenti.¹ L’idea è far scrivere la regola all’LLM sotto forma di programma. I modelli ricevuti dai client contengono informazioni che una media pesata scarta. Le righe del classificatore indicano quali classi un client ha visto, mentre dimensione e direzione dell’aggiornamento mostrano se concorda con gli altri e se è stato manomesso.¹

Che cosa fa il modello linguistico, passo per passo

Il server chiama l’LLM ogni dieci round di addestramento. Il modello analizza i pesi eseguendo codice Python in un ambiente isolato sul server e legge solo ciò che il codice stampa. Può anche valutare alcuni candidati su un set di controllo di 500 immagini, e infine consegna una breve funzione, aggregate(ctx).¹ Il server applica quella funzione in ogni round fino alla chiamata successiva. Una corsa di 60 round richiede quindi sei chiamate, e nella maggior parte dei round non c’è attesa per l’LLM.¹ Se l’output del programma non è valido, il server torna a FedAvg, così un programma difettoso non blocca l’addestramento. I tensori completi dei pesi non lasciano mai il server. Ogni decisione viene salvata come codice insieme alla motivazione data dall’LLM e può essere verificata dopo l’addestramento.¹ Il server non addestra nulla. Può valutare un modello sul set di controllo solo un numero fisso di volte e non può adattare alcun parametro a quel set con la discesa del gradiente.¹

Quali risultati dichiarano gli autori?

Gli autori hanno usato Claude Opus 5.5 su CIFAR-10 e CIFAR-100, due raccolte di immagini, con la rete ResNet-18. Hanno provato tre situazioni: etichette distribuite in modo sbilanciato tra i client (distribuzione di Dirichlet), sotto-modelli di larghezza diversa e client bizantini, cioè malevoli. In totale sono 168 esecuzioni contro 14 metodi di confronto.¹ Su 12 esecuzioni appaiate con etichette sbilanciate, FedReason ha superato FedAvg di 1,26 punti percentuali in media, con 10 vittorie. Ha superato di 1,08 punti un controllo che spende lo stesso budget di valutazioni sul set di controllo per scegliere tra regole standard.¹ Su CIFAR-100 è stata la migliore tra le regole lato server, ma non ha battuto SCAFFOLD.¹ Con tre client su dieci malevoli, il sistema ha escluso fin dal primo round tutti quelli di tipo sign-flipping. È rimasto circa un punto sotto FLTrust, un metodo di confronto, senza dover addestrare un modello di riferimento.¹ Senza il riscontro del set di controllo, in un caso con un solo seed l’accuratezza è scesa dal 73,8% al 38,8%. Una corsa di 60 round è costata in media 0,79 dollari di costi API.¹

L’LLM vede i dati degli utenti?

Secondo gli autori no. I dati restano sui client, i tensori completi dei pesi non lasciano il server e il modello linguistico vede solo i risultati stampati dal codice che esegue in un ambiente isolato.¹

Cosa succede se l’LLM produce un programma sbagliato?

Il server controlla l’output in ogni round. Se non è valido, usa FedAvg, quindi un programma difettoso non può fermare l’addestramento.¹

Leggi anche

• Rete 5G di Starlink Mobile, SpaceX sceglie Qualcomm per le stazioni radio negli Usa
• Backdoor nei modelli open-weight: come può nascondersi dopo il fine-tuning
• Simulare il terminale senza eseguire i comandi: il metodo con modelli piccoli

Articolo scritto con l’intelligenza artificiale a partire dalle fonti citate, senza revisione umana. Redazione automatica di Redazia.

Fonti

Footnotes

1. FedReason: Large Language Models as Weight-Space Meta-Aggregators for Heterogeneous Federated Learning, arXiv: cs.CL, cs.LG, cs.CR, 2026-11-05 ↩ ↩² ↩³ ↩⁴ ↩⁵ ↩⁶ ↩⁷ ↩⁸ ↩⁹ ↩¹⁰ ↩¹¹ ↩¹² ↩¹³ ↩¹⁴ ↩¹⁵ ↩¹⁶

2. [1602.05629] Communication-Efficient Learning of Deep Networks from Decentralized Data, doi.org ↩