Due modi per rendere utile un’IA
Un modello linguistico di grandi dimensioni (nuova scheda) generico non conosce le tue procedure, i tuoi clienti né il tuo lessico. Due tecniche colmano il divario: il RAG, che gli fornisce i documenti giusti al momento della risposta, e il fine-tuning, che lo riaddestra su esempi scelti.
Non sono alternative. Nella maggior parte dei progetti partiamo da un assistente RAG e valutiamo un fine-tuning quando stile o precisione non bastano più.
Il RAG, per risposte basate sui tuoi documenti
Il RAG (Retrieval-Augmented Generation) è stato descritto nel 2020 in un articolo di ricerca di Meta AI (nuova scheda). I documenti vengono suddivisi e indicizzati; a ogni domanda si recuperano i passaggi pertinenti e si passano al modello insieme alla domanda.
I vantaggi: le risposte citano le fonti, i documenti si aggiornano senza riaddestrare nulla e i permessi di accesso possono essere rispettati. È la soluzione ideale per procedure interne, contratti e basi di conoscenza.
Il fine-tuning, per un modo di lavorare
Il fine-tuning prosegue l’addestramento di un modello sui tuoi esempi. Metodi come LoRA (nuova scheda) lo rendono sostenibile, modificando solo una piccola parte del modello.
Serve quando il modello deve adottare uno stile preciso, rispettare un formato rigido o padroneggiare un lessico molto specialistico. Richiede un dataset di qualità, costruito e verificato con i tuoi esperti.
Come scegliere
- Le tue informazioni cambiano spesso: scegli il RAG.
- Devi citare le fonti: scegli il RAG.
- Il modello deve scrivere in un formato o stile molto preciso: valuta il fine-tuning.
- Vuoi un modello tuo, ospitato internamente: combina fine-tuning e IA on-premise.
E la riservatezza?
In entrambi i casi i dati restano sotto il tuo controllo se il modello è ospitato da te o presso un provider europeo. Il GDPR (nuova scheda) si applica non appena si usano dati personali, sia in addestramento sia in uso. Ne parliamo nell’articolo IA e GDPR.