«Addestrare l'IA sui nostri documenti» è una richiesta frequente. Può indicare diversi obiettivi: trovare una procedura aggiornata, usare un vocabolario specifico, rispettare un formato o svolgere un compito specialistico. La soluzione tecnica dipende dal risultato desiderato.
Il RAG fornisce le fonti al momento della risposta
La generazione aumentata dal recupero, comunemente chiamata RAG, recupera passaggi pertinenti da fonti autorizzate e li fornisce al modello per aiutarlo a rispondere. Il sistema deve gestire acquisizione dei documenti, suddivisione in blocchi, ricerca e presentazione dei riferimenti. I pesi del modello non cambiano necessariamente.
Per un assistente documentale, questo approccio consente di aggiornare una raccolta senza riaddestrare il modello ogni volta che cambia una procedura. Occorre comunque gestire rimozione delle versioni obsolete, sincronizzazione e controllo degli accessi. La qualità delle risposte dipende anche dal recupero del passaggio giusto.
Il fine-tuning adatta un modello esistente
Il fine-tuning prosegue l'addestramento di un modello preaddestrato usando un insieme di dati destinato a un compito o a un settore. La documentazione di Hugging Face lo distingue dall'addestramento con pesi inizializzati casualmente.
Può valere la pena studiarlo quando un'esigenza ripetuta riguarda, ad esempio, una struttura di output o un compito specialistico difficile da stabilizzare con le sole istruzioni. Richiede buoni esempi, diritti d'uso chiari e una valutazione separata dai dati di addestramento. Il suo valore va misurato rispetto a una soluzione più semplice.
Partire da un confronto concreto
Consideriamo tre richieste fittizie. Un team vuole trovare la procedura di rimborso applicabile: aggiornamento e citazione delle fonti orientano innanzitutto verso il recupero documentale. Un altro vuole un oggetto strutturato conforme a uno schema: istruzioni e validazione automatica possono bastare. Un terzo vuole un miglioramento duraturo di un'attività aziendale ripetuta: il fine-tuning può diventare un'opzione se i test iniziali mostrano un divario misurabile.
Queste situazioni sono esempi per ragionare, non regole universali. Un sistema può combinare più approcci. Aggiungerli tutti fin dall'inizio, però, aumenta il numero di componenti da mantenere e valutare.
Testare separatamente il recupero e la risposta
Quando un assistente risponde male, il modello non è sempre la causa principale. Il documento può mancare, l'indice essere obsoleto, il passaggio incompleto o l'accesso negato. Separare queste fasi aiuta a individuare il problema giusto da correggere. La guida Hugging Face alla valutazione del RAG mostra come un insieme di riferimento di domande e risposte possa aiutare a osservare i cambiamenti di un sistema.
La nostra lista pratica comprende domande semplici, richieste che combinano due fonti, documenti contraddittori e domande senza risposta disponibile. Verifica anche che gli utenti non possano ottenere passaggi che non sono autorizzati a leggere. Gli esempi dovrebbero riflettere le condizioni di lavoro, compresi gli errori attesi.
Non confondere specializzazione e sicurezza
Un documento recuperato può contenere istruzioni malevole. OWASP descrive questo rischio di iniezione indiretta e raccomanda più livelli di protezione. Né il RAG né il fine-tuning eliminano la necessità di limitare gli strumenti disponibili, validarne i parametri e controllare sul server le azioni sensibili.
Per preparare un progetto, parti da casi rappresentativi e criteri di successo. La nostra pagina sull'addestramento e l'adattamento dei modelli spiega le fasi del lavoro. L'obiettivo è scegliere un'architettura giustificata dai risultati, poi documentarne la gestione operativa.
