Un chatbot AI sui documenti aziendali può aiutare le persone a trovare procedure, manuali e informazioni interne con domande in linguaggio naturale. Per essere utile deve però recuperare le fonti corrette, rispettare gli accessi e riconoscere quando il materiale disponibile non consente una risposta affidabile.
La tecnica RAG, cioè generazione supportata dal recupero di informazioni, collega una domanda a contenuti selezionati prima di produrre la risposta. Non elimina automaticamente errori e invenzioni. La qualità dipende dall’intero percorso: documenti, ricerca, permessi, istruzioni, modello e verifica del risultato.
Come funziona un assistente RAG aziendale
Nel flusso essenziale l’applicazione identifica l’utente, cerca passaggi pertinenti nel materiale autorizzato e li fornisce al modello come contesto. La risposta dovrebbe collegare le affermazioni alle fonti consultabili. La documentazione Microsoft sul RAG descrive questo collegamento tra recupero e generazione, includendo controlli di accesso ai contenuti.
Un chatbot documentale non conosce necessariamente lo stato corrente degli ordini o del magazzino. Se deve rispondere su dati operativi aggiornati, occorre progettare un collegamento ai sistemi interessati, con regole e autorizzazioni proprie. Un manuale del gestionale non contiene i dati presenti nel gestionale.
Prima di scegliere la tecnologia, scrivi dieci domande che il personale pone davvero e indica per ciascuna una fonte attendibile. Se nessuno sa quale documento contenga la risposta ufficiale, l’indicizzazione non risolverà da sola il problema.
Preparare documenti con un responsabile e una versione
Raccogli un insieme limitato di contenuti utili al primo gruppo di utenti. Per ogni documento indica proprietario, data, versione, pubblico autorizzato e stato: corrente, superato o in revisione. Due procedure incompatibili indicizzate insieme possono produrre una risposta incoerente.
Controlla che tabelle, diagrammi e scansioni vengano letti nel modo corretto. Un’istruzione contenuta in una figura può non emergere dal solo testo estratto. Per documenti complessi chiedi una verifica della rappresentazione effettivamente usata dalla ricerca.
Definisci il trattamento degli allegati e dei riferimenti ad altri file. Se una procedura rimanda a un modulo non disponibile, l’assistente dovrebbe segnalare il limite invece di ricostruirne il contenuto. La preparazione documentale è una parte del progetto, con un responsabile aziendale identificabile.
Applicare i permessi prima della risposta
Chi non può leggere un contratto non deve riceverne un riassunto attraverso il chatbot. Il controllo riguarda i contenuti recuperati, i frammenti, i titoli e le eventuali memorie della conversazione. Nascondere soltanto il link finale non protegge l’informazione già inserita nella risposta.
Prova la stessa domanda con ruoli diversi e verifica che i risultati cambino quando cambiano gli accessi. Includi revoca di un’autorizzazione, trasferimento di reparto e cessazione di un account. Chiedi quanto tempo passa tra una modifica dei permessi e il suo effetto sull’assistente.
Anche i registri delle conversazioni possono contenere informazioni riservate. Stabilisci chi li consulta, per quale scopo e con quali tempi di conservazione. Non occorre mantenere ogni testo completo per misurare se il servizio funziona.
Citare le fonti e sapere quando fermarsi
Una risposta utile permette di aprire il documento e verificare il passaggio pertinente. Il titolo della fonte, la versione e il collegamento alla sezione aiutano l’utente a riconoscere il contesto. Un elenco di file alla fine non dimostra che tutte le frasi siano sostenute da quei file.
Prevedi risposte esplicite per informazioni assenti, documenti contraddittori e domande fuori ambito. “Non ho una procedura aggiornata per questo caso” può essere il risultato corretto. Aggiungi un canale per chiedere chiarimenti al responsabile del contenuto.
Per esempio, se una domanda riguarda una soglia di approvazione ma l’unico documento disponibile è superato, l’assistente non dovrebbe presentare quella soglia come corrente. Questo caso deve comparire nel collaudo, non emergere soltanto dopo il rilascio.
Difendere il flusso da istruzioni nei documenti
Un file può contenere testo che tenta di deviare il comportamento del modello. OWASP tratta la prompt injection indiretta proprio come un rischio legato anche a fonti esterne. La presenza di un documento nell’archivio non rende ogni sua frase un’istruzione autorizzata per l’assistente.
Mantieni i controlli nell’applicazione e limita le azioni disponibili. Se il primo obiettivo è cercare documenti, non serve concedere anche la possibilità di inviare email o modificare ordini. Quando aggiungi azioni, definisci conferme, destinatari ammessi e registrazione degli esiti.
Prova anche contenuti anomali e richieste che tentano di ottenere informazioni di un altro reparto. Un test composto soltanto da domande collaborative misura una parte troppo piccola del comportamento necessario.
Valutare le risposte con un insieme di prove
Costruisci domande con risposta verificata, fonte prevista e criteri di accettazione. Includi richieste formulate in modi diversi e casi senza una risposta disponibile. Se usi soltanto le domande servite a configurare il sistema, potresti sovrastimare il risultato.
| Area di prova | Domanda da verificare |
|---|---|
| Recupero | È stato trovato il documento corretto? |
| Risposta | Le affermazioni sono sostenute dal contenuto? |
| Accessi | Sono esclusi i materiali non autorizzati? |
| Aggiornamento | Una nuova versione sostituisce quella precedente? |
| Utilità | L’utente riesce a completare il compito? |
Misura anche il tempo necessario per verificare la risposta. Un assistente rapido ma poco attendibile può spostare il lavoro sulla persona invece di ridurlo. Mantieni queste prove per rivalutare il servizio quando cambiano modello, documenti o ricerca.
Costi e primo perimetro del progetto
Nel preventivo separa preparazione dei contenuti, integrazioni, interfaccia, autenticazione, valutazione e gestione dopo il rilascio. Nei costi ricorrenti considera elaborazione dei documenti, utilizzo dei modelli, archiviazione, ricerca e assistenza.
Una prima versione può riguardare un solo archivio e un gruppo di utenti, con domande e fonti definite. Per il quadro più ampio consulta la guida a come integrare l’AI in azienda; per gli aspetti normativi parti dall’articolo sull’AI Act per le imprese, verificando il caso specifico.
Domande frequenti
Serve addestrare un modello con tutti i documenti?
Non necessariamente. Un sistema RAG può recuperare documenti al momento della domanda. La scelta tra recupero, configurazione e altre tecniche dipende dal compito, dalla frequenza degli aggiornamenti e dalle prove effettuate.
Un chatbot privato impedisce ogni fuga di dati?
No. Bisogna verificare accessi, fornitori, conservazione, registri, integrazioni e comportamento delle risposte. La sola etichetta “privato” non descrive queste garanzie.
Come valutare un prototipo?
Usa contenuti autorizzati e domande con risposte verificabili, comprese quelle a cui il sistema deve rinunciare. Nella consulenza per un progetto software puoi definire fonti, utenti e criteri prima di estendere il servizio.