Negli ultimi anni, l’introduzione dei Large Language Model (LLM) ha rivoluzionato l’approccio all’analisi e alla gestione documentale, rendendo possibile l’elaborazione di operazioni sempre più pertinenti e contestuali. Tuttavia, l’utilizzo di queste tecnologie comporta sfide rilevanti in termini di privacy, sicurezza e controllo dei dati.
In questo scenario si colloca il nuovo studio AI4Cyber, che presenta lo sviluppo di un sistema in grado di interrogare documenti aziendali tramite l’approccio RAG (Retrieval Augmented Generation), capace di combinare la potenza degli LLM con la possibilità di estrarre informazioni da fonti testuali pertinenti.
La soluzione presentata nello studio impiega Large Language Model (LLM) in esecuzione locale, con lo scopo di offrire un assistente AI privato che garantisca la riservatezza, l’integrità e la disponibilità dei dati trattati.
Il modello che ha mostrato un miglior trade-off tra efficienza e accuratezza è Phi4, scelto dopo aver effettuato diversi test comparativi con Llama 3.1 e Mistral. Completano l’architettura un’interfaccia utente intuitiva e la possibilità di gestire non solo documenti strutturati e non ma anche quelli scansionati grazie all’integrazione dell’OCR, rendendo il sistema versatile e facilmente adattabile alle necessità operative delle aziende.
If you wish to learn more, here is the link to our studio complete.
In addition, you can subscribe to the specific mailing list Cyber Studios by Tinexta Defence, to receive updates on upcoming research:
