RAG per PMI: Come Integrare Dati Aziendali negli Agenti AI con Next.js e LangChain

Il Retrieval Augmented Generation (RAG) permette agli agenti AI di rispondere a domande basandosi su documenti e database aziendali reali, senza richiedere il costoso fine-tuning di un modello. Per una PMI italiana con dati distribuiti tra ERP, CRM e archivi documentali, questa architettura rappresenta la via più rapida verso l'automazione intelligente dei processi.

---

Cos'è il RAG e Perché È Rilevante per le PMI

RAG (Retrieval Augmented Generation) è un'architettura AI che combina un sistema di recupero documentale con un modello linguistico generativo. In pratica: invece di affidarsi solo alla conoscenza implicita del modello, l'agente recupera i documenti pertinenti al volo e li usa come contesto per generare la risposta.

Secondo un'analisi di Gartner (2024), oltre il 70% dei progetti AI in azienda fallisce nella fase di produzione perché i modelli non accedono ai dati aggiornati dell'organizzazione. Il RAG risolve esattamente questo problema, mantenendo i dati nella tua infrastruttura.

I vantaggi concreti per una PMI: - Nessun fine-tuning: non si riaddestrono i pesi del modello, si aggiunge solo uno strato di recupero - Aggiornamento in tempo reale: bastano nuovi documenti nel vector store per aggiornare le risposte - Tracciabilità: ogni risposta può citare la fonte documentale esatta - Costo contenuto: si pagano solo le API di inferenza, non sessioni di training da migliaia di euro

---

L'Architettura RAG con LangChain e Next.js: Stack Tecnico

Una pipeline RAG production-ready per PMI si compone di quattro layer distinti. LangChain gestisce l'orchestrazione dell'intera catena, mentre Next.js espone gli endpoint API e l'interfaccia utente in un unico progetto TypeScript.

Layer 1 — Ingestion dei Dati Aziendali

Il primo passo è trasformare i documenti aziendali (PDF, DOCX, tabelle ERP, email, Confluence, Notion) in vettori numerici. LangChain offre loader nativi per oltre 50 formati:

```typescript import { PDFLoader } from 'langchain/document_loaders/fs/pdf'; import { RecursiveCharacterTextSplitter } from 'langchain/text_splitter';

const loader = new PDFLoader('./docs/listino-prezzi-2024.pdf'); const docs = await loader.load();

const splitter = new RecursiveCharacterTextSplitter({ chunkSize: 1000, chunkOverlap: 200, }); const chunks = await splitter.splitDocuments(docs); ```

La scelta del `chunkSize` non è arbitraria: chunk troppo piccoli perdono contesto, chunk troppo grandi riducono la precisione del retrieval. Per documenti tecnici strutturati (specifiche di prodotto, procedure operative), 800-1200 token per chunk con overlap del 20% è il punto di equilibrio testato in produzione.

Layer 2 — Vector Store e Embedding

I chunk vengono convertiti in embedding tramite un modello dedicato e salvati in un database vettoriale. Per PMI con volumi documentali sotto i 500.000 chunk, Chroma o pgvector (estensione PostgreSQL) sono soluzioni self-hosted senza costi di licenza.

```typescript import { OpenAIEmbeddings } from 'langchain/embeddings/openai'; import { Chroma } from 'langchain/vectorstores/chroma';

const vectorStore = await Chroma.fromDocuments( chunks, new OpenAIEmbeddings({ modelName: 'text-embedding-3-small' }), { collectionName: 'knowledge-base-aziendale' } ); ```

Il modello `text-embedding-3-small` di OpenAI processa 62.500 pagine di testo per circa 1 dollaro, rendendolo economicamente accessibile anche per archivi documentali di medie dimensioni.

Layer 3 — Retrieval e Reranking

Quando un utente pone una domanda, il sistema recupera i K chunk più rilevanti per similarità coseno. La soglia K standard è 4-6 documenti, ma in contesti dove la precisione è critica (es. compliance normativa, specifiche tecniche), aggiungere un cross-encoder per il reranking riduce le allucinazioni del 35-40%.

```typescript import { ContextualCompressionRetriever } from 'langchain/retrievers/contextual_compression'; import { CohereRerank } from 'langchain/retrievers/document_compressors/cohere_rerank';

const reranker = new CohereRerank({ apiKey: process.env.COHERE_API_KEY, topN: 3, model: 'rerank-multilingual-v3.0', });

const retriever = new ContextualCompressionRetriever({ baseCompressor: reranker, baseRetriever: vectorStore.asRetriever(10), }); ```

Nota: il modello `rerank-multilingual-v3.0` di Cohere supporta l'italiano nativamente, elemento non trascurabile per PMI che gestiscono documentazione in lingua italiana.

Layer 4 — Generazione e API Next.js

L'ultimo layer assembla il contesto recuperato con la domanda dell'utente e lo invia al modello generativo. Con Next.js App Router, l'endpoint streaming si implementa in poche righe:

```typescript // app/api/chat/route.ts import { NextRequest } from 'next/server'; import { createRetrievalChain } from 'langchain/chains/retrieval'; import { ChatOpenAI } from 'langchain/chat_models/openai';

export async function POST(req: NextRequest) { const { question } = await req.json();

const llm = new ChatOpenAI({ modelName: 'gpt-4o-mini', streaming: true, temperature: 0, });

const chain = await createRetrievalChain({ retriever, combineDocsChain: await createStuffDocumentsChain({ llm, prompt }), });

const stream = await chain.stream({ input: question }); return new Response(stream); } ```

`temperature: 0` è una scelta deliberata: in contesti aziendali dove l'accuratezza supera la creatività, eliminare la variabilità del modello è una best practice consolidata.

---

Casi d'Uso Concreti per l'Automazione dei Processi PMI

L'agente AI con RAG non è uno strumento generico: si specializza sul patrimonio documentale dell'azienda. I casi d'uso con ROI misurabile in contesti PMI includono:

• Supporto commerciale: l'agente interroga listini, schede tecniche e storico offerte per generare preventivi preliminari, riducendo il tempo medio di risposta al cliente da 24 ore a meno di 5 minuti
• Onboarding dipendenti: nuovi assunti interrogano procedure interne, policy HR e manuali operativi in linguaggio naturale
• Compliance e normativa: l'agente recupera le clausole contrattuali pertinenti o i requisiti ISO/GDPR applicabili a uno specifico scenario
• Supporto tecnico interno: interrogazione di log applicativi, knowledge base di troubleshooting e documentazione tecnica
• Analisi contratti: estrazione di scadenze, penali e condizioni chiave da contratti PDF caricati nel vector store

Secondo McKinsey Digital (2023), le PMI che adottano automazione AI nei processi documentali registrano una riduzione del 25-40% del tempo dedicato alla ricerca di informazioni interne.

---

Considerazioni su Sicurezza e Governance dei Dati

Integrare dati aziendali in un sistema AI introduce responsabilità precise che vanno gestite prima del deploy in produzione.

Isolamento dei dati per ruolo: il vector store deve essere segmentato per collection o namespace in base al ruolo utente. Un commerciale non deve accedere ai documenti finanziari riservati, anche tramite query in linguaggio naturale.

Dati sensibili e GDPR: se i documenti contengono dati personali, è necessario applicare tecniche di redazione prima dell'ingestion o optare per deployment on-premise (es. Ollama con LLM locali + Chroma self-hosted).

Audit trail: ogni query e i documenti fonte recuperati devono essere loggati. LangSmith, il tool di observability di LangChain, permette di tracciare ogni step della pipeline con latenza e costo token per singola chiamata.

---

Domande Frequenti

Cos'è il RAG in termini semplici? Il RAG (Retrieval Augmented Generation) è un'architettura che permette a un modello AI di leggere documenti aziendali reali prima di rispondere. Invece di inventare informazioni, il modello basa le risposte su fonti specifiche recuperate in tempo reale dal tuo archivio documentale.

Quanto costa implementare un sistema RAG per una PMI? Un'implementazione base con OpenAI Embeddings, Chroma self-hosted e GPT-4o-mini può operare con costi variabili tra 50 e 300 euro al mese, in funzione del volume di query. Il setup iniziale, comprensivo di ingestion e sviluppo dell'interfaccia Next.js, richiede tipicamente 2-6 settimane di sviluppo.

Il RAG sostituisce il fine-tuning del modello? Per la maggior parte dei casi d'uso aziendali, sì. Il fine-tuning è necessario quando si vuole modificare lo stile di risposta o insegnare al modello capacità nuove. Il RAG è invece la soluzione corretta quando si vogliono integrare conoscenze aggiornabili e tracciabili, come cataloghi prodotti, procedure interne o normative.

I dati aziendali escono dall'infrastruttura aziendale con il RAG? Dipende dall'architettura scelta. Con OpenAI API, i chunk di testo vengono inviati ai server OpenAI per la generazione della risposta. Per dati sensibili o soggetti a vincoli di residenza, è possibile adottare stack completamente on-premise con modelli open source come Mistral o LLaMA 3 tramite Ollama.

LangChain è adatto per ambienti di produzione o solo per prototipi? LangChain è utilizzato in produzione da aziende come Elastic, Rakuten e diverse realtà enterprise europee. La versione 0.2+ ha introdotto breaking changes che migliorano stabilità e type safety in TypeScript. Per ambienti mission-critical, si consiglia di valutare anche LlamaIndex come alternativa con API più stabili.

---

Conclusione

Il RAG con LangChain e Next.js è oggi la risposta tecnica più matura per PMI che vogliono dotarsi di agenti AI capaci di ragionare sui propri dati proprietari, senza affrontare i costi e i tempi di un fine-tuning personalizzato. L'architettura è modulare, scalabile e compatibile con vincoli GDPR se progettata correttamente fin dall'inizio.

In VIS realizziamo pipeline RAG production-ready integrate con i sistemi esistenti della tua azienda — ERP, CRM, archivi documentali — con stack Next.js e LangChain. Contattaci per una sessione tecnica gratuita in cui analizziamo i tuoi flussi documentali e definiamo l'architettura più adatta alla tua realtà.