Intel·ligència artificial

Què és un sistema RAG i per què li serveix a una pime

Una IA que respon amb els teus documents, no amb el que ha llegit per internet. Explicat sense tecnicismes i amb els seus límits.

Lectura de 8 min COSIQ · Igualada

Segurament ja has provat de fer preguntes a alguna IA i has vist dues coses: que respon molt bé sobre temes generals, i que no té ni idea de com funciona la teva empresa. No coneix els teus preus, ni els teus procediments interns, ni què diu el contracte que vas signar amb aquell proveïdor el 2023.

Un sistema RAG serveix exactament per a això: fer que una IA respongui amb la teva informació.

Què vol dir RAG

RAG són les sigles de Retrieval-Augmented Generation, que en català seria «generació augmentada amb recuperació». El nom és espantós i el concepte és senzill.

Quan fas una pregunta, el sistema fa dos passos:

  1. Recupera: busca entre els teus documents els fragments que tenen a veure amb la pregunta
  2. Genera: li passa aquests fragments al model d'IA i li diu «respon fent servir només això»

És la diferència entre preguntar a algú de memòria i deixar-li consultar el manual abans de respondre't.

I la base de dades vectorial?

Aquí és on apareix la part que sona complicada. Per poder buscar bé entre els teus documents, primer cal preparar-los.

El procés és aquest: els documents es parteixen en fragments d'unes quantes frases. Cada fragment es converteix en una llista de números que representa el seu significat, no les seves paraules. Aquests números es guarden en una base de dades vectorial.

Per què serveix? Perquè permet buscar per sentit. Si preguntes «quant de temps tinc per retornar una peça?», el sistema troba el fragment que parla de «termini de devolució: 15 dies naturals» encara que no hi aparegui cap de les paraules que has escrit.

La diferència amb un cercador normal

Un cercador de text busca les paraules exactes. Si el document diu «termini de devolució» i tu escrius «quants dies per tornar-ho», no troba res. La cerca vectorial entén que parles del mateix.

Quan val la pena de veritat

Un RAG no és per a tothom. Té sentit quan es donen dues condicions alhora: tens prou documentació i algú perd temps buscant-hi dins.

Casos on sol compensar:

Un exemple concret d'un taller: un mecànic que ha de consultar fitxes tècniques de desenes de models. Amb un RAG ben muntat, pregunta el que necessita i rep la resposta amb la referència del document, en comptes de fullejar PDFs amb les mans brutes.

Quan NO val la pena

Sent honestos, hi ha situacions on t'estaries gastant els diners:

S'ho pot inventar?

És la pregunta que sempre surt, i és la correcta. La resposta curta: el risc baixa molt, però no desapareix del tot.

Baixa perquè el model no respon de memòria, sinó a partir de fragments reals que té davant. I es pot configurar perquè, si no troba res prou relacionat, digui «no ho sé» en comptes d'improvisar.

Per això un RAG ben muntat sempre cita d'on ha tret la resposta. Si veus el fragment original i el document de procedència, pots comprovar-ho en dos segons. Si un proveïdor et ven un RAG que no cita fonts, desconfia.

Un RAG no ha de substituir el teu criteri. Ha de posar-te el document correcte davant en cinc segons en comptes de vint minuts.

Què fa falta per muntar-ne un

PeçaQuè és
Els documentsPDFs, Words, fulls de càlcul, pàgines web internes. Com més ordenats, millor resultat.
El processamentPartir-los en fragments i convertir-los. És automàtic un cop configurat.
La base vectorialOn es guarda tot. Hi ha opcions econòmiques que sobren per a una pime.
El model d'IAEl que redacta la resposta final a partir dels fragments trobats.
La interfícieUn xat a la web, dins de Slack, per WhatsApp o on et vagi bé.
L'actualitzacióUn procés que reprocessa els documents quan canvien.

La part que la gent subestima és la primera i l'última: la qualitat dels documents i el manteniment. Un RAG alimentat amb documentació contradictòria o antiga donarà respostes contradictòries o antigues, amb molta seguretat i amb molt mal estil.

Per on començar

La prova barata: tria un sol tipus de document i una sola pregunta freqüent. Per exemple, només les condicions de garantia, o només les fitxes de producte.

Si amb aquest àmbit reduït el sistema respon bé i es nota l'estalvi de temps, l'ampliació és mecànica. Si no funciona amb un àmbit petit i controlat, ampliar-lo no ho arreglarà.

Si el que vols és ordenar primer com entren els teus clients, potser et va millor començar per automatitzar la gestió de clients. I si busques guanys ràpids i barats, mira't les 5 tasques que pots automatitzar aquest mes.

Tens documentació que ningú troba?

A COSIQ muntem sistemes RAG amb bases de dades vectorials per a pimes d'Igualada i l'Anoia. Explica'ns què busqueu i quantes vegades al dia, i et diem si val la pena.

Demanar diagnòstic gratuït