RAG

Sprogmodeller fungerer bedst, når den information, de har brug for, allerede er i samtalen. Udfordringen er, at de fleste organisationer har deres mest værdifulde viden i dokumenter, databaser og kodebaser, der er langt for store til at passe i et context window. RAG — Retrieval-Augmented Generation — er den arkitektur, der bygger bro: den finder og henter kun det, der er relevant, præcis når det er nødvendigt.

Umage bygger RAG-systemer som førsteklasses værktøjer til AI-agenter. Tilgangen bygger på dyb erfaring med søgning — vektorsøgning kombineret med filtre og facetter, der indsnævrer hentningen så præcist som muligt, inden noget når context window. Den underliggende lagring varierer efter datatype: relationelle databaser som Postgres og SQL Server, NoSQL-løsninger som Elasticsearch eller tilpassede indekser bygget til opgaven. Chunking- og embedding-strategier vælges pr. projekt — nogle gange med open source-værktøjer, nogle gange med tilgange udviklet in-house. Et tilbagevendende anvendelsesområde er kodeforståelse: Umage har bygget RAG-indekser, der udtrækker designmønstre og API-viden fra store samlinger af NuGet-pakker, og bruger værktøjer som GitNexus og Chunkhound til dybdegående research i eksisterende kodebaser — den samme infrastruktur, der driver deres eget udviklingsflow.