\n\n Zum Inhalt springen
✓ Herstellerunabhängig◇ Praxisnah & nachvollziehbar▣ Datenschutz im Blick
chrishob.deIT KLAR ENTSCHEIDEN.
KOMMUNAL-IT · BESCHAFFUNG

Anforderungsprofil: RAG-Pilot Verwaltung

Herstellerneutrales technisches Anforderungs- und Beschaffungspaket zum Entscheidungspaket „RAG-Pilot Verwaltung“.

ZIELBILD / SCOPE

Am Ende steht ein begrenzter RAG-Dienst mit dokumentierten Quellen und Berechtigungen, reproduzierbarer Evaluation, messbarer Antwortqualität und einer Entscheidung über Skalierung, weitere Datenquellen oder Abbruch.

Thema: ai-rag · Stand 2026-09-20
MUSS-KRITERIEN

Vor jeder Punktebewertung nachweisen

Diese Kriterien sind als technische Mindestnachweise formuliert. Nicht erfüllte Muss-Kriterien sollten nicht durch Komfort- oder Preisvorteile kompensiert werden.

IDKriteriumGeforderter Nachweis
M01Mit einem repräsentativen Testkorpus Retrieval-Qualität, Antwortqualität, Quellenbezug und Halluzinations-/Abstinenzverhalten messbar evaluieren.Hersteller-/Angebotsnachweis plus Pilot- oder Betriebsnachweis.
M02Quellberechtigungen Ende-zu-Ende prüfen: Ein Benutzer darf über Retrieval keine Inhalte erhalten, die er in der Originalquelle nicht lesen darf.Hersteller-/Angebotsnachweis plus Pilot- oder Betriebsnachweis.
M03Prompt-Injection, schädliche Dokumente, Connector-Credentials, Service-Identitäten und Datenexfiltration in einem Security-Test abdecken.Hersteller-/Angebotsnachweis plus Pilot- oder Betriebsnachweis.
M04Datenhaltung, Regionen, private Netzpfade, Logging, Modell-/Provider-Wechsel sowie Löschung und Retention vertraglich und technisch verifizieren.Hersteller-/Angebotsnachweis plus Pilot- oder Betriebsnachweis.
M05Exit-Probe durchführen: Quellen, Prompts, Policies, Vektordaten/Indizes und Evaluationssets müssen exportierbar oder reproduzierbar sein.Hersteller-/Angebotsnachweis plus Pilot- oder Betriebsnachweis.
KANN / DIFFERENZIERUNG

Mehrwert nur mit realem Betriebsnutzen bewerten

IDKriteriumBewertungshinweis
K01Modell-/Provider-Abstraktion ermöglicht einen Wechsel ohne vollständigen Neuaufbau der Anwendung.Als Mehrwert nur bewerten, wenn die Funktion für den Zielbetrieb nachweisbar nutzbar ist.
K02Evaluationssets und Qualitätsmetriken können versioniert und automatisiert wiederholt werden.Als Mehrwert nur bewerten, wenn die Funktion für den Zielbetrieb nachweisbar nutzbar ist.
K03Private Netzwerkpfade, kundenseitige Schlüssel oder restriktive Datenzonen sind abbildbar.Als Mehrwert nur bewerten, wenn die Funktion für den Zielbetrieb nachweisbar nutzbar ist.
K04Index-/Vektor-Daten und Retrieval-Konfiguration lassen sich reproduzierbar neu aufbauen oder exportieren.Als Mehrwert nur bewerten, wenn die Funktion für den Zielbetrieb nachweisbar nutzbar ist.
ANBIETERFRAGEN

Fragen für Angebot, Workshop und technische Klärung

Berechtigungen

Erbt Retrieval die effektiven Zugriffsgrenzen der Quellen und verhindert Cross-User-Datenlecks?

Quellenbezug

Sind Antworten auf konkrete, versionierte Quellen zurückführbar und kann fehlende Evidenz sichtbar gemacht werden?

Qualität

Wird die Leistung mit einem reproduzierbaren Testkorpus statt nur anhand von Demo-Fragen bewertet?

Datenkontrolle

Sind Indexierung, Aufbewahrung, Löschung, Modellzugriff und technische Identitäten nachvollziehbar?

Betrieb

Sind Reindex, Modellwechsel, Kostenanstieg, Incident und Deaktivierung als Betriebsfälle vorbereitet?

Governance

Sind menschliche Kontrolle, Transparenz und erforderliche rechtliche/organisatorische Prüfungen in den Prozess eingebaut?

PILOT-ABNAHME

Gates als objektive Abnahmekriterien verwenden

01
1. Use Case, Nicht-Ziele und Datenquellen

Der Pilot hat einen begrenzten Wissensraum, klar benannte Nutzer und messbare Qualitätsziele.

02
2. Berechtigungen und Zielarchitektur

Berechtigungsgrenzen sind technisch getestet und nicht nur organisatorisch beschrieben.

03
3. Finder und Plattformvergleich

Die Shortlist erfüllt die Muss-Kriterien für Datenzugriff, Identität, Logging und Evaluation.

04
4. Retrieval und Qualität evaluieren

Die gemessene Qualität ist für den gewählten Assistenzfall ausreichend und kritische Fehler sind sichtbar statt verborgen.

05
5. Betrieb und Skalierungsentscheidung

Weitere Datenquellen oder agentische Aktionen folgen erst nach stabilem, nachvollziehbarem Assistenzbetrieb.

BETRIEB & SERVICE

Vor Produktivsetzung klären

  • Connector-, Index- und Berechtigungsfehler überwachen.
  • Fallback bei Modell-/Provider-Ausfall und kontrollierte Deaktivierung vorsehen.
  • Kosten-/Token-/Kapazitätsgrenzen und Qualitätsdrift überwachen.
  • Evaluationssets, Prompts, Policies und Modellversionen nachvollziehbar versionieren.
EXIT & MIGRATION

Vor Vertragsbindung nachweisen

  • Quellenkonfiguration, Prompts, Policies, Evaluationssets und relevante Metadaten exportierbar bzw. reproduzierbar halten.
  • Vektor-/Indexdaten löschen oder auf einer Folgelösung reproduzierbar neu aufbauen können.
  • Modell-/Provider-Wechsel ohne Verlust der fachlichen Evaluationsbasis und Berechtigungslogik testen.
BEWERTUNGSMATRIX

Gewichtete Bewertung erst nach den Muss-Kriterien

Die Gewichte ergeben zusammen 100 %. Die Skala bewertet nachgewiesene Eignung – nicht Herstellergröße oder Markenpräferenz.

KategorieGewichtSkalaDokumentation
Datenzugriff & Security25 %0 = nicht nachgewiesen · 1 = teilweise · 2 = erfüllt · 3 = übertroffenNachweis/Kommentar
Qualität & Evaluation25 %0 = nicht nachgewiesen · 1 = teilweise · 2 = erfüllt · 3 = übertroffenNachweis/Kommentar
Architektur & Integration20 %0 = nicht nachgewiesen · 1 = teilweise · 2 = erfüllt · 3 = übertroffenNachweis/Kommentar
Betrieb & Governance15 %0 = nicht nachgewiesen · 1 = teilweise · 2 = erfüllt · 3 = übertroffenNachweis/Kommentar
Commercial & Exit15 %0 = nicht nachgewiesen · 1 = teilweise · 2 = erfüllt · 3 = übertroffenNachweis/Kommentar
ÜBERGABE-ARTEFAKTE

Für Pilot, Entscheidung und Vertrag dokumentieren

  • Use-Case-Steckbrief
  • Quellen-/Owner-Register
  • Schutzbedarfs- und Berechtigungsmatrix
  • RAG-Architektur
  • Finder-Profil
  • Vergleichsmatrix
  • Testkorpus
  • Retrieval-/Qualitätsbericht
  • Fehlerkatalog
  • Logging-/Monitoringkonzept
  • Reindex-/Fallback-Runbook
  • Skalierungsentscheidung