Wie arbeitet eine KI auf eigenen Dokumenten, und woher kommt die Quellenangabe?
Eine KI auf eigenen Dokumenten sucht zuerst die passenden Textstellen in Ihren Unterlagen und formuliert erst dann eine Antwort daraus. Weil sie weiß, woher die Textstellen kommen, kann sie die Quelle nennen. Fachleute nennen das Retrieval Augmented Generation, kurz RAG.
In Kürze
- Schritt eins sucht passende Textstellen, Schritt zwei formuliert die Antwort.
- Die Quellenangabe macht jede Antwort nachprüfbar.
- Findet die Suche nichts Passendes, sollte die KI das sagen statt zu raten.
- Die Qualität hängt stark von den Dokumenten ab, nicht nur vom Sprachmodell.
Das Problem mit allgemeinen Chatbots
Ein Sprachmodell wie hinter ChatGPT hat aus sehr vielen Texten gelernt, wie Sprache funktioniert. Ihre Verträge, Handbücher und Richtlinien kennt es nicht. Fragt man es trotzdem danach, antwortet es oft plausibel klingend, aber ohne Grundlage.
Wie das Verfahren funktioniert
Eine KI auf eigenen Dokumenten arbeitet in zwei Schritten:
- Suchen: Die Frage wird mit den eingelesenen Dokumenten verglichen. Gefunden werden die Textstellen, die inhaltlich am besten passen, auch wenn andere Wörter verwendet werden.
- Antworten: Das Sprachmodell bekommt die Frage zusammen mit diesen Textstellen und formuliert daraus eine Antwort.
Weil die Textstellen aus bekannten Dokumenten stammen, kann die Antwort auf Dokument und Stelle verweisen.
Warum die Quelle so wichtig ist
Sie macht die Antwort prüfbar. Wer eine Frist, einen Betrag oder eine technische Angabe weiterverwendet, öffnet das Original und prüft dort selbst, ob alles stimmt. Ohne Quelle müsste man der KI blind vertrauen.
Was passiert, wenn nichts passt?
Dann sollte die KI das sagen, statt etwas zu erfinden. Die Wissensdatenbank von Goma-IT sagt in diesem Fall offen, dass sie in den Unterlagen nichts Passendes gefunden hat.
Worauf die Qualität beruht
Mehr auf den Dokumenten als auf dem Sprachmodell. Lesbarer Text, gekennzeichnete Fassungen und eine sinnvolle Auswahl der Quellen bringen mehr als das neueste Modell. Deshalb steht am Anfang jeder Einrichtung die Frage, welche Dokumente einfließen.
Wie das im Alltag aussieht, also mit Dokumentname und Stelle unter jeder Antwort aus DMS, SharePoint oder Laufwerk, zeigt der Anwendungsfall Antworten mit Quellenangabe.
Häufige Fragen
Woran liegt es, wenn eine Antwort trotz Quelle nicht stimmt?
Zum Beispiel daran, dass die KI eine veraltete Fassung findet oder eine Textstelle falsch versteht. Deshalb ist die Quelle bei jeder Antwort so wichtig. Wer sie öffnet, kann selbst prüfen, ob die Antwort stimmt.
Lernt das Sprachmodell aus unseren Dokumenten?
Nein. Bei diesem Verfahren werden die Dokumente nur zum Nachschlagen verwendet. Bei der Wissensdatenbank von Goma-IT werden Ihre Daten nicht zum Training von Sprachmodellen genutzt.