Zwei Wege zu einer nützlichen KI
Ein allgemeines Large Language Model (neuer Tab) kennt weder Ihre Abläufe noch Ihre Kunden oder Ihre Fachbegriffe. Zwei Techniken schließen diese Lücke: RAG liefert beim Antworten die passenden Dokumente, Feintuning trainiert das Modell mit ausgewählten Beispielen weiter.
Beide schließen sich nicht aus. Meist beginnen wir mit einem RAG-Assistenten und ziehen Feintuning in Betracht, wenn Stil oder Genauigkeit nicht mehr ausreichen.
RAG: Antworten auf Basis Ihrer Dokumente
RAG (Retrieval-Augmented Generation) wurde 2020 in einer Forschungsarbeit von Meta AI (neuer Tab) beschrieben. Ihre Dokumente werden zerlegt und indexiert; zu jeder Frage werden die passenden Stellen gesucht und mit der Frage an das Modell übergeben.
Die Vorteile: Antworten nennen ihre Quellen, Dokumente lassen sich ohne neues Training aktualisieren, und Zugriffsrechte bleiben gewahrt. Ideal für interne Verfahren, Verträge und Wissensdatenbanken.
Feintuning: eine Arbeitsweise lernen
Feintuning setzt das Training eines Modells mit Ihren eigenen Beispielen fort. Verfahren wie LoRA (neuer Tab) machen das bezahlbar, weil nur ein kleiner Teil des Modells verändert wird.
Es lohnt sich, wenn das Modell einen genauen Stil, ein strenges Ausgabeformat oder eine sehr spezielle Fachsprache beherrschen muss. Voraussetzung ist ein hochwertiger Datensatz, mit Ihren Fachleuten erstellt und geprüft.
So entscheiden Sie
- Ihre Informationen ändern sich häufig: Wählen Sie RAG.
- Sie müssen Quellen angeben: Wählen Sie RAG.
- Das Modell muss in einem sehr genauen Format oder Stil schreiben: Prüfen Sie Feintuning.
- Sie wollen ein eigenes Modell im Haus: Kombinieren Sie Feintuning mit selbst gehosteter KI.
Und der Datenschutz?
In beiden Fällen bleiben Ihre Daten unter Ihrer Kontrolle, wenn das Modell bei Ihnen oder bei einem europäischen Hoster läuft. Die DSGVO (neuer Tab) gilt, sobald personenbezogene Daten verarbeitet werden, beim Training wie im Betrieb. Mehr dazu in unserem Artikel KI und DSGVO.