Halluzination
Eine Halluzination ist eine Antwort eines KI-Modells, die überzeugend klingt, aber nicht stimmt: ein erfundener Preis, ein nicht existierender Artikel, ein Datum ohne Grundlage.
Ein Sprachmodell sagt plausiblen Text voraus, und plausibel ist nicht dasselbe wie wahr. Ohne Quelle füllt es Lücken mit dem, was wahrscheinlich klingt. Das ist harmlos in einem Brainstorming und schädlich in einem Angebot oder einer Lieferzeit an einen Kunden.
Das Mittel ist nie nur "besser prompten". Es ist: das Modell mit Ihren echten Daten arbeiten lassen (RAG, Anbindungen), Antworten mit Quelle und ein Mensch, der prüft, bevor etwas hinausgeht. So bauen wir Agenten.
Weitere Begriffe
Human-in-the-Loop
Human-in-the-Loop bedeutet, dass ein Mensch einen festen Platz im Prozess hat: Die KI bereitet vor, der Mensch gibt frei oder greift ein, bevor etwas endgültig wird.
Prompt
Ein Prompt ist die Anweisung an ein KI-Modell: die Frage, der Kontext und die Spielregeln. Bei einem Agenten ist der Prompt größtenteils vorab festgelegt, damit er jedes Mal gleich handelt.
Fine-Tuning
Fine-Tuning ist das Nachtrainieren eines bestehenden KI-Modells mit eigenen Beispielen, damit es einen bestimmten Stil oder eine Aufgabe besser beherrscht. Für die meisten Unternehmen ist es unnötig: Ein guter Prompt plus eigene Daten (RAG) kommt weiter.
Möchten Sie wissen, was das für Ihr Unternehmen bedeutet?
Sagen Sie uns, wo Sie Zeit oder Marge verlieren. Wir zeigen, wo sich KI am schnellsten auszahlt, in klarer Sprache.