Ein Chatbot schreibt Texte, die klingen, als hätte ein Mensch sie geschrieben. Doch er versteht den Inhalt nicht wirklich. Er rät nur sehr gut, welches Wort als Nächstes am besten passt, und genau das solltest du verstehen.
Das geht ungefähr so: Bei dem Satz "Die Sonne geht im Osten ..." ist das Wort "auf" sehr wahrscheinlich. Der Chatbot hat unzählige Texte gelesen und wählt deshalb das Wort, das am häufigsten folgt. Wort für Wort baut er so seine ganze Antwort zusammen, ähnlich wie die Vorschläge auf dem Handy, die dir schon das nächste Wort anbieten.
Wichtig ist: Der Chatbot weiß dabei nicht, was die Wörter bedeuten. Er rechnet nur aus, was gut klingt. Deshalb kann eine Antwort schön und richtig aussehen und trotzdem komplett falsch sein. Er merkt seinen Fehler selbst nicht.
Genau darum klingt er immer selbstsicher, auch dann, wenn er danebenliegt. Manchmal erfindet er sogar Namen, Zahlen oder ganze Quellen, die es gar nicht gibt. Dafür gibt es ein eigenes Wort, das du dir merken kannst: halluzinieren.
Der Chatbot rät das nächste Wort, er weiß nichts. Wenn er sich sicher anhört, heißt das noch lange nicht, dass er recht hat.
Rakis drei Fragen
Weil der Chatbot Wörter nur aneinanderreiht, lohnt sich bei wichtigen Antworten immer ein prüfender Blick. Diese drei Fragen helfen dir dabei, schnell zu erkennen, ob du genauer hinschauen solltest.
-
Sind das Fakten oder Ideen?
Bei einer Geschichte oder einem Vorschlag darf der Chatbot frei erfinden, das ist sogar erwünscht und macht Spaß. Bei Zahlen, Daten und Namen aber musst du besonders genau hinschauen, denn hier zählt allein die Wahrheit.
-
Gibt es eine echte Quelle?
Nennt der Chatbot ein Buch, einen Namen oder eine Seite, dann prüfe, ob es das wirklich gibt. Erfundene Quellen, die nirgends auffindbar sind, sind ein typisches Zeichen fürs Halluzinieren.
-
Klingt das zu glatt?
Eine Antwort kann sehr schön und flüssig klingen und trotzdem falsch sein. Schöne Sprache ist eben kein Beweis. Vergleiche die Antwort mit einer zweiten, verlässlichen Quelle, bevor du sie für dein Referat oder deine Hausaufgabe übernimmst.
Selbstsicher heißt noch lange nicht richtig.
Prüfe Fakten, Zahlen und Quellen in Ruhe nach, bevor du der KI einfach glaubst.
In Kürze
-
Erklären Sie einfach: Der Chatbot rät das nächste Wort, er versteht nichts.
-
Führen Sie den Begriff Halluzinieren ein: Die KI erfindet manchmal Dinge.
-
Prüfen Sie zusammen Zahlen, Daten und Quellen aus KI-Antworten.
-
Stärken Sie ein gesundes Misstrauen, ohne Angst vor der Technik zu machen.
Drei Fragen, dann hast du es.
Zeig Raki, was hängen geblieben ist. Nichts wird gespeichert.
Lies in Ruhe und wähle deine Antwort.
Jetzt weißt du, wie ein Chatbot arbeitet und warum er irrt.
Du verstehst: Er rät das nächste Wort. Darum prüfst du Fakten, Zahlen und Quellen selbst.