Informatik Zwei, drei oder fünf Katzen?

„Hallo KI, wie viele Katzen siehst du auf diesem Bild?“ – „Zwei.“ – „Falsch. Wo siehst du zwei?“ – „Entschuldigung, drei.“ – „Auch falsch. Warum erklärst du nicht, wieso du zuerst zwei und dann drei sagst? Es sind fünf Katzen!“ – „Oh, stimmt.“ Was wie ein lustiger Dialog klingt, zeigt ein ernstes Problem: Sprach­modelle wie ChatGPT und DeepSeek beeindrucken zwar durch ihre Leistung, stoßen aber schnell an Grenzen, wenn sie Bild- und Sprach­­informationen kombinieren sollen.

Die Künstliche Intelligenz (KI) tut sich schwer bei Dingen, die unser Gehirn mühelos meistert: Ein Freund schickt ein Bild von einem vollen Park­platz und schreibt, sein Auto sei das rote, gegenüber der Einfahrt – sofort wissen wir, wo er auf uns wartet. Im Allgemeinen orientieren wir uns im Alltag vor allem durch visuelle Eindrücke und sprechen über das, was wir sehen. Doch vieles davon sprechen wir nicht aus, weil es intuitiv verstanden wird.

Seine Wurzeln hat das Problem im Training: Die KI wird mit Bildern, deren Text­beschreibungen und mit Fragen gefüttert. Doch die von Menschen erstellten Texte sind oft ober­flächlich und beschränken sich auf das Offensichtliche. Menschen sind meist zu pragmatisch, um detaillierte und anspruchs­volle Beschreibungen zu verfassen. Typische Texte lauten: „Es gibt X Objekte im Bild.“ X ist meist „zwei“, manchmal „eins“ und selten „drei“, denn ab sieben zählt kaum noch jemand. Die KI lernt daraus eine einfache Strategie: Auf „Wie viele“-Fragen antwortet sie oft mit „zwei“, weil das die häufigste Antwort im Training war. Solche Häufigkeiten sind einfacher zu lernen als tiefes Verständnis der Zusammen­hänge und wirken im Training erfolg­reich – auch wenn sie an der Realität vorbeigehen.

Doch wir müssen nicht nur wissen, ob ein Modell die richtige Antwort liefert – wir müssen auch verstehen, warum. Das ist schwierig, denn kombinierte Bild- und Sprach­modelle sind noch komplexer und ihre Antworten schwerer nach­zu­voll­ziehen als die neuronalen Netze herkömmlicher Sprachmodelle. Denn die Antworten neuronaler Netze beruhen auf dem Zusammen­spiel von Milliarden künstlicher Neuronen – viel zu viele, um den Beitrag einzelner Neuronen direkt interpretieren zu können. Anders als bei klassischen Computer­programmen kann man also nicht den Code einsehen und nach­voll­ziehen, wie eine Entscheidung zustande kommt.

Deshalb haben wir eine Methode entwickelt, die die Antworten dieser Modelle erklärbarer macht. Sie misst, wie stark einzelne Eingabe­wörter und Bild­regionen die Antwort beeinflussen. Dabei entdeckten wir einen entscheidenden Schwach­punkt: Die neuesten Modelle verlassen sich fast voll­ständig auf den Text und ignorieren das Bild. Nur 4 bis 10 Prozent der Informationen stammen aus dem Bild. So entstehen die bisweilen wirren Antworten, bei denen man sich fragt, ob die KI das Bild überhaupt angeschaut hat – sie hat es eben nicht. Angesichts des enormen Rechen­aufwandes von kombinierten Bild- und Sprach­modellen im Vergleich zu reinen Sprach­­modellen sind dringend Verbesserungen nötig.

Aber warum sollten wir, wie oben beschrieben, aufwendige Methoden entwickeln, wenn wir das Modell einfach nach seiner „Gedanken­welt“ fragen könnten? Modelle wie GPT-o1 erklären ihre Entscheidungen in natürlicher Sprache. Doch wie verlässlich sind diese Erklärungen? Entsprechen sie den inneren Prozessen des Modells, oder sind sie geschickt inszeniert, um plausibel zu klingen? Die Forschung zeigte bereits, dass diese Erklärungen oft manipulierbar sind: Man kann dem Modell eine alternative oder falsche „Gedanken­führung“ aufzwingen, ohne dass die finale Antwort davon beeinflusst wird. Das bedeutet, dass wir womöglich Erklärungen bekommen, die mit dem tatsächlichen Entscheidungs­prozess nichts zu tun haben – ein gefährliches Miss­verständnis.

Deshalb haben wir ein Verfahren entwickelt, das sowohl bei Sprach­modellen als auch bei kombinierten Bild- und Sprach­modellen prüft, ob die in der Erklärung genannten Informationen tatsächlich zur Antwort bei­getragen haben. Ein Beispiel: Erklärt das Modell, dass es die Katze im Bild erkannt hat, müssen dafür die Bild­bereiche entscheidend gewesen sein, in der die Katze tatsächlich abgebildet ist. Andernfalls gibt unser Verfahren einen hohen Inkonsistenz­wert aus. Ist dieser hoch, deutet das darauf hin, dass das Modell „Erklärungen“ erfindet, die plausibel klingen, aber nicht den tatsächlichen Entscheidungs­prozess widerspiegeln. Unsere Ergebnisse waren ernüchternd: Oft benutzen aktuelle Modelle andere Bild­aus­schnitte oder Text­passagen für die Generierung der Antwort als für die Erklärung. Nutzer:innen sollten solche Erklärungen also mit Vorsicht bewerten.

Dabei ist gerade hier Vertrauen in die KI so wichtig. So soll sie eines Tages beispiels­weise zuverlässige Bild­beschreibungen für Sehbehinderte liefern, Berichte aus Foto­sequenzen erstellen oder komplexe Zusammen­hänge zwischen wissenschaftlichen Grafiken und Texten analysieren.

Unsere Forschung zeigt: Zwar sind heutige KI-Systeme noch nicht so weit. Doch unsere Messungen belegen eine klare Entwicklung – sie sind deutlich weiter als noch vor wenigen Jahren. Und was wir messen können, können wir auch trainieren: Wir können vertrauens­würdige „Gedanken“ belohnen und eine ausgewogenere Nutzung von Text- und Bild­informationen fördern. So lassen sich KI-Modelle gezielt in Richtung eines konsistenteren und nach­voll­zieh­bareren Denkens entwickeln.

Mit unseren Methoden erfassen wir in jeder Interaktion zwischen Nutzer:in und KI, wie stark die KI tatsächlich Bild- und Text­informationen nutzt und wie hoch der Inkonsistenz­wert ist. Das ist besonders wichtig in Situationen, in denen unsere eigene Expertise begrenzt ist und wir die Richtigkeit einer Antwort nicht selbst einschätzen können – etwa wenn wir ChatGPT um Haus­aufgaben­hilfe oder um medizinische Empfehlungen bitten. Hier können wir Nutzer:innen warnen, wenn eine Antwort auf nicht vertrauens­würdigen Wegen zustande kam.