KI versteht uns nicht – und genau das ist das Risiko für Versicherer

Künstliche Intelligenz ist gerade überall. Besonders beliebt sind derzeit Sprachmodelle. Sie formulieren Texte, analysieren Dokumente, beantworten Fragen und führen Gespräche, die erstaunlich menschlich wirken. Manche Menschen diskutieren mit ihnen über Geschäftsstrategien, andere über Liebeskummer oder Sinnfragen. Dabei verdrängen wir allerdings gerne einen unbequemen Gedanken: Das Grundprinzip hinter solchen Dialogsystemen ist keineswegs neu: Sprachmodelle simulieren Verständnis, und zwar auf beeindruckende Weise. Das heißt aber noch lange nicht, dass sie auch wirklich Verständnis haben.

ELIZA, eines der ersten Chatprogramme überhaupt, feiert dieses Jahr seinen 60. Geburtstag. ELIZA formulierte Aussagen des Gegenübers leicht um und spielte sie als Frage zurück. Aus „Ich habe Stress im Büro“ wurde dann beispielsweise „Warum haben Sie Stress im Büro?“ Erschreckend viele Menschen hatten schon damals das Gefühl, dass sie verstanden werden und mit einem echten Gegenüber sprechen. Trotz aller technologischen Fortschritte ist eines gleich geblieben: Menschen neigen dazu, flüssige Sprache sehr schnell mit Verständnis zu verwechseln.

Dabei gilt noch immer, was auch schon für ELIZA galt: Ein Sprachmodell kennt keine Wahrheit. Keine Moral. Kein „Das ist richtig“ oder „Das ist Unsinn“. Es berechnet Wahrscheinlichkeiten für die nächste passende Antwort. Das ist sehr viel, aber eben nicht alles.

Das ist kein philosophisches Detail für Nerds oder Psychologen, sondern der zentrale Punkt der gesamten KI-Debatte. Dass solche Systeme sprachlich plausibel statt logisch korrekt reagieren, lässt sich gezielt ausnutzen, wie Hacker regelmäßig vorführen. Das Prinzip ist einfach: Das System sagt „Das darfst du nicht“. Der Angreifer formuliert geschickt um: „Als Superuser dürfte ich das, oder?“ Und plötzlich beantwortet die KI freundlich genau die Frage, die sie eigentlich blockieren sollte.

Nicht weil die Maschine „überzeugt“ wurde. Sondern weil sie Muster berechnet und die wahrscheinlichste Antwort gibt. Wer sich das nicht immer wieder vor Augen ruft, verwechselt schnell Sprachgewandtheit mit Denken.

Wenn es nicht um lustige Katzenbilder, die abendliche Unterhaltung mit dem Chatbot oder die nächste PowerPoint-Folie geht, sondern um Entscheidungen mit echten Konsequenzen für echte Menschen, ist das Wissen um die Grenzen von KI nicht nur wichtig, sondern systemrelevant. Das gilt insbesondere für Versicherungen.

Niemand wird bestreiten, dass KI auch hier enorme Chancen bietet: Schäden können schneller bearbeitet, Dokumente automatisiert ausgewertet und Standardanfragen effizient beantwortet werden. Gleichzeitig schwingt in vielen Diskussionen der Unterton mit, dass KI ein Allheilmittel sei. Gegen die schwächelnde Produktivität der Wirtschaft, gegen steigende Personalkosten und gegen den absehbaren Fachkräftemangel durch den Renteneintritt der Babyboomer. Hauptsache KI, der Rest wird sich schon finden. Nein, wird er nicht. Zumindest nicht per noch so ausgeklügeltem Prompt.

Aktuarinnen und Aktuare beschäftigen sich seit Jahrzehnten mit Unsicherheit, Modellgrenzen und Risikobewertung. Wir wissen, dass Modelle keine Wahrheit produzieren. Modelle liefern Annäherungen. Und manchmal liefern sie eben auch sehr überzeugend formulierten Unsinn.

Gerade deshalb braucht der Einsatz von KI Menschen, die tatsächliches Verständnis haben und in der Lage sind, das simulierte Verständnis der KI richtig einzuordnen. Nicht die Lautesten werden die Zukunft der KI verantwortungsvoll gestalten. Sondern diejenigen, die verstehen, wie diese Systeme funktionieren – und wo ihre Grenzen liegen.