KI-Chatbots geben Versicherungstipps: Votum-Verband schaltet BaFin ein
Der Votum-Verband schlägt Alarm. Er hat Chat-Verläufe dokumentiert, in denen KI-Bots wie ChatGPT (OpenAI) und Claude (Anthropic) individuelle Versicherungsempfehlungen aussprechen – ohne über die dafür erforderliche Erlaubnis nach § 34d GewO zu verfügen. Der Verband hat deshalb sowohl die Finanzdienstleistungsaufsicht (BaFin) als auch die Deutsche Industrie- und Handelskammer (DIHK) eingeschaltet.
Offene Fragen bei Haftung und Verbraucherschutz
„Sobald ein System nicht mehr nur allgemeine Hinweise gibt, sondern eine individuelle Produktempfehlung ausspricht, bewegt es sich im Bereich der erlaubnispflichtigen Versicherungsberatung", erklärt Martin Klein, Geschäftsführender Vorstand des Votum-Verbands. „Die entscheidende Frage lautet: Wer haftet, wenn der Verbraucher auf Basis einer fehlerhaften KI-Empfehlung eine ungeeignete Versicherung abschließt?"
Der Verband sieht erhebliche Risiken für Verbraucherinnen und Verbraucher. Während zugelassene Versicherungsvermittler einer gesetzlich geregelten Beratungs- und Dokumentationspflicht unterliegen und für Beratungsfehler haften, existiert bei den KI-Anbietern weder eine berufsrechtliche Zulassung noch eine entsprechende Haftungsabsicherung. Verlässt sich der Verbraucher auf eine fehlerhafte Empfehlung, drohe ihm im Schadensfall ein Haftungsvakuum.
Die Empfehlungen basierten weder auf einer qualifizierten Risikoanalyse noch enthielten sie eine Angabe, auf welcher Markterhebung sie erteilt würden. Fehlerhafte oder veraltete Datengrundlagen blieben für den Nutzer unsichtbar.
Regulierung muss mit Technik Schritt halten
„Die Frage ist nicht, ob wir technologischen Fortschritt wollen. Die Frage ist, ob wir zulassen, dass bewährte Verbraucherschutzstandards durch die Hintertür ausgehebelt werden, nur weil der Berater diesmal kein Mensch, sondern ein Algorithmus ist", betont Martin Klein.
Der Votum-Verband fordert die zuständigen Aufsichtsbehörden auf, zeitnah eine klare regulatorische Einordnung vorzunehmen und gegebenenfalls aufsichtsrechtliche Maßnahmen zu prüfen.
KI-Systeme böten als unterstützendes Werkzeug in der Hand qualifizierter Vermittler erhebliches Potenzial zur Effizienzsteigerung und Beratungsoptimierung, heißt es dazu in einer Pressemitteilung des Verbands. Und weiter: „Entscheidend ist jedoch, dass gleiche rechtliche Rahmenbedingungen gelten und der gesetzlich verankerte Verbraucherschutz gewahrt bleibt: Verbindliche Versicherungsempfehlungen dürfen ausschließlich von Personen und Unternehmen ausgesprochen werden, die über die entsprechende Erlaubnis und Haftungsabsicherung verfügen – nur so lassen sich Verbraucher vor ungeprüften Empfehlungen mit potenziell weitreichenden finanziellen Folgen schützen.“
Long Story short
Der Votum-Verband hat BaFin und DIHK wegen konkreter Versicherungsempfehlungen durch KI-Chatbots wie ChatGPT und Claude angeschrieben.
Der Verband sieht Risiken bei Haftung, Verbraucherschutz und fehlender Regulierung der KI-basierten Beratung.
Er fordert, dass verbindliche Versicherungsempfehlungen nur von zugelassenen und haftenden Vermittlern ausgesprochen werden dürfen.
