KI & Produkthaftung: Warum gewerbliche Haftpflichtrisiken neu gedacht werden müssen

Die Nutzung von KI in Unternehmen eröffnet enorme Potenziale, bringt jedoch auch neue Haftungsrisiken mit sich. Die Produkthaftung wird durch die EU-Rechtsreformen deutlich verschärft, insbesondere durch die Einbeziehung von Software und KI-Systemen.

Für die gewerbliche Haftpflichtversicherung bedeutet dies eine Neuausrichtung: von der klassischen Risikobewertung hin zu dynamischen, technologiegetriebenen Modellen. Unternehmen sind gut beraten, frühzeitig in Governance, Compliance und Versicherungsschutz zu investieren, um rechtlich und wirtschaftlich auf der sicheren Seite zu stehen.

KI-Systeme übernehmen mittlerweile zunehmend Aufgaben, die früher menschlicher Kontrolle unterlagen – von der automatisierten Entscheidungsfindung über die Steuerung von Maschinen bis hin zur Interaktion mit Kunden. Diese Systeme sind jedoch nicht immer fehlerfrei. Fehlerhafte Entscheidungen, diskriminierende Algorithmen oder unvorhersehbare Systemverhalten können zu Schäden führen, für die Unternehmen haftbar gemacht werden.

Die zunehmende Integration von Künstlicher Intelligenz (KI) in Unternehmensprozesse verändert also nicht nur Geschäftsmodelle, sondern stellt auch das Versicherungswesen vor neue Herausforderungen.

Insbesondere trifft dies auf die gewerbliche und industrielle Haftpflichtversicherung zu, deren klassische Risikobewertung durch die dynamischen Eigenschaften von KI-Systemen erschwert wird. Im Zentrum der Diskussion steht dabei die Produkthaftung – ein Bereich, der durch neue gesetzliche Regelungen und technologische Entwicklungen tiefgreifend transformiert wird. Erste Einflussnahmen konnten bereits in der neuen EU-Produkthaftungsrichtline festgestellt werden.

Bei der Entwicklung, dem Betrieb, der Nutzung und dem Vertrieb von KI-Systemen ist die Haftung derzeit nach den allgemeinen Haftungsgrundsätzen des aktuellen Rechts zu ermitteln – spezialgesetzliche Regelungen gibt es derzeit nicht.

Obwohl der Einsatz von KI – wenig überraschend – im Bürgerlichen Gesetzbuch nicht explizit geregelt ist, setzt das Gesetz im Zusammenhang mit KI dennoch den Haftungsmaßstab fest.

Für KI generierte Inhalte haftet stets das Unternehmen, das künstliche Intelligenz im eigenen Namen nutzt bzw. sich die Ergebnisse einer KI zu eigen macht – sei es als Inhalte auf der Website, in Kundenunterlagen oder in Marketingunterlagen. „Die KI“ selbst haftet hingegen nicht. Es fehlt ihr an einer eigenen Rechtspersönlichkeit.

Als Schadenbeispiel sei hier der Fall des Betreibers einer Plattform genannt, auf der über eine Suchfunktion Wirtschaftsinformationen deutscher Unternehmen abrufbar sind. Diese Informationen werden aus öffentlichen Registern (z.B. dem Bundesanzeiger) entnommen und mithilfe einer KI-basierten Software vollautomatisiert analysiert und dem Nutzer übersichtlich dargestellt. In unserem Fall hat jedoch die KI falsche Informationen veröffentlicht. Laut einem Urteil des Landgerichts Kiel (Urt. v. 29.2.2024, Az. 6 O 151/23) haftet der Betreiber der Website als Verwender der KI.

Eine Haftung des „KI-Herstellers“ hingegen kommt erst dann in Betracht, wenn die KI nicht die vertraglich zugesicherte Beschaffenheit aufweist oder wenn der Hersteller nicht hinreichende Sicherheitsvorkehrungen innerhalb der KI getroffen hat, und es dadurch zu einem Schaden kommt.

Ein entscheidender Schritt zur Anpassung des Haftungsrechts an die digitale Realität ist bereits die Novellierung der EU-Produkthaftungsrichtlinie, die im Oktober 2024 verabschiedet wurde und bis Ende 2026 in nationales Recht umgesetzt werden soll. Diese bringt grundlegende Änderungen mit sich:

Zukünftig wird Software – einschließlich KI-Systemen – ausdrücklich als Produkt im Sinne der Produkthaftung (Art. 4 Nr. 1 2. Halbsatz 2 RL) definiert. In bestimmten Fällen wird vermutet, dass ein Produkt fehlerhaft ist, wenn es während des normalen Gebrauchs versagt oder der Hersteller wichtige Informationen nicht offenlegt (Beweislastumkehr).

Zudem haften die Software-Hersteller künftig auch für Schäden, die durch Software-Updates oder das kontinuierliche Lernen von KI-Systemen entstehen, sofern diese Änderungen das Risiko erhöhen. Diese Regelungen führen zu einer erheblichen Ausweitung der Haftungsrisiken für Unternehmen, die KI entwickeln oder einsetzen.

Die gewerbliche und industrielle Haftpflichtversicherung muss sich auf diese neuen Risiken einstellen. Versicherer stehen vor der Herausforderung, die Komplexität von KI-Systemen zu bewerten und in ihre Risikomodelle zu integrieren.

• Zum einen ist zu klären, wie die Risikobewertung erfolgen kann: Wie lässt sich das Risiko eines KI-Systems quantifizieren, dessen Verhalten sich durch maschinelles Lernen ständig verändert?

• Zum anderen ist der Deckungsumfang zu prüfen: Müssen bestehende Policen angepasst werden, um Schäden durch KI abzudecken? Ist etwa eine etwas „innovativere“ Erprobungsklausel im Baustein Produkthaftpflicht nötig, in welcher z.B. KI-bedingte Fehler im Fertigungsprozess nicht zum Verlust des Deckungsschutzes führen? Oder sind gar spezielle KI-Haftpflichtversicherungen erforderlich?

In den aktuellen Haftpflicht-Bedingungswerken am deutschen Markt findet sich kein flächendeckender und expliziter Ausschluss für Schäden durch KI-Risiken. Bei näherer Betrachtung ergeben sich jedoch einige deckungsrechtliche Fragestellungen, die zu klären sind, zum Beispiel:

• Ist der Einsatz von KI eine anzeigepflichtige Gefahrerhöhung im Sinne von §23 Abs. 1 VVG?

• Besteht im Lichte der Repräsentantenhaftung eine Verhaltenszurechnung bei Einsatz von Künstlicher Intelligenz?

• Ist eine „KI-Erprobungsklausel“ notwendig?

Zum Risikomanagement gehört nicht nur ein Versicherungsschutz, sondern zunächst die Prävention: Erst sichern, dann versichern. Das erfordert im Software- und KI-Umfeld auch eine saubere Schwachstellenanalyse und eine gute Dokumentation.

Unternehmen, die KI einsetzen, sollten grundlegende Maßnahmen ergreifen, um Haftungsrisiken zu minimieren und versicherbar zu bleiben:

• Implementierung einer KI-Richtlinie: Aufbau eines internen Kontrollsystems zur Überwachung von KI-Systemen.

• Dokumentation und Nachvollziehbarkeit: Lückenlose Protokollierung von Trainingsdaten, Entscheidungswegen und Systemupdates.

• Vertragliche Absicherung: Klare Regelungen mit Zulieferern und Softwareanbietern zur Haftungsverteilung.

• Versicherungsschutz prüfen: Bestehende Policen auf KI-Risiken analysieren und ggf. erweitern.

Die genannten Maßnahmen bilden eine solide Grundlage für den verantwortungsvollen Umgang mit KI-Risiken. Für eine nachhaltige Absicherung ist jedoch ein dynamischer und fortlaufender Prozess und ein regelmäßiger Austausch mit den Fachexperten des Versicherungsmaklers notwendig.

Dieser begleitet nicht nur die Risikobewertung, sondern übernimmt auch die strategische Abstimmung mit den Versicherern. So lassen sich Deckungslücken frühzeitig erkennen und Policen gezielt an die sich wandelnden technologischen Rahmenbedingungen anpassen.