Zusammenfassung
Wenn euer SaaS-Produkt KI nutzt – ob Chatbot, Empfehlungsmaschine oder automatisierte Entscheidungsfindung – gilt das EU-KI-Gesetz jetzt für euch. Die gute Nachricht: Die meisten SaaS-Unternehmen bauen KI nicht von Grund auf. Sie integrieren sie. Das macht euch einen “Betreiber” im Sinne des KI-Gesetzes, was mit einem spezifischen (und handhabbaren) Satz von Pflichten verbunden ist.
Dieser Leitfaden erklärt, was das KI-Gesetz für SaaS-Gründer bedeutet, die Dienste von Drittanbietern wie ChatGPT, Claude oder Gemini nutzen. Ihr erfahrt, wie ihr eure Rolle im KI-Gesetz bestimmt, welche Pflichten jetzt schon gelten, und wie ihr eure SaaS-Verträge aktualisiert, um konform zu bleiben.
Warum SaaS-Gründer jetzt aufpassen müssen
Fast jedes SaaS-Produkt heute hat KI-Funktionen. Vielleicht habt ihr einen GPT-gestützten Assistenten für den Kundensupport hinzugefügt. Oder euer Produkt nutzt Machine Learning für Personalisierung oder Betrugserkennung. Oder ihr habt eine KI-API integriert, um Workflows für eure Nutzer zu automatisieren.
Hier ist das Problem: Viele Gründer gehen davon aus, dass das KI-Gesetz nur Unternehmen betrifft, die KI-Modelle selbst bauen. Das stimmt nicht.
Das EU-KI-Gesetz regelt alle in der KI-Lieferkette – von Unternehmen, die Grundmodelle trainieren, bis zu Unternehmen, die diese Modelle in ihren Produkten nutzen. Wenn ihr KI in eure SaaS-Lösung integriert, habt ihr Rechtsverpflichtungen. Einige dieser Verpflichtungen sind bereits in Kraft.
Die Frist im Februar 2025 für verbotene KI-Praktiken ist verstrichen. Die Anforderung an KI-Kompetenz ist jetzt verpflichtend. Wenn ihr allgemeine KI-Modelle wie ChatGPT oder Claude nutzt, gelten die Betreiberpflichten seit August 2025. Die Durchsetzung wird auch vorangetrieben, mit der deutschen Bundesnetzagentur als zuständige Behörde.
Das KI-Gesetz hat extraterritoriale Reichweite. Auch wenn euer Unternehmen außerhalb der EU angesiedelt ist, gilt das KI-Gesetz, wenn:
- euer KI-Systeme auf dem EU-Markt in Verkehr bringt
- euer KI-Systeme in der EU einsetzt
- Das Ergebnis eures KI-Systems in der EU verwendet wird
Wenn ihr EU-Kunden habt, gilt das KI-Gesetz sehr wahrscheinlich für euch.
Seid ihr ein “Anbieter” oder “Betreiber”? Warum das wichtig ist
Das KI-Gesetz weist je nach Rolle unterschiedliche Verpflichtungen zu. Für SaaS-Unternehmen ist der entscheidende Unterschied zwischen Anbietern und Betreibern.
Anbieter sind Unternehmen, die KI-Systeme entwickeln (oder entwickeln lassen) und diese dann in Verkehr bringen oder unter ihrem Namen oder ihrer Marke in Betrieb nehmen. Denkt an OpenAI, Anthropic, Google oder ein Startup, das sein eigenes Modell trainiert hat.
Betreiber sind natürliche oder juristische Personen, die KI-Systeme unter ihrer eigenen Autorität nutzen – ausgenommen rein persönliche, nicht-berufliche Nutzung. Für SaaS-Unternehmen bedeutet das: Wenn ihr KI in euer Produkt oder eure Geschäftstätigkeit integriert, seid ihr ein Betreiber.
Der praktische Test: Habt ihr das Modell selbst trainiert oder ruft ihr eine API auf? Wenn ihr eine API von OpenAI, Anthropic, Google oder ähnlichen Anbietern aufruft, seid ihr so gut wie sicher ein Betreiber.
Wann ihr möglicherweise selbst zum Anbieter werdet
Es gibt eine wichtige Ausnahme. Nach Artikel 25 des KI-Gesetzes könnt ihr selbst zum Anbieter werden, wenn ihr:
- Eine wesentliche Änderung an einem bereits auf dem Markt befindlichen hochrisiko-KI-System durchführt, oder
- Ein allgemeines KI-Modell auf eine Weise modifiziert, die es in ein KI-System mit einem neuen, von der ursprünglichen Risikobewertung des Anbieters nicht abgedeckten Verwendungszweck integriert
“Wesentliche Änderung” bedeutet eine von dem ursprünglichen Anbieter nicht vorgesehene Änderung, die die Einhaltung des KI-Gesetzes beeinflusst oder den Verwendungszweck modifiziert. Standard-Fine-Tuning, Prompt Engineering oder RAG-Implementierungen (Retrieval-Augmented Generation) überschreiten diese Schwelle normalerweise nicht – aber signifikantes Neutraining, das die Fähigkeiten oder das Risikoprofil des Modells grundlegend ändert, könnte es tun.
Das ist wichtig, weil die Verpflichtungen von Anbietern erheblich anspruchsvoller sind: technische Dokumentation, Konformitätsbewertungen, Qualitätsmanagementsysteme und Marktüberwachung nach Inverkehrbringung. Bevor ihr größere Modellmodifikationen durchführt, holt euch rechtliche Beratung, ob ihr von Betreiber zu Anbieter übergeht.
Was Betreiber tun müssen: Eure Compliance-Checkliste
Als Betreiber, der KI in eurem SaaS-Produkt nutzt, schreibt das KI-Gesetz folgendes vor:
1. KI-Kompetenz (seit Februar 2025 verpflichtend)
Artikel 4 schreibt vor, dass euer Personal und andere, die KI-Systeme in eurem Namen handhaben, ein angemessenes Maß an KI-Kompetenz haben müssen, das ihrer Rolle und dem Kontext entspricht. Das bedeutet, sie sollten verstehen:
- Wie das KI-System auf grundlegender Ebene funktioniert
- Seine Fähigkeiten und Grenzen
- Die potenziellen Risiken, die mit seiner Nutzung verbunden sind
- Wie man seine Ausgaben angemessen interpretiert
Praktischer Schritt: Implementiert Schulungen für Teammitglieder, die mit KI-Funktionen arbeiten. Dokumentiert diese Schulung. Es muss kein PhD-Programm sein – aber euer Customer-Support-Team, das einen KI-Chatbot nutzt, sollte verstehen, was dieser zuverlässig kann und nicht kann.
2. Transparenz gegenüber Nutzern
Wenn euer KI-System direkt mit Menschen interagiert, müsst ihr sie ab August 2026 darüber informieren, dass sie mit KI interagieren. Dies gilt, wenn es nicht aus dem Kontext offensichtlich ist.
Praktische Schritte:
- Fügt in eurem Produkt klare Offenlegungen ein. “Diese Antwort wurde durch KI generiert” oder “Ihr chattet mit einem KI-Assistenten” ist ausreichend.
- Aktualisiert eure Allgemeinen Geschäftsbedingungen, um die KI-Nutzung abzubilden.
3. Menschliche Kontrolle
Für KI-Systeme, die Entscheidungen treffen oder unterstützen, die Menschen beeinflussen, braucht ihr angemessene Mechanismen zur menschlichen Kontrolle. Jemand Kompetentes muss in der Lage sein, KI-Entscheidungen zu überprüfen, einzugreifen oder außer Kraft zu setzen.
Praktischer Schritt: Lasst nicht zu, dass KI automatisch wichtige Entscheidungen trifft. Baut Review-Workflows ein, besonders bei Entscheidungen, die die Rechte, den Zugang oder wesentliche Interessen von Nutzern beeinflussen.
4. Eingabedatenqualität
Diese Verpflichtung gilt für hochrisiko-KI-Systeme – sieht aber je nach Rolle unterschiedlich aus. Anbieter müssen sicherstellen, dass die Trainings-, Validierungs- und Testdatensätze Qualitätskriterien erfüllen, einschließlich Relevanz, Repräsentativität und Genauigkeit (Art. 10). Betreiber hingegen sind für die Daten verantwortlich, die sie während des Betriebs in das System einspeisen: Insofern ihr die Eingabedaten kontrolliert, müssen sie für den beabsichtigten Zweck relevant und ausreichend repräsentativ sein (Art. 26(4)). Beachtet, dass auch außerhalb des KI-Gesetzes Anforderungen an die Datenqualität aus anderen Verordnungen entstehen können – vor allem aus der DSGVO (Art. 5(1)(d)).
Praktischer Schritt: Wenn ihr Kundendaten als Input für KI-Funktionen nutzt, stellt sicher, dass sie genau, aktuell und für den Anwendungsfall geeignet sind. Das Prinzip ist einfach: schlechte Eingabedaten führen zu schlechten Ausgaben – und für hochrisiko-Systeme ist das jetzt ein Compliance-Problem.
5. Überwachung und Meldung von Zwischenfällen
Ihr müsst KI-Systemoperationen überwachen und ernsthafte Zwischenfälle eurem KI-Anbieter und – falls erforderlich – den Behörden melden.
Praktischer Schritt: Richtet Protokollierung und Überwachung für eure KI-Funktionen ein. Wenn etwas gravierend schief geht – diskriminierende Ausgaben, Sicherheitsverletzungen, erhebliche Schäden – müsst ihr das wissen und es melden.
Hochrisiko-KI: Wenn die Einsätze höher werden
Die meisten SaaS-KI-Funktionen fallen in die Kategorie “begrenztes Risiko”, wo Transparenzanforderungen die Hauptsorge sind. Aber einige Anwendungen lösen eine “hochrisiko”-Klassifizierung aus, die erheblich anspruchsvollere Anforderungen mit sich bringt.
Euer KI-System könnte hochrisiko sein, wenn es für folgende Zwecke verwendet wird:
- Beschäftigung und Personal: Recruiting, Kandidatenscreening, Entscheidungen über Beförderung oder Kündigung, Aufgabenzuweisung, Leistungsüberwachung
- Kredit und Versicherung: Beurteilung der Kreditwürdigkeit, Festlegung von Versicherungsprämien, Schadensbearbeitung
- Bildung: Bestimmung des Zugangs zu Bildung, Beurteilung von Schülern, Überwachung während Prüfungen
- Wesentliche Dienste: Bewertung der Berechtigung für öffentliche Leistungen, Priorisierung von Notfalleinsätzen
Wenn eure SaaS-KI-Funktionen in hochrisiko-Kategorien fallen, nehmen die Compliance-Anforderungen erheblich zu. Für die meisten privaten SaaS-Unternehmen bedeutet das umfassende Dokumentation, Mechanismen zur menschlichen Kontrolle und Überwachungsverpflichtungen.
Folgenabschätzungen für Grundrechte
Folgenabschätzungen für Grundrechte (FRIAs) nach Artikel 27 sind speziell erforderlich für:
- Öffentliche Stellen oder private Stellen, die öffentliche Dienste erbringen
- Jeden Betreiber, der KI für Kreditscoring nutzt (Anlage III, Punkt 5(b))
- Jeden Betreiber, der KI für die Risikobewertung bei Lebens- und Krankenversicherungen nutzt (Anlage III, Punkt 5(c))
Die meisten privaten B2B-SaaS-Unternehmen sind nicht zur Durchführung formeller FRIAs verpflichtet. Aber auch wenn ihr nicht gesetzlich verpflichtet seid, ist die Durchführung einer ähnlichen internen Bewertung für hochrisiko-KI-Einsätze beste Praxis – und könnte zu einer Kundenanforderung für Enterprise-Deals werden.
Praktischer Schritt: Überprüft eure KI-Funktionen gegen die hochrisiko-Kategorien in Anlage III des KI-Gesetzes. Wenn es Zweifel gibt, holt euch eine rechtliche Bewertung vor eurem nächsten Product Release.
Verbotene KI: Was ihr nicht tun könnt
Einige KI-Anwendungen sind komplett verboten. Seit Februar 2025 sind diese Verbote durchsetzbar. Stellt sicher, dass euer Produkt nicht enthält:
- Social Scoring: Beurteilung von Menschen basierend auf sozialem Verhalten oder persönlichen Merkmalen auf Weise, die zu Benachteilung führt, die unverhältnismäßig zum Kontext ist
- Biometrische Emotionserkennung an Arbeitsplätzen oder in Schulen: KI-Systeme, die Gefühle von Angestellten oder Schülern anhand ihrer biometrischen Daten ableiten (Gesichtsausdrücke, Stimmmuster, physiologische Signale). Es gibt Ausnahmen für medizinische und Sicherheitszwecke. Hinweis: textbasierte Sentiment-Analyse von Kundenfeedback oder Support-Tickets ist nicht von diesem Verbot abgedeckt.
- Manipulative KI: Systeme, die Subliminal-Techniken verwenden oder Schwachstellen ausnutzen, um Verhalten auf Weise zu verzerren, die erheblichen Schaden verursacht
- Ungezielte Scraping von Gesichtsbildern: Erstellen oder Erweitern von Gesichtserkennungsdatenbanken durch ungezieltess Scraping aus dem Internet oder CCTV
Praktischer Schritt: Überprüft eure KI-Funktionen gegen die Liste der verbotenen Praktiken. Wenn ihr HR-Tech, EdTech oder verbrauchergeprägte Produkte baut, passt besonders auf. Eine “Sentiment-Analyse”-Funktion, die Gesichtsausdrücke von Mitarbeitern in Videoanrufen analysiert, würde verboten sein – aber die Analyse von Text aus Kundenrezensionen nicht.
Vergesst nicht die DSGVO
Das KI-Gesetz ersetzt Datenschutzanforderungen nicht – es kommt zu ihnen hinzu. Wenn eure KI-Funktionen personenbezogene Daten verarbeiten, braucht ihr immer noch:
- Eine gültige Rechtsgrundlage nach DSGVO für die Verarbeitung
- Angemessene Datenverarbeitungsverträge mit euren KI-Anbietern
- Einhaltung von Rechten betroffener Personen (Zugang, Löschung, Portabilität)
- Eine zulässige Grundlage für jede internationale Datenübermittlung
KI-gestützte Entscheidungen über Personen können auch Artikel 22-DSGVO-Anforderungen zu automatisierter Entscheidungsfindung auslösen. Wenn eure KI Entscheidungen trifft, die Nutzer erheblich beeinflussen, ohne sinnvolle menschliche Beteiligung, müsst ihr möglicherweise Informationen über die Logik bereitstellen und Nutzern erlauben, Entscheidungen anzufechten.
Praktischer Schritt: Überprüft eure Datenverarbeitungsverträge mit KI-Anbietern. Stellt sicher, dass eure Datenschutzerklärung KI-bezogene Datenverarbeitung genau beschreibt. Überlegt, ob KI-Funktionen “automatisierte Entscheidungsfindung” nach Artikel 22 DSGVO darstellen.
Aktualisierung eurer SaaS-Verträge für KI-Compliance
Das KI-Gesetz beeinflusst nicht nur euer Produkt – es beeinflusst eure Verträge. Worauf ihr achten müsst:
Eure Nutzungsbedingungen
Aktualisiert eure kundengerichteten Bedingungen, um:
- KI-Nutzung offenzulegen: Teilt klar mit, welche Funktionen KI nutzen und wie
- Grenzen zu erklären: Setzt angemessene Erwartungen zur Genauigkeit und Zuverlässigkeit von KI
- Verantwortung zuzuteilen: Verdeutlicht, dass KI-Ausgaben menschlicher Überprüfung für wichtige Entscheidungen bedürfen
- Zulässige Nutzung zu definieren: Legt fest, was Kunden KI-Funktionen für verwenden können und nicht können
Beispiel-Klauseltext:
“KI-generierte Ausgaben sind wahrscheinlichkeitsbasiert und können Fehler oder Ungenauigkeiten enthalten. Der Kunde ist verantwortlich dafür, alle KI-Ausgaben zu überprüfen und zu verifizieren, bevor er sich auf sie für geschäftliche Entscheidungen verlässt. Der Kunde darf KI-Funktionen nicht für [hochrisiko-Entscheidungen ohne menschliche Kontrolle / verbotene Zwecke unter geltendem Recht / kritische Sicherheitsentscheidungen] verwenden.”
Eure Verträge mit KI-Anbietern
Wenn ihr OpenAI, Anthropic oder ähnliche Dienste nutzt, stellt sicher, dass eure Vereinbarungen ansprechen:
- Compliance-Verpflichtungen: Der Anbieter bestätigt, dass sein Modell die Anbieter-Verpflichtungen des KI-Gesetzes einhält
- Dokumentationszugang: ihr könnt notwendige technische Dokumentation erhalten, um eure Betreiber-Verpflichtungen zu erfüllen
- Meldung von Zwischenfällen: Der Anbieter benachrichtigt euch über relevante Zwischenfälle, Compliance-Probleme oder wesentliche Änderungen am Modell
- Datenverarbeitung: Klare Bedingungen, ob Kundendaten für das Modell-Training verwendet werden, wie sie verarbeitet werden und wo sie gespeichert sind
- Schadensersatz: Überlegt, wer haftet, wenn das zugrunde liegende Modell Schäden verursacht
Haftungsklauseln nach deutschem Recht
Hier schafft deutsches Recht spezifische Herausforderungen. Wenn ihr an deutsche Kunden verkauft, unterliegen eure Allgemeinen Geschäftsbedingungen (AGB) strenger Überprüfung unter §§ 305-310 BGB.
ihr könnt Haftung nicht ausschließen für:
- Vorsatz oder grobe Fahrlässigkeit
- Verletzung von Leben, Körper oder Gesundheit
- Verletzung wesentlicher Vertragsverpflichtungen (“Kardinalpflichten” – Verpflichtungen, die grundlegend für den Zweck des Vertrags sind)
ihr könnt Haftung begrenzen für:
- Einfache Fahrlässigkeit (außer bei Kardinalpflichten, wo ihr begrenzen aber nicht ausschließen könnt)
- Verschuldensunabhängige Haftung unter bestimmten Umständen
Kritische Warnung: Wenn ihr einen US-Standardvertrag mit umfassenden Haftungsausschlüssen nutzt (“provided as is”, “keine Gewährleistungen”, “keine Haftung für indirekte Schäden”) und ihn einfach für den deutschen Markt übersetzt, sind diese Ausschlüsse wahrscheinlich nicht durchsetzbar. Nach deutschem AGB-Recht verschwinden ungültige Klauseln nicht einfach. Nach § 306(2) BGB werden sie durch gesetzliche Bestimmungen ersetzt – was euch oft mit unbegrenzter Haftung für Dinge belässt, von denen ihr dachtet, sie seien begrenzt. Deutsche Gerichte schreiben ungültige Klauseln nicht um, um sie gültig zu machen. Das macht angemessene Gestaltung von Anfang an wesentlich.
Praktischer Schritt: Lasst eure SaaS-Verträge von einem Anwalt überprüfen, der sich mit KI-Gesetzes-Anforderungen und deutschem AGB-Recht auskennt. LexRs Vertragsprüfungsdienste können helfen, sicherzustellen, dass eure Vereinbarungen konform und durchsetzbar sind.
Eure KI-Gesetzes-Compliance-Roadmap
Hier ist ein priorisierter Aktionsplan:
Sofort:
- Überprüft eure KI-Funktionen: Listet jede KI-Komponente in eurem Produkt auf und identifiziert den zugrunde liegenden Anbieter
- Prüft auf verbotene Praktiken: Stellt sicher, dass nichts in eurem Produkt in die verbotenen Kategorien fällt
- Implementiert KI-Kompetenz-Schulung: Dokumentiert, dass relevantes Personal eure KI-Systeme versteht
Kurzfristig (nächste 3 Monate):
- Aktualisiert kundengerichtete Offenlegungen: Fügt Transparenzhinweise hinzu, wo KI mit Nutzern interagiert
- Überprüft Verträge: Aktualisiert Nutzungsbedingungen und Anbietervereinbarungen für KI-Compliance
- Bewertet hochrisiko-Exposition: Bestimmt, ob Funktionen die hochrisiko-Klassifizierung auslösen
- DSGVO-Abstimmung: Stellt sicher, dass KI-Datenverarbeitung in Datenschutzerklärungen und DPAs abgedeckt ist
Mittelfristig (nächstes Jahr)
- Baut Überwachungsinfrastruktur auf: Implementiert Protokollierung und Zwischenfallserkennung für KI-Funktionen
- Bereitet euch auf hochrisiko-Regeln vor: Volle hochrisiko-Verpflichtungen gelten ab 2. August 2026 (Anlage III-Systeme) und 2. August 2027 (Anlage II-Systeme)
Wichtigste Erkenntnisse
Das EU-KI-Gesetz ist jetzt für SaaS-Unternehmen Realität. Wenn ihr KI in euer Produkt integriert, habt ihr Compliance-Verpflichtungen – unabhängig davon, ob ihr die KI selbst gebaut habt.
Die gute Nachricht: Als Betreiber sind eure Verpflichtungen handhabbar. Konzentriert euch auf:
- KI-Kompetenz für euer Team
- Transparenz gegenüber Nutzern, die mit KI interagieren
- Menschliche Kontrolle für wichtige Entscheidungen
- Vertragsupdate für Kunden und KI-Anbieter
- DSGVO-Abstimmung für KI-bezogene Datenverarbeitung
Kennt eure Risiko-Kategorie. Vermeidet verbotene Praktiken. Und denkt dran, dass das KI-Gesetz neben der DSGVO gilt, nicht statt ihrer.
Unternehmen, die sich jetzt um Compliance kümmern, vermeiden später Stress – und könnten feststellen, dass “KI-Gesetz-konform” ein Wettbewerbsvorteil wird, wenn ihr an Enterprise-Kunden verkauft, die es zunehmend verlangen.
Nächste Schritte
Navigation in der Schnittstelle zwischen KI-Regulierung und Vertragsrecht erfordert spezialisierte Expertise. LEXR berät SaaS-Unternehmen zur KI-Gesetzes-Compliance, Vertragsupdate und spezifischen Anforderungen des deutschen Markts.
Kontaktiert LEXR für eine Beratung um eure KI-Compliance-Strategie zu besprechen und sicherzustellen, dass eure SaaS-Verträge für die neue regulatorische Landschaft bereit sind.
Bucht euren kostenlosen Anruf!
Ähnliche Ressourcen
- EU-KI-Gesetz: Umfassende Analyse und Compliance-Leitfaden
- KI-Rechts- und Compliance-Workshop
- LEXR-Vertragsprüfungsdienste




