Betrifft der AI Act euch überhaupt? Zehn Fälle aus dem Mittelstand, eingeordnet
Lead-Scoring, Bewerber-Vorsortierung, Meeting-Zusammenfassung, Bonitätsprüfung: Welche typischen Mittelstands-Anwendungen unter den AI Act fallen, welche hochriskant sind und welche nicht. Mit dem Filter aus Artikel 6 Absatz 3, den kaum jemand kennt.
Die teuerste Fehleinschätzung beim AI Act ist nicht, sich für nicht betroffen zu halten. Sie ist, sich für hochriskant zu halten, ohne es zu sein, und daraufhin ein Projekt aufzusetzen, das sechsstellig kostet und nichts absichert.
Dieser Artikel ordnet zehn Anwendungen ein, die im deutschen Mittelstand tatsächlich laufen. Am Ende steht der Filter aus Artikel 6 Absatz 3, der aus vielen scheinbaren Hochrisiko-Fällen normale Systeme macht, und die eine Ausnahme, die ihn wieder aushebelt.
Die vier Stufen, und warum euch nur zwei betreffen
Der AI Act kennt vier Stufen: verbotene Praktiken, Hochrisiko, begrenztes Risiko mit Transparenzpflichten, und minimales Risiko ohne Auflagen. Die Einstufung folgt dem Verwendungszweck, nicht der Technologie. Dasselbe Sprachmodell kann in einer Anwendung verboten und in der nächsten auflagenfrei sein.
Für ein durchschnittliches Mittelstandsunternehmen sind zwei Stufen relevant. Die verbotenen Praktiken, weil man sie versehentlich streifen kann. Und das begrenzte Risiko, weil es fast jeden trifft und ab dem 2. August 2026 gilt. Hochrisiko betrifft nur einen schmalen Ausschnitt, und dieser Ausschnitt liegt fast immer in der Personalabteilung.
Die Stufen sind seit dem 2. Februar 2025 teilweise scharf: verbotene Praktiken und die Pflicht zur KI-Kompetenz gelten seitdem. Die Transparenzpflichten kamen am 2. August 2026 dazu, was viele über der Verschiebung der Hochrisiko-Pflichten übersehen haben. Hochrisiko nach Anhang III folgt am 2. Dezember 2027.
Anhang III ist eine Liste von Situationen, keine Liste von Technologien
Anhang III zählt acht Bereiche auf, in denen ein KI-System als hochriskant gilt: Biometrie, kritische Infrastruktur, allgemeine und berufliche Bildung, Beschäftigung und Personalmanagement, Zugang zu wesentlichen privaten und öffentlichen Diensten, Strafverfolgung, Migration und Grenzkontrolle, Rechtspflege und demokratische Prozesse.
Der häufigste Denkfehler in Compliance-Runden lautet: „Wir benutzen ein großes Sprachmodell, also sind wir hochriskant.“ Anhang III fragt nicht nach dem Modell. Er fragt, in welcher Situation über einen Menschen entschieden wird.
Ein Agent, der eine Rechnung ausliest, ist auflagenfrei. Derselbe Agent, der aus derselben Datei eine Kündigungsempfehlung ableitet, ist hochriskant.
Zehn Fälle, eingeordnet
| Anwendung | Stufe | Warum |
|---|---|---|
| Lead-Scoring im CRM für B2B-Anfragen | minimal | Anhang III kennt Kreditwürdigkeit natürlicher Personen, nicht Kaufbereitschaft von Firmen |
| Support-Chatbot auf der Website | begrenzt | Artikel 50: Hinweis, dass keine Person antwortet |
| Angebotserstellung aus E-Mail-Anfragen | minimal, begrenzt beim Versand | Erst wenn der Text automatisch nach außen geht |
| Meeting-Zusammenfassung aus Transkripten | minimal | Keine Entscheidung über eine Person |
| Vorsortierung von Bewerbungen | hoch | Anhang III Nr. 4, Beschäftigung |
| Automatische Leistungsbewertung von Mitarbeitern | hoch | Anhang III Nr. 4 nennt Bewertung und Überwachung ausdrücklich |
| Stimmungsanalyse auf Mitarbeitergesprächen | verboten | Artikel 5: Emotionserkennung am Arbeitsplatz |
| Stimmungsanalyse auf Kundengesprächen | hoch | Anhang III Nr. 1: Emotionserkennung ist Biometrie |
| Bonitätsprüfung vor Lieferung auf Rechnung | hoch, wenn natürliche Person | Einzelunternehmer und Freiberufler sind natürliche Personen |
| Gesichtserkennung am Werkstor | hoch | Anhang III Nr. 1, biometrische Identifizierung |
Zwei Zeilen daraus verdienen einen zweiten Blick.
Emotionserkennung fällt in zwei verschiedene Stufen, je nachdem, wen sie liest. Auf Mitarbeiter angewandt ist sie nach Artikel 5 verboten, ohne Ausnahme und ohne Übergangsfrist, seit Februar 2025. Auf Kunden angewandt ist sie hochriskant, aber erlaubt. Mehrere Revenue-Intelligence-Werkzeuge bieten beides in derselben Oberfläche an, und die Unterscheidung liegt in einem Häkchen, nicht in einem Produktnamen.
Bonitätsprüfung ist die Zeile, an der sich der Mittelstand am ehesten verschätzt. Anhang III erfasst die Bewertung der Kreditwürdigkeit natürlicher Personen. Wer nur an Kapitalgesellschaften liefert, ist raus. Wer auch an Einzelunternehmer, Freiberufler und GbRs liefert, bewertet natürliche Personen, und das ist Hochrisiko. Dieselbe Prüfung, dieselbe Software, zwei Einstufungen, abhängig von der Rechtsform des Kunden.
Der Filter, den kaum jemand kennt
Ein System, das in Anhang III steht, ist trotzdem nicht hochriskant, wenn es kein wesentliches Risiko für Gesundheit, Sicherheit oder Grundrechte darstellt und eine von vier Bedingungen aus Artikel 6 Absatz 3 erfüllt.
Die vier Bedingungen: Das System erfüllt eine eng umgrenzte Verfahrensaufgabe. Oder es verbessert das Ergebnis einer bereits abgeschlossenen menschlichen Tätigkeit. Oder es erkennt Entscheidungsmuster und Abweichungen davon, ohne die vorangegangene menschliche Bewertung ohne angemessene Überprüfung zu ersetzen oder zu beeinflussen. Oder es erledigt eine vorbereitende Aufgabe zu einer Bewertung im Sinne von Anhang III.
Für die Bewerber-Vorsortierung ist das der praktisch wichtigste Absatz im ganzen Gesetz. Ein Agent, der eingehende Bewerbungen nach Anschreiben, Lebenslauf und Zeugnissen sortiert und die Dateien in die richtigen Felder schreibt, erfüllt eine eng umgrenzte Verfahrensaufgabe. Ein Agent, der eine Rangfolge der Kandidaten erzeugt, erfüllt sie nicht.
Der Unterschied ist kein juristischer Kniff, er ist eine Bauentscheidung. Wer weiß, dass die Grenze zwischen „sortiert Dokumente“ und „bewertet Menschen“ verläuft, baut das System auf der richtigen Seite und spart sich Konformitätsbewertung, Qualitätsmanagementsystem und notifizierte Stelle. Wer es nicht weiß, baut zufällig, und in der Hälfte der Fälle zufällig teuer.
Die Hochrisiko-Pflichten für Anhang-III-Systeme greifen erst am 2. Dezember 2027, verschoben um 16 Monate. Die Transparenzpflichten gelten seit dem 2. August 2026.
Digital Omnibus, förmlich angenommen Ende Juni 2026
Die Ausnahme von der Ausnahme
Der Filter aus Artikel 6 Absatz 3 gilt nicht, sobald ein System Profiling natürlicher Personen betreibt. Der Gesetzestext lässt daran keinen Spielraum:
[Systeme, die] ein Profiling natürlicher Personen vornehmen, gelten stets als hochriskant.
Profiling im Sinne der DSGVO ist jede automatisierte Verarbeitung personenbezogener Daten, um persönliche Aspekte zu bewerten, insbesondere um Arbeitsleistung, wirtschaftliche Lage, Gesundheit, Vorlieben, Interessen, Zuverlässigkeit, Verhalten oder Aufenthaltsort zu analysieren oder vorherzusagen. Der Begriff ist weit, und er ist absichtlich weit.
Praktisch heißt das: Sobald euer System aus Verhaltensdaten auf eine Eigenschaft einer benannten Person schließt, ist der Filter zu. Ein Agent, der aus dem Öffnungsverhalten eines Newsletters die Kaufwahrscheinlichkeit einer Kontaktperson vorhersagt, betreibt Profiling. Ob er damit im Anwendungsbereich von Anhang III liegt, ist eine zweite Frage, und für B2B-Lead-Scoring lautet die Antwort nein. Aber die Reihenfolge der Prüfung ist wichtig, und sie wird oft umgedreht.
Wer sich auf den Filter beruft, hat außerdem eine Bringschuld. Artikel 6 Absatz 4 verlangt, dass der Anbieter die Einschätzung vor dem Inverkehrbringen oder der Inbetriebnahme dokumentiert, das System nach Artikel 49 Absatz 2 registriert und die Unterlagen den nationalen Behörden auf Verlangen vorlegt. Die Ausnahme gilt also nicht stillschweigend. Sie gilt, wenn man sie aufschreibt.
Was ihr aus dieser Einordnung mitnehmt
Die meisten Agenten in einem Go-to-Market-Stack sind nicht hochriskant, und das ist keine Erleichterung, sondern eine Planungsgrundlage. Wer weiß, dass die Angebotsstrecke, der Support-Bot und die Meeting-Vorbereitung auflagenfrei sind, kann sie diese Woche bauen, statt sie in einem Compliance-Projekt zu parken, das auf Normen wartet, die noch nicht existieren.
Der Aufwand gehört an die drei bis vier Stellen, an denen tatsächlich über Menschen entschieden wird. In den meisten Firmen sind das Personalauswahl, Leistungsbewertung und Bonitätsprüfung. Dort lohnt eine ordentliche Einordnung, dort lohnt Dokumentation, und dort lohnt die Frage, ob das System die Entscheidung wirklich treffen muss oder ob es sie nur vorbereiten kann.
Die Prüfung selbst ist kein Projekt. Sie ist eine Tabelle mit vier Spalten: Was macht das System, über wen entscheidet es, steht die Situation in Anhang III, greift Artikel 6 Absatz 3. Für zehn Systeme braucht das einen Nachmittag. Was danach folgt, hängt am Ergebnis, und für die meisten Zeilen folgt nichts.
Häufig gestellte Fragen
Ist ein Sprachmodell im Unternehmen automatisch ein Hochrisiko-System?
Nein. Die Einstufung folgt dem Verwendungszweck. Dasselbe Modell kann in der Angebotserstellung auflagenfrei und in der Bewerberauswahl hochriskant sein.
Fällt B2B-Lead-Scoring unter Anhang III?
Nein. Anhang III erfasst die Bewertung der Kreditwürdigkeit natürlicher Personen und den Zugang zu wesentlichen Diensten, nicht die Einschätzung der Kaufbereitschaft von Unternehmen.
Dürfen wir Stimmungsanalysen auf Verkaufsgesprächen fahren?
Auf Gesprächen mit Kunden ja, dann aber als Hochrisiko-System mit den entsprechenden Pflichten ab Dezember 2027. Auf Gesprächen mit eigenen Mitarbeitern nein: Emotionserkennung am Arbeitsplatz ist nach Artikel 5 verboten und seit Februar 2025 scharf.
Was passiert, wenn wir uns falsch einstufen?
Bei einer Einstufung als nicht hochriskant tragt ihr die Dokumentationslast nach Artikel 6 Absatz 4. Stellt eine Behörde später fest, dass die Einschätzung falsch war, greifen die Sanktionen für nicht erfüllte Hochrisiko-Pflichten, also bis zu 15 Millionen Euro oder 3 Prozent des weltweiten Jahresumsatzes, für KMU der jeweils niedrigere Wert.
Brauchen wir dafür einen Anwalt?
Für die erste Einordnung nicht. Für die drei bis vier Systeme, die am Ende in Anhang III landen, schon, spätestens vor der Dokumentation nach Artikel 6 Absatz 4. Die Vorarbeit, also die Liste der Systeme und ihrer Zwecke, kann euch niemand abnehmen, und sie ist der teure Teil.
Quellen: Artikel 6 der KI-Verordnung, Einstufungsvorschriften, Anhang III, Hochrisiko-Anwendungsbereiche, Artikel 5, verbotene Praktiken, Gibson Dunn zu den verschobenen Fristen.
Strategy Call