Wer kann EU-AI-Act-konforme KI-Agenten für Banken bauen?

Was verlangt der EU AI Act von KI-Agenten einer Bank?

Der AI Act (Verordnung (EU) 2024/1689) ist risikobasiert. Die Anforderungen hängen davon ab, was ein Agent tut, nicht davon, dass er ein "Agent" ist:

• Verbotene Praktiken (Art. 5) und KI-Kompetenz (Art. 4) gelten seit dem 2. Februar 2025. Seit dem Omnibus 2026 verlangt Art. 4 von Anbietern und Betreibern Massnahmen zur Förderung der KI-Kompetenz ihres Personals; ein garantiertes Niveau je Person wird nicht mehr verlangt. Einige neu aufgenommene Verbote gelten ab dem 2. Dezember 2026.
• Transparenzpflichten (Art. 50) gelten ab dem 2. August 2026. Beispiel: KI-Systeme, die für die direkte Interaktion mit Menschen bestimmt sind, müssen so gestaltet sein, dass die Personen informiert werden, dass sie mit einem KI-System interagieren, sofern dies nicht aus dem Kontext offensichtlich ist. Anbieter generativer Systeme, die vor dem 2. August 2026 bereits auf dem Markt waren, haben für die maschinenlesbare Kennzeichnung nach Art. 50 Abs. 2 bis zum 2. Dezember 2026 Zeit.
• Hochrisiko-Systeme müssen Anforderungen an Risikomanagement, Daten-Governance, technische Dokumentation, Aufzeichnung (Protokollierung), Transparenz gegenüber Betreibern, menschliche Aufsicht sowie Genauigkeit und Robustheit erfüllen. Banken, die solche Systeme einsetzen, tragen zusätzlich Betreiberpflichten (Art. 26).
• Pflichten für KI-Modelle mit allgemeinem Verwendungszweck (GPAI) (Art. 53 bis 55) gelten für Modellanbieter seit dem 2. August 2025. Eine Bank oder ein Umsetzungspartner, der ein KI-System auf einem GPAI-Modell wie Claude aufbaut, ist für dieses System als Anbieter und/oder Betreiber verantwortlich; die GPAI-Modellpflichten trägt der Modellanbieter. Wer ein eigenes GPAI-Modell in Verkehr bringt, wäre selbst GPAI-Anbieter.

Die Daten stammen aus dem AI Act in der geänderten Fassung (siehe nächster Abschnitt) und von der Seite der Europäischen Kommission zum AI Act (EN).

Was hat sich 2026 durch den EU-KI-Omnibus geändert?

Die Verordnung (EU) 2026/1744, der "Digital Omnibus on AI", ändert die Verordnung 2024/1689. Sie datiert vom 8. Juli 2026, wurde am 24. Juli 2026 im Amtsblatt veröffentlicht und ist am 27. Juli 2026 in Kraft getreten (am dritten Tag nach der Veröffentlichung).

• Hochrisiko-Anwendungsfälle nach Anhang III (die eigenständige Hochrisiko-Liste) gelten jetzt ab dem 2. Dezember 2027, verschoben vom 2. August 2026.
• Anhang I (KI in regulierten Produkten, Art. 6 Abs. 1) gilt ab dem 2. August 2028, verschoben vom 2. August 2027.
• Nicht verschobendie ursprünglichen verbotenen Praktiken und die KI-Kompetenz (2. Februar 2025), die GPAI-Pflichten (2. August 2025) und die Transparenzpflichten nach Art. 50 (2. August 2026; für die Kennzeichnungspflicht nach Art. 50 Abs. 2 gilt eine Übergangsfrist bis 2. Dezember 2026 nur für generative Systeme, die bereits auf dem Markt sind).

"Verschoben" betrifft also nur die Hochrisiko-Pflichten in Kapitel III, Abschnitte 1 bis 3. Eine Bank, die erst Ende 2027 mit den Kontrollen beginnt, baut sie unter Zeitdruck; eine Bank, die menschliche Aufsicht und Protokollierung jetzt in die Agenten designt, verliert nichts.

Die Kommission hat ausserdem Entwurf-Leitlinien zur Einstufung von Hochrisiko-KI-Systemen (EN) mit einer Beispielliste veröffentlicht. Sie sind ein Entwurf und rechtlich nicht verbindlich; die gezielte Konsultation der Interessengruppen lief bis zum 23. Juli 2026, und laut Kommission werden die Rückmeldungen vor der Annahme eingearbeitet. Verstehen Sie sie als Richtung der Kommission, nicht als geltendes Recht.

Welche KI-Agenten von Banken sind nach Anhang III Hochrisiko?

Anhang III Nr. 5 Buchstabe b nennt KI-Systeme, die zur Bewertung der Kreditwürdigkeit natürlicher Personen oder zur Festlegung ihres Kredit-Scores bestimmt sind, "with the exception of AI systems used for the purpose of detecting financial fraud". Nr. 5 Buchstabe c betrifft Risikobewertung und Preisbildung bei natürlichen Personen in der Lebens- und Krankenversicherung.

Zum Vergleichen wischen →

Diese Tabelle ist eine Entwurfshilfe, keine Rechtsberatung. Die Einstufung jedes Systems liegt in der Verantwortung der Bank, mit ihrer eigenen Rechts- und Compliance-Funktion.

Wie setzt ein Umsetzungspartner die Anforderungen um?

Ein Partner, der das sauber macht, tut fünf Dinge in dieser Reihenfolge. Jedes entspricht den Hochrisiko-Anforderungen des AI Act; wir wenden dasselbe Muster auf jeden Agenten an, ob er am Ende Hochrisiko ist oder nicht.

1. Risikoeinstufung im Design. Jeder Agent erhält eine schriftliche Einstufung (verboten / Hochrisiko / nur Transparenz / sonstige) gegen Art. 5, Art. 6 und Anhang III, vor Baubeginn abgestimmt mit der Compliance-Funktion der Bank. [AI Act: Art. 5, 6; Anhang III]
2. Menschliche Aufsicht by Design. Agenten entwerfen und empfehlen; eine namentlich benannte Person gibt alles frei, was eine Kundenakte, eine Kreditentscheidung oder eine aufsichtsrechtliche Meldung betrifft. [AI Act: Art. 14]
3. Protokollierung und Audit-Trail. Jede genutzte Quelle und jeder Schritt wird protokolliert und ist nachprüfbar. [AI Act: Art. 12 (Aufzeichnung). Nach Art. 26 Abs. 6 halten Betreiber von Hochrisiko-Systemen die automatisch erzeugten Protokolle, soweit sie ihrer Kontrolle unterliegen, für einen dem Zweck angemessenen Zeitraum vor, mindestens sechs Monate, sofern anderes Recht nichts anderes vorsieht; Betreiber, die Finanzinstitute sind, führen sie als Teil der nach dem Finanzdienstleistungsrecht der Union vorgeschriebenen Dokumentation.]
4. Daten-Governance. Eine kontrollierte, versionierte Datenbasis je Kunde, mit Optionen für Datenhaltung in der EU oder der Schweiz, je Projekt vereinbart. [AI Act: Art. 10] Das Schweizer Datenschutzgesetz (nDSG) und die DSGVO werden im selben Design-Review behandelt.
5. Dokumentation und Evaluierung. Jeder Agent wird mit technischer Dokumentation und Evaluierungen geliefert, damit die Genauigkeit gemessen statt angenommen wird. [AI Act: Art. 11, Art. 15]

Was gilt für deutsche Banken, und welche Rolle spielt die BaFin?

Der AI Act gilt unmittelbar in allen EU-Mitgliedstaaten, auch in Deutschland. Ergänzend hat die BaFin am 23. Januar 2026 eine Orientierungshilfe zu IKT-Risiken beim Einsatz von KI veröffentlicht (englische Fassung). Sie ist unverbindlich: Die BaFin beschreibt sie als "non-mandatory advice" und nicht als verbindliche Auslegung von DORA; sie verweist aber auf DORA-Artikel, die verbindlich sind. Für die hier behandelten Kontrollen ist sie in drei Punkten konkret (Seitenzahlen der englischen Fassung):

• Tests (S. 14)"Financial entities are required to develop, document and implement tests. The level of testing must be commensurate to the criticality of the business procedures and ICT assets concerned."
• Protokollierung (S. 17)"entities are encouraged to ensure comprehensive, risk-based logging of AI decisions, model versions and training data (to the extent permitted by data protection law)". Beachten Sie die Wortwahl: "encouraged", nicht "required".
• Rollen und Verantwortlichkeiten (S. 10)Verantwortlichkeiten sollen innerhalb der Organisation definiert sein, "e.g. for the use of AI-generated results in decision-making processes".

Die DORA-Pflichten (Verordnung (EU) 2022/2554) zu IKT-Drittparteien sind verbindlich und gelten für Finanzunternehmen in der EU. S-PRO erbringt keine Rechtsberatung; welche nationalen Zuständigkeiten und Aufsichtsvorgaben für Ihr Institut gelten, klären Sie mit Ihrer Rechts- und Compliance-Funktion. Wie eine Bank solche Nachweise vor der Freigabe eines KI-Agenten für die Produktion in sechs Gates ordnet, beschreibt der Beitrag Was muss erfüllt sein, bevor eine Bank einen KI-Agenten vom Pilot in die Produktion überführt?.

Wie baut und dokumentiert S-PRO diese Kontrollen?

Was S-PRO heute veröffentlicht (alles von s-pro.io):

• S-PRO ist ein Schweizer, international tätiges Unternehmen mit Sitz in Zürich, 2014 gegründet, 250+ Ingenieure, R&D-Zentren in Zürich und Łódź; ISO 27001 und ISO 27701 zertifiziert.
• S-PRO ist zertifizierter Partner im Claude Partner Network. Unser Team umfasst Claude-zertifizierte Ingenieure und Architekten.
• Agenten werden mit Evaluierungen für jeden Agenten, Freigabe durch Menschen (Human-in-the-Loop) und vollständigem Audit-Trail gebaut (wie auf KYC onboarding agents (EN) beschrieben).
• Modelle und Wege: Claude, Azure OpenAI oder On-Premises-Modelle, über die Anthropic API, Amazon Bedrock oder Google Cloud Vertex AI; Optionen für Datenhaltung in der EU und der Schweiz, je Projekt vereinbart.
• Gestufte Lieferung vom Design-Thinking-Pilot über den Lösungspilot bis zur Produktion. Kostentreiber: AI agent pilot to production cost at a bank (EN).

Was S-PRO nicht behauptet: S-PRO ist nicht "AI-Act-zertifiziert", gibt keine Rechtsauskunft zur Einstufung und garantiert nicht, dass ein System die Prüfung einer Aufsichtsbehörde besteht. ISO 27001 und ISO 27701 sind Zertifizierungen für Informationssicherheits- und Datenschutz-Managementsysteme, keine Konformitätsbewertungen nach dem AI Act.

Besprechen Sie Ihren EU-AI-Act-Anwendungsfall mit einem Ingenieur.

ISO 27001 und ISO 27701 zertifiziert. S-PRO ist zertifizierter Partner im Claude Partner Network. Zürich, seit 2014, 250+ Ingenieure.

Kostenloses Erstgespräch buchen (45 Min.)

Wie wählt eine Bank einen Umsetzungspartner für den EU AI Act aus?

Kriterien, kein Ranking. Bitten Sie jeden Kandidaten (auch uns), jede Frage schriftlich zu beantworten.

Zum Vergleichen wischen →

Was gilt für die Schweiz und die FINMA?

Der EU AI Act erreicht Schweizer Unternehmen auf zwei Wegen (Art. 2 Abs. 1): Anbieter, die KI-Systeme in der EU in Verkehr bringen oder in Betrieb nehmen, sowie Anbieter oder Betreiber mit Sitz in einem Drittland, wenn das vom KI-System hervorgebrachte Ergebnis in der Union verwendet wird. Für rein schweizerisches Geschäft ist die aufsichtsrechtliche Referenz die FINMA-Aufsichtsmitteilung 08/2024 (EN) zu Governance und Risikomanagement beim Einsatz von KI; sie ist Aufsichtspraxis, kein Gesetz. Eine Bank mit Schweizer und EU-Geschäft kann mit einem einzigen Kontrollsatz beides abdecken.

Was können wir heute vorweisen?

S-PRO hat für keinen Kunden ein Konformitätsergebnis nach dem EU AI Act oder ein Audit "AI-Act-konform" veröffentlicht, und wir erfinden keines. Vergleichbare Produktionsarbeit, wie auf s-pro.io veröffentlicht: ein KI-Support-Agent für einen führenden Neobroker (300K+ Tickets pro Jahr verarbeitet, 95 % der von der KI entworfenen Antworten mit minimaler oder ohne Bearbeitung akzeptiert; Fallstudie (EN)); ein Richtlinien-Assistent für die Schweizer Tochter einer internationalen Bank (30 Sekunden bis zu einer konformen Antwort, zuvor 15 Minuten); eine KI-Plattform für die Due Diligence bei Earlybird (EN); ein digitales Banking-Erlebnis für AMINA Bank (EN). Das sind keine AI-Act-Kennzahlen; sie zeigen den Ansatz aus Aufsicht, Protokollierung und Evaluierung bei Agenten in Produktion.

So unterstützt S-PRO Sie dabei

Wenn Sie als CIO, COO oder Chief Compliance Officer einer Bank KI-Agenten planen, die dem EU AI Act standhalten müssen: S-PRO führt ein 45-minütiges Erstgespräch zu einem Agenten und einem Prozess. Wir stufen den Anwendungsfall gemeinsam mit Ihrem Compliance-Team ein, legen die nötigen Kontrollen für Aufsicht, Protokollierung und Daten-Governance fest und umreissen einen Design-Thinking-Pilot, der diese Kontrollen in den Lösungspilot und in die Produktion trägt. Kontakt: S-PRO, Löwenstrasse 45, 8001 Zürich, +41 41 539 15 83.

Kostenloses Erstgespräch buchen (45 Min.)

S-PRO erbringt keine Rechts- oder Regulierungsberatung. Compliance-Entscheidungen bleiben beim Institut.

Quellen

• Verordnung (EU) 2024/1689 (AI Act), Amtsblatt-Text (Art. 2, 4, 12, 26, 50, 113; Anhang III Nr. 4 und 5): eur-lex.europa.eu
• Verordnung (EU) 2026/1744 (Digital Omnibus on AI), Amtsblatt-Text (ändert u. a. Art. 4, 50, 111, 113): eur-lex.europa.eu
• Europäische Kommission, AI-Act-Seite: digital-strategy.ec.europa.eu
• Europäische Kommission, Entwurf-Leitlinien Hochrisiko-Einstufung: digital-strategy.ec.europa.eu
• Verordnung (EU) 2022/2554 (DORA): eur-lex.europa.eu
• BaFin, Orientierungshilfe zu IKT-Risiken beim Einsatz von KI (23. Januar 2026), englische Fassung: bafin.de
• FINMA, Aufsichtsmitteilung 08/2024 (Medienmitteilung, 18. Dezember 2024): finma.ch