KI‑Lösung für den Compliance‑Bereich

Sie vereinfacht die Vorbereitung auf Zertifizierungen erheblich, indem sie die Dokumentation organisiert, Assets auflistet, die Interaktionen zwischen den Assets spezifiziert, die Risiken und die Eigentümer der Assets beschreibt und die Möglichkeit bietet, die Dokumentation zu Richtlinien und bestehenden Prozessen in das System zu integrieren. Die Plattform wird jetzt als SaaS-Produkt angeboten.

Alle Algorithmen waren regelbasiert, und die Plattform verfügte über einen einfachen Chatbot, der nur eine kleine vordefinierte Liste von FAQs beantworten konnte.

Generell lief das so ab: Der Kunde beschrieb seine Assets (Räumlichkeiten, digitale Vermögenswerte, Beschäftigte, Prozesse usw.), für die jeweils bestimmte Anforderungen nach einem bestimmten Standard gelten würden. Zum Beispiel nannte ein Benutzer dem System Assets für die IT-Grundschutz-Zertifizierung. Dann glich das System je nach Art der Assets relevante Abschnitte des IT-Grundschutzes ab, zum Beispiel Abschnitte, die sich auf Gebäude beziehen. Der Abschnitt „Allgemeines Gebäude“ des IT-Grundschutzes enthält eine Reihe von Unterabschnitten mit bestimmten Anforderungen (z. B. „Allgemeines Gebäude Planungssicherheit“). Ein Benutzer, der sich auf die Compliance-Umsetzung vorbereitete, erstellte eine Liste mit Aufgaben, die sich auf jeden Abschnitt des IT-Grundschutzes bezogen, und leitete sie zur Ausführung an DevOps, Administratoren und Führungskräfte weiter.

KI-Kopilot-Implementierung

• Die Compliance Aspekte-Plattform, die zuvor auf regelbasierten Algorithmen und einem einfachen Chatbot basierte, hat ein fortschrittliches KI-Kopilot-System implementiert.
• Der Kopilot beantwortet nicht nur Fragen, sondern interagiert auch mit Plattform-Entitäten, verwaltet Benutzeraufgaben und liefert kontextbezogene Anleitungen für die Konformitätszertifizierung.

Verbesserte Funktionalitäten

• Organisiert Unternehmensassets und -dokumentationen zur Einhaltung von Standards wie DSGVO, ISO 27001 und IT-Grundschutz.
  Erzeugt automatische Aufgaben, die auf spezielle Standards abgestimmt sind, und synchronisiert sie mit Aufgabenmanagern wie Jira.
• Dient als universeller Compliance-Assistent, beantwortet Fragen zu unterschiedlichen Standards und schlägt umsetzbare Aufgaben vor.

Benutzerfreundliche Funktionen

• Ermöglicht Benutzern das Hochladen von Richtlinien und Prozessen als Dokumente, die für eine einfache Suche und Zusammenfassung indiziert werden können.
• Ermöglicht es Benutzern, zertifizierungsbezogene Fragen über einen KI-gestützten Chatbot zu stellen, mit Plänen zur Unterstützung von Links, Anhängen und Screenshots.

Geschäftsauswirkungen

• Reduziert den manuellen Arbeitsaufwand und die Abhängigkeit von Einsteigern im Bereich Compliance erheblich.
• Veröffentlichung des Kopilot-Systems im September 2023. Die Vorstellung auf der it-sa-Konferenz weckte Interesse bei großen Unternehmen aus verschiedenen Branchen wie Telekommunikation, Ingenieurwesen, Fertigung und Bankwesen.

Herausforderungen und Lösungen

• Bewältigung von Herausforderungen bei der Einarbeitung in den neuen Bereich und Behebung technischer Einschränkungen der OpenAI-API.
• Technische Einschränkungen wurden durch Leistungsoptimierung mittels Zwischenspeicherung, umfassendem Prompt-Tuning und Echtzeitüberwachung überwunden.

Davor war der Chatbot auf einem der wichtigsten SaaS-Chatbot-Anbieter aufgebaut. Es wurde kein fortschrittliches LLM verwendet, und die Fähigkeiten des maschinellen Lernens waren primitiv und begrenzt. Der Chatbot diente nur zur Unterstützung, z. B. wenn ein Benutzer nicht wusste, wie er ein neues Asset oder eine neue Aufgabe erstellen sollte. Der Bot beantwortete Fragen, aber nicht immer korrekt und sachdienlich.

Wir schlugen vor, den Chatbot in ein Kopilot-System umzuwandeln, das nicht nur Fragen beantwortet, sondern auch mit den Entitäten der Plattform interagiert und es den Benutzern ermöglicht, sie über die Chatbot-Schnittstelle zu verwalten. Das Kopilot-System erfasst den gesamten Kontext und alle Anforderungen, erkennt, wo genau auf der Seite sich der Benutzer befindet, und gibt Aufgaben vor, die zu erledigen sind, um eine Zertifizierung zu erhalten. Ein Benutzer kann außerdem die mit einem Asset verknüpfte Dokumentation in das System hochladen.

Der Chatbot kann Aufgaben gemäß den Anforderungen eines speziellen Standards oder einer speziellen Vorschrift generieren. Der Benutzer stellt die Assets und die Anforderungen bereit, und das System erstellt einen Aktionsplan, um diese Anforderungen zu erfüllen.

Wenn ein Unternehmen über Richtlinien und beschriebene Prozesse für ein bestimmtes Asset verfügt, können sie als Dokumentensatz in das System hochgeladen werden. Das System indexiert diese Dokumente und ermöglicht es dem Benutzer, sie zu durchsuchen und Fragen zu stellen. Der Chatbot findet dann die relevanten Teile von Dokumenten und fasst den Inhalt zusammen oder gibt eine Liste von Maßnahmen aus, die ergriffen werden müssen, um die Compliance zu gewährleisten. Benutzer können über den Chat Fragen zur Zertifizierung stellen. Eine Unterstützung für Links, Anhänge und Screenshots wird in Kürze hinzugefügt.

Das Chatbot-System ist zudem ein universeller Compliance-Assistent, d. h. es kann Fragen zu unterschiedlichen Standards beantworten. Wenn ein Unternehmen beispielsweise über mobile Geräte verfügt, möchte der Benutzer möglicherweise wissen, welche regulatorischen Anforderungen für mobile Geräte relevant sind. Das System ist in der Lage, relevante regulatorische Anforderungen abzuleiten und umsetzbare Aufgaben vorzuschlagen, um Compliance-Probleme zu beheben.

Im Wesentlichen haben wir ein Kopilot-System geschaffen, das bis zu einem gewissen Grad die Aufgaben eines Compliance-Beraters übernimmt, aber zu wesentlich niedrigeren Kosten.

Ein Benutzer kann einem KI-Chatbot die Fragen stellen, die er normalerweise einem Experten stellen würde, und erhält relevante und aufschlussreiche Antworten. Und selbst wenn unsere KI bestimmte Szenarien noch nicht bewältigen kann, ist Compliance Aspekte immer in der Lage, kompetente und erfahrene Berater vorzuschlagen. Tatsächlich dient das Kopilot-System als First-Level-Support und reduziert den manuellen Arbeitsaufwand und den Einsatz von Einsteigern.

Einarbeitung in das Produkt

Eine große Herausforderung bestand darin, sich in das Produkt einzuarbeiten und sich ein klares Bild von seinen Komponenten und Zusammenhängen zu machen. Um die Lösung zu entwerfen und umzusetzen, war es notwendig, zu verstehen, wie die Compliance-Dokumentation normalerweise arrangiert, verwendet und aktualisiert wird. Unser Team hat bei der Arbeit an diesem Projekt viel gelernt und nutzt die gewonnenen Erkenntnisse für unsere eigene ISO 27001/27002-Zertifizierung.

Technische Einschränkungen des LLM-Anbieters

Die zweite Herausforderung bestand darin, die technischen Einschränkungen des LLM-Anbieters (in unserem Fall OpenAI) zu überwinden. Einige der Prompts und Anfragen sind ziemlich umfangreich, und es dauert lange, sie zu bearbeiten. Dies wirkt sich auf die Leistung des Systems aus. Daher ist es immer wichtig, eine Echtzeit-Leistungsüberwachung mit Warnmeldungen und Messwerten einzurichten, um sicherzustellen, dass der Service wie erwartet funktioniert. Immer mehr Benutzer steigen auf OpenAI und andere LLM-SaaS-Lösungen um, was die Anfragelast erheblich vergrößert und gelegentlich die Rechenressourcen erschöpft. Das macht Skalierungen schwieriger. Vor diesem Hintergrund ist es für das Unternehmen von entscheidender Bedeutung, den LLM-Anbieter nicht nur unter Berücksichtigung der Qualität, sondern auch der Leistung auszuwählen und sich angemessene Nutzungsquoten zu sichern. Außerdem haben wir einige Optimierungen vorgenommen, um die Leistung zu verbessern, indem einige der bereits verarbeiteten Daten zwischengespeichert werden. So können sie einfach wiederverwendet werden, ohne dass erneut das LLM eingebunden werden muss. Und natürlich haben wir ein umfangreiches Prompt-Tuning durchgeführt.

Die KI unterstützt Benutzer bei der Verfolgung und Analyse des Compliance-Fortschritts

Sie hilft Benutzern bei der Erstellung von Aufgaben-Checklisten

Dies vereinfacht die Navigation auf der Plattform und unterstützt die Benutzer bei der Suche nach Dokumenten.

Wir haben eine umfassende KI-Lösung für den Bereich Compliance entwickelt, die sich bereits in verschiedenen Branchen wie Telekommunikation, Ingenieurwesen, Fertigung und Bankwesen als effizient erwiesen hat. Der von S-PRO entwickelte und implementierte KI-Kopilot erweitert das Potenzial von Compliance Aspekte und eröffnet dem Benutzer neue Möglichkeiten. Die KI unterstützt die Benutzer bei der Verfolgung und Analyse des Compliance-Fortschritts und hilft ihnen bei der Erstellung von Aufgaben-Checklisten.

Wie ein sachkundiger Berater stellt die KI außerdem aufschlussreiche Fragen, um die Prozesse eines Unternehmens zu verstehen, und nutzt diese Informationen später, um Vorschläge dazu zu machen, wie die Anforderungen umgesetzt oder Bedrohungen angegangen werden können. Außerdem wird die Navigation auf der Plattform vereinfacht und der Benutzer bei der Dokumentensuche unterstützt.

Der Kopilot wurde im September 2023 zum Einsatz freigegeben, auf der bekannten it-sa-Konferenz vorgestellt und hat bereits das Interesse einiger großer Unternehmen geweckt.