Im Juni veranstaltete das S-PRO-Team ein Experten-Webinar zum Thema „Wie KI-Chatbots den modernen Arbeitsplatz revolutionieren“. Wir haben uns dabei auf die wachsende Akzeptanz von KI-Chatbots und -Assistenten, ihre Entwicklung, Integrationsherausforderungen und -trends sowie die Möglichkeiten von KI-Technologien für den modernen Arbeitsplatz konzentriert.
Als kleines Extra gaben unsere Redner eigene praktische Ratschläge zur Einführung und Nutzung von KI-Chatbots und präsentierten die jüngsten Fallstudien von S-PRO, die einigen Kundenunternehmen reibungslosere Abläufe ermöglicht haben. Diese Veranstaltung war eine fantastische Gelegenheit, sich mit Experten auf diesem Gebiet auszutauschen. Schließlich arbeitet das S-PRO-Team bereits seit fast fünf Jahren, also noch seit der Zeit vor dem ChatGPT-Hype, mit ML- und KI-Lösungen.
Hier können Sie die Aufzeichnung des Webinars abrufen.
Lernen Sie die Redner kennen:
Dmytro Voitekh
Dmytro Voitekh ist CTO bei S-PRO und Berater für technische und datenbasierte Lösungen mit Schwerpunkt auf KI und ML. Er hat erfolgreich viele Start-ups geleitet, darunter das EdTech-Start-up Chozy, das von Google finanziert wurde und einen Wert von 1 Million US-Dollar erzielte. Er war als ML-Leiter bei einer der maßgeblichen Medienplattformen tätig, die animierte Inhalte für die größten sozialen Plattformen und Messengerdienste bereitstellt. Dmytro spricht häufig auf Konferenzen und Workshops, leitet Mentorensitzungen und gibt sein Fachwissen über maschinelles Lernen und künstliche Intelligenz weiter.
Maksym Golovan
Max Golovan ist der Leiter von S-PRO Niederlande und der Niederlassung in Amsterdam und verfügt über mehr als 10 Jahre Erfahrung in Führungspositionen bei der Geschäftsentwicklung. In seiner derzeitigen Funktion konzentriert er sich auf die Geschäftsentwicklung und Unterstützung zahlreicher Kunden bei der Einführung von KI. Sie können sich gern mit Maksym Golovan auf LinkedIn verbinden.
Chatbots, große Sprachmodelle (LLMs) und Assistenten
Stellen Sie sich vor, Sie versuchen, schnelle Unterstützung für eine Arbeitsaufgabe zu erhalten, und anstatt sich durch endlose FAQs zu klicken, fragen Sie einfach einen Assistenten. An dieser Stelle kommen Assistenten, Chatbots und LLMs ins Spiel.
Chatbots: Mehr als nur einfache Skripte
Die KI-Chatbots, wie Sie sie aus dem Kundensupport kennen, haben sich weiterentwickelt. Sie verlassen sich nicht mehr ausschließlich auf vordefinierte Skripte und Entscheidungsbäume, wie es bei den älteren regelbasierten Systemen der Fall war. Stattdessen nutzen die heutigen KI-Chatbots, wie z. B. die von OpenAI, künstliche Intelligenz, um die Absicht hinter den Nutzerfragen zu verstehen. Das ermöglicht stärker kontextbezogene und personalisierte Antworten.
Große Sprachmodelle (LLMs): Das Gehirn hinter ChatGPT
LLMs sind das Herzstück vieler moderner KI-Chatbots, einschließlich ChatGPT und seiner Alternativen. Diese Modelle werden vorab anhand großer Datenmengen so trainiert, dass sie menschenähnliche Reaktionen erzeugen können. Aber das ist noch nicht alles. Durch die Anpassung der Anweisungen, wie wir sie in ChatGPT sehen, können diese Modelle für die Ausführung spezieller Aufgaben optimiert werden. Sie können Kontext analysieren, Stimmungen erkennen und sogar die nächsten Schritte in einem Gespräch vorhersehen. So können Sie mit einer Technik, die nur wenige Eingaben erfordert, Beispiele für gewünschte Ergebnisse bereitstellen, und die KI-Chatbot-App kann Antworten generieren, die Ihren speziellen Anforderungen entsprechen.
Assistenten und Agenten: Mehr als nur Chatbots
KI-gestützte Assistenten haben das Prinzip der Chatbots auf ein völlig neues Niveau gehoben. Diese Systeme können mehr als nur auf Anfragen reagieren; sie können planen, logisch denken und sogar komplexe Aufgaben basierend auf Ihrem Verhalten ausführen. Stellen Sie sich einen Assistenten vor, der nicht nur Ihre Fragen beantwortet, sondern auch mehrere Aktionen gleichzeitig durchführt. Diese Assistenten verfügen über fortschrittliche Funktionen wie Speicherung, logisches Denken und Aufgabenzerlegung, die es ihnen ermöglichen, komplexe mehrstufige Prozesse auszuführen.
Hauptfunktionen von Chatbots und Assistenten
Wissensrepräsentation vs. Sicherheit und Benutzererfahrung
Bei KI-Chatbots kommt es darauf an, das richtige Gleichgewicht zwischen Wissensrepräsentation, Sicherheit und Benutzererfahrung zu wahren. Dabei muss sichergestellt werden, dass Chatbots intelligente Antworten geben und gleichzeitig vor unangemessenen Manipulationen geschützt sind. Es gab am Anfang viele Möglichkeiten, um ChatGPT zu stören und seine Schutzmechanismen und Sicherheitsbeschränkungen zu umgehen. Die Nutzer konnten unsichere Fragen stellen, was manchmal zu unangemessenen Antworten von ChatGPT führte.
“Das zeigt deutlich, wie anfällig diese Technologien für Manipulationen und Tricks sind. Bei Fällen, die wir noch nicht untersucht haben, ist das Verhalten nicht konsistent. Gleichzeitig wollen wir keine Einbußen bei der Qualität des Modells und bei der Art und Weise, wie es kreativ mit unseren Problemen umgehen kann”, betont Dmytro.
Tools und Integrationen
Eine große Stärke jeder KI-Chatbot-App liegt in ihrer Fähigkeit, sich in unterschiedliche Tools und Plattformen zu integrieren. OpenAI-Chatbots, einschließlich der ChatGPT-Alternativen, verfügen über Integrationen, die es Benutzern ermöglichen, sich mit Websuchen, APIs und Systemen von Drittanbietern wie Wolfram Alpha oder Planungstools zu verbinden.
Retrieval Augmented Generation (RAG)
Retrieval Augmented Generation (RAG) ist eine leistungsstarke Funktion, die herkömmliche Informationssuche mit generativer KI kombiniert, um genauere und kontextbezogene Antworten zu liefern. Ursprünglich erforderte dieser Prozess eine umfangreiche manuelle Kodierung und Einrichtung. RAG ermöglicht es KI-Chatbots, effizient auf bestehende Datenquellen zuzugreifen, um hochwertige Antworten zu generieren.
Personalisierung
Die Personalisierung ermöglicht es KI-Chatbots wie ChatGPT, ihre Antworten auf der Grundlage gespeicherter Benutzerpräferenzen und früherer Interaktionen anzupassen, wodurch jede Interaktion relevanter wird. Durch die Nutzung dieser gespeicherten Konversationen können sich Chatbots im Laufe der Zeit anpassen und ermöglichen so eine spezifischere Unterstützung für die Benutzer.
Multimodalität
Die Multimodalität ermöglicht es KI-Chatbots, Eingaben und Ausgaben in verschiedenen Formaten zu verarbeiten, als Text, Audio, Bilder und sogar Videos. So können Benutzer beispielsweise eine zusammenfassende PDF-Datei hochladen oder Sprachbefehle verwenden. Ein gutes Beispiel wäre auch ein Bild mit einer Rechnung, das Sie mit OCR bearbeiten möchten.
No-Code- und Low-Code-Tools
No-Code- und Low-Code-Tools wie Azure AI Studio ermöglichen es Benutzern, auch ohne Programmierkenntnisse Chatbots zu entwerfen und einzusetzen. Diese Plattformen ermöglichen den Aufbau komplexer Arbeitsabläufe und Integrationen mit visuellen Schnittstellen.
Anwendungsfälle für KI-Chatbots bei S-PRO
Es gibt viele Anwendungsfälle für KI-Chatbots, aber wir möchten die hervorheben, die wir bei S-PRO verwenden und die sich in der Praxis bewährt haben.
Interne Informationsbeschaffung
Wir verfügen über eine Reihe interner Tools und KI-Chatbots für die interne Informationsbeschaffung, die Retrieval Augmented Generation (RAG) nutzen. Diese Tools unterstützen dabei, spezielle Angaben in Dokumentationen, internen Prozessen und Projekten zu finden. Sie unterstützen außerdem unser Pre-Sales-Team bei der Suche nach ähnlichen früheren Gelegenheiten, die als Referenz dienen können, und verbessern so die Effizienz und die Ergebnisse.
Produktivitätstools
KI-Chatbots steigern die Produktivität, indem sie eine Verbindung zu Datenquellen wie Google Calendar, E-Mails und Aufzeichnungen von Meetings herstellen. Sie geben Empfehlungen ab, fassen Aktivitäten zusammen und schlagen Aufgaben vor. Zum Beispiel integriert die Verwendung einer KI-Chatbot-App wie Gemini diese Dienste standardmäßig und gewährleistet gleichzeitig den Datenschutz.
Allgemeiner KI-Assistent
Als allgemeine Unterstützung können KI-Chatbots wie GPT-4 Fragen zu unterschiedlichen Tools und Bereichen beantworten. Sie können einen Mangel an präzisen Schlüsselwörtern ausgleichen, indem sie abstrakte Suchanfragen in genaue Suchergebnisse umwandeln. Diese Funktion hilft Benutzern dabei, Artikel oder Informationen zu finden, die sich mit herkömmlichen Suchmaschinen nur schwer finden lassen.
Tools zum Überwachen von Medien
KI-Chatbots können Medien auf Erwähnungen Ihrer Marke, Ihrer Mitbewerber oder auf Branchentrends überwachen. Sie analysieren Stimmungen, verfolgen das Engagement und liefern Erkenntnisse für Marketingstrategien. Diese Echtzeitüberwachung hilft Unternehmen dabei, der Konkurrenz einen Schritt voraus zu sein und schnell auf die öffentliche Meinung zu reagieren.
Planung von Geschäftsprozessen
KI-Chatbots helfen bei der Planung von Geschäftsprozessen, indem sie Daten analysieren, Engpässe erkennen und Verbesserungen vorschlagen. Sie können unterschiedliche Szenarien simulieren, um Ergebnisse vorherzusagen und die beste Vorgehensweise zu empfehlen. Diese Fähigkeit unterstützt Unternehmen dabei, ihre Betriebsabläufe zu optimieren und fundierte Entscheidungen zu treffen.
KI-unterstütztes Coding
In unserem Unternehmen nutzen die Techniker KI-Chatbots wie GPT-4 zur Unterstützung bei der Programmierung. Teamleiter und Entwickler bevorzugen KI-Unterstützung auf Abruf für Aufgaben wie die Refakturierung von Code oder die Zusammenfassung von Dateiinhalten. Dieser Ansatz steht im Gegensatz zur kontinuierlichen automatischen Vervollständigung wie bei GitHub Copilot und sorgt für mehr Kontrolle darüber, wann und wie KI-Unterstützung eingesetzt wird.
Erstellung von Inhalten und Copywriting
KI-Chatbots sind von unschätzbarem Wert für die Erstellung von Inhalten und das Verfassen von Werbetexten, insbesondere im Marketing. Tools wie Gemini und ChatGPT werden für die Erstellung von Textinhalten geschätzt. Einige Teammitglieder nutzen zudem künstliche Intelligenz, um Bilder für Beiträge zu generieren, indem sie Plattformen wie DreamStudio von Stability AI nutzen.
Automatisierung von Vertriebskampagnen
KI-Chatbots optimieren die Vertriebsreichweite, indem sie den Prozess der Kontaktaufnahme mit potenziellen Kunden automatisieren. Sie können Nachrichten personalisieren, Nachfassaktionen planen und Reaktionen analysieren, um die Strategien zur Einbindung zu verbessern.
"Aber ich verwende dafür speziellere Tools, wie DreamStudio von Stability AI oder andere dedizierte KI-basierte Programme. Diese ermöglichen eine genauere Bearbeitung und Eingabeaufforderung als die Textleiste von ChatGPT", sagt Dmytro.
Hinweise zur Übernahme und Nutzung
Um KI-Chatbots erfolgreich und problemlos in Ihr Unternehmen zu integrieren, sollten Sie diese sechs bewährten Verfahrensweisen beachten:
- Entscheiden Sie sich für vertrauenswürdige Lösungen.
- Schulen Sie Ihr Team.
- Sammeln Sie Feedback.
- Überwachen Sie die Betriebskosten.
- Passen Sie bei Bedarf an.
- Diversifizieren Sie die Anbieter.
Herausforderungen und Zukunftstrends
Herausforderungen
Halluzinationen, begrenzte Kapazität
Eines der größten Probleme bei KI-Chatbots sind Halluzinationen, bei denen sie falsche oder nicht existierende Informationen oder Objekte generieren.
Dmytro Voitekh betont, “If fine-tuning models isn't possible, provide as many different knowledge bases or just databases as an entry point for your chatbot, so it will be able to contextualize the queries as much as possible.”
Vertrauenswürdigkeit bei LLMs
Eine weitere Herausforderung ist die Vertrauenswürdigkeit von KI-Chatbots, insbesondere von solchen, die wie OpenAI-Chatbots große Sprachmodelle (LLMs) nutzen. Zuverlässigkeit lässt sich gewährleisten, indem man die Hauptrisiken offenlegt, LLM-Richtlinien, Arbeitsabläufe und Standards formalisiert und bewährte Verfahren befolgt.
KI-Regulierung
Schon bald werden Bots, die künstliche Intelligenz nutzen, mit KI-Regulierungen konfrontiert werden. Vor kurzem wurde die EU-Verordnung über künstliche Intelligenz angenommen und wird bald in Kraft treten. Diese Verordnung befasst sich mit den Risiken, die mit KI-Anwendungen verbunden sind. Jede KI-Anwendung, einschließlich der KI-Chatbot-Apps, wird auf der Grundlage von Kennzahlen und Richtlinien, die von europäischen Behörden festgelegt wurden, klassifiziert werden. Außerdem gibt es den „Blueprint for an AI Bill of Rights“ der amerikanischen Regierung, der für die KI-Welt ebenfalls von entscheidender Bedeutung ist.
Trends
Geräteassistenten und SLMs
Unserer Meinung nach ist einer der interessantesten Trends bei KI-Chatbots die Entwicklung von kleinen Sprachmodellen (Small Language Models, SLMs) und KI-Assistenten auf dem Gerät. Im Gegensatz zu großen Sprachmodellen sind SLMs so konzipiert, dass sie auch auf Geräten mit begrenzten Ressourcen effizient laufen können.
Maschinelles Lernen auf dem Gerät ist nicht neu, aber die Einführung verlief bislang schleppend. Die jüngste Präsentation von Apple auf der WWDC stellte neue KI-Funktionen auf dem Gerät in den Mittelpunkt, die die Akzeptanz und Leistung von ML auf dem Gerät erheblich steigern könnten.
S-PRO-Fallstudien
Compliance Aspekte
Das Tool „Compliance Aspekte“ automatisiert die Interaktion von Benutzern mit GRC-Lösungen und steigert so die Effizienz und Genauigkeit. Es liefert umsetzbare Ratschläge, indem es Compliance-Standards und -Beispiele kodiert, sodass Benutzer ihren Compliance-Status verstehen können. Das Tool verfügt über eine flexible Benutzeroberfläche mit Zusammenfassungen, Links und Vorschlägen, die auf spezielle Compliance-Anfragen zugeschnitten sind.
TravelPlanBooker
TravelPlanBooker nutzt künstliche Intelligenz, um personalisierte Reiserouten zu erstellen, die auf den Präferenzen der Nutzer basieren, wie z. B. familiären Bedürfnissen oder Interessen an Aktivitäten. TravelPlanBooker lässt sich mit externen APIs integrieren, um Flüge, Unterkünfte und Aktivitäten zu buchen und so den gesamten Reiseplanungsprozess zu optimieren. Das verbessert die Benutzererfahrung, da Abfragen in natürlicher Sprache für Reisevorschläge möglich sind, wodurch dies intuitiver und benutzerfreundlicher wird.
KI-Assistent für den E-Commerce
Dieser KI-gestützte Assistent (NDA-Client) ist in der Lage, Produkte von unterschiedlichen E-Commerce-Plattformen über eine einzige Schnittstelle zu suchen, zu empfehlen und zu vergleichen. Er nutzt NLP, um die Benutzeranfragen zu verstehen und maßgeschneiderte Produktvorschläge auf der Grundlage von Präferenzen und früheren Interaktionen zu unterbreiten. Die Integration mit unterschiedlichen E-Commerce-APIs ermöglicht Preisvergleiche, Verfügbarkeitsprüfungen und reibungslose Buchungs- oder Kaufoptionen in Echtzeit.