Conversational AI: Hype und Herausforderungen

Lesezeit
4 Minuten
Bis jetzt gelesen

Conversational AI: Hype und Herausforderungen

22.11.2023 - 07:28
Veröffentlicht in:

Wir erleben seit Monaten einen beispiellosen Hype um Conversational AI, getrieben von ChatGPT und Co. Heute ist klar: Diese Technologie wird die Geschäftswelt verändern. Unternehmen sind daher mit drängenden Fragen konfrontiert, wie sie KI in den Arbeitsalltag integrieren können. Datenschutz, Domänenwissen und Kontrollverlust sind nur einige der Herausforderungen. Doch es gibt Ansätze und Werkzeuge, um das volle Potenzial von Conversational AI im Unternehmen auszuschöpfen.

Der Riesenhype um ChatGPT lässt nach, jetzt geht es an die Arbeit. Das Rennen um Conversational AI (CAI) im Business-Kontext ist in vollem Gang. Weltweit arbeiten Unternehmen daran, CAI zu integrieren, mit internen Firmendaten zu füttern und sicher zu nutzen. Denn darum geht es: Sicher und kontrolliert Mehrwerte und Effizienzgewinne zu erzielen, ohne dass sensible Informationen, mit denen die AI arbeitet, in fremde Hände fallen.

Geldinstitute aus den USA investieren massiv in die neue Technologie. Bei der Investmentbank Morgan Stanley etwa hat der Roll-out bereits begonnen. Schritt für Schritt erhalten die etwa 16.000 Vermögensverwalter und Anlageberater der Bank Zugang zum firmeninternen Chatprogramm GPT-4 von OpenAI. Die Bank gehört zu den Early Adoptern und will sich dadurch einen der vorderen Plätze im Wettbewerb um die besten KI-Systeme sichern. Mitarbeiter von Morgan Stanley nutzen das firmeneigene GPT-4 zum Beispiel, um Fragen zu bestimmten Aktien oder zu internen Prozessen zu beantworten.

In Deutschland setzt der Industriekonzern Bosch stark auf KI. Die Mitarbeiter von Bosch sollen demnächst eine Art ChatGPT zur Unterstützung bei ihrer Arbeit bekommen. Gemeint ist ein auf Künstlicher Intelligenz basierendes Sprachmodell – auch Large Language Model (LLM) genannt – das natürliche Sprache versteht und selbst Texte generieren kann. "Wir werden spätestens bis zum Jahresende ein eigenes BoschGPT am Start haben und es für alle Mitarbeiter freischalten", verspricht Bosch-Geschäftsführerin Tanja Rückert. Bosch arbeitet dabei mit dem Heidelberger KI-Startup Aleph Alpha zusammen.

Deutsche Wirtschaft KI-begeistert, aber zögerlich
Die deutsche Wirtschaft drückt in Sachen KI/CAI seit diesem Jahr stärker aufs Gaspedal, wie der Digitalverband Bitkom festgestellt hat. Rund zwei Drittel sehen KI als die wichtigste Zukunftstechnologie und prognostizieren großes Gewinnpotenzial für das eigene Unternehmen. Besonders rund um Text und Sprache trauen 68 Prozent der Unternehmen der KI eine ganze Menge zu. Der Bitkom hat 605 Unternehmen ab 20 Beschäftigten aus allen Branchen in Deutschland befragt; die Umfrage sei repräsentativ.

Fest steht aber auch: Trotz aller Euphorie und Begeisterung setzen nur zwei Prozent generative KI zentral in ihrem Unternehmen ein, weitere 13 Prozent planen dies. Bitkom-Präsident Ralf Wintergerst zieht daraus den Schluss: "An der Diskrepanz zwischen Wissen und Handeln müssen deutsche Unternehmen dauerhaft arbeiten. Damit Deutschland bei KI dauerhaft Fahrt aufnimmt, müssen Unternehmen ihre Anstrengungen und auch Investitionen weiter verstärken".

Sicherheitsrisiken und die Sorge um Kontrollverlust lässt Unternehmen zögern, wenn es um die Umsetzung konkreter KI-Projekte in der unternehmerischen Praxis geht. Die Sorgen sind teils berechtigt, teils aber auch unbegründet, denn es wird allenthalben an funktionsfähigen Produkten für den sicheren und kontrollierten Einsatz von generativer KI im Unternehmenskontext gearbeitet.

Wichtig bei der Auswahl für ein entsprechendes Werlzeug sind vor allem zwei Aspekte: Leistungsfähigkeit des KI-Modells und Datensicherheit in einer geschlossenen Umgebung. Wenn beides gut umgesetzt ist, kann eine KI unternehmensinterne Informationen wie Handbücher, Dokumentationen, Kundendaten oder Archive sicher, compliant und rechtegeschützt in den Dialog einbinden.

valantics KI-Lösung NLyou verarbeitet unternehmensinterne Daten, extrahiert die Fakten und transformiert sie als Vektoren in eine Vektorendatenbank.
valantics KI-Tool NLyou verarbeitet unternehmensinterne Daten, extrahiert die Fakten und transformiert sie als Vektoren in eine Vektorendatenbank.
 

Damit eine derart gelagerte KI relevantes Wissen bestmöglich "suchen" kann, müssen die Inhalte suchoptimiert abgespeichert und störende Elemente oder Inhalte minderer Qualität vorab identifiziert und aufbereitet werden.

Ist das unternehmensinterne Domänenwissen auf diese Weise an den Chatbot angebunden, lassen sich Fragen zum Beispiel nach Compliance-Richtlinien, Policies oder technischen Wartungsdetails schnell, sicher und in verständlicher Sprache beantworten, ohne hunderte von Seiten in umfangreichen Dokumentationen oder Archiven durchforsten zu müssen.

Außerdem können über eine CAI-Plattform eine Vielzahl von Kommunikationskanäle bespielt und gängigen Backend-Systeme wie CRM, HR, ERP, SAP, Oracle, Microsoft, zendesk, Salesforce, UiPath und weitere angebunden.

 

KI-Einsatzszenarien mit Mehrwert: eCare-Chatbot von Toyota
Das interne Domänenwissen eines ganzen Unternehmens kontrolliert nutzbar zu machen und Mehrwert zu generieren, das ist das Ziel – zum Beispiel in der Kundenberatung und im -support. Der Autohersteller Toyota setzt einen eCare-Chatbot ein, der sich seit einigen Monaten im praktischen Einsatz befindet. Der Chatbot hilft Autofahrern weiter, wenn auf dem Armaturenbrett rote Warnlampen aufleuchten. Dieser ruft Toyota-Kunden bereits wenige Sekunden nach Auftreten des Notfalls an, gibt praktische Handlungsempfehlungen und informiert, falls es sich um einen kritischen Vorfall handelt, auch die Toyota-Werkstatt des Kunden, damit Reparaturen vorbereitet und schnell ausgeführt werden können.

Helvetia: KI in Kundenservice und -support
Die Anwendungsszenarien für KI sind vielfältig. Auch die Schweizer Versicherung Helvetia nutzt CAI-Technologien im direkten Kundenkontakt. Der Service hat bislang noch experimentellen Charakter und soll Kundenanfragen zu Versicherungsprodukten und Vorsorgeleistungen beantworten. Kunden und Interessierte müssen nicht lange warten, sondern werden schnell und umfassend beraten. "Bei der Automatisierung von Kundendialogen stehen große Entwicklungsschritte bevor, bei Versicherungen zum Beispiel bei der Aufnahme von Schadensmeldungen und in der Betrugserkennung. Gleichzeitig gibt es viele Anwendungsmöglichkeiten innerhalb der Unternehmen und im Gesundheitswesen. Beispielsweise ließe sich ein Chatbot nutzen, um Anfragen an die HR-Abteilung zu beantworten oder um Krankheitssymptome zu diagnostizieren", urteilt die Schweizer Chatbot-Expertin Sophie Hundertmark.

Krankenversicherte warten oft monatelang, um einen Termin bei einem Spezialisten zu erhalten. Ein Gesundheits-Chatbot, der die persönliche Krankenhistorie des Patienten kennt, kann auf Grundlage der bereits vorliegenden Befunde aktuelle Symptome einschätzen und prophylaktische Maßnahmen empfehlen.

KI-Innovationen von Microsoft
Das Rennen um KI-Anwendungen im Business-Umfeld ist in vollem Gang. Der Cloud-, Windows- und Office-Konzern Microsoft, hinter Apple der zweitwertvollste Softwarekonzern der Welt, brachte dieses Jahres seinen Microsoft 365 Copilot für Unternehmenskunden an den Start. Copilot ist ein digitaler KI-Assistent, der Anwendern der Office-Produkte Word, Excel, Powerpoint und Outlook die Arbeit wesentlich erleichtern und viele Arbeitsstunden einsparen soll. Microsoft Copilot kreiert beispielsweise Outlook-Antworten auf Basis der Gesprächshistorie, entwirft überzeugende PowerPoint-Präsentationen und schreibt Textentwürfe in Word auf Basis eines Prompts. Interne Unternehmensdaten, Dateien, Spreadsheets, Mails und weitere werden – laut Microsoft – über Microsoft Graph eingebunden. Graph ist auch für die Rechtevergabe für bestimmte Personengruppen zuständig, sodass keine Informationen in unbefugte Hände fallen können.

Fazit
Sorgen um die Datensicherheit und Kontrollverluste, die deutsche Unternehmen bislang davon abhalten, stärker in KI-Projekte zu investieren, sind also teils berechtigt, teils unbegründet. Es gibt bereits Werkzeuge, die sensible Unternehmensinformationen und spezifisches Domänenwissen in den Dialog mit Chatbots integrieren, um dadurch unternehmerischen Mehrwert zu generieren. Um keine Wettbewerbsnachteile zu erleiden, sollten Unternehmen zeitnah damit beginnen, ihre Anstrengungen und Investitionen in KI – strategisch ausgerichtet an den Unternehmenszielen – zu forcieren.

ln/Daniel Völker, Teamlead Data Science & Conversational AI bei valantic

Ähnliche Beiträge

KI-Infrastrukuren aus der Cloud

Kein IT-Verantwortlicher kommt aktuell um die Frage herum, wie und ob das Unternehmen auf den KI-Zug aufspringen kann. Gegenwärtig konzentriert sich die Fähigkeit, selbst KI-Anwendungen auf die Beine zu stellen, auf Konzerne, Forschungsinstitute und üppig finanzierte Startups, da eine entsprechende Infrastruktur sehr teuer ist. Mit KI-Clouds kommt ein Gegentrend auf. Unser Fachartikel erklärt, was es mit diesen Angeboten auf sich hat.

ChatGPT-gestütztes Phishing erkennen und abwehren

Der kometenhafte Aufstieg von ChatGPT ist die jüngste Entwicklung im konstanten Wettrüsten zwischen Cyberangreifern und -verteidigern. Leichter als je zuvor lassen sich nun täuschend echte Phishing-Nachrichten erzeugen. ChatGPT-Attacken sind dennoch nicht die ultimative Hiobsbotschaft für Sicherheitsverantwortliche, die selbst auf KI setzen: Large Language Models erkennen derart generierte Texte und schützen so Unternehmen und Mitarbeiter.
Drei zentrale Herausforderungen für das Datenmanagement Redaktion IT-A… Mi., 28.02.2024 - 08:43
Daten sind ein unverzichtbarer Vermögenswert für Unternehmen geworden. Für ITAdministratoren bedingt dies, neben fundamentalen Datenmanagement-Anforderungen, Veränderungen in den Bereichen Organisationsstruktur, Kultur und Leadership sowie Rollen und Skills voranzutreiben. Der Fachartikel zählt die drei größten Herausforderungen auf, vor denen Organisationen in Bezug auf Datenmanagement stehen.