Integration von ChatGPT in Microsoft 365

Aaron Morva |

12. April 2023 |

ChatGPT, der Prototyp eines Chatbots, der auf maschinellem Lernen beruht, ist in aller Munde und dessen Funktionsumfang entwickelt sich rapide weiter. Es stellt sich also nicht die Frage, ob ChatGPT in den Geschäftsalltag integriert wird, sondern wie es am besten integriert werden kann, um eine möglichst hohe Effizienz und Effektivität für das Unternehmen zu erlangen. Dafür braucht es die Expertise von Dienstleistern und Beratern wie uns, die Sie dabei unterstützen, ChatGPT gewinnbringend für sich zu nutzen.

Einen Ansatz stellt unsere ChatGPT und Power Platform Symbiose dar, durch die wir spielend leicht die empfangenen Daten von ChatGPT in unserem Microsoft 365 Umfeld weiterverwenden können. So lassen sich zukünftig Antworten der Künstlichen Intelligenz (KI) hinsichtlich Ihrer Qualität und Integrität von Experten Ihres Unternehmens bewerten, um sicherzustellen, dass die Antworten auf Richtigkeit überprüft werden.

Welche Vorteile ergeben sich aus der Integration von ChatGPT in M365?

ChatGPT ist eine natürlichsprachliche Technologie, die es Unternehmen ermöglicht, sich leistungsstärkere und schnellere Datenanalysewerkzeuge zunutze zu machen. Durch die Integration in Microsoft 365 (M365) ergeben sich viele Vorteile für Unternehmen, darunter:

Anlegen einer Wissensdatenbank: Durch die Integration von ChatGPT in M365 können Unternehmen eine individuelle Wissensdatenbank erstellen, die die Interaktion der Benutzer mit ChatGPT skaliert und für spätere Verwendung erneut verfügbar macht. Dadurch stellen Unternehmen sicher, dass sie sich auf eine Datenbank verlassen können, die immer aktuelle ist.
Antworten hinsichtlich ihrer Qualität bewerten: Antworten sollten hinsichtlich ihrer Qualität unter den Gesichtspunkten der fachlichen Expertise der Mitarbeiter Ihres Unternehmens bewertet werden. Dadurch ist sichergestellt, dass alle Antworten die, in der Wissensdatenbank verarbeitet und gespeichert wurden, korrekt, verständlich und nützlich sind.
Wiederverwendung von Antworten: ChatGPT ermöglicht es Unternehmen wiederholt Antworten mit guter Qualität zu verwenden. Alle Antworten, die zutreffend sind und einen Mehrwert bieten, sind über die Wissensdatenbank erneut aufrufbar und wiederverwendbar. Dies spart Zeit und Aufwand.
Dynamischere und präzisiere Vorhersagen: Mit dem Einsatz von ChatGPT können Unternehmen ihre Vorhersagen dynamischer und präziser gestalten. Die Integration in M365 ermöglicht es Unternehmen die Ergebnisse der Datenanalyse in Echtzeit anzuzeigen und sofort auf Änderungen zu reagieren.

Lösung zur Integration von ChatGPT in M365

Ausgehend von dem Wissen, dass die meisten Unternehmen heutzutage Technologien und Funktionalitäten von Microsoft für ihr Business verwenden, haben wir eine Lösung kreiert, die genau darauf aufbaut und als Fundament die Power Platform Funktionalitäten nutzt, um eine individuelle Chatbot Erfahrung innerhalb der M365 Welt zu ermöglichen. Das entstandene Minimum Viable Product (MVP) kann Anfragen an ChatGPT übergeben und Antworten direkt aus M365 Power Apps zurück überführen. Bis hierhin keine sonderlich große Überraschung, denn das Chatten aus einem neuen Interface heraus mag nett sein, bietet aber nur einen geringfügigen Mehrwert. Die wahre Stärke liegt darin, dass die nun in M365 überführten Antworten zur weiteren Verwendung genutzt werden können. Als technische Grundlage für die Nutzung des Bots verwenden wir bei dieser Lösung Microsoft Power Apps, Power Automate und SharePoint. Mit Hilfe von Power Apps erstellen wir dann den Part der Prozesslogik, um als Schnittstelle zwischen Bot und Power Apps zu fungieren. Zu guter Letzt nutzen wir zum Speichern und Teilen der Daten Microsoft SharePoint als Datenbank.

Wie sieht die Geschäftslogik des Workflows aus, um die Antworten des Bots in Microsoft zu überführen?

Folgende Abbildung illustriert welche Schritte erforderlich sind, um die Antworten des Bots in unsere Low Code Applikation integrieren zu können:

Integration Microsoft 365 und Chat GPT 1

Unser Workflow wird durch eine Aktion aus der App heraus getriggert und führt dann die Folgeschritte aus. Zuerst wird eine http-Anfrage an unsere API, die wir bei openai.com erstellt haben, gesendet. In dem Körper unserer Anfrage geben wir die gewünschten Parameter für die Anfrage an. Diese haben einen Einfluss auf die Performance der Operation, welche durch unsere Anfrage ausgeführt wird. Somit lassen sich Antwortlänge und Präzision der Antwort bestimmen. Nach erfolgreicher Anfrage erhalten wir einen Antwortkörper zurück und bringen diesen in ein für uns passendes Format, um dieses angepasste Format, welches die Antwort von ChatGPT beinhaltet in unsere App zu übermitteln.

In der App sehen Benutzer und Benutzerinnen dann ihren Konversationsverlauf mit der KI.

Integration Microsoft365 und Chat GPT 2

Neben dem Senden von Anfragen durch die Texteingabe und der Bestätigung dieser mittels „Ask-Buttons“, haben Benutzer und Benutzerinnen die Optionen bereits erhaltene Antworten mit Hilfe der „bookmark“ Option zu sichern.

Die „Power Platform“, Microsofts Lösung einer Low Code Plattform, bildet eine ideale Entwicklungsumgebung, um die Idee der Integration von ChatGPT in Microsoft 365 zu realisieren, denn der Low Code Ansatz ist um ein Vielfaches schneller als der gewöhnliche Programmierungsansatz. Vorgefertigte Komponenten und die visuelle Führung bei der Programmierung führen dazu, dass Apps deutlich schneller und flexibler realisiert werden können.

{% video_player “embed_player” overrideable=False, type=’scriptV4′, hide_playlist=True, viral_sharing=False, embed_button=False, autoplay=False, hidden_controls=False, loop=False, muted=False, full_width=False, width=’1920′, height=’1080′, player_id=’110771022342′, style=” %}

Mögliche Zukunftsausblicke

Nachdem nun die Fragen nach dem „Warum“ und die „Wie“ geklärt wären, stellt sich also die Frage nach dem „Was“? Also, was können wir zukünftig noch erwarten und was könnte im weiteren Entwicklungsverlauf realisiert werden?

Eine Skizzierung eines Anwendungsfalls haben wir mit unserem MVP bereits angeschnitten. Dieser ermöglicht es uns Antworten zur persönlichen Widerverwendung zu sichern oder einer Person, Gruppe oder Community verfügbar zu machen. Paaren wir die kollaborative Arbeit mit diesem Tool, mit der Expertise der Mitarbeiter und Mitarbeiterinnen eines Unternehmens, so erhalten wir die Möglichkeit, eine ganz neue Qualität und Integrität von Antworten des Bots zu erhalten, in dem wir die gelieferten Antworten bewerten und gegebenenfalls von den Experten des Unternehmens korrigieren lassen. Somit hebeln wir die größte Schwachstelle des Bots aus und ziehen unseren persönlichen Vorteil daraus. Denn was passiert, wenn der Bot etwas gefragt wird, worauf er augenscheinlich keine passende Antwort liefern kann, weil er dahingehend nicht trainiert wurde? Genau, dem Benutzer wird trotzdem eine Antwort, ganz im überzeugenden Stil des Bots vermittelt, die den Anschein einer korrekten Antwort macht, jedoch alles andere als das ist.

Ist diese potenzielle Gefahr erkannt, lassen sich Gegenmaßnahmen einleiten, die genau solche Szenarien vermeiden sollen. Somit könnten die zukünftigen Versionen dieser Lösung um ein Bewertungsschema ergänzt werden und Mitarbeiter des Unternehmens die Möglichkeit erhalten, Antworten des Bots nach ihrer Expertise zu bewerten.

Betrachten wir Rückblickend noch einmal die Illustration des Workflow-Beispiels, so können wir sehen, dass durch ein paar kleine Modifikation die Geschäftslogik dieses Flows für weitere Szenarien übernommen werden kann. Gehen wir davon aus, dass das Interesse besteht neben der App zusätzlich noch die Funktionalität des Bots in Microsoft Teams einzubinden, so kann durch das Ändern des Flow-Triggers und des Flow-Outputs eine Interaktion des Chatbots ähnlich zu dem Verhalten und Aussehen, wie wir es bereits aus der App kennen erstellt werden.

In diesem Bespiel wird der Flow durch die im Flow zur Verfügung stehenden Microsoft Teams Aktionen erweitert, so dass dieser ausgelöst wird, wenn in einer Microsoft Teams Konversation der Flow für eine ausgewählte Nachricht aufgerufen wurde. Dadurch haben Benutzer und Benutzerinnen die Möglichkeit Nachrichten direkt aus einer Konversation heraus zu markieren und an den Bot zu übermitteln, um dann die Antwort in der Konversation zu erhalten.

Integration Microsoft365 und Chat GPT 4

Integration Microsoft365 und Chat GPT 5

Die Antwort des Bots wird dann wiederum im Flow als solche identifiziert und in der Konversation kenntlich gemacht.

Somit ergeben sich durch den Aufbau der zugrunde liegenden Geschäftslogik des Beispielflows gleich mehrere Gestaltungsgfelder, welche Unternehmen nach ihren Wünschen und Vorlieben zu ihrem Mehrwert nutzen können.

Datenschutz

Neben dem ganzen Aufsehen um ChatGPT gibt es allerdings gerade aus datenschutzrechtlicher Sicht Anlass zu Bedenken, denn die Risiken, die diese Technologie mit sich bringt, sollten nicht aus außer Acht gelassen werden. Kunden sollte bei der Nutzung von ChatGPT folgendes klar sein:

Die Vermeidung der Angabe persönlicher Daten ist sinnvoll, denn die eingegebenen Daten werden gespeichert und zum Trainieren der KI genutzt
Personenbezogene Daten werden nicht pro forma automatisch erfasst, sondern erst mit expliziter Eingabe der Nutzer freiwillig freigegeben
OpenAI und ChatGPT haben zwar Datenschutzrichtlinien, jedoch wird nicht für die Sicherheit der Daten garantiert
Empfehlung von Tech-Pionieren wie Elon Musk und Steve Wozniak nach einer Entwicklungspause wird größer, denn die Sicherheitsstandards können mit der rasant schneller werdenden Entwicklung nicht mithalten

In Italien wurde ChatGPT bereits gesperrt, denn laut italienischer Datenschutzbehörde verstößt OpenAI gleich in mehreren Fällen gegen geltende Gesetze. Beklagt wird zum einen der fehlende Jugendschutzfilter, welcher sicherstellen sollte, dass keine Jugendlichen unter 13 Jahren bei diesem Dienst auf nicht jugendfreie Informationen Zugriff erhalten. Zum anderen wird die fehlende Transparenz bei der Datenverarbeitung bemängelt, denn Benutzer erhalten keine Einsicht darüber, was mit ihren eingegeben Daten geschieht und wie diese weiterverarbeitet werden. Sollte Italien einen anerkannten Verstoß gegen die europaweite Datenschutzgrundverordnung darlegen können, so hat dies einen unmittelbaren Einfluss auf die Nutzung von ChatGPT in Deutschland, denn dann müssten die deutschen Behörden ebenfalls gegen OpenAI vorgehen.

Fazit

Sich diese Funktionalitäten zu eigen zu machen und diese Lösung in Ihren Live-Tenant zu implementieren erweist sich als durchaus sinnvoll, denn die in diesem Beitrag vorgestellte Lösung weist signifikante Vorteile, die für sich sprechen auf:

Hohe Kompatibilität: Die Geschäftslogik der Integration der GPT-Technologie in Microsoft 365 lässt sich nicht nur in Power Platform hervorragend abbilden, sondern kann innerhalb verschiedenster Anwendungen und Applikationen der Microsoft Suite realisiert werden
Große Flexibilität: Durch die ausgeprägte Kompatibilität können verschiedenste Anwendungen an die Lösung angebunden werden, woraus sich die unterschiedlichsten Anwendungsgebiete ergeben.
Hoher Individualisierungsgrad: Unsere Power Platform Lösung kann personalisiert und um bestimmte Anwendungsbeispiele erweitert werden.

Sprechen wir von Low Code Platformen, so wie der Power Platform, so wird häufig der neuzeitliche Begriff des Citizen Developers (zu Deutsch: „bürgerlicher Entwickler“) aufgegriffen, wenn es um die Entwicklung von Automatisierungen oder ganzen Applikationen innerhalb dieser Entwicklungsumgebung geht. Diese zeichnen sich durch ihre Fähigkeit aus, mittels ihres technisch versierten Verständnisses, softwarebasierte Anwendungen für ihre Fachbereiche zu erstellen. Im Vergleich zu professionellen Entwicklern haben die Citizen Developer keine oder nur geringfügige Kenntnisse rund um die Bereiche IT und Programmierung. Diese Befähigung ist sehr nützlich, kann allerdings bei der Umsetzung komplexerer Anwendungen klare Grenzen aufzeigen, für die es dann die Expertise von Beratern wie uns benötigt, um diese Hürden gemeinsam zu nehmen.

Sie sind interessiert an einer Lösung? Gerne beraten wir Sie sowohl bei der Planung als auch der Umsetzung für Ihr Unternehmen. Unsere Expertise stützt sich auf eine Vielzahl an umgesetzten Projekten und Entwicklungen, wie zum Beispiel:

SharePoint Site Creator: Eine App zur automatisierten Erstellung von SharePoint Site Collections nach validiertem Genehmigungsverfahren.
Invoices AI: Eine Automatisierung zur Analyse und Verarbeitung von Rechnungseingängen. Rechnungen werden automatisch mittels KI ausgelesen und anhand der extrahierten Daten korrekt für die Speicherung zugeordnet.
Meeting Notes App: Eine Hub-Applikation entwickelt als Power App, welche dabei unterstützten soll, Meeting Protokolle detaillierter, strukturierter und nachhaltiger zu gestalten. Dazu werden die Kernfunktionalitäten aus OneNote, Planner, SharePoint und Teams in der App zentralisiert eingesetzt.
Flow Run Health Report: Diese Automatisierung gibt auf administrativer Ebene Aufschluss über den Status aller im Tenant befindlichen Flows. Somit kann unmittelbar bei Feststellung von ungewünschtem Fehlverhalten von Flows reagiert werden.

Dies soll Ihnen einen kleinen Ausblick auf einige unserer vielzählig umgesetzten Projekte geben. Schauen Sie auch gerne mal bei unseren Microsoft 365 Stories vorbei und holen sich in unseren Vido-Tutorials weitere Anregungen!