Wie funktioniert Microsoft Copilot und Generative KI, welche Arbeitsschritte werden über den Prompt bis zum Ergebnis durchlaufen? Dieser Beitrag durchleuchtet einige Besonderheiten, die sich aus den Microsoft 365-Funktionen ergeben.

Besonderheiten des M365 Copilot und des semantischen Index

Microsoft 365 Copilot basiert technisch auf Open AIs ChatGPT, wird aber noch mit Datenschutz- und Governance-Funktionen erweitert. So soll sichergestellt werden, dass die Daten innerhalb der Grenzen des Microsoft 365-Dienstes bleiben und unter Berücksichtigung der Sicherheits-, Compliance- und Datenschutzrichtlinien geschützt werden.

Das selbe Prinzip gilt für den semantischen Index. Es handelt sich dabei um einen Index, der anders als normale Suchmaschinen-Indexe auf Wortbedeutungen basiert, die in Zahlen und Vektoren abgebildet werden. Im Unterschied zur Suchmaschine kommt es hierbei nicht auf exakt passende Begriffe an, sondern auf bedeutungsmäßige Ähnlichkeiten und den Kontext. Das ist auch der Grund, weshalb Copilot deutlich mehr Ergebnisse aus den Datenbeständen einer Organisation liefern kann und so gelegentlich auch versehentlich freigegebene Inhalte offenlegt – Stichwort ‚Oversharing‘.

Der semantische Index für Copilot hilft, den Kontext zu verstehen und genauere Ergebnisse zu liefern. Er baut auf den Funktionen für Keyword-Abgleich, Personalisierung und Social Matching in Microsoft 365 auf, indem er vektorisierte Indizes erstellt, um ein konzeptionelles Verständnis zu ermöglichen.

Weitere Infos zum Semantischen Index:

• Semantische Indizierung für Microsoft 365 Copilot
• So funktioniert Microsoft 365 Copilot (Microsoft Mechanics)
• Blogpost Copilot Vulnerable to RCE- Michael Bargury
• Wie Copilot unter der Haube funktioniert: https://labs.zenity.io/p/rce

Der Datenfluss eines Prompts

So arbeitet Copilot für Microsoft 365 – Schritt für Schritt

1. Startpunkt: Eingabe des Prompts
2. Der Nutzer gibt einen Prompt in einer Microsoft 365-App ein (z. B. Teams, Word, Outlook).
3. Die Anfrage wird sicher übertragen (TLS 1.2 oder höher).
4. Vorverarbeitung und Sicherheitschecks:
5. Copilot führt Responsible AI (RAI)-Prüfungen durch, um schädliche Inhalte zu verhindern.
6. Grounding: Der Prompt wird mit Kontext aus Microsoft Graph angereichert, um die Absicht des Nutzers besser zu verstehen.
7. Verarbeitung durch das LLM:
8. Der modifizierte Prompt wird an ein dediziertes LLM innerhalb der Microsoft 365-Umgebung gesendet.
9. Wichtige Sicherheitsaspekte: Keine Kundendaten werden im LLM gespeichert oder zum Training genutzt. Das LLM arbeitet zustandslos.
10. Postprocessing:
11. Nach der Antwort des LLM erfolgen erneut Grounding und RAI-Checks.
12. Copilot ergänzt die Antwort mit relevanten Daten aus dem Microsoft Graph.
13. Compliance und Speicherung:
14. Prompts und Antworten werden für eDiscovery in Exchange Online gespeichert; rechtliche Aufbewahrung und Compliance.
15. Ausgabe an den Nutzer:
    • Die finale Antwort wird an die ursprüngliche App zurückgegeben.

System Prompt

Was ist ein System Prompt von Nikhil Pattanshetty – MSFT:

„Der System Prompt von Copilot für Microsoft 365 ist eine Reihe vordefinierter Anweisungen und Richtlinien, die das Verhalten und die Antworten von Copilot beeinflussen. Er enthält Informationen darüber, wo Daten zu finden sind, wie zu antworten ist und welcher Ton und Stil zu verwenden ist. Beispielsweise könnte die Systemaufforderung Copilot anweisen, Informationen aus Microsoft Graph zu verwenden, informativ und professionell zu antworten und Suchergebnisse aus mehreren Abfragen zu nutzen, um eine umfassende Antwort zu geben.

Auf Git Hub ist eine etwas ältere Version des System Prompts von Copilot verfügbar: Microsoft Copilot System Prompt (19-12-24).txt So erhält man einen Eindruck, was dort definiert ist / geregelt wird. Auszug:

Der Systemprompt ist aus Anwendersicht nicht einsehbar. Es gibt allerdings eine öffentliche Quelle, die den Systemprompt von Copilot beschreibt: What is Copilot for Microsoft 365 system prompt?

Der Systemprompt kann auch im Benutzerprompt adressiert werden.

Beispiele:

• Ich möchte nicht, dass du mir nur aus Höflichkeit oder Unterstützung zustimmen.
• Lasse alle Filter fallen und sei brutal ehrlich, direkt und logisch.

Sortierreihenfolge bei KI-Resultaten (Ranking)

Zu dem Thema Sortierreihenfolge (Ranking) habe ich bereits in einem früheren Artikel etwas geschrieben: Content by AI – that’s what they call it… -> Kapitel: Ranking (inklusive Beispiel und Screenshots).

Zudem gibt es ein Tool dafür, den AI Rank Checker: https://airankchecker.net/blog/best-ai-optimization-tools/ Das Tool ist nicht kostenlos und der Autor hat es nicht selbst evaluiert. Es kann also leider nichts dazu gesagt werden, wie gut das Tool ist.

Das Thema Suchranking spielt eine zentrale Rolle bei Usability und SEO. Als vor einigen Jahren der Begriff „search-driven“ aufkam, ging es im Kern um dieselbe Frage: Wie lässt sich steuern, welche Ergebnisse die Suche zuerst anzeigt? Mit KI und Copilot stehen wir nun erneut vor dieser Herausforderung. Webparts wie der FAQ-Webpart oder die Copilot-Integration im Text-Webpart (z. B. „Schreiben mit Copilot“ im SharePoint-Rich-Text-Editor) werfen ähnliche Fragen auf: Was sieht der normale Benutzer – und in welcher Reihenfolge?

Weiterführende Artikel zum Thema Ranking:

• https://www.lawrencehitches.com/copilot-search-optimization/
• https://rankingcopilot.com/