27. Juni 2025 Sicherheitsrisiken bei KI-Agenten wie Microsoft 365 Copilot

Ein Sicherheitsunternehmen deckt eine Schwachstelle in Microsofts KI-Assistenten Copilot auf, die sensible Unternehmensdaten ganz ohne Nutzerinteraktion preisgeben konnte.

In den letzten Monaten wurden kritische Sicherheitslücken bei KI-basierten Assistenten wie Microsoft 365 Copilot entdeckt, die potenziell sensible Unternehmensdaten gefährden können. Diese Schwachstellen, bekannt als „EchoLeak“ oder „LLM Scope Violation“, ermöglichen es Angreifern, ohne direkte Nutzerinteraktion, also ganz ohne Mausklick, vertrauliche Informationen preiszugeben. Das geschieht durch speziell präparierte E-Mails, die den KI-Agenten dazu verleiten, interne Dokumente, E-Mails oder andere sensible Daten zu durchsuchen und an Angreifer zu übermitteln.

Das Problem liegt im grundlegenden Aufbau der KI-Agenten: Sie verarbeiten vertrauenswürdige und nicht vertrauenswürdige Daten im selben Prozess, was sie anfällig für Manipulationen macht. Besonders gefährlich ist, dass diese Schwachstellen auch andere Systeme betreffen könnten, etwa Salesforce Agentforce oder Anthropics MCP, da die zugrundeliegenden Konstruktionsfehler ähnlich sind.

Microsoft konnte die Sicherheitslücke nun nach fünf Monaten schließen und betont, dass bisher keine Kunden betroffen waren. Dennoch zeigt dieser Fall, wie wichtig es ist, die Architektur von KI-Agenten grundlegend zu überdenken. Experten fordern nun eine grundsätzlich neue Architektur wie zum Beispiel die klare Trennung zwischen vertrauenswürdigen und nicht vertrauenswürdigen Daten in einem Arbeitsprozess, um zukünftige Angriffe zu verhindern. Die Branche steht damit vor der Herausforderung, KI-Systeme sicherer zu gestalten, ähnlich wie in den frühen Tagen der Softwareentwicklung in den 1990er-Jahren, als Angreifer auch über Sicherheitslücken die Kontrolle über Laptops oder Handys zu erlangen versuchten.