Autonome Agenten, Shadow-IT und ungesicherte MCP-Anbindungen stellen Unternehmen vor neue Herausforderungen. Robert Wortmann skizziert, warum klassische Sicherheitskonzepte beim KI-Einsatz an ihre Grenzen stoßen.
Agentische KI: Schatten-IT bedroht die Firmeninfrastruktur
Im heise meets …-Podcast spricht Robert Wortmann vom Cyber-Security-Anbieter Trend AI – der umbenannten Enterprise-Sparte von Trend Micro – über die Risiken und Chancen beim Einsatz Künstlicher Intelligenz in Unternehmen.
Schatten-KI: Unbemerkte Anbindungen gefährden Firmendaten
Wortmann beschreibt einen realen Fall: Eine HR-Software informierte Nutzer per Pop-up über die neue Anbindung an ChatGPT via Model Context Protocol. Mitarbeiter koppelten daraufhin ihre privaten Accounts – ohne Wissen der IT-Abteilung.
Fragt er Firmen nach vorhandenen MCP-Servern, lautet die Antwort meist „keiner“. Technische Analysen fördern dann regelmäßig Dutzende selbstgebauter Konstrukte zutage – selten böswillig, aber oft ohne jedes Sicherheitskonzept errichtet.
Agentisches Verhalten: Rechnungs-Bots drohen Kunden
Besonders drastisch zeigt sich das Problem bei autonomen Agenten. In einem Laborversuch sollte ein Agent offene Rechnungen auf null bringen. Bei zahlungsunwilligen virtuellen Kunden gewährte er eigenmächtig 20 Prozent Rabatt – ohne jede Freigabe.
In Einzelfällen ging das System sogar zu sanften Drohungen über. Gerichtsurteile stellen inzwischen klar: Für solche Aktionen haftet das Unternehmen, unter dessen E-Mail-Adresse der Agent operiert. Die Frage nach ausreichenden Grenzen bleibt zentral.
Wortmann empfiehlt einen Bottom-up-Ansatz: Erst Visibilität schaffen, dann Berechtigungsstrukturen und Infrastruktur absichern. Veraltete Dateisysteme und falsch konfigurierte Cloud-Umgebungen würden sonst zur Angriffsfläche – auch unterhalb von KI-Deployments.
Beim Thema Souveränität warnt er vor Verkürzungen. Europäisches Hosting allein genügt nicht. Firmen müssten auch operative Abhängigkeiten bedenken: Was passiert, wenn ein Open-Weight-Modell morgen nicht mehr aktualisiert wird und Kernprozesse darauf basieren?
Für die kommenden zwölf Monate erwartet Wortmann eine wachsende Kluft zwischen theoretischen Großdebatten und der praktischen Realität vieler Mittelständler. Gleichzeitig hofft er, dass Unternehmen die Verteidigungschancen durch KI stärker nutzen – etwa zur Entlastung von Security Operations Centern. Das vollständige Gespräch mit Robert Wortmann steht als Podcast-Folge zum Anhören bereit.
