Patrick Wissler von Palo Alto Networks erläutert in seinem Vortrag, wie Unternehmen generative KI und AI-Agenten sicher und mit geringem Risiko nutzen können. Er beschreibt den Unterschied zwischen Benutzer- und Unternehmensinteraktion mit KI-Anwendungen und zeigt die wachsenden Risiken durch unkontrollierte Nutzung. Mit konkreten Schritten und Tools wie Prisma Access und Prisma AIRs lässt sich die Nutzung überwachen, klassifizieren, kontrollieren und absichern. Das Ziel ist, Risiken wie Datenabfluss und Prompt Injection zu minimieren und gleichzeitig die Vorteile moderner KI-Lösungen voll auszuschöpfen.
Im Vortrag 'Generative AI und AI-Agenten: Wenig Risiko, mehr Spaß dabei beim Benutzen' stellt Patrick Wissler, Domain-Consultant bei Palo Alto Networks, aktuelle Herausforderungen und Lösungen für den sicheren Einsatz von KI in Unternehmen vor. Die Nutzungsformen von KI teilen sich in zwei Hauptbereiche: Einerseits die Interaktion von Benutzern mit KI-Tools (wie Chatbots, Code-Assistenten, Text- und Bildgeneratoren), andererseits Unternehmen, die selbst KI-Anwendungen entwickeln und bereitstellen. Bereits heute nutzen viele Mitarbeitende ungenehmigte KI-Tools (Shadow IT), was Sicherheitslücken durch unkontrollierten Datenfluss verursacht. Es drohen Datenabflüsse und Angriffe über manipulierte KI-Inhalte wie schädliche Links oder Dateien.
Zur Absicherung empfiehlt Wissler ein mehrstufiges Modell: Zuerst müssen alle genutzten KI-Anwendungen im Unternehmen durch detaillierte Katalogisierung sichtbar gemacht werden. Anschließend erfolgt eine Klassifikation (z. B. toleriert, sanktioniert, unsanktioniert) und feingranulare Zugriffskontrolle sowie aktive Inhaltsüberwachung mithilfe von Out-of-the-Box-Policies und maschinellem Lernen. Systeme wie Prisma Access können verdächtige Nutzungen erkennen, klassifizieren und angemessen eingreifen, etwa durch Nutzer-Coaching oder direkte Blockade sensibler Datenübermittlung – selbst bei verschlüsseltem Datenverkehr, etwa mit Enterprise-Browsers.
Sowohl für einfache KI-Anwendungen wie auch komplexere, agentenbasierte Systeme steigt mit wachsender Automatisierung die Angriffsfläche, da etwa Memory Poisoning oder Tool Misuse möglich werden. Der Vortrag erläutert die komplexen Interaktionen zwischen KI-Anwendungen, Benutzern, AI-Modellen und Datenquellen und identifiziert hierbei typische Schwachstellen wie Prompt Injection, Datenabfluss, Code Execution oder Malware. Bekannte Vorfälle bei Unternehmen wie Samsung oder Air Canada unterstreichen die Dringlichkeit.
Wissler kritisiert zudem die heute oft fragmentierte Sicherheitslandschaft (mit teils über 29 Herstellern pro Unternehmen) als ineffizient und kostenintensiv. Palo Alto Networks empfiehlt stattdessen integrierte Plattformen wie Prisma AI, die Model-, Agenten-, Posture- und Runtime-Security aus einer Hand bieten. Ziel ist eine ganzheitliche, im Design angelegte Sicherheit der KI-Infrastruktur, um die Vorteile KI-gesteuerter Innovation sicher zu nutzen.
