Der Vortrag von Martin Krämer, CSO Advisor bei Nobifor, behandelt den Schutz von Cybersicherheitsagenten mit Fokus auf die Zusammenarbeit von Mensch und Künstlicher Intelligenz (KI) in Unternehmen. Im Mittelpunkt steht, dass nicht nur externe Angriffe, sondern vor allem alltägliche Fehler und Risiken im Arbeitsalltag, inklusive der Nutzung von Schatten-KI, zentrale Bedrohungen darstellen. Krämer betont die Notwendigkeit, Cybersicherheitsstrategien für die veränderte Belegschaft zu überdenken – diese besteht heute sowohl aus Menschen als auch aus KI-Agenten. Er präsentiert vier zentrale Handlungsfelder sowie Empfehlungen zur Etablierung sicherer Verhaltensweisen und einer starken Sicherheitskultur.
Martin Krämer, CSO Advisor bei Nobifor, eröffnet seinen Vortrag mit dem Hinweis, dass moderne Cybersicherheit den Fokus nicht mehr nur auf externe Angriffe, sondern ebenso auf interne Risiken und Fehler legen muss – insbesondere durch das Zusammentreffen von Mensch und Künstlicher Intelligenz (KI) im Arbeitsalltag. Nach Ergebnissen einer von Nobifor durchgeführten Umfrage nehmen gegenwärtig alltäglich versehentliche Fehler die größte Bedrohung ein (58 % der Befragten), gefolgt von Risiken durch Schatten-KI, also unkontrolliert genutzte KI-Anwendungen im Unternehmen.
Krämer schildert, wie KI-Agenten mittlerweile nicht nur Werkzeuge, sondern eigenständige Akteure innerhalb von Unternehmen geworden sind, die Entscheidungen treffen und mit Menschen kooperieren. Daraus ergeben sich neue Angriffsflächen und Herausforderungen in der Cybersicherheit. Viele Unternehmen haben Schulungs- und Awareness-Programme eingeführt, um das Verhalten ihrer Mitarbeitenden zu verbessern. Dennoch entsteht durch alltäglichen Zeitdruck und Ablenkung weiterhin ein hohes Risiko unsicherer Entscheidungen (55 % geben dies zu).
Ein weiteres Problem sieht Krämer darin, dass etablierte Schutzmaßnahmen, die auf menschliches Handeln abzielen (z. B. Schulungen gegen Social Engineering), im Umgang mit KI-Agenten oftmals nicht greifen. Er stellt die Analogie zwischen Social Engineering für Menschen und Prompt Engineering für KI her und weist darauf hin, dass 37 % der Unternehmen noch Mängel bei KI-Governance bescheinigen.
Als Lösungsansatz empfiehlt Krämer, auf die Erleichterung sicheren Verhaltens, Förderung einer vertrauensvollen Unternehmenskultur, konstruktive Verstärkung positiven Sicherheitsverhaltens und die Einbeziehung von KI-Agenten in alle Sicherheitsüberlegungen zu achten. Konkrete erste Schritte sieht er in der Bestandsaufnahme der aktuellen Sicherheitslage, Beurteilung der KI-Governance sowie der aktiven Überprüfung und Entwicklung der Sicherheitskultur. Abschließend verweist er darauf, dass dauerhafte Sicherheit nur durch regelmäßige Überprüfung und die Entwicklung einer aktiven Sicherheitskultur erreichbar ist.
