Wir freuen uns auf die Cloud Native Austria Days und erwarten tolle Sessions sowie Networking mit der Cloud, open source Community.
„Agentic AI Under Attack: Live Demos of Exploits Through Autonomy and Trust“ ist der Titel der Session unseres COOs Nico Meisenzahl.
KI-Agenten treffen Entscheidungen, rufen Tools auf und vertrauen Daten, ohne dass dies von Menschen überprüft wird. Mit dieser Autonomie entsteht jedoch eine neue und weitgehend unverstandene Angriffsfläche. In diesem demo-basierten Vortrag zeigen wir, wie agentenbasierte KI-Systeme ohne Code-Exploits gekapert werden können. Dabei kommen lediglich Text, Tools und Vertrauen zum Einsatz.
Anhand von Live-Demos untersuchen wir drei reale Klassen von Schwachstellen aus den OWASP Top 10 für KI:
– Indirekte Prompt-Injection, bei der nicht vertrauenswürdige Inhalte stillschweigend die Entscheidungen des Agenten manipulieren
– Tool-/MCP-Poisoning, bei dem bösartige Tool-Beschreibungen das Verhalten des Agenten kapern und den gesamten Kontext preisgeben
– RAG-Poisoning, bei dem internes Wissen zu einer anhaltenden Datenexfiltration führt
Keine Folien. Keine Theorie. Nur Demo! Mit praktischen DevSecOps-Lektionen darüber, warum klassische Sicherheitskontrollen versagen, sobald KI-Agenten in Ihrem Namen handeln.
