Inhalt
Die DEF CON zählt zu den weltweit bedeutendsten Treffpunkten der internationalen Hacker- und Cybersecurity-Community. Umso mehr freuen wir uns, dass SECUINFRA mit eigener Cyber-Defense-Expertise im Malware Village vertreten war. Im Mittelpunkt unseres Beitrags stand eine Herausforderung, die durch den zunehmenden Einsatz künstlicher Intelligenz in der Cyberabwehr erheblich an Bedeutung gewinnt: Wie lassen sich KI-gestützte Analyseprozesse so konstruieren, dass selbst gezielt manipulierte Dokumente die Kontrolle über den Triage-Prozess nicht übernehmen können?
Hostile Input: Wenn das analysierte Dokument selbst zum Angreifer wird
Unser Principal Cyber-Defense-Analyst Klaus Wunder widmete sich mit seinem Vortrag im DEF CON Malware Village dem Thema „Hostile Input: PDF-Triage, die einem böswilligen Dokument standhält“. Dabei ging es nicht um theoretische Angriffsszenarien, sondern um robuste Architekturen für eine Umgebung, in der jede zu untersuchende Datei grundsätzlich als feindlich betrachtet werden muss.
In einem praxisorientierten Workshop entwickelten die Teilnehmer eigene Triage-Pipelines und setzten sich unmittelbar mit Prompt-Injektionen, unterschiedlichen Interpretationen durch Parser sowie gestaffelten Payloads auseinander. Gerade beim Einsatz von Large Language Models in Analyse-Workflows entsteht eine neue Angriffsfläche: Inhalte, die eigentlich Gegenstand einer Untersuchung sein sollen, können versuchen, das analysierende System selbst zu beeinflussen.
Unser Architekturprinzip setzt deshalb eine klare Grenze. Die verbindliche Entscheidung trifft ein deterministisches Gate. Das Sprachmodell liefert unterstützende Analyseergebnisse, erhält jedoch zu keinem Zeitpunkt die Kontrolle über den Prozess. Damit verbinden wir die analytischen Möglichkeiten moderner KI mit technischen Kontrollmechanismen, deren Verhalten nachvollziehbar und konsequent begrenzt bleibt.
Aus dem Cyber Defence and Response Center direkt in die Community
Die vorgestellten Verfahren stammen unmittelbar aus unserer täglichen Arbeit im SECUINFRA Cyber Defence and Response Center. Dort treffen KI-gestützte Analysen auf reale Schadsoftware, manipulierte Dokumente und andere potenziell bösartige Eingaben. Genau diese operative Erfahrung prägt unseren Entwicklungsansatz.
Wir bauen Werkzeuge nicht nur für ideale Testbedingungen, sondern für Situationen, in denen Angreifer aktiv versuchen, Analysemechanismen auszutricksen. Widerstandsfähigkeit gegenüber feindlichen Eingaben ist für uns deshalb keine Zusatzfunktion, sondern eine grundlegende Designanforderung moderner Cyber Defense. Die dabei gewonnenen Erkenntnisse teilen wir bewusst mit der Security-Community, damit aus operativer Erfahrung belastbare Methoden für eine breitere Anwendung entstehen.
Austausch über die Zukunft praxisorientierter Security-Ausbildung
Auch über das Malware Village hinaus nutzten wir die DEF CON für den fachlichen Austausch. Klaus nahm gemeinsam mit OffSec-CEO Ning Wang am OffSec Ambassador Meeting teil, vertrat dort die kanadische Sektion und diskutierte mit der Community, wie sich praxisorientierte Security-Trainings weiterentwickeln.
Für uns ist dieser Dialog besonders wertvoll. Cybersecurity-Kompetenz entsteht nicht allein durch Wissen über Technologien und Angriffstechniken, sondern vor allem durch deren Anwendung unter realistischen Bedingungen. Der Austausch zwischen operativer Cyber Defense, Forschung, offensiver Sicherheit und professioneller Weiterbildung trägt entscheidend dazu bei, Trainingskonzepte an die tatsächlichen Herausforderungen moderner Bedrohungslandschaften anzupassen.
Cyber Defense lebt vom gemeinsamen Lernen
DEF CON steht seit ihrer Gründung für den offenen Austausch von Hackern, Sicherheitsforschern, Entwicklern und Cybersecurity-Experten. Mit Konferenzprogramm, spezialisierten Villages und zahlreichen Community-Aktivitäten schafft die Veranstaltung ein Umfeld, in dem technische Neugier auf praktische Erfahrung trifft. Genau dort möchten wir als SECUINFRA präsent sein: mitten in der fachlichen Diskussion, nah an neuen Angriffstechniken und mit Lösungen, die sich an realen Bedrohungen messen lassen müssen.
Unser herzlicher Dank gilt dem gesamten Malware-Village-Team für die Organisation und allen Teilnehmern, die den Vormittag gemeinsam mit uns vor der Tastatur verbracht, getestet, diskutiert und neue Ansätze entwickelt haben.
Wir nehmen von der DEF CON nicht nur spannende Impulse mit. Wir bringen ebenso das zurück in die Community, was unsere tägliche Arbeit auszeichnet: Cyber Defense, die unter realen Angriffsbedingungen funktionieren muss.
