LLM Security: Workshop für LLM-Anwendungen
Seit dem Boom von OpenAI’s ChatGPT haben Large Language Modelle (LLMs) in der Entwicklung moderner Softwarelösungen verbreitet Einzug gehalten. Doch die Integration von LLMs In Verfahren, Prozesse und webbasierte Anwendungen bringt neue Sicherheitsrisiken und eine neue Dimension der Komplexität mit sich.
Um Angriffe und Datenlecks zu vermeiden, ist es besonders wichtig, Sicherheit bereits in der Designphase zu berücksichtigen. Dieser Workshop hat das Ziel, dem Teilnehmerkreis Sicherheitsrisiken beim Einsatz dieser Technologien aufzuzeigen und wirkungsvolle Sicherheitsansätze und Gegenmaßnahmen zu vermitteln.
- Wir stützen uns auf die aktuellen Richtlinien OWASP Top 10 for LLMs und Mitre ATLAS. Unsere Vorgehensweise orientiert sich dabei am Aufbau und der Integration eines LLMs.
- Zunächst wird der Aufbau der LLM-Infrastruktur betrachtet. Dies beinhaltet die korrekte Auswahl des Modellformats, die Betrachtung der hostenden Plattform oder der sicheren Einbindung einer LLM-API. Ebenfalls wird der Aufbau der Wissensdatenbanken, wie eines RAG-Vector-Stores, betrachtet. Ein Fokus liegt auf der sicheren Behandlung von internen und vor allem sensiblen Daten. Relevante Risiken sind unter anderem Prompt Injection (OWASP Modul LLM01) und Training Data Poisioning (LLM03).
- Außerdem wird die Sicherheit bei der Bedienung der Anwendung untersucht. Dabei werden folgende Fragen geklärt: Habe ich passende Schritte gegen Prompt Injection getroffen? Integriere ich meine Funktionen und Plugins sicher? Und schütze ich mich ausreichend vor Angriffen „von innen“? Relevante Risiken sind an dieser Stelle unter anderem Prompt Injection (LLM01), Insecure Output Handling (LLM02) und Sensitive Information Disclosure (LLM06).
- Weiterhin wird die Systemarchitektur geprüft. Die Berücksichtigung der Systemarchitektur beinhaltet die sichere Integration der LLM-Komponenten in die Anwendungslandschaft sowie die Sicherheit auf Infrastrukturebene. Dazu gehört auch die korrekte Anbindung an Logging- und Monitoringsysteme, Authentifizierungs- und Autorisierungsdienste, sowie an Drittsysteme bspw. für das Hosten von Plugins. Relevante Risiken sind unter anderem Supply Chain Vulnerabilities (LLM05) und Insecure Plugin Design (LLM07).
Besondere Schwerpunkte liegen auf diesen Aspekten
- Frühe Integration von Sicherheitsaspekten bei der LLM-Einbindung
- Identifikation und Bewertung zugehöriger Risiken
- Strategien zur Absicherung Ihrer Systeme, angepasst an Ihre Anforderungen
- Unterstützung bei der Entscheidungsfindung für die am besten geeignete Schutzstrategie
Text 3