LLM Security Best-Practices
LLM-Systeme sicher implementieren und betreiben. Auf Basis der OWASP LLM Top 10.
Diese Schulung gibt Antworten auf die folgenden Fragen
- Welche Bedrohungen bringt der Einsatz von Large Language Models mit sich?
- Warum reichen klassische Sicherheits-Paradigmen hier nicht aus?
- Wo beginne ich für eine sichere Konzeption und Entwicklung von LLM-Anwendungen?
- Welche Maßnahmen muss ich für einen sicheren Betrieb ergreifen?
Headline 3
Text 3
Beschreibung
Eine der wichtigsten Grundlagen für die Sicherheit in der Entwicklung von LLM-Anwendungen ist das Bewusstsein für mögliche Bedrohungen. In der Schulung werden diese für LLM-Anwendungen aus den Grundsätzen der herkömmlichen IT-Sicherheit und aktueller Sicherheitsrichtlinien für generative KI, wie den OWASP Top 10 for LLM Applications, hergeleitet. Dieser generische Ansatz ermöglicht den Teilnehmern, nicht nur für bestehende, sondern auch für zukünftige Angriffsvektoren gewappnet zu sein.
Die Teilnehmer der Schulung werden in die Lage versetzt, gängige Bedrohungen beim Einsatz von LLM-Anwendungen zu erkennen und deren Risiken einzuschätzen. Ein besonderer Schwerpunkt wird auf die Vorstellung und Abwägung effektiver Schutzmaßnahmen gelegt.
Unser kompaktes Training ist als Einstieg in die sichere Entwicklung von KI-gestützten Anwendungen konzipiert. Wir zeigen anhand unserer Erfahrungen, wie typische Sicherheitslücken entstehen und ausgenutzt werden können. Dabei gehen wir auf reale Bedrohungen im Kontext des jeweiligen Unternehmens bzw. der Branche ein. Abschließend schlagen wir den Bogen hin zu pragmatischen Lösungsansätzen, modernen Vorgehensweisen und Best-Practices für die sichere Entwicklung und Integration von LLM-Anwendungen.
Kursinhalt
Risiken
OWASP Top 10 for Large Language Model Applications
-
Prompt Injection
-
Sensitive Information Disclosure
-
Supply Chain
-
Data and Model Poisoning
-
Improper Output Handling
-
Excessive Agency
-
System Prompt Leakage
-
Vector and Embedding Weaknesses
-
Misinformation
-
Unbounded Consumption
Maßnahmen
-
Abfluss sensibler Informationen verhindern
-
Durchsetzen von Authentifizierung & Autorisierung
-
Eingabevalidierung, Ausgabekodierung
-
Best-Practices der Einbindung von LLM-Komponenten
Diese Schulung richtet sich an Unternehmen und Organisationen. Sie wird individuell auf Ihre Anforderungen und die Vorkenntnisse des Teams zugeschnitten und kann bei Ihnen im Haus oder online durchgeführt werden. Schon ab drei Teilnehmern kann diese Schulung wirtschaftlich sein.
Zielgruppe
- Entscheider
- Projektleiter
- Architekten
- Softwareentwickler
- Sicherheitsbeauftragte
Dauer & Format
- Die Schulung wird in zwei Varianten angeboten: für einen weniger technisch orientierten Teilnehmerkreis im Umfang von 3 Stunden und für techniknahe Teilnehmer im Umfang von 6 Stunden.
- Präsenz- oder Online-Schulung
Unsere Trainer
Unser Versprechen: aus der Praxis, für die Praxis & immer auf dem neuesten Stand. Deshalb sind alle unsere Trainer selbst aktiv tätige Experten mit langjähriger Erfahrung im unterrichteten Fachgebiet.
Mehr ÜBER Dr. Bastian Braun
Bastian Braun ist Senior Consultant IT Security bei mgm security partners. Er arbeitet an der Entwicklung sicherer Web-Anwendungen mit Hilfe agiler Prozesse, leitet Seminare für Entwickler, Projektleiter und Penetrationstester, führt Produkt- und Sicherheitsanalysen durch und berät Kunden in allen Belangen der Web Security.
Das Thema Web Security beschäftigt ihn seit mehr als 15 Jahren aus akademischer Forschungsperspektive und als angewandte Best Practice. Der Transfer von akademischen Forschungsergebnissen in den industriellen Alltag macht ihm besonders viel Spaß. Er ist Board-Member des deutschen OWASP Chapters und regelmäßiger Sprecher im Rahmen einschlägiger Konferenzen.
Dr. Bastian Braun
Mehr ÜBER Dr. Benjamin Kellermann
Benjamin Kellermann ist Informationssicherheitsberater sowie Penetrationstester bei der mgm security partners in Dresden. Seit 2004 beschäftigt er sich intensiv mit Informationssicherheit und forschte zu sicheren Webanwendungen am Lehrstuhl Datenschutz und Datensicherheit bei Prof. Andreas Pfitzmann. Mehrere Jahre unterrichtete er im Gebiet der Informationsicherheit und ist Sprecher auf zahlreichen Fachkonferenzen. Durch viele Sicherheitsaudits sowie Penetrationstests hat Herr Kellermann den notwendigen Sachverstand, auch auf technisch sehr tief differenzierte Fragen einzugehen.
Dr. Benjamin Kellermann
Mehr ÜBER Mirko Richter
Mirko Richter ist SSDLC-Berater, SAST-Spezialist, Penetrationstester und Niederlassungsleiter bei der mgm security partners in Dresden und verfügt über langjährige Erfahrungen als Entwickler, Projektleiter und Architekt.
Er verfügt über tiefgreifendes Know-How und Erfahrungen zur Härtung von Softwarelösungen im webbasierten Bereich. Um dieses Know-How aufrecht erhalten zu können, entwickelt er auch heute noch neben seiner Beratertätigkeit aktiv in Software-Projekten mit und kann daher auf entsprechende Fragestellungen in hoher Detailtiefe eingehen.
Mirko Richter
Mehr ÜBER Björn Kirschner
Björn Kirschner ist Informationssicherheitsberater sowie Penetrationstester bei mgm security partners in München. Björn blickt auf viele Penetrationstests unterschiedlichster Technologien zurück (Webapplikationen, mobile Apps, Netzwerkinfrastruktur, Server, …). Neben Seminaren führt er Sourcecode-Analysen durch und berät Kunden in vielen Belangen der Webanwendungssicherheit, vor allem im Rahmen eines sicheren Entwicklungsprozesses.
Björn Kirschner
Mehr ÜBER Reinhard Böhme
Reinhard Böhme ist ein erfahrener IT-Sicherheitsberater und Trainer mit einem breiten technischen Background und praktischer Expertise in Penetrationstests (Web, Mobile, Infrastruktur, Host-Audits, ASVS) sowie Cloud-Sicherheit (Azure, AWS). Er verbindet fundierte Kenntnisse moderner Cloud-Infrastrukturen und Informationssicherheit mit praktischer Erfahrung und macht komplexe Sicherheitsthemen für seine Seminarteilnehmer praxisnah und interessant.
Reinhard Böhme
Ihr Vorteil
Unsere Schulungen vermittelt nicht nur Wissen – sie verändert Denkweisen. Ihre Entwickler lernen, Sicherheitslücken frühzeitig zu erkennen und gezielt zu vermeiden. Das Ergebnis: robustere Anwendungen, mehr Vertrauen – und ein klarer Vorsprung im Projektalltag.
Alle Trainer sind aktiv tätige Security Consultants. Sie bringen ihre Erfahrung mit den alltäglichen, oftmals den Sicherheitsanforderungen widerstrebenden Problemstellungen ein und tragen damit zu einen pragmatischen, realitätsbezogenen Umgang mit Security bei.
- Praxisnahe Methoden statt Theorie, um typische Sicherheitslücken in Webanwendungen und Mobile Apps zu vermeiden
- Inhalte nach aktuellsten Standards durch aktiv tätige, erfahrene Security Consultants
- Sicheres Coding für langfristige Wartbarkeit und Qualität des Quellcodes
- Mehr Sicherheitsbewusstsein im Team verhindert frühzeitig Fallstricke
- Schutz vor Haftungsrisiken & Imageschäden