Themen · Sicherheit und Verantwortung · 15
KI-Sicherheit und Manipulation
Kurz erklärt
KI-Systeme können durch manipulierte Eingaben, Dokumente oder Webseiten zu unerwünschten Handlungen verleitet werden. Prompt Injection, Deepfakes und übermäßige Zugriffsrechte sind wichtige Risiken. Schutz entsteht durch Rechtebegrenzung, Kontrolle und sichere Prozesse.
Warum wichtig
Du verstehst typische Bedrohungen und die Notwendigkeit technischer Leitplanken.
Unterpunkte
- Prompt Injection
- Deepfakes und Betrug
- Least Privilege
- Kontrolle und Protokollierung
Praxisbeispiel
Ein fremdes PDF darf einen Agenten nicht dazu bringen, vertrauliche Dateien zu versenden.