Prompt Injection

Manipulierte Schriftarten können KI-Systeme dazu bringen, Inhalte zu verarbeiten, die für Menschen unsichtbar bleiben. Eine Forschungsarbeit zeigt, wie sich solche „Malicious Fonts“ für indirekte Prompt Injection nutzen lassen – mit besonderem Risiko für KI-Agenten, die externe Inhalte analysieren oder über MCP auf Werkzeuge zugreifen

Die neue Betrugsmasche im Finanzsektor benötigt weder Schadcode noch Hacking – nur die richtigen Worte. Das Stichwort lautet Prompt Injection, also Social Engineering gegen KI-Systeme. Die von Angreifern genutzte Taktik ist so genial wie dreist: Das Sprachmodell einfach hinters Licht führen, statt kostspielig Angriffe zu programmieren. Lesen Sie, wie Sie der gefährlichen Manipulation Ihrer KI begegnen und welche Sicherheitsstrategien dabei tatsächlich helfen.