Laut einer Studie von Trend Micro haben bereits 36 Prozent der Verbraucher einen Betrugsversuch mittels Deepfake erlebt. Die Folgen solcher Angriffe können von finanziellen Verlusten über Rufschädigung bis hin zu psychischen Belastungen reichen. Auch das Bundesamt für Sicherheit in der Informationstechnik (BSI) warnt vor den Gefahren gefälschter Videos.

Trend Micros neue Technologie zur Deepfake-Erkennung soll demnächst in die Trend-Vision-One-Plattform integriert werden. Sie geht über herkömmliche Analysemethoden hinaus und berücksichtigt auch Aspekte des Benutzerverhaltens. Für Privatanwender wird der kostenlose Trend Micro Deepfake Inspector bereitgestellt, der in Echtzeit prüft, ob ein Teilnehmer einer Live-Videokonversation Deepfake-Technologie einsetzt.

Neben der Deepfake-Erkennung hat Trend Micro weitere Funktionen für Vision One eingeführt. Diese umfassen die zentralisierte Verwaltung des Zugriffs auf generative KI durch Mitarbeiter, die Überprüfung von Prompts zur Verhinderung von Datenlecks, die Filterung von KI-generierten Inhalten zur Einhaltung von Compliance-Vorgaben sowie den Schutz vor Angriffen auf Large Language Models.

Udo Schneider, Governance, Risk & Compliance Lead Europe bei Trend Micro, betont die Dringlichkeit dieser Maßnahmen: "Unsere jüngsten Untersuchungen zeigen mehrere neue Deepfake-Tools, die es Cyberkriminellen auf allen Ebenen leicht machen, schädliche Betrügereien und Social Engineering zu starten und Sicherheitsmaßnahmen zu umgehen." Mit den neuen Funktionen will das Unternehmen eine Vorreiterrolle bei der Sicherung von KI-Technologien einnehmen.