LLM

Anthropic muss den Zugriff auf seine neuen KI-Modelle Fable 5 und Mythos 5 vorerst weltweit deaktivieren. Hintergrund ist eine Exportkontrolldirektive der US-Regierung, die ausländischen Staatsangehörigen den Zugang untersagt.

Manipulierte Schriftarten können KI-Systeme dazu bringen, Inhalte zu verarbeiten, die für Menschen unsichtbar bleiben. Eine Forschungsarbeit zeigt, wie sich solche „Malicious Fonts“ für indirekte Prompt Injection nutzen lassen – mit besonderem Risiko für KI-Agenten, die externe Inhalte analysieren oder über MCP auf Werkzeuge zugreifen

Die Kommunikation zwischen Anwendungen und KI-Modellen ist in der Regel komplex und zumeist individuell auf die jeweilige Anwendung abzustimmen. Das "Model Context Protocol" hilft dabei, die Kommunikation zwischen der Anwendung und einem Large-Language-Modell zu standardisieren und zu vereinfachen. Wir schauen uns das Protokoll näher an und zeigen einige praktische Beispiele.

Perplexity hat mit "Comet" einen neuartigen Webbrowser vorgestellt, der gezielt für den Einsatz in KI-gestützten Suchprozessen konzipiert wurde. Anders als herkömmliche Browser ist Comet nicht primär für die manuelle Navigation durch Websites gedacht, sondern dient als automatisierter Rechercheagent für große Sprachmodelle. Die Entwicklung folgt einem zunehmenden Trend, bei dem LLMs nicht nur auf statische Daten oder einmalige Suchergebnisse zurückgreifen, sondern direkt mit dem Web interagieren.

Mit "e1" stellt das Karlsruher Unternehmen embraceableAI eine neue Architektur für künstliche Intelligenz vor, die durch deduktives Denken und hybride Systemstruktur mehr Transparenz, Kontrolle und Zuverlässigkeit bieten soll – ein Ansatz, der besonders für regulierte und sicherheitskritische IT-Umgebungen interessant sen könnte. Das System nimmt dabei Anleihen bei der Bionik.

Eine neue Untersuchung von Apple-Forschern erschüttert die Grundannahmen über die Denkfähigkeiten moderner KI-Systeme. Die Studie zeigt, dass führende "Reasoning-Modelle" bei unbekannten Problemen versagen und möglicherweise nur komplexe Mustererkennung betreiben statt echtes Schlussfolgern.

Varonis Systems bietet einen kostenlosen Securityscan für Unternehmen an, die Microsoft Copilot einführen möchten. Die Überprüfung soll Sicherheitsverantwortlichen anzeigen, welche Daten nicht korrekt klassifiziert sind und wer auf sensible Daten zugreifen kann. Ein umfassender Bericht gibt zudem Empfehlungen zur Risikoreduzierung.

Meta hat die neue Llama-3.1-Modellfamilie vorgestellt. In der größten Variante umfasst die KI 405 Milliarden Parameter und ist damit das bislang leistungsfähigste und vielseitigste Sprachmodell von Meta. Verfügbar ist Llama 3.1 unter anderem in der Google Cloud.