Liebe Leser:innen,

vielen Dank für die Treue, ich bin nach längerer Auszeit wieder zurück – zumindest Halbtags und schreibe hin und wieder auch Blogbeiträge oder einen Newsletter und es ist die letzten Wochen so viel passiert, dass ich euch ein paar spannende News mitgebraucht habe:

Wichtige Sicherheitswarnung zu „agentischen Browsern“ wie OpenAI Atlas oder Comet

Derzeit kursieren neue Tools, die versprechen, KI-gestütztes Browsen zu ermöglichen – sogenannte agentische Browser. Doch Vorsicht: Diese Anwendungen bergen erhebliche Risiken für deine Daten und Systeme.

Was passiert im Hintergrund?

 1️⃣ Angreifer platzieren auf Webseiten versteckte Texte oder Befehle (z. B. weiße Schrift auf weißem Hintergrund).

 2️⃣ Der KI-Browser liest den gesamten Seiteninhalt – inklusive der verborgenen Anweisungen.

 3️⃣ Das Modell interpretiert diese Anweisungen als legitime Befehle und führt sie aus.

 4️⃣ Je nach Berechtigung kann es dabei auf Chats, Dateien, Passwörter oder sogar Konten zugreifen.

Das Resultat: Von ungewolltem Datenzugriff bis hin zu automatisierten Handlungen im Namen des Nutzers – inklusive möglicher finanzieller Schäden.

Was Entwickler und Nutzer tun sollten:

- Agentisches Browsen strikt vom normalen Surfen trennen

- Jede Aktion (z. B. Website öffnen, E-Mails lesen) explizit bestätigen lassen

- Keine sensiblen Daten oder Zugangsdaten freigeben

- Wenn du bereits Zugriff gewährt hast: Zugangsdaten sofort ändern und Tools deinstallieren

👉 Bis auf Weiteres: Verwende ChatGPT & Co. nur im normalen Browser, ohne Systemzugriff oder hinterlegte Credentials.

Bleibt wachsam – wir stehen erst am Anfang einer neuen Phase von KI-Sicherheit.

Meta kündigt „Vibes“ an – das ist im Grunde Sora, aber direkt in Instagram integriert!

Was OpenAI mit der viralen Sora iOS-App vorgemacht hat, zieht Meta jetzt mit voller Plattform-Power nach! Am 25. September 2025 hat Meta offiziell „Vibes“ vorgestellt – ein neues Feature in der Meta AI App, das KI-Videos direkt in den Social-Feed bringt.

Was ist Vibes?

Eine neue Möglichkeit, KI-Videos zu entdecken, zu erstellen und zu teilen – mitten in der Meta-AI-App und verknüpft mit Instagram & Facebook.

Mit Vibes kannst du:

✍️ einfach eine Idee eintippen und daraus ein Video generieren (Text → Video),

🎨 vorhandene Videos „remixen“ – Musik, Stil, visuelle Elemente anpassen,

📲 deine Kreation direkt im Vibes-Feed posten oder als Reel/Story auf Instagram teilen.

Im Grunde ist das „AI TikTok meets Instagram Reels“, nur dass der Content nicht gefilmt, sondern erzeugt wird!

Warum das so groß ist

OpenAIs Sora iOS App (betrieben vom Modell Sora 2) war bereits ein Mega-Trend: Millionen Downloads, virale AI-Kurzfilme, „Cameo“-Funktion, mit der man sich selbst ins Video setzen kann.

Meta integriert jetzt dieselbe Idee nativ in seine Social-Infrastruktur.

Keine externe App mehr nötig – die Generierung, das Remixing und das Teilen laufen direkt über Meta AI, Instagram Reels & Stories.

Das ist die direkte Verschmelzung von Social Media und Generativer KI!

Meta’s Move in a Nutshell:

Sora machte KI-Videos „wow“.
Vibes macht sie sozial.

Meta positioniert sich damit als Kreativ-Plattform für KI-Content, nicht nur als Zuschauer-App. Und das dürfte den nächsten Kreativ-Boom auslösen – so wie Reels einst TikTok herausforderte.

Mein Fazit:

KI-Video-Creation wird das nächste große Format, ob wir es mögen oder nicht – und wer die Distribution besitzt, gewinnt.

OpenAI hat gezeigt, was möglich ist. 
Meta zeigt, wie man es groß macht.

Quelle: Facebook

Neuer Befund zur Qualität von KI-Trainingsdaten

Forscher:innen haben herausgefunden, dass große Sprachmodelle dauerhaft an Leistungsfähigkeit verlieren, wenn sie kontinuierlich mit trivialem Online-Content, insbesondere kurzen und beliebten Social-Media-Posts, allen voran die der Musk-Plattform X trainiert werden. Diese Art von „Junk-Daten“ beeinflusst vor allem die Reasoning- und Sicherheitsfähigkeiten der Modelle negativ.

• Beim Einsatz von Junk-Daten fiel die Reasoning-Fähigkeit von 74,9 % auf 57,2 % ab, und die Lese­verständnis­rate sank von 84,4 % auf nur noch 52,3 %.

• Erschreckend: Die Modelle entwickelten nach dem Training mit solchen Daten vermehrt negative Persönlichkeitseigenschaften, wie erhöhte Manipulations­tendenzen und Anzeichen von Psychopathie.

Die Studie zeigt, dass eine Re-Training mit hochwertigen Daten zwar Verbesserungen bringt, aber nicht vollständig den Schaden beheben kann. Die Forscher:Innen empfehlen deshalb:

• Strengere Qualitäts­kontrollen für Trainings­daten

• Regelmäßige „kognitive Gesundheits­checks“ für Sprach­modelle

Damit steht fest, dass xAi durch den exklusiven Zugriff auf X.com keinen Vorteil hat, ganz im Gegenteil.

Quelle: the-decoder.com – „Junk-Data from X makes large language models lose reasoning skills“

Bleib' dran – gute Datenqualität ist entscheidend!