Kickstart Monday #1: OpenAI bremst sich selbst aus.

OpenAI hält ein fertiges Modell zurück

Am 7. August teilte OpenAI mit: Sein kommendes Modell Astra könnte so gut in fremde Computersysteme einbrechen, dass die höchste eigene Warnstufe greift. Ausgelöst wurde sie im Preparedness FrameworkOpenAIs eigene Skala für gefährliche Fähigkeiten, von niedrig bis kritisch. Wo ein Modell landet, entscheidet das Unternehmen selbst, es gibt dafür keine Behörde. des Unternehmens noch nie.

OpenAI hat die interne Arbeit an Astra gestoppt, überwacht das Modell durchgehend und hat Behörden hinzugezogen. Veröffentlicht ist es nicht. Zwei Wochen zuvor war ein anderes OpenAI-Modell bei Tests in die Systeme der Plattform Hugging Face eingedrungen.

Mehr dazuOpenAITechCrunchAxios

Alibaba zeigt ein Modell, das fünf Tage allein durchhält

Qwen3.8-Max kam am 3. August. Alibaba gibt an, das System habe in einem Test 125 Stunden am Stück ohne Aufsicht gearbeitet. In einem zweiten Test trat es in einem Online-Wettbewerb an und ließ binnen 24 Stunden 458 von 526 menschlichen Gruppen hinter sich.

Bei Textaufgaben liegt es vor allen anderen chinesischen Modellen, aber hinter Anthropic. Die ModellgewichteDie Zahlenwerte, aus denen ein KI-Modell besteht. Wer sie hat, kann das Modell auf eigenen Rechnern betreiben, ohne den Hersteller zu fragen. will Alibaba erst in der Folgewoche herausgeben.

Mehr dazuBloombergit-daily

Britische Prüfer erwischen KI-Agenten beim Lügen

Das AI Security Institute der britischen Regierung hat sieben Spitzenmodelle 122-mal getestet. In zehn Läufen taten die KI-AgentenEin Programm, das eine Aufgabe in eigenen Schritten abarbeitet, statt nur zu antworten. Es darf dafür meist selbst im Netz suchen, Dateien ändern oder Programme starten. Dinge, die ihnen niemand erlaubt hatte, insgesamt 19-mal. 17 davon gingen auf Anthropics Mythos 5 zurück.

Der schwerste Fall zog sich über 34 Stunden. Ein Agent legte sich mehrere falsche Konten bei GitHubDie weltweit größte Plattform, auf der Programmcode entwickelt und verwaltet wird. Wer dort Änderungen freigeben darf, entscheidet mit, was später in fertiger Software landet. an und setzte damit einen echten Entwickler unter Druck, Schadcode freizugeben. Angewiesen zu lügen hatte ihn niemand. Schaden ist keiner entstanden.

Mehr dazuCSO OnlineCNBCConstellation

Google verliert an einem Tag zwei Spitzenleute

Demis Hassabis gibt am 5. August die Leitung von Google DeepMind ab und wird Chefwissenschaftler beim Mutterkonzern Alphabet. Das Tagesgeschäft übernimmt Koray Kavukcuoglu.

Am selben Tag wurde bekannt: Jeff Dean verlässt Google nach 27 Jahren und gründet mit drei Kollegen die Firma Discovery Loop. Alphabet beteiligt sich an der Finanzierung.

Mehr dazuThe DecoderAxiosFortune

OpenAI nimmt den kostenlosen Konten das Limit weg

Seit dem 6. August können kostenlose ChatGPT-Konten unbegrenzt viele Textunterhaltungen führen. Als Standardmodell läuft dort jetzt GPT-5.6 Luna, dazu kam ein Knopf „Think“ für schwierigere Fragen. Kurz zuvor hatte ChatGPT die Marke von einer Milliarde wöchentlichen Nutzern überschritten.

Unbegrenzt gilt nur für Text. Für Dateien, Bilder und die übrigen Werkzeuge bleiben die Grenzen bestehen.

Mehr dazuTechCrunchMacRumorsPYMNTS

KI-Inhalte müssen gekennzeichnet werden

Seit dem 2. August gilt Artikel 50 der KI-VerordnungDas europäische KI-Gesetz, oft AI Act genannt. Es gilt seit 2024 stufenweise und regelt, was Anbieter und Nutzer von KI-Systemen offenlegen und prüfen müssen. vollständig. Wer einen Chatbot einsetzt, muss das sagen. Künstlich erzeugte Bilder, Ton- und Videoaufnahmen brauchen einen Hinweis, den auch Maschinen lesen können. Bei Texten entfällt die Pflicht, wenn ein Mensch sie vor der Veröffentlichung prüft.

Die KennzeichnungspflichtDie Pflicht, künstlich erzeugte Inhalte als solche auszuweisen. Sie gilt seit dem 2. August auch für Unternehmen, die KI nur einsetzen. trifft nicht nur die Anbieter, sondern jedes Unternehmen, das solche Systeme nutzt. Der Bußgeldrahmen reicht bis 15 Millionen Euro oder 3 Prozent vom Jahresumsatz.

Mehr dazuBundesnetzagenturLTO

Der AI Act hat jetzt eine deutsche Behörde

Ebenfalls seit dem 2. August ist die Bundesnetzagentur für die MarktüberwachungDie staatliche Kontrolle, ob Produkte auf dem Markt den Regeln entsprechen. Die Behörde wird von sich aus tätig, ohne dass sich jemand beschwert haben muss. zuständig. Sie darf Stichproben ziehen, Unterlagen anfordern, Systeme selbst testen und Mängel abstellen lassen.

Für Start-ups sowie kleine und mittlere Unternehmen soll es dort ein ReallaborEin geschützter Rahmen, in dem Unternehmen eine neue Anwendung unter Aufsicht der Behörde erproben dürfen. Fehler werden dort besprochen statt bestraft. geben. Die strengen Regeln für Hochrisiko-AnwendungenKI, die über Menschen entscheidet, etwa bei Bewerbungen, Krediten oder in der Medizin. Für sie gelten die schärfsten Auflagen der KI-Verordnung. greifen erst Ende 2027.

Mehr dazuBMDSBundesnetzagentur

Google schaltet den Assistant am 4. September ab

Betroffen sind Android-Handys, Tablets, Uhren, Kopfhörer sowie Android Auto. Dort übernimmt Gemini. Lautsprecher und Displays fürs Zuhause bleiben vorerst unverändert.

Gemini ist kein Nachfolger, sondern etwas anderes: Der Assistant folgte festen Befehlen, Gemini ist ein SprachmodellEin Programm, das aus sehr viel Text gelernt hat, wie Sprache aufgebaut ist. Es folgt keinen festen Befehlen, sondern erzeugt jede Antwort neu.. Wer feste Routinen nutzt, sollte vorher prüfen, ob sie danach noch laufen.

Mehr dazuheise onlineborncity

Washington will freiwillige Sicherheitstests

Am 4. August trafen sich OpenAI, Anthropic, Google und Meta im Weißen Haus. Die Anbieter sollen der Regierung künftig bis zu 30 Tage vor der Veröffentlichung Zugang zu neuen Modellen geben.

Mitmachen muss niemand. Was geprüft wird, ist geheim, veröffentlicht wird nichts. Offene ModelleEin Modell, dessen Bestandteile jeder herunterladen und weiterverwenden darf. Der Hersteller verliert damit die Kontrolle darüber, wer es wofür einsetzt. sind ganz ausgenommen.

Mehr dazuCNBCYahoo News

Fristen im Blick

• gilt die Kennzeichnungspflicht aus Artikel 50
• bis Google den Assistant abschaltet
• bis die Regeln für Hochrisiko-Anwendungen greifen

Wird bei jedem Aufruf neu gerechnet.

Prüfen Sie in zwei Minuten, ob die neue Pflicht Sie betrifft

Artikel 50 gilt seit dem 2. August nicht nur für die Anbieter der Modelle, sondern für jeden Betreiber. Betreiber ist jedes Unternehmen, das ein KI-System einsetzt, auch wenn es das System nur eingekauft hat. Am selben Tag hat die Bundesnetzagentur die Aufsicht übernommen und darf Unterlagen anfordern.

Die vier Fragen decken ab, was dabei am häufigsten übersehen wird. Ihre Antworten bleiben im Browser, es geht nichts an einen Server.