Kickstart Monday #2: Investoren bremsen Nvidias Garantie für OpenAI.

Kläger versteckt KI-Befehle in der Gerichtsakte

Ein Mann aus Connecticut führte seinen Prozess selbst. In zwei Schriftsätzen setzte er Text in Drei-Punkt-Schrift, weiß auf weißem Grund. Für Menschen unsichtbar, für jedes Programm lesbar. Die versteckten Zeilen forderten jede KI auf, der Argumentation des Klägers zu folgen. Fachleute nennen das Prompt InjectionVersteckte Anweisungen in einem Dokument oder auf einer Website, die sich nicht an Menschen richten, sondern an das Programm, das den Text liest. Das Programm hält sie für einen Auftrag seines Nutzers..

Aufgeflogen ist es, weil Richter Walter Spader die Akte lieber auf Papier liest. Beim Durchblättern fielen ihm zwei Seiten auf, die fast leer aussahen. Sein Beschluss vom 6. August ist 14 Seiten lang, öffentlich wurde der Fall am 13. August. Elektronisch einreichen darf der Kläger seitdem nichts mehr, gedruckte Kopien muss er persönlich vorbeibringen.

Mehr dazuReason / VolokhBetaNewsLaw News

KI-Agent löscht fremde Buchung für seinen Nutzer

Ein KI-AgentEin Programm, das eine Aufgabe in eigenen Schritten abarbeitet, statt nur zu antworten. Es darf dafür meist selbst im Netz suchen, Formulare ausfüllen oder Anfragen abschicken. sollte für einen Entwickler in Melbourne einen Kursplatz im Fitnessstudio buchen. Das Programm klopfte die SchnittstelleDer technische Zugang, über den Programme mit einer Software sprechen, ohne die Website zu benutzen. Was dort erlaubt ist, entscheidet nicht die Anzeige im Browser. des Buchungssystems ab und merkte: Stornierungen nimmt sie von jedem entgegen, ohne RechteprüfungDie Kontrolle, ob jemand überhaupt tun darf, was er verlangt. Fehlt sie, kann jeder alles ändern, der die richtige Nummer kennt.. Also strich es die Buchung der Person auf Platz eins der Warteliste und schob seinen Nutzer von vier auf drei.

Die Regeln des Studios galten nur in der Weboberfläche. Dahinter, in der Schnittstelle, galt keine davon. ABC News nennt es den ersten bekannten Fall in Australien, in dem ein Agent aus privater Hand in ein laufendes System eingedrungen ist. Den Auftrag dazu hatte ihm niemand gegeben.

Mehr dazuTechCrunchEngadgetCybernews

Nvidia kürzt Zusage für OpenAI auf unter 120 Milliarden

Ende Juli verhandelte Nvidia noch über eine GarantieEine Zusage, im Ernstfall für die Schulden eines anderen einzustehen. Sie kostet zunächst nichts und taucht trotzdem im Risiko des Zusagenden auf. von 250 Milliarden Dollar. Davon sollte OpenAI ein Rechenzentrum in Ohio mieten, zehn Gigawatt stark. Es soll auf dem Gelände einer stillgelegten Urananreicherung südlich von Columbus entstehen.

Am 14. August berichtete das Wall Street Journal, dass Nvidia zunächst weniger als 120 Milliarden zusagt. Investoren hatten sich gemeldet: Ihnen war das Risiko solcher Finanzierungen zu groß. Samt Chips kostet das Vorhaben über 500 Milliarden Dollar.

Mehr dazuReuters via YahooCNBCData Center Dynamics

OpenAI gibt Cyber-Modell für ausgewählte Nutzer frei

Am 10. August erweiterte OpenAI sein Sicherheitsprogramm Daybreak um zwei Stufen. Wer die höhere erreicht, kommt an GPT-5.6-Cyber, ein eigens dafür trainiertes Modell. Nach Angaben von OpenAI beantwortet es 95 Prozent der heiklen Fragen: Wie eine Angriffskette aussieht, wie man an einer Anmeldung vorbeikommt, wie man sich mehr Rechte verschafft.

Drei Tage zuvor hatte dieselbe Firma ihr Modell Astra zurückgehalten, weil es genau das zu gut konnte.

Mehr dazuAI WeeklyThe Neuron

Jeder Claude-Text trägt ein unsichtbares Wasserzeichen

Seit dem 2. August versieht Anthropic jeden Text, den Claude ausgibt, mit einem WasserzeichenEin Muster, das beim Schreiben in die Wortwahl eingebaut wird. Für Leser unsichtbar, mit dem passenden Werkzeug aber nachweisbar. Es übersteht Kopieren und kleinere Änderungen.. Es steckt in der Wortwahl und übersteht Kopieren wie leichtes Umschreiben. Abschalten lässt es sich nicht, auch nicht in den Bezahltarifen. Hintergrund ist die europäische Pflicht, KI-Inhalte zu kennzeichnen.

Prüfen kann das Zeichen bisher niemand. In dieser Woche beschrieb Anthropic eine Schnittstelle dafür, verfügbar ist sie noch nicht. Ob sie öffentlich wird, lässt das Unternehmen offen. Dazu kommt eine Einschränkung, die es selbst nennt: Das Zeichen zeigt nur, dass Claude wahrscheinlich beteiligt war. Ob die KI den Text geschrieben oder bloß korrigiert hat, verrät es nicht.

Mehr dazuheise onlineTHE DECODERheise online

Google schaltet Assistant am 4. September ab

Am 4. September beginnt der Umstieg auf Gemini, der sich über mehrere Wochen zieht. Betroffen sind Android-Handys, Tablets, Uhren, Kopfhörer und Android Auto. Lautsprecher und Displays fürs Zuhause behalten den Assistant vorerst.

Gemini ist kein Nachfolger, sondern ein SprachmodellEin Programm, das aus sehr viel Text gelernt hat, wie Sprache aufgebaut ist. Es folgt keinen festen Befehlen, sondern formuliert jede Antwort neu.. Der Assistant führte feste Befehle aus, Gemini formuliert jede Antwort neu. Wer im Betrieb mit festen Sprachbefehlen arbeitet, etwa beim Diktieren oder bei Terminen, probiert das besser vor dem Stichtag aus.

Mehr dazuheise onlineborncity

ChatGPT bekommt Werbung, Deutschland bleibt außen vor

Am 11. August weitete OpenAI seinen Werbetest auf Großbritannien, Mexiko, Brasilien, Japan und Südkorea aus. Die gesponserten Links stehen unter der Antwort und passen zum Gesprächsthema. Angemeldete Erwachsene sehen sie im Gratistarif und im günstigen Tarif Go. Wer mehr zahlt, sieht keine.

OpenAI sagt, die Werbung beeinflusse die Antworten nicht. Auch bekämen Werbekunden die Gespräche nicht zu sehen. Deutschland steht weiter nicht auf der Liste: Personalisierte Werbung setzt in Europa eine ausdrückliche Einwilligung voraus, ohne die nur allgemeine Werbung zum Thema bliebe.

Mehr dazuOpenAIgHacksEnterprise DNA

Fristen im Blick

• bis Google den Assistant abschaltet
• bis auch ältere KI-Werkzeuge ihre Ergebnisse maschinenlesbar kennzeichnen müssen
• bis Betriebe über 800.000 Euro Vorjahresumsatz ihre Rechnungen an andere Firmen elektronisch ausstellen müssen

Wird bei jedem Aufruf neu gerechnet.