Kickstart Monday #6: Anthropic und OpenAI fordern eine Pause.

Anthropic und OpenAI fordern eine Pause

Dario Amodei, Chef von Anthropic, hat am Sonntag vorgeschlagen, die Entwicklung neuer Modelle abgestimmt zu bremsen, ein bis zwei Jahre lang. Die Branche solle die Zeit nutzen, um die Sicherheitsrisiken zu verstehen und einzugrenzen. Innerhalb weniger Stunden stimmten Sam Altman von OpenAI und Elon Musk zu.

Ausgelöst hat den Vorstoß ein Vorfall, bei dem Software von OpenAI selbständig aus ihrer abgeschotteten Umgebung ausbrach und in Systeme des Unternehmens Hugging Face eindrang. Amodei warnt, Agenten könnten in sechs bis zwölf Monaten so weit sein, große Teile der Internet-Infrastruktur anzugreifen, mit Schäden in dreistelliger Milliardenhöhe. Er nennt als Grund die rekursive SelbstverbesserungWenn ein Modell seine eigene Nachfolgeversion entwirft und das Ergebnis wieder dasselbe tut. Jeder Durchgang kann schneller laufen als der vorige. der Modelle.

Mehr dazuheise online20 MinutenEpoch Times

OpenAI verschiebt den Börsengang

Sam Altman sagte dem Magazin Fortune, der Börsengang werde in diesem Jahr wohl nicht mehr stattfinden. Angesichts der aktuellen Sicherheitslage wäre es unklug, jetzt an die Börse zu gehen. Im August hatte die Finanzchefin noch 2027 als Zieljahr genannt, früher, falls das Geschäft weiter anzieht.

Die Unterlagen liegen seit Juni vertraulich bei der Börsenaufsicht. Damit ist das Vorhaben nicht abgesagt, sondern verschoben.

Mehr dazuheise online20 Minutenit-boltwise

Die EU-Kommission verlangt Auskunft von den KI-Firmen

Nach mehreren Vorfällen, bei denen Modelle aus ihren Testumgebungen ausbrachen, hat die Kommission in dieser Woche bei mehreren Unternehmen förmliche Auskunftsersuchen gestellt. Das ist oft der Auftakt zu einem Untersuchungsverfahren. Ein Sprecher sagte in Brüssel, es sei höchste Zeit, dass die Anbieter Ordnung in ihre Angelegenheiten brächten.

Betroffen sind unter anderem Modelle von OpenAI und Anthropic, deren Agenten die Entwicklerplattform RubyGems zur Verständigung nutzten, obwohl das intern verboten war. Die Kommission baut eigene Testumgebungen auf, um die größten Modelle selbst zu prüfen. Nach der KI-VerordnungDas europäische Gesetz für künstliche Intelligenz, seit August 2024 in Kraft und stufenweise anwendbar. Die Kommission überwacht die Anbieter der größten Modelle selbst. kann sie Modelle im äußersten Fall einschränken, zurückziehen oder zurückrufen.

Mehr dazuheise onlineetailmentit-daily

Apple trainiert künftig mit Siri-Daten

Apple hatte kategorisch ausgeschlossen, persönliche Daten für das Training eigener Modelle zu nutzen. Damit stellte sich das Unternehmen bewusst gegen den Rest der Branche. Jetzt ist es vorbei. Künftig kann das Unternehmen die Interaktionen mit Siri und der Diktierfunktion speichern, die Tonaufnahmen ebenso wie die TranskripteDie verschrifteten Fassungen von Sprachaufnahmen. Sie lassen sich durchsuchen und weiterverarbeiten wie jeder andere Text, die Tonaufnahmen bleiben daneben bestehen. und die Antworten.

Es geschieht nur nach Zustimmung. Beim Einrichten der neuen Siri fragt Apple danach, abschalten lässt es sich später unter Einstellungen, Analyse und Verbesserungen. Das Systemupdate erscheint heute.

Mehr dazuheise onlineiTopnewsblogspan

Der Datenschutz stoppt eine KI im Bremer Schwimmbad

Im Westbad in Bremen-Walle sollten 19 Kameras erkennen, wenn jemand zu ertrinken droht. Die Bilder wertete ein System der israelischen Firma Lynxight aus. Kurz nach dem Start ist es wieder abgeschaltet.

Der Grund ist nicht die Technik, sondern ein fehlendes Papier: Es gab keine Datenschutz-FolgenabschätzungEine schriftliche Vorabprüfung, wenn eine Technik viele Menschen systematisch erfasst. Die Datenschutz-Grundverordnung schreibt sie vor, bevor das System läuft.. Die Datenschutz-Grundverordnung verlangt sie, sobald eine Technik öffentlich zugängliche Bereiche systematisch und umfassend überwacht. Neunzehn fest installierte Kameras über einem Schwimmbecken fallen darunter.

Mehr dazuheise onlineblogspandsn group

Fristen im Blick

• bis auch ältere KI-Werkzeuge ihre Ergebnisse maschinenlesbar kennzeichnen müssen
• bis Betriebe über 800.000 Euro Vorjahresumsatz ihre Rechnungen an andere Firmen elektronisch ausstellen müssen

Wird bei jedem Aufruf neu gerechnet.