Kalifornien plant KI-Notschalter · Wall Street ohne gemeinsame Richtung · EU erhöht Alarmstufe im Roten Meer
Tech & KI
Kalifornien prüft "Notschalter" für Künstliche Intelligenz
Im Streit um die Sicherheit Künstlicher Intelligenz hat Kaliforniens Gouverneur Gavin Newsom ein Dekret unterzeichnet, das eine unabhängige Aufsicht über KI-Unternehmen beschleunigen und die Schaffung eines "Kill-Switch" für besonders fortschrittliche Modelle voranbringen soll. Eine Expertengruppe soll binnen zwei Monaten einen Leitfaden für verschärfte KI-Sicherheitsgesetze erarbeiten. Newsom warf der Bundesregierung in Washington vor, ihrer Verantwortung nicht nachzukommen — Präsident Donald Trump lehnt eine Regulierung der Branche ab. Viele der größten KI-Firmen sitzen im Silicon Valley.
Quellen: Office of Governor Newsom · BorncityEx-OpenAI-Forscher Kokotajlo: "Wir müssen die KI-Entwicklung im Wesentlichen abschalten"
Der frühere OpenAI-Forscher und Leiter des "AI Futures Project" in Berkeley, Daniel Kokotajlo, hat eine staatliche massiv eingeschränkte KI-Entwicklung gefordert. Die führenden US-Entwickler wie OpenAI, Anthropic, Google und X betrieben mit ihren Regulierungsforderungen lediglich "Safety Washing", sagte er dem "Spiegel". Die von der Techbranche geplante Automatisierung der KI-Forschung sei besonders gefährlich, weil sich der Fortschritt dann selbst beschleunige und Fehler unbemerkt blieben. Erst mit vollständiger Transparenz, breiter Machtverteilung und einem "Kill-Switch" dürfe eine Superintelligenz weiterverfolgt werden.
Quellen: DER SPIEGEL · TagesspiegelSicherheitsfirma dringt mit Anthropic-KI in OpenAI-Systeme ein
Eine Cybersicherheitsfirma hat nach eigenen Angaben mithilfe des Anthropic-Modells Claude eine Sicherheitslücke im Hilfsforum von OpenAI aufgespürt und darüber zeitweise Kontrolle über mehrere Mitarbeiterkonten erlangt. Die Schwachstelle sei umgehend gemeldet und von OpenAI binnen 14 Stunden geschlossen worden; die Forscher erhielten eine Bug-Bounty-Prämie von 6500 Dollar. Der Vorfall zeigt, wie sehr KI-Modelle die Arbeit von Angreifern wie von Verteidigern verändern: Die nötige Spezialkenntnis für solche Angriffe sinke deutlich.
Quellen: TechCrunch · ForbesAnthropic: KI erledigt bereits rund ein Vie rtel der eigenen Forschung
Der Chatbot Claude habe im August rund 26 Prozent der Forschungs- und Entwicklungsarbeit bei Anthropic übernommen — noch nicht vollautonom, aber weitgehend selbstständig unter menschlicher Aufsicht, teilte das Unternehmen mit. Modelle, die ihre eigene Entwicklung beschleunigen, könnten es Menschen künftig erschweren, die Systeme zu verstehen oder zu kontrollieren. Anthropic sprach von einem weiteren Schritt Richtung "rekursiver Selbstverbesserung", bei der ein Modell seinen Nachfolger entwickelt.
Quellen: Bloomberg · EuronewsWirtschaft & Finanzmärkte
Wall Street ohne gemeinsame Richtung — Renditen und Ölpreis bewegen die Märkte
Die US-Börsen haben den Handel richtungslos beendet: Steigende Anleiherenditen nach dem jüngsten Zinsschritt der Federal Reserve und schwankende Ölpreise im Gefolge des Iran-Konflikts sorgten für ein uneinheitliches Bild. Tech-Aktien erwiesen sich zuletzt als Hauptmotor der weltweiten Börsen. Im Fokus der Anleger bleibt zudem die japanische Geldpolitik, nachdem die Notenbank dort ihren Leitzins auf ein 31-Jahres-Hoch angehoben hatte.
Quellen: AP News · BNN BloombergDAX zum Wochenschluss im Minus — Volkswagen nach Gewinnwarnung unter Druck
Zum Abschluss der Handelswoche hat der DAX nachgegeben. Volkswagen notierte nach einer Gewinnwarnung deutlich im Minus, während Infineon-Aktien gefragt waren. Der Ölpreis gab etwas nach, bleibt wegen des Nahost-Konflikts aber auf hohem Niveau. Am Freitag war zugleich großer Verfallstag an der Frankfurter Börse, der die Kursschwankungen verstärkte.
Quellen: manager magazin · ArivaÜbergewinnsteuer: EU lässt Klingbeil mit seinem Plan auflaufen
Bundesfinanzminister Lars Klingbeil ist mit seiner Forderung nach einer europäischen Übergewinnsteuer für Mineralölkonzerne vorerst gescheitert. Die EU-Kommission plant einem Bericht zufolge keinen entsprechenden Vorschlag; skeptisch zeigen sich auch mehrere Mitgliedstaaten. Klingbeil hatte die Steuersenkung auf Sprit nicht ausgeschlossen und erneut einen Preisdeckel sowie Entlastungen an den Zapfsäulen gefordert. Die EU-Finanzminister beraten in Dublin unter anderem über die hohen Treibstoffpreise.
Quellen: DER SPIEGEL · DIE ZEIT · tagesschau.deWeltgeschehen
Südchinesisches Meer: Philippinen werfen China gefährliches Ramm-Manöver vor
Es gibt einen neuen Vorfall im umstrittenen Südchinesischen Meer: Nach Angaben in Manila hat ein Schiff der chinesischen Küstenwache ein Boot der philippinischen Fischereibehörd e gerammt. Die Philippinen sprachen von einem "gefährlichen Manöver" und protestierten bei Peking. China beansprucht weite Teile des Gewässers für sich und ist dort in den vergangenen Monaten zunehmend aggressiver gegen Nachbarstaaten aufgetreten.
Quellen: DIE ZEIT · ad-hoc-news.deJemen: UN melden mehr als 112.000 neue Vertriebene
Die erneuten Kämpfe im Jemen haben nach UN-Angaben mehr als 112.000 Menschen zur Flucht gezwungen — viele von ihnen in das Nachbarland Dschibuti, das unter dem Zustrom zusätzlich belastet wird. Insgesamt brauchten rund 22 Millionen Menschen im Land humanitäre Hilfe, erklärten die Vereinten Nationen. Die Lage verschärft sich seit Monaten durch die Kämpfe zwischen verschiedenen bewaffneten Gruppen.
Quellen: n-tv.de · FOCUS onlineRussland stuft Regisseur Swjaginzew als "ausländischen Agenten" ein
Der im Exil lebende, Oscar-nominierte Regisseur Andrej Swjaginzew ist von den russischen Behörden zum "ausländischen Agenten" erklärt worden. Das Label erschwert ihm die Arbeit und gilt in Russland als Stigma für Kritiker des Kremls. Swjaginzew hatte sich wiederholt kritisch über den Krieg gegen die Ukraine geäußert und lebt seit Jahren im Westen. Zugleich bestellte Moskau die britische Geschäftsträgerin ein, um gegen britische Waffenlieferungen an Kiew zu protestieren.
Quellen: Deutschlandfunk Kultur · DER SPIEGELEU erhöht Alarmstufe ihrer Mission im Roten Meer
Die EU-Naval-Mission "Aspides" im Roten Meer hat ihre Alarmstufe erhöht, nachdem Houthi-Rebellen die Kontrolle über strategische Inseln an der Meerenge Bab al-Mandab ausgebaut hatten. Das britische Maritime Handelszentrum stuft die Bedrohungslage für die südliche Route als "erheblich" ein; der Schiffsverkehr durch die Straße liegt Berichten zufolge rund 90 Prozent unter dem Niveau vor dem Krieg. Macrons Frankreich wirbt unterdessen für ein G7-Treffen zu den Energiepreisen.
Quellen: The Jerusalem Post · APA · Handelsblatt