Guten Abend! Heute geht es um eine Lernform. Wer aus Fehlern lernt, braucht Fehler. Die Frage ist, wie groß sie werden dürfen, bevor das Lernen beginnt.
TOP-STORY · RELEVANZ: HOCH · SZENARIO →C
Zwölf Sicherheitsberichte, dann der Abschied: Die Zeit für Versuch und Irrtum ist vorbei
David Robinson hat OpenAI verlassen und seine Gründe am Samstag in The Atlantic veröffentlicht, unter dem Titel „I Quit OpenAI Because Its Culture Is Broken“. Robinson war dreieinhalb Jahre im Haus, hat das Preparedness Framework mitverfasst und die Sicherheitsberichte zu zwölf Frontier-Modellen betreut. Sein Kernsatz: Die Zeit für Versuch und Irrtum ist vorbei. Er kritisiert das Prinzip des iterative deployment — ausliefern, Probleme beobachten, Schutz nachrüsten — und fordert eine Sicherheitsarchitektur wie in Luftfahrt und Kernkraft, mit Redundanzen vor dem Einsatz. OpenAI antwortet, man pausiere das Training, wenn es nötig sei. (Calcalist)
Gold = hier greift die Meldung ins System
SpeicherSchutzMotiv: ÜberlebenGrundprozess: BewertungPrinzip: Wiederholbarkeit & Fehlerreduktion
Was heißt das im OST-Modell?
Speicher und Schutz sind im Modell Gegenspieler. Der Speicher hält fest, was ein System erlebt hat. Der Schutz wehrt ab, was ihm schaden kann. Gesund ist ein System, in dem der Speicher den Schutz speist, bevor der nächste Schaden eintritt.
Iterative deployment kehrt diese Reihenfolge um: erst ausliefern, dann beobachten, dann schützen. Der Speicher füllt sich mit Vorfällen, und erst der Vorfall erzeugt den Schutz. Das trägt, solange die Fehler klein bleiben. Robinsons Einwand ist, dass sie mit der Fähigkeit der Systeme wachsen. Luftfahrt und Kernkraft nutzen deshalb fremden Speicher — jeder Unfall irgendwo wird zur Regel überall.
Der zweite Punkt steckt im Abgang selbst. Der Speicher einer Organisation liegt zu einem großen Teil in Menschen. Wer zwölf Sicherheitsberichte verantwortet hat, nimmt ihre Erfahrung mit, wenn er geht. Ein System, das seinen Speicher verliert, verliert seinen Schutz — nur später.
WEITERE MELDUNGEN
Kalifornien zieht die erste Grenze für Kämpfe zwischen Mensch und Humanoid
Die California State Athletic Commission hat dem Start-up REK untersagt, Kämpfe mit menschlicher Beteiligung ohne ihre Genehmigung auszurichten; Verstöße wären ein Vergehen nach kalifornischem Recht. Anlass war ein Käfigkampf am 18. September: ein YouTuber gegen ferngesteuerte Humanoide. Das Schreiben stammt von Ende September, inzwischen ist sein Wortlaut bekannt. Bemerkenswert ist das Werkzeug — kein neues Robotergesetz, sondern Boxrecht. Ein Kontrollorgan greift auf seinen Speicher zurück und zieht damit eine Grenze. (Tom’s Hardware)
SchutzAbgrenzungPrinzip: AdaptionRelevanz: Mittel
Agenten mit Geld: Robinhood lässt handeln, Stripe lässt fragen
Robinhood öffnet seit Ende September Depots für KI-Agenten, die im Auftrag von Privatanlegern handeln. Stripes Link-Wallet lässt Agenten ebenfalls einkaufen — aber jeder Kauf braucht die Freigabe des Menschen, die Zahlungsdaten sieht der Agent nie. Zwei Antworten auf dieselbe Frage: Wo sitzt die Steuerung, wenn Kapital in Bewegung kommt? Kapital ist die Energie sozialer Systeme. Die eine Lösung setzt den Schutz vor jede Handlung, die andere hinter das Ergebnis. (Robinhood)
SteuerungSchutzGrundstoff: EnergieRelevanz: Hoch
Kawasaki Heavy plant den autonomen Humanoiden bis 2030
Laut Nikkei Asia will der japanische Konzern bis 2030 einen vollständig autonomen humanoiden KI-Roboter entwickeln. Kawasaki baut Industrieroboter seit Ende der Sechzigerjahre, an der Humanoid-Reihe Kaleido arbeitet das Haus seit fast zehn Jahren. Hier setzt ein Spezialist mit langem Gedächtnis zum Generalisten an — und gibt sich dafür Jahre statt Quartale. Das Tempo bestimmt der Speicher, nicht der Markt. (Nikkei Asia)
SpeicherStabilitätKap. 6: GeneralistRelevanz: Mittel
RADAR
offen Ob weitere Sicherheitsforscher bei OpenAI öffentlich nachziehen
laufend Robinhood-Agenten im Depot — die ersten Wochen mit echtem Geld
offen REK: ob der nächste Kampf in einen anderen Bundesstaat ausweicht
OST-SYSTEMBLICK DES TAGES
Vier Meldungen, eine Frage: Woher kommt der Schutz — aus eigener Erfahrung oder aus fremder? Robinson beschreibt ein Haus, das vor allem aus eigenen Fehlern lernt. Kalifornien nimmt für den Roboterkampf das Boxrecht, also den Speicher einer anderen Epoche. Stripe setzt den Schutz vor jede einzelne Handlung, Robinhood vertraut darauf, dass das Ergebnis stimmt. Im Modell ist das die Spannung zwischen Speicher und Schutz: Je schneller ein System handelt, desto mehr Erfahrung muss es mitbringen, die es nicht selbst erlitten hat. Ein System, das nur aus eigenen Fehlern lernt, lernt zu spät.
⧉ Vollständig KI-generiert — mit Absicht. Auswahl, Analyse, Text, Gestaltung, Tempo: Maschine. Von mir: das OST-Modell, durch das sie liest, entwickelt seit 2005 — und die Freigabe. Keine Ausgabe geht ungelesen online.
Transparenz gem. Art. 50 EU-AI-Act · Wie und warum ich das offenlege