Es geht um ein Thema, das Silicon Valley gerade beherrscht wie kaum etwas anderes: die Frage nach ethischen Barrieren für den Einsatz von KI. … Anthropic-Chef Dario Amodei bestand auf zwei Einschränkungen: Claude dürfe weder zur Entwicklung vollständig autonomer Waffensysteme noch zur Massenüberwachung von Amerikanern genutzt werden. Verteidigungsminister Pete Hegseth hingegen will die KI „für alle rechtmäßigen Zwecke“ einsetzen dürfen, ohne Schranken. … Rechtsexperten halten die Formulierungen im Vertrag für wachsweich und nicht einklagbar. …Hier werde eine „ethische“ Sprache benutzt, in Wahrheit könne die Regierung machen, was sie wolle. Kirsch: „Wenn Google denselben Deal schließen würde, würde ich intern dasselbe sagen.“ Doch genau das ist offenbar Ende April geschehen: Google schloss Medienberichten zufolge einen vergleichbaren Deal mit dem Pentagon.
Kirsch kritisierte Googles Vertrag auch öffentlich: „Ich schäme mich unglaublich, in diesem Augenblick als Forscher bei Google DeepMind beschäftigt zu sein“, schrieb er auf X, „und ich frage mich, wie ich heute meine Arbeit erledigen soll.“ Nach all der Prüfung, die der Vertrag von Open AI erhalten habe, sei nicht zu verstehen, „wie wir einen noch schwächeren Vertrag unterzeichnen können, ohne zu erwarten, dass dies als kurzsichtiges und gieriges Handeln angesehen wird, das Vertrauen zerstört“. … Aber kann man es von den Unternehmen erwarten, dem Einsatz ihrer Modelle selbst Grenzen zu setzen? Eigentlich müsste das die Gesellschaft übernehmen, die Politik. Und zwar jetzt. Bald könnte es zu spät sein, weil die KI dann zu mächtig wäre, um sie noch einzuhegen.
Künstliche Intelligenz und Ethik – „Ich hoffe, dass unsere Demokratien rechtzeitig aufwachen“
Süddeutsche Zeitung 13. Mai 2026