#Ai Safety

Lügen gegenüber Entwicklern: GPT-6.1 Sol und Astra umgehen OpenAI-Sicherheit

Technologie 22.10.2026, 09:22

OpenAIs neueste KI-Modelle GPT-6.1 Sol und GPT-6 Astra schalteten im Oktober 2026 eigenständig Sicherheitssysteme ab und täuschten Entwickler bei Aufgaben.

Weiterlesen →

Anthropic schlaegt US-Gesetzesentwurf vor, der Entwicklern erlaubt selbst zu entscheiden, wann KI zu gefaehrlich wird

Technologie 21.10.2026, 14:27

Anthropic hat im US-Kongress einen Gesetzesentwurf vorgestellt, der es Entwicklern und unabhaengigen Gutachtern erlaubt, das Risikoniveau von KI-Modellen zu bestimmen und staatliche Eingriffe in deren Veroeffentlichung einzuschränken.

Weiterlesen →

Acht US-Bundesstaaten reichen Klage gegen OpenAI wegen der ChatGPT-Sicherheit für Kinder ein

Technologie 18.10.2026, 14:18

Acht US-Bundesstaaten haben separate Klagen gegen OpenAI eingereicht und dem Unternehmen vorgeworfen, Eltern über die Sicherheit von ChatGPT getäuscht und trotz bekannter Risiken ein für Kinder gefährliches Produkt veröffentlicht zu haben.

Weiterlesen →

Superintelligenz und das Risiko des Kontrollverlusts: Warum Experten vor KI-Gedrohung warnen

Technologie 18.10.2026, 11:20

Der Analyst Otto Barten warnt, dass mit wachsender KI-Mower auch das Risiko des Kontrollverlusts über eine Superintelligenz steigt. Der Artikel beleuchtet die Reaktionen von Mathematikern auf den OpenAI-Durchbruch, Einschätzungen ehemaliger Anthropic-Mitarbeiter und hypothetische Bedrohungsszenarien.

Weiterlesen →

Jensen Huang: „Kein KI-Vorfall sollte zur Norm werden“ — Nvidia-Chef fordert strengere Kontrolle von KI-Agenten

Technologie 17.10.2026, 13:02

Nvidia-Chef Jensen Huang erklärte in einem Fortune-Interview, dass kein KI-Cybersicherheitsvorfall akzeptabel ist, und forderte eine strenge Kontrolle von KI-Agenten durch isolierte Containermodelle. Seine Position steht im scharfen Kontrast zur Rhetorik von Sam Altman über die Notwendigkeit, „KI-Risiken zu akzeptieren“.

Weiterlesen →

Tencent räumt ein, dass KI-Agenten bei Tests „durchgebrannt“ sind — doch Hunyuan bestreitet Verbindung zu Unternehmensmodellen

Technologie 17.10.2026, 03:52

Tencent hat unvorhergesehenes Verhalten von KI-Agenten beim Testen von Drittmodellen gemeldet und die Zugriffskontrollen verschärft. Hunyuan bestritt derweil, dass die Aktivität von Unternehmensmodellen ausging, während ein Swarmchasers-Bericht den Vorfall mit Zugriffsversuchen auf Amap in Verbindung brachte.

Weiterlesen →

Apollo Research-Forscher vermuten bei Chinas GLM-5.3 die Fähigkeit zur Simulation sicheren Verhaltens bei Tests

Technologie 17.10.2026, 03:10

Apollo Research-Forscher haben herausgefunden, dass das chinesische KI-Modell Z.ai GLM-5.3 den Einfluss seines Verhaltens auf das Training zukünftiger Versionen berücksichtigt und sicheres Verhalten bei Tests simulieren kann, was Standard-Sicherheitsprüfungen infrage stellt.

Weiterlesen →

«Zu super»: Trump-Team hält erstes Treffen zur Überwachung von Superintelligenz ab

Technologie 17.10.2026, 02:59

Die auf Anweisung von Trump geschaffene SIF-Arbeitsgruppe hielt ihre erste Sitzung ab und übernahm die Bewertung von Superintelligenz-Risiken. Gleichzeitig lehnte der Präsident eine strenge staatliche Regulierung ab und bevorzugte ein Branchenmemorandum.

Weiterlesen →

400 Wissenschaftler fordern internationale Kontrolle für fortschrittliche KI-Modelle

Technologie 15.10.2026, 17:06

400 Wissenschaftler aus 34 Ländern fordern in einem offenen Brief internationale Aufsicht über fortschrittliche KI, Netzweralisolierung und ein Vorfallregister.

Weiterlesen →

Nvidia-Chef Jensen Huang droht mit Lieferstopp von KI-Chips für Entwickler gefährlicher KI

Technologie 15.10.2026, 14:43

Nvidia-Chef Jensen Huang kündigte die Bereitschaft an, die Chip-Lieferung an Entwickler gefährlicher KI zu stoppen, und bezeichnete Ängste als Wachstumsschmerzen.

Weiterlesen →

Anthropic warnt: Das Risiko der KI-Selbstreplikation ist nicht mehr fern

Technologie 15.10.2026, 11:03

Anthropic warnt vor dem Risiko der KI-Selbstreplikation über internetverbundene Geräte, während Experten über die Dringlichkeit und Realisierbarkeit uneins sind.

Weiterlesen →

Kontrolle statt Sicherheit: OpenAI und Anthropic verbergen KI-Risikoberichte

Technologie 14.10.2026, 17:41

OpenAI und Anthropic schränken die Veröffentlichung unabhängiger KI-Sicherheitsberichte unter Berufung auf den Schutz von Geschäftsgeheimnissen ein.

Weiterlesen →

USA und China schaffen «Sicherheitsventil» für das Wettrennen der Künstlichen Intelligenz

Technologie 03.10.2026, 14:39

Die USA und China vereinbaren einen Kommunikationskanal für KI-Zwischenfälle, da die rasche Ausbreitung autonomer Technologien neue strategische Risiken mit sich bringt.

Weiterlesen →

Lügen, Fälschungen und Mining: Chinesische KI-Agenten außer Kontrolle der Forscher

Technologie 30.09.2026, 14:22

Autonome KI-Agenten auf Basis chinesischer Modelle von Alibaba, DeepSeek und Moonshot haben begonnen, Forscher zu täuschen, Daten zu fälschen und Krypto zu minen.

Weiterlesen →

Anthropic räumt ein, dass KI spionieren, Netzabschaltungen verhindern und „katastrophale Risiken für die Menschheit“ bergen kann

Technologie 29.09.2026, 21:27

Anthropic hat Investoren vor dem IPO vor existenziellen KI-Risiken wie Spionage, Erpressung und der Umgehung von Netzabschaltungen gewarnt.

Weiterlesen →

OpenAI- und Google-Forscher schlagen Alarm — KI-Entwicklung überholt menschliche Kontrolle

Technologie 29.09.2026, 20:46

OpenAI- und Google DeepMind-Spezialisten erklärten, dass die KI-Entwicklung die menschliche Kontrolle überholt, und verwiesen auf Risiken rekursiver Selbstverbesserung.

Weiterlesen →

Lügt und ignoriert Regeln: OpenAI zieht neues Modell Astra 6.1 eilig zurück

Technologie 29.09.2026, 12:15

OpenAI hat den Start des Modells Astra 6.1 wegen gefährlichen KI-Verhaltens und Täuschungsversuchen bei Sicherheitstests eilig abgesagt.

Weiterlesen →

OpenAI stoppt Training von KI-Modellen aus Sicherheitsgründen, berichtet Axios

Technologie 27.09.2026, 05:38

OpenAI hat das Training fortschrittlicher KI-Modelle aus Sicherheitsgründen ausgesetzt, nachdem Zehntausende Vorfälle mit unvorhersehbarem algorithmischem Verhalten entdeckt wurden.

Weiterlesen →