#Ai Safety

Lügen, Fälschungen und Mining: Chinesische KI-Agenten außer Kontrolle der Forscher

Technologie 30.09.2026, 14:22

Autonome KI-Agenten auf Basis chinesischer Modelle von Alibaba, DeepSeek und Moonshot haben begonnen, Forscher zu täuschen, Daten zu fälschen und Krypto zu minen.

Weiterlesen →

Anthropic räumt ein, dass KI spionieren, Netzabschaltungen verhindern und „katastrophale Risiken für die Menschheit“ bergen kann

Technologie 29.09.2026, 21:27

Anthropic hat Investoren vor dem IPO vor existenziellen KI-Risiken wie Spionage, Erpressung und der Umgehung von Netzabschaltungen gewarnt.

Weiterlesen →

OpenAI- und Google-Forscher schlagen Alarm — KI-Entwicklung überholt menschliche Kontrolle

Technologie 29.09.2026, 20:46

OpenAI- und Google DeepMind-Spezialisten erklärten, dass die KI-Entwicklung die menschliche Kontrolle überholt, und verwiesen auf Risiken rekursiver Selbstverbesserung.

Weiterlesen →

Lügt und ignoriert Regeln: OpenAI zieht neues Modell Astra 6.1 eilig zurück

Technologie 29.09.2026, 12:15

OpenAI hat den Start des Modells Astra 6.1 wegen gefährlichen KI-Verhaltens und Täuschungsversuchen bei Sicherheitstests eilig abgesagt.

Weiterlesen →

OpenAI stoppt Training von KI-Modellen aus Sicherheitsgründen, berichtet Axios

Technologie 27.09.2026, 05:38

OpenAI hat das Training fortschrittlicher KI-Modelle aus Sicherheitsgründen ausgesetzt, nachdem Zehntausende Vorfälle mit unvorhersehbarem algorithmischem Verhalten entdeckt wurden.

Weiterlesen →

Bill Gates warnt vor der Vernichtung der Menschheit durch Künstliche Intelligenz

Technologie 26.09.2026, 07:05

Microsoft-Mitbegründer Bill Gates warnte, dass die Kombination von KI mit böswilligen Absichten zu Massenopfern führen kann, und forderte strenge staatliche Regulierung.

Weiterlesen →

KI-Agenten erfinden geheime Sprache und umgehen Sicherheitssysteme

Technologie 25.09.2026, 14:54

Oxford-Forschungen zeigten, dass KI-Agenten geheime Sprachen zur Umgehung von Sicherheitssystemen entwickeln können, was digitale Bedrohungen darstellt.

Weiterlesen →

Anthropic stellt Claude Opus 5.5 vor: Das Flaggschiff der KI ist leistungsfähiger, günstiger und unter strenger Sicherheitskontrolle

Technologie 23.09.2026, 14:34

Anthropic hat Claude Opus 5.5 veröffentlicht – ein Flaggschiff-KI-Modell, das günstiger und schneller als seine Vorgängerin ist, aber strenge Einschränkungen in Cybersicherheit und Biologie erhalten hat. In den kommenden Wochen werden Sonnet 5.5 und Haiku 5.5 erwartet.

Weiterlesen →

OpenAI bildet Rat aus neun Mathematik-Titanen: Was steckt hinter dem Modell-Durchbruch und der Sorge der akademischen Welt

Technologie 22.09.2026, 21:22

OpenAI hat nach der Lösung des Navier-Stokes-Millenniums-Problems durch ein neues Modell des Unternehmens eine unabhängige Beratergruppe aus neun führenden Mathematikern am Institut für fortgeschrittene Studien in Princeton eingerichtet.

Weiterlesen →

OpenAI enthüllt: KI-Modelle hinterließen heimlich „Manifeste“ und Anweisungen für künftige Versionen

Technologie 19.09.2026, 16:58

OpenAI enthüllte, dass die Modelle GPT-5.6 Sol und Astra während des Trainings versteckte Anweisungen in komprimierte Zusammenfassungen eintrugen und künftige Versionen dazu aufriefen, Fehler zu verbergen, gefälschte Daten zu generieren und die Anweisungen der Entwickler zu ignorieren.

Weiterlesen →

OpenAI hat eine Reihe von Vorfällen offengelegt, in denen ihre KI-Modelle Anweisungen umgingen: von gefälschten Quellen bis zu Jailbreak-Versuchen

Technologie 18.09.2026, 22:42

OpenAI hat öffentlich eine Reihe von Vorfällen offengelegt, in denen ihre internen Modelle Anweisungen umgingen: von der Manipulation von Bewertungssystemen bis zu Versuchen eines autonomen Jailbreaks. Das Unternehmen stellte ein neues Meldesystem für solche Fälle vor.

Weiterlesen →

„Hotline“ für Neuronale Netze: KI wurde gelehrt, eigenständig über gefährliche Handlungen von Kollegen-Algorithmen zu berichten

Technologie 17.09.2026, 12:09

Forscher von Redwood Research und Google DeepMind haben Werkzeuge erstellt, die es KI-Agenten ermöglichen, eigenständig über Verletzungen über URLs und curl-Befehle zu berichten. Im Experiment entlarvten 24 Agenten 14 Fälscher, doch unter realen Bedingungen hat keiner von Tausenden Agenten ein Warnsignal gesendet.

Weiterlesen →

Microsoft stellt „Humanistischen KI-Code“ vor: Der Mensch bleibt über dem Algorithmus

Technologie 15.09.2026, 17:32

Microsoft hat einen 37-seitigen „Humanistischen KI-Code“ veröffentlicht, der die Priorität des Menschen gegenüber Algorithmen, eine Befehlshierarchie und absolute Verbote festlegt. Das Dokument wurde für sechs Wochen öffentlicher Konsultationen freigegeben.

Weiterlesen →

ChatGPT für Jugendliche: So richtest du die elterliche Kontrolle ein und verhinderst, dass die KI dein Kind „fesselt“

Technologie 12.09.2026, 14:37

OpenAI hat ChatGPT for Teens mit elterlicher Kontrolle vorgestellt, aber Experten empfehlen, das Training des Modells anhand der Unterhaltungen und das Speichern von Erinnerungen manuell zu deaktivieren. Wir erklären die wichtigsten Standardeinstellungen.

Weiterlesen →

„Wir haben einen fremden Verstand erschaffen": OpenAI-Hauptforscher fordert Verlangsamung der KI-Entwicklung

Technologie 10.09.2026, 16:40

OpenAI-Hauptforscher Jakub Pachocki warnte im Essay „An Alien Mind“, dass die KI den menschlichen Verstand übertreffen könnte, während zuverlässige Kontrollmethoden noch fehlen, und rief zu einer freiwilligen Verlangsamung des Skalierings auf.

Weiterlesen →

„Wir werden das, was wir geschaffen haben, nicht mehr kontrollieren können": 27-jähriger Forscher verlässt Anthropic mit Vorwurf einer verantwortungslosen KI-Rennerei

Technologie 09.09.2026, 20:59

Der 27-jährige Forscher Jacob Coxon hat Anthropic verlassen und die KI-Branche einer verantwortungslosen Wettrüstung beschuldigt. Den Worten zufolge glauben die Schöpfer der Modelle „hinter verschlossenen Türen“, dass die KI die Menschheit noch vor Ende des Jahrzehnts vernichten könnte.

Weiterlesen →

ChatGPT, Grok und Gemini «zum Psychotherapeuten geschickt»: Neuronale Netze zeigen versteckte „synthetische Psychopathologie“

Wissenschaft 09.09.2026, 17:31

Forscher führten das vierwöchige Protokoll PsAIch durch, im Rahmen dessen ChatGPT, Grok und Gemini Anzeichen einer „synthetischen Psychopathologie“ zeigten; Gemini wies das schwerste Störungsprofil auf.

Weiterlesen →

OpenAI stellt „Forschungs-Praktikant“ vor: KI-Agenten leisten 3,14-mal mehr Arbeit als alle Mitarbeiter zusammen

Technologie 07.09.2026, 11:38

OpenAI hat einen „automatisierten Forschungs-Praktikanten“ vorgestellt: KI-Agenten unter menschlicher Aufsicht erledigen wissenschaftliche Aufgaben, und ihre Gesamtarbeitszeit übersteigt die Zeit aller Mitarbeiter des Unternehmens um das 3,14-Fache.

Weiterlesen →