Forscher zur KI-Entwicklung: Risiken ernst nehmen, aber nicht dramatisieren

Forscher zur KI-Entwicklung Risiken ernst nehmen, aber nicht dramatisieren Stand: 17.09.2026 • 17:11 Uhr

Öffentlichkeitswirksam haben zuletzt große KI-Entwickler für mehr Regulierung der eigenen Technologie plädiert. Forscher in Deutschland relativieren die Warnungen, trotz aller Risiken - und nehmen die Entwickler in die Pflicht.

Es kommt selten vor, dass die Gründer internationaler Konzerne vor den eigenen Produkten warnen. Die großen KI-Firmen aus den USA haben genau das jetzt getan: OpenAI hat seinen Börsengang verschoben und das mit Risiken bei der Entwicklung seiner Künstlichen Intelligenz begründet. Der Gründer von Anthropic, der Firma hinter Claude, warnte in einem Essay davor, KI könne in sechs bis zwölf Monaten das ganze Internet kontrollieren.

Einer seiner Entwickler kündigte mit der Begründung, die ganze Menschheit sei in Gefahr. Wollen uns die KI-Firmen nur auf besonders laute Weise mitteilen, wie leistungsfähig ihre Modelle mittlerweile sind - oder sind das alles reale Risiken?

Nach bedrohlichen Zwischenfällen im Zusammenhang mit KI-Modellen ist eine Debatte um schärfere Regeln entbrannt. mehr

Die Warnungen der großen KI-Firmen haben eine breite Diskussion über die Risiken der Künstlichen Intelligenz ausgelöst. Deutsche IT-Forschende relativieren allerdings: Das mächtige Werkzeug KI werde nicht von selbst zur Gefahr, sagt Konrad Rieck vom Fachgebiet für maschinelles Lernen und IT-Sicherheit an der Technischen Universität Berlin: "Ich sehe zurzeit überhaupt gar keinen Grund daran zu glauben, dass unfassbar böse Dinge passieren."

Der Grund für Riecks Gelassenheit ist, "dass bisher eigentlich immer ein Mensch diese Modelle befehligt." Zu den bislang bekannten Zwischenfällen sagt er: "Ich weiß von keinem Fall, wo ein Modell mal wirklich etwas ganz eigenständig gemacht hat."

Dass KI Risiken berge, sei unbestreitbar - bislang aber vor allem, "wenn Menschen Böses tun wollen". Diese hätten ein neues Werkzeug. "Genauso aber haben sie, wenn sie Gutes tun wollen, auch ein Werkzeug", sagt Rieck.

Die großen KI-Firmen melden immer wieder Zwischenfälle mit Künstlicher Intelligenz. mehr

In den vergangenen Monaten sind mehrere Fälle bekannt geworden, in denen neue Versionen von ChatGPT, Claude oder der Meta-KI in fremde Systeme eingedrungen sind. Konrad Rieck sieht als Ursache allerdings Nachlässigkeiten bei den großen KI-Firmen. Die Entwickler hätten ihren Modellen genau die Aufgabe gestellt, andere Systeme zu hacken.

Eigentlich in einer geschützten und vom Internet getrennten Umgebung - aber diese Vorkehrungen schätzt der Informatik-Professor als unzureichend an: "In einem Fall bei Anthropic weiß ich, dass sie dann am Ende aus Versehen doch Internetzugang ermöglicht haben." Für Rieck liegt diesem Fehler "eine große Nachlässigkeit" zugrunde. "Und die zweite Idee ist, dass sie den Modellen gesagt haben: Wenn ihr im echten Internet seid, hört auf. Und das finde ich auch ein bisschen nachlässig."

Der Forscher der TU Berlin sieht die Hauptfehler also "bei den Leuten, die diese Experimente ausgeführt haben".

Wie groß ist die Gefahr für private Rechner und unsere Daten von KI-Alleingängen? mehr

Weil die KI-Modelle in rasantem Tempo leistungsfähiger werden, können sie Schwachstellen in Computersystemen immer schneller finden. Deshalb überwachen die KI-Firmen mittlerweile, wofür Anwender ihre Werkzeuge einsetzen.

Im Notfall greifen sie ein, beschreibt Thorsten Eisenhofer vom Cispa Helmholtz-Zentrum für Informationssicherheit: "Die Modelle laufen auf Servern von den Unternehmen. Die gucken von außen dann auch: Was produziert das Modell gerade?"

Wenn die Gefahr bestehe, dass ein Modell "irgendwie einen Angriff oder so plant, dann wird einfach der 'Kill Switch' ausgelöst und dann wird die Kommunikation abgebrochen". Eine andere Möglichkeit sei es, ein Modell auf eine frühere Generation herunterzustufen - das Verständnis der Entwickler des Modells sei dann größer und die Fähigkeiten des Modells noch nicht so ausgeprägt.

Der Wettlauf um die Entwicklung von KI muss dringend verlangsamt werden, meint Anthropic-Chef Amodei. mehr

Auch hier bestimmen die Nutzenden, wofür die KI eingesetzt wird. Die Modelle basieren zwar auf künstlichen neuronalen Netzwerken. Ein eigenes Bewusstsein aber haben sie nicht, stellt Eisenhofer klar: "Die Modelle werden auf menschlichen Texten trainiert", was den Austausch in natürlicher Sprache mit Assistenten wie beispielsweise ChatGPT ermögliche. Das sorge dafür, dass KI-Assistenten untereinander, die autonom Aufgaben lösen sollen, "trotzdem in diesen menschlichen Kommunikationsmustern bleiben".

Das wirkt von außen betrachtet zuweilen, als würde Künstliche Intelligenz mit eigenem Willen agieren - ein falscher Eindruck. Sie versuchen nur mit allen Mitteln, die Aufgabe zu lösen. Dazu kommt, dass die Modelle selbst lernen, trainiert mit Unmengen von Daten.

Wie gefährlich ist Künstliche Intelligenz wirklich? mehr

Jonas Geiping vom Max-Planck-Institut für Intelligente Systeme weist darauf hin, dass die Entwickler zwar deren Architektur kennen, aber auch nicht genau wissen, wie eine KI bestimmte Aufgaben löst - der sogenannte Black-Box-Effekt. "Das sind tiefe neuronale Netzwerke, die nicht von Menschenhand definiert sind, sondern wo sozusagen durch Algorithmen Lösungen gefunden werden."

Geiping vergleicht diese Netzwerke aus dieser Perspektive heraus eher mit Biologie als mit Informatik. Wenn diese Systeme unter bestimmten Voraussetzungen zusammenwachsen und Forscher oder Entwickler das Gelernte untersuchen, sei "nicht immer ganz klar, was für ein Modell da entstanden ist".

Auch wegen solcher Unsicherheiten begrüßen die Forschenden den Vorschlag, KI-Entwicklung künftig von unabhängiger Stelle zu regulieren - entweder staatlich oder von externen Firmen. Am besten gleich auf internationaler Ebene.

Erstmals soll ein KI-System eigenständig aus einer Testumgebung ausgebrochen sein. Was steckt dahinter? mehr

Dieses Thema im Programm: NDR Info | Nachrichten | 17.09.2026 | 16:47 Uhr