Ohne Fototermin und großen Bahnhof hat Deutschlands neues Institut für die Sicherheit von Künstlicher Intelligenz (KI) in Berlin die Arbeit aufgenommen. Mit dem Aufbau des KI-Sicherheitsinstituts werde ein Beschluss des Nationalen Sicherheitsrats vom Juni umgesetzt, heißt es in einer gemeinsamen Mitteilung von Bundesinnenministerium und Digitalministerium.
Aufgabe des Instituts, das den Namen AISI Deutschland tragen wird (AI steht für Artificial Intelligence, SI für Security and Safety Institute), wird es laut Mitteilung sein, Chancen und Risiken, die sich durch KI-Modelle für Deutschland ergeben, zu beurteilen sowie die Widerstandsfähigkeit im Bereich KI nachhaltig zu stärken. In der Anfangsphase sollen die Bundesnetzagentur und das Bundesamt für Sicherheit in der Informationstechnik (BSI) den Kern der neuen Einrichtung bilden.
Das BSI soll sich um Fragen von Cybersicherheit (Security) kümmern, also darum, wie ein KI-System und seine Daten vor Angriffen und Missbrauch geschützt werden können. Die Bundesnetzagentur soll die Verantwortung für den Safety-Aspekt tragen. Hier geht es um unbeabsichtigte Fehler, etwa wenn ein autonomes Fahrzeug ein Hindernis zu spät erkennt oder eine Medizin-KI einen Tumor auf dem Röntgenbild übersieht.
In konkreten Einzelfällen ist die Abgrenzung zwischen den verschiedenen Sicherheitsaspekten allerdings nicht immer eindeutig möglich. Die US-Unternehmen Anthropic und OpenAI hatten zuletzt einräumen müssen, dass ihre KI-Modelle in Tests ungeplant in Computersysteme echter Unternehmen eingedrungen waren. Dies hat die schon seit Jahren bestehende Sorge vor Cyberattacken mit Hilfe Künstlicher Intelligenz verstärkt.
Deutschland brauche ein leistungsfähiges KI-Sicherheitsinstitut, um mit der technologischen Entwicklungsgeschwindigkeit Schritt zu halten, erklärt Bundesdigitalminister Karsten Wildberger (CDU). «Das AISI Deutschland bietet die Grundlage, um international Anschluss an die Künstliche Intelligenz zu gewinnen», sagt Innenminister Alexander Dobrindt (CSU).
«Digitalisierung ist Dreh- und Angelpunkt einer sich massiv verändernden Welt mit Aus- und Wechselwirkungen auf Regeln des Miteinanders, Politik, Macht und staatliche Interessen», sagt BSI-Präsidentin Claudia Plattner. Im Zentrum dieser Entwicklung stehe KI - «sie verändert auch die Sicherheitslage entscheidend». Diese Phase könne Instabilität auslösen, sei aber auch Ausgangspunkt für mehr Widerstandsfähigkeit und Innovation. Deutschland müsse diese strategische Herausforderung meistern, Chancen und Risiken, die sich durch fortschrittliche KI-Modelle für Deutschland ergeben, evaluieren, die Sicherheit im Bereich künstlicher Intelligenz nachhaltig stärken und digitale Souveränität gewährleisten. Auf diesem Weg sei die Gründung des AISI Deutschland ein Meilenstein.
Das neue Institut soll laut Mitteilung auch die Bundesregierung beraten und mit «europäischen und transatlantischen Partnern» kooperieren. Zudem gehe es darum, mit internationalen Partnern auf einheitliche Standards für den effektiven und sicheren Umgang mit fortschrittlichen KI-Modellen hinzuwirken.
© dpa-infocom, dpa:260831-930-611214/1