Künstliche Intelligenz entwickelt sich zu einer strategischen Basistechnologie und hat bereits heute Auswirkungen auf nationale Sicherheit, staatliche Handlungsfähigkeit, wirtschaftliche Wettbewerbsfähigkeit und gesellschaftliche Stabilität. Hochleistungsfähige KI-Modelle verfügen unter anderem über erhebliche Fähigkeiten in den Bereichen Cyberoperationen, Softwareentwicklung, Automatisierung komplexer Entscheidungsprozesse sowie Wissens- und Informationsverarbeitung.
Vor diesem Hintergrund soll mit dem AI Safety and Security Institute Deutschland (AISI Deutschland) eine nationale Kompetenz- und Evaluierungsinstitution für leistungsfähige KI-Systeme entstehen. Das Institut soll technische Expertise bündeln, sicherheitsrelevante Entwicklungen analysieren und die Bundesregierung bei strategischen Fragen rund um KI unterstützen.
KI-Sicherheit als strategische Aufgabe
Mit der zunehmenden Leistungsfähigkeit von KI steigen auch die Anforderungen an die Bundesregierung. Im Mittelpunkt stehen dabei unter anderem Fragen der digitalen Souveränität, der Abhängigkeit von außereuropäischen Technologieanbietern, der Umsetzung des EU AI Acts sowie des Schutzes kritischer Infrastrukturen. Gleichzeitig soll die strategische Nutzung von KI in Staat, Wirtschaft und Gesellschaft eingeordnet werden.
Das AISI Deutschland soll die Bundesregierung dabei unterstützen, sicherheitsrelevante Risiken frühzeitig zu erkennen und auf dieser Grundlage evidenzbasierte Handlungsoptionen abzuleiten. Darüber hinaus soll das Institut dazu beitragen, Deutschlands digitale Souveränität im KI-Zeitalter zu stärken und internationale Entwicklungen im Bereich künstlicher Intelligenz strategisch einzuordnen.
Dabei versteht sich das AISI Deutschland ausdrücklich nicht als Regulierungsbehörde. Vielmehr soll es als analytisch-operatives Kompetenzzentrum an der Schnittstelle von Sicherheit, Technologieanalyse, Innovation und strategischer Beratung arbeiten.
Technische Evaluierung und strategische Analyse
Zu den zentralen Aufgaben des Instituts gehört die technische Evaluierung leistungsfähiger KI-Modelle. Dabei sollen unter anderem deren Cyberfähigkeiten, Autonomiegrade, Robustheit und mögliche Missbrauchspotenziale untersucht werden.
Darüber hinaus soll das AISI Deutschland die sicherheitsrelevanten Auswirkungen von KI auf Staat, Wirtschaft und Gesellschaft analysieren. Die gewonnenen Erkenntnisse sollen in die strategische Beratung der Bundesregierung einfließen – insbesondere bei Fragen der KI-Sicherheit und der digitalen Souveränität.
Ein weiterer Schwerpunkt liegt auf der internationalen Technologiebeobachtung und Lageanalyse. Das Institut soll internationale Entwicklungen verfolgen, einordnen und dadurch die Grundlage für eine strategische Bewertung schaffen. Gleichzeitig ist der Aufbau nationaler Expertise sowie die Fähigkeit zur internationalen Zusammenarbeit im Bereich KI-Sicherheit vorgesehen.
Aufbau in zwei Phasen
Der Aufbau des AISI Deutschland erfolgt in zwei Phasen. In einem ersten Schritt bilden das Bundesamt für Sicherheit in der Informationstechnik (BSI) und die Bundesnetzagentur (BNetzA) einen „virtuellen“ Nukleus des KI-Sicherheitsinstituts. Beide Behörden wurden dafür von BMI und BMDS mit entsprechenden Aufgaben betraut.
Die Zuständigkeiten werden dabei entlang der Dimensionen (Cyber-)Security und Safety aufgeteilt. Das BSI übernimmt den Bereich (Cyber-)Security, während die BNetzA für den Bereich Safety steht.
Wichtig ist dabei die Abgrenzung zu regulatorischen Aufgaben: Das AISI Deutschland übernimmt ausdrücklich keine Regulierungs- oder Marktüberwachungsfunktion.
In einer zweiten Phase soll das KI-Sicherheitsinstitut sowohl thematisch als auch kapazitär weiter ausgebaut werden. Ziel ist es, der Bundesregierung künftig eine umfassende Beratung zu grundlegenden Fragen der technischen Evaluierung, zu Entwicklungsszenarien und zu strategischen Handlungsbedarfen in der KI-Politik anbieten zu können.
Wissenstransfer in Wirtschaft und Gesellschaft
Neben der Beratung von Bundesregierung, Verwaltung und Politik soll das AISI Deutschland perspektivisch auch einen strukturierten Wissenstransfer sicherheitsrelevanter Erkenntnisse zu künstlicher Intelligenz ermöglichen. Dieser soll sich nicht ausschließlich auf staatliche Stellen beschränken, sondern auch Wirtschaft und Zivilgesellschaft einbeziehen.
Das Institut befindet sich derzeit noch im Aufbau. Der unmittelbare Schwerpunkt liegt zunächst auf der Beratung von Verwaltung und Politik. Gleichzeitig sind bereits Angebote für eine breitere Zielgruppe in Planung.
Mit dem AISI Deutschland entsteht damit eine zentrale Einrichtung, die technische, strategische und sicherheitspolitische Expertise zu leistungsfähiger KI bündeln und die Grundlage für eine fundierte Bewertung von Chancen und Risiken schaffen soll.
