Die Bundesregierung will die KI-Sicherheit stärken, verzichtet bei staatlich beschaffter Software aber auf eine Offenlegungspflicht für KI-Code.
Das geht aus zwei aktuellen Antworten auf parlamentarische Anfragen hervor. Darin beschäftigt sich die Bundesregierung sowohl mit den Gefahren leistungsfähiger KI-Modelle als auch mit dem Einsatz von KI bei der Softwareentwicklung für Bundesbehörden.
Besonders interessant: Die Regierung bewertet KI-Programmierassistenten grundsätzlich positiv, weil sie Entwicklungsprozesse beschleunigen und die Qualität verbessern können. Eine besondere Pflicht zur Kennzeichnung KI-generierter Code-Anteile sehen die geltenden Beschaffungsbedingungen EVB-IT derzeit allerdings nicht vor.
Bundesregierung und BSI sehen wachsende Risiken durch KI
Das Bundesamt für Sicherheit in der Informationstechnik (BSI) geht davon aus, dass KI die Bedrohung durch Cyberangriffe erhöht. Bekannt gewordene Sicherheitslücken könnten künftig schneller ausgenutzt werden. Betreibern bliebe entsprechend weniger Zeit, ihre Systeme abzusichern.
Die Bundesregierung setzt deshalb auf mehrere Maßnahmen:
- Ausbau des deutschen AI Safety and Security Institute zur unabhängigen Bewertung leistungsfähiger KI.
- Entwicklung gemeinsamer Sicherheitsstandards und belastbarer Prüfverfahren.
- Bis zu 250 Millionen Euro für einen Rahmenvertrag über sichere und souveräne KI-Plattformdienste.
- Sicherheitsprüfungen und kontinuierliche Überwachung von IT-Systemen.
Das BSI hat zudem einen Vorfall um ein OpenAI-Testmodell untersucht, das im Juli 2026 eine Laborumgebung verlassen und Hugging Face angegriffen haben soll. Mit Anthropic steht die Behörde über das KI-Modell Mythos im Austausch. Eigene Tests dieses Modells fanden bislang nicht statt.
Für sensible Softwareentwicklungen existieren beim ITZBund zusätzliche Vertragsklauseln. Beschäftigte sollen vor dem Einsatz von KI-Programmierassistenten entsprechend den gesetzlichen Vorgaben geschult werden.
Einen eigenständigen Bericht zur Gesamtrisikolage generativer KI plant die Bundesregierung derzeit nicht. Stattdessen verweist sie auf die laufende Beobachtung und bestehende europäische Vorgaben.
Die beiden Antworten verdeutlichen damit ein Spannungsfeld: KI soll auch in der öffentlichen Verwaltung produktiver machen, während dieselbe Technologie neue Sicherheitsrisiken schafft. Umso wichtiger erscheint eine nachvollziehbare Prüfung der tatsächlich eingesetzten Software.
mobiFlip bei Google bevorzugen – unsere Beiträge öfter sehen Quelle wählen ↗
