Sicherheitsinstitut AISI Deutschland wichtig für öffentliche
KI-Beschaffung

Dass ein KI-Sicherheitsinstitut seine Arbeit aufgenommen hat, dürfte für öffentliche Auftraggeber interessant sein. Mit der Beschaffung von KI-Systemen müssen sie auch die Risiken beurteilen können.

AISI steht für „AI Safety and Security Institute“ – also Sicherheitsinstitut für Künstliche Intelligenz (KI). Die neue Einrichtung, die jetzt gerade aufgebaut wird, soll dazu beitragen, fortgeschrittene KI-Systeme technisch zu untersuchen. Ziel ist es, die Fähigkeiten der Systeme zu prüfen und deren Risiken für die Sicherheit zu bewerten. Daraus lassen sich perspektivisch Beschaffungsanforderungen ableiten. Der Vergabeblog ordnet die Dienstleistung des Instituts so ein, dass es helfen kann, die Sicherheitsanforderungen an die zu beschaffenden KI-Systeme „vergaberechtlich sauber, transparent und verhältnismäßig“ zu formulieren.

Wann ist ein KI-System sicher?

Die Bewertung des Instituts würde zum Beispiel helfen zu bestimmen, welche Eigenschaften Systeme mit sich bringen müssen, um als sicher zu gelten. Auch die Frage, mit welchen Nachweisen das belegt werden soll, könne sich daraus ableiten.

Mit der Einrichtung des AISI Deutschland setzen das Bundesdigitalministerium und das Innenministerium einen Beschluss des Nationalen Sicherheitsrates vom Juni 2026 um. Das Institut wird auch sicherheitsrelevante Auswirkungen von KI auf Staat, Wirtschaft und Gesellschaft analysieren und eine nationale Expertise im Bereich der KI-Sicherheit entwickeln.

Quelle

• Vergabeblog: https://vergabeblog.de/2026-09-02/deutsches-ki-sicherheitsinstitut-aisi-deutschland-nimmt-arbeit-auf/
• Bundesamt für Sicherheit in der Informationstechnik: https://www.bsi.bund.de/DE/Themen/Unternehmen-und-Organisationen/Informationen-und-Empfehlungen/AISI/aisi_node.html