BSI-Papier sensibilisiert für Auswirkung der KI-Entwicklungen auf die Cybersicherheit von Organisationen

Das BSI unterstreicht mit dem Papier sehr deutlich, dass Künstliche Intelligenz in der Lage ist, Aufwand, Zeitbedarf und Einstiegshürden für offensive Cyberfähigkeiten maßgeblich zu senken. Damit einher geht eine strukturelle Veränderung der Cyberbedrohung, von der insbesondere die Angreiferseite durch Geschwindigkeit, Skalierung und Automatisierung maßgeblich profitiert. Die Bedrohten wiederrum bleiben an die, wie das BSI formuliert, „realen Betriebsgrenzen“ gebunden (Testaufwand, Freigabeprozesse, Wartungsfenster für Patches, Herstellerabhängigkeiten, rechtliche und organisatorische Abstimmungen sowie begrenzte personelle Kapazitäten) und geraten damit unvermeidlich gegenüber den Angreifern ins Hintertreffen. Um trotz dieser Hürden Schritt zu halten, empfiehlt das BSI, die Angriffsfläche grundsätzlich zu minimieren. In diesem Prozess sollte die Entwicklung im Bereich KI nicht nur als technologischer Trend, sondern als operative und strategische Veränderung der Cybersicherheitslage verstanden werden.

Veränderung bei der Reaktionsgeschwindigkeit notwendig

Das BSI empfiehlt den IT-Sicherheitsverantwortlichen, sich schnellstmöglich einen Überblick über die Angriffsfläche ihrer Organisation und die daraus resultierenden Bedrohungen für die eigene Infrastruktur zu verschaffen. Dabei betont das BSI, dass angemessene Reaktionsgeschwindigkeiten beim Patchmanagement bei maximal wenigen Stunden liegen dürften, um Schwachstellen zu sichten, zu bewerten und gegebenenfalls benötigte Patches auszurollen.

Auch unterstreicht das BSI seine Ansicht, dass es keine Frage mehr sei, ob ein System angegriffen werde, sondern wann. Vor diesem Hintergrund müssen die Systeme kontinuierlich auf mögliche hinterlassene, persistente Malware überprüft und bereinigt werden.

KI auch im Bereich von Social-Engineering eine Bedrohung

Nicht zuletzt warnt das BSI davor, dass öffentlich verfügbare Informationen von Webseiten und Social Media als Grundlage für personalisierte Angriffe verwendet werden können. Der Einsatz von KI reduziert den Aufwand für Angreifer deutlich und ermöglicht eine Automatisierung.

KI-Systeme selbst als Einfallstor

Neben der missbräuchlichen Nutzung von KI durch Angreifer erweitern KI-Systeme selbst die Angriffsfläche von IT-Umgebungen. Auch KI-Komponenten müssen daher durch geeignete Schutzmaßnahmen, Isolation, Validierungsschichten und Berechtigungskonzepte abgesichert werden.
Das BSI benennt in seinem Papier über die Hintergrundinformationen hinaus konkrete Hinweise zu erforderlichen Maßnahmen:

• Angriffsfläche kennen und minimieren

• Patchmanagement verbessern und effizienter gestalten

• Detektion und Vorfallsbearbeitung ausbauen

• Standard-Maßnahmen (u.a. IT-Grundschutz) umsetzen

Anmerkung des Städte- und Gemeindebundes NRW

Aus Sicht des Städte- und Gemeindebundes NRW sind die Empfehlungen des BSI fachlich nachvollziehbar, berücksichtigen jedoch die kommunalen Umsetzungsrealitäten nur unzureichend. Viele Kommunen können das geforderte Schutzniveau aufgrund fehlender personeller und finanzieller Ressourcen nicht eigenständig erreichen. Die zunehmende Bedeutung von KI verschärft die Herausforderungen in der Cyberabwehr zusätzlich. Daher braucht es eine zentral koordinierte, föderale Cybersicherheitsarchitektur mit einheitlichen Schutz- und Reaktionsmechanismen sowie eine stärkere finanzielle Unterstützung durch den Bund, um Kommunen, Bürgerinnen und Bürger sowie kritische Infrastrukturen wirksam zu schützen.

Weiterführende Informationen:

Das Papier des BSI „Auswirkungen auf die Cybersicherheit von Organisationen durch die Entwicklung im Bereich Künstlicher Intelligenz“ ist zu finden unter: www.bsi.bund.de