IT-Sicherheit in Kommunen: KI und Deepfakes

KI-Modelle, die einen Trainingsprozess auf der Grundlage von Daten durchlaufen haben und dadurch anhand von Prognoseentscheidungen in der Lage sind, realistische Inhalte zu liefern, treffen auf deutlich bessere Möglichkeiten, Datensätze auszuwerten und Muster zu erkennen. Riesige Datenmengen können so blitzschnell mit dem (meistens) richtigen Kontext verbunden werden. Wie bei fast jeder neuen IT-Anwendung, die einen gewaltigen Nutzen mit sich bringt, ist hierdurch zugleich ein neues Werkzeug für Angriffe auf die kommunale IT vorhanden.

Verändern können sich dadurch unter anderem Phishing-Mails, die wesentlich realistischer – und vor allem ohne Fehler – auf die Zielperson zugeschnitten werden können, so dass sie als solche nicht mehr anhand äußerlicher Auffälligkeiten erkennbar sind. Social-Engineering-Angriffe könnten ebenfalls leichter möglich werden, da mit einer Vielzahl von Mitarbeitenden in Behörden gleichzeitig und hoch individualisiert kommuniziert werden kann.

Eine ganz besondere Dimension der Angriffserleichterung durch KI stellen jedoch Deepfakes dar. Hier werden Fotos, Audios, Videos usw. erzeugt, die eine Person täuschend echt nachahmen sollen. Besonders für Stimmen am Telefon ist dies nützlich: es ist weniger aufwändig, da die gefälschte Person nicht zu sehen sein muss, und ausreichend, um zum Beispiel einen Vishing-Anruf durchzuführen. Für eine absolut authentische Nachahmung müssen aber Originalaufnahmen zur Verfügung stehen, anhand derer das KI-Modell lernen kann, wie die Person in Wirklichkeit spricht. Eine von der Tonhöhe original wirkende Stimme, die jedoch einen völlig anderen Sprachstil hat, fällt schnell als künstlich auf.

Das Problem: mussten Personen früher einigermaßen prominent sein oder die Angreifenden aufwändig viel Material sammeln, um genug Lernstoff für die KI zu haben, können heute auch schon von weniger bekannten Personen kleinere Audioschnipsel reichen, um einen Sprachinhalt nachzubauen. Und auch von den meisten Bürgermeisterinnen und Bürgermeistern gibt es häufig Video- oder Audioinhalte in sozialen Netzwerken, auf Youtube oder der Gemeinde-Website. Das steigert das Risiko, dass auch gegenüber den Kommunen Deepfakes zur Anwendung kommen können. Bereits in der Herbstbefragung 2024 des Kommunalen Monitorings gaben 83 % der befragten Amtsträgerinnen und Amtsträger an, dass sie durch Desinformation oder KI generierte Deep Fakes eine Bedrohung für die persönliche Sicherheit und politische Karriere im Amtsalltag sehen.

Ein Beispiel, wie es vielleicht in Zukunft häufiger vorkommen kann: heute beginnt in einem Ortsteil der Gemeinde ein Schützenfest. Ein Behördenmitarbeiter hat gerade morgens noch seine Vorfreude offen in einem Kommentar auf Social Media kundgetan. Nun ruft ihn kurz vor Feierabend eine Handynummer an, im Hintergrund ist eine passende Geräuschkulisse zu hören und die prägnante, echt wirkende Stimme der Bürgermeisterin (nennen wir sie Brauweiler) sagt,

• „Hee es Brauweiler, ich ben jrad op’m Schötzefest en Denkstenich. Do wells de doch morje och hin, han ich jesehn? Jo, pass op: ich muss jleich ming Räd halle un han se mer nit usjedröck. Et Intranet lääht mich ävver nit erin. Kanns de mer janz schnäll dat Passwoot övver WhatsApp rüberschicke…?“

• („Hier ist Brauweiler, ich bin gerade auf dem Schützenfest in Denkstenich. Sie wollen doch morgen auch hin, hab ich gesehen? Naja, folgendes, ich muss gleich meine Rede halten und hab sie mir nicht ausgedruckt. Das Intranet lässt mich aber nicht rein. Bitte schicken Sie mir einmal schnell das Passwort per Whatsapp..." – Anmerkung: die kölsche Fassung wurde von ChatGPT erzeugt)

Hier dürfte es der angerufenen Person schwerfallen, das Social Engineering zu erkennen.

Einschätzung des Städte- und Gemeindebundes NRW

KI bringt neue Herausforderungen für die IT-Sicherheit, so wie auch KI selbst anfällig für Hacking ist. Während es mit KI-gestützten Sicherheitswerkzeugen in Zukunft hoffentlich leichter für die Kommunen wird, technischen Angriffen auf ihre IT-Systeme Widerstand zu leisten, wird es beim Social Engineering wohl sogar noch schwerer, Cyberkriminalität zu erkennen, wenn der Kontakt zu einem Menschen in der Verwaltung gesucht wird. Denn Deepfakes zu erstellen wird leichter.

Immerhin kann hier das helfen, was auch bei Social Engineering ohne KI-Einsatz gilt: Situationen, in denen ungewöhnliche Handlungen unter besonderem Zeitdruck (und dann vielleicht noch gegenüber einer Autorität) vorgenommen werden sollen, sollten unbedingt Misstrauen hervorrufen. Erst recht, wenn die Nummer oder Mail-Adresse verdächtig aussieht. Öffentlich einsehbare, private Informationen von Mitarbeitenden erleichtern die Angriffsplanung zusätzlich. Sorgsam mit persönlichen Informationen umzugehen und private Profile zu schützen, sollte auch zu den Vorkehrungen gehören, um die kommunale Cybersicherheit zu erhöhen.