IT-Angriffe nehmen mit Hilfe von Künstlicher Intelligenz rasant zu. Unternehmen setzen zur Abwehr nun ebenfalls vermehrt aufwärts KI.
(Bild: Adrian Grosu/Shutterstock.com)
Von
- Ulrich Hottelet
Künstliche Intelligenz ist auch in der IT-Sicherheit auf dem Vormarsch. Laut einer Umfrage unter 300 Managern berichteten 96 Prozent von Vorbereitungen in ihren Unternehmen auf KI-gestützte IT-Angriffe. Dabei setzen sie teilweise auf die Hilfe von "defensiver KI". Die Befragung wurde unter Mitwirkung des KI-Cybersicherheitsanbieters Darktrace erstellt. Zu einem differenzierteren Ergebnis kam eine Umfrage unter rund 200 IT-Verantwortlichen in mittelständischen Unternehmen. Danach nutzen 36 Prozent bereits KI für ihre Sicherheit, 44 Prozent tun das noch nicht, sind aber daran interessiert. Diese Umfrage stammt von Capterra, einem zu Gartner gehörenden Anbieter von Software-Nutzerbewertungen.
"Feuer mit Feuer bekämpfen"
Max Heinemeyer, "Director of threat hunting" bei Darktrace, erklärte den Grundgedanken, KI gegen KI in Stellung zu bringen, in einem Vortrag im Rahmen der Cybersecurity Webcast Series: "Die aktuelle IT-Sicherheit ist nur reaktiv. Das wird nicht reichen. Defensive, selbstlernende KI erkennt den Normalfall im Kontext und Anomalien im Nutzerverhalten. Menschen sind dafür zu langsam. Man muss Feuer mit Feuer bekämpfen." Anomalien können zum Beispiel eine ungewöhnliche Tageszeit oder ein ungewöhnlicher Ort beim Einloggen sein oder Aktivitäten auf dem Rechner, die im Vergleich zu den bisherigen des jeweiligen Nutzers außergewöhnlich erscheinen. Das wird durch Maschinelles Lernen des Nutzerverhaltens ermittelt. Mit zunehmender Dauer des Maschinellen Lernens wird es immer leichter, Ungereimtheiten zu erkennen.
Beispiele für offensive KI sind die Erstellung von Schadsoftware, das Raten von Passwörtern, fingierte Social Media-Profile und Medienmanipulationen wie Deepfakes von Bildern und Videos. Beispiele für defensive KI sind neben der Anomalie-Erkennung in Netzwerken die Erkennung von Malware und Medienmanipulationen. Letzteres zeigt die Möglichkeit auf, offensive und defensive KI im gleichen Bereich anzuwenden. "Offensive KI wird der nächste große Schritt sein. Voice Deepfakes wurden bereits eingesetzt. Und Prototypen von Open Source-KI-Cyberwaffen existieren bereits", sagte Heinemeyer.
"Noch lange kein Ersatz für den Menschen" – spare aber teures Sicherheitspersonal
Geschwindigkeit ist zur Abwehr der Attacken wichtig, denn sie können dank offensiver KI immer schneller durchgeführt werden. Idealerweise erkennt die defensive KI in Echtzeit, dass auf einem Computer zum Beispiel gerade ein Kryptotrojaner erstellt wird und stoppt diese Anomalie. "Das Gerät wird dann beispielsweise zwei Stunden in Quarantäne gesteckt. Die KI entscheidet dabei die Schwelle und die Reaktion des Blockens", so der Darktrace-Direktor. Er räumt ein, dass sie "noch lange kein Ersatz für den Menschen" sei, sondern teures Sicherheitspersonal einspare, das zudem nicht rund um die Uhr verfügbar sei. Nach dem Blocken entscheidet der Mensch, wie weiter verfahren wird.
Das Zusammenspiel von IT-Sicherheit und KI wird künftig auch in einem neuen Stützpunkt des BSI erforscht, der am Montag in Saarbrücken eröffnet wird (ab 15 Uhr im Livestreamauf YouTube). Mit 30 Mitarbeitern wird das BSI zusammen mit den dortigen Forschungseinrichtungen DFKI, CISPA Helmholtz-Zentrum für Informationssicherheit und der Uni Saarland seine Arbeiten zur KI intensivieren. Damit knüpft das BSI an eine schon lange bestehende Kooperation mit dem DFKI an. Unter anderem wird die Entwicklung von Normen und Standards für KI-Systeme im Mittelpunkt stehen. Mit dem AIC4, einem Kriterienkatalog für KI-basierte Cloud-Systeme, hat das BSI bereits den weltweit ersten Standard gesetzt, der ein Basisniveau an IT-Sicherheit für KI-Systeme definiert.
"Das Hauptproblem bleibt der Mensch"
Zurückhaltender als Heinemeyer beurteilt das Thema Professor Philipp Slusallek, geschäftsführender Direktor des DFKI Saarbrücken und wissenschaftlicher Direktor des Forschungsbereichs Agenten und Simulierte Realität. Unter Hinweis auf die Spam-Erkennung als eine der ersten defensiven Anwendungen des Maschinellen Lernens sagte er: "KI ist heute ein Schlagwort. Es geht immer weiter. Angriffe und Verteidigungen werden immer besser." Schwierig für Künstliche Intelligenz seien gezielte Attacken auf Menschen wie Spear Phishing. "Im Vergleich zu Deepfakes mache ich mir mehr Sorgen um Fake News." Defensive KI werde nie "hundertprozentig" funktionieren. Dennoch solle man sie einsetzen. Sein Rat: "Nicht in Panik verfallen. Das Hauptproblem bleibt der Mensch und dass Systeme unzureichend gesichert werden. Das gilt besonders für kleine IoT-Geräte, die mit weniger als 20 Euro so billig sind, dass sie zu schwach gesichert werden."
Heinemeyer zieht für den Wettlauf zwischen Angriff und Abwehr in der KI gleich zwei Spielvergleiche. "Es ist ein Katz-und-Maus-Spiel. Die Angreifer sind dabei, sich auf die defensive KI einzustellen. Aber momentan sind wir voraus. Cybersicherheit ist wie das Brettspiel Go, in dem KI den Weltmeister besiegt hat."
- Vorbereitung auf KI-gestützte Cyberangriffe – MIT Technology Review Insights
- Künstliche Intelligenz & IT-Sicherheit: Wie Unternehmen jetzt mit KI aufrüsten können – Capterra
(bme)
Quelle: www.heise.de