Künstliche Intelligenz – Schutzschild und Einfallstor für Cyberattacken

EEin Expertenbeitrag von Prof. Dr. Jörn Müller-Quade, Karlsruher Institut für Technologie (KIT) / Plattform Lernende SystemeLernende Systeme sind der nächste Schritt der Digitalisierung. Sie versprechen nicht nur innovative technologische Anwendungen – seien es autonome Verkehrssysteme oder eine verbesserte medizinische Diagnostik. Auch auf die Sicherheit von IT-Systemen wirkt sich Künstliche Intelligenz (KI) aus – auf ganz unterschiedliche Weise.
Einerseits gilt: KI wird den Schutz von IT-Systemen verbessern. Bereits heute kommt KI-basierte Software zum Einsatz, um Anomalien in IT-Systemen aufzuspüren, die auf einen Angriff hindeuten. Eine KI-Angriffserkennung lernt auf Grundlage des Normalbetriebs permanent dazu und kann künftig einen maßgeschneiderten Schutz bieten. Auch die Fähigkeit von KI-Systemen, Muster und Regelmäßigkeiten besser als der Mensch zu entdecken, erhöht die IT-Sicherheit: Spam oder verdächtige Inhalte in E-Mails werden rasch und präzise erkannt. Lernende Systeme können also helfen, Angriffe auf IT-Systeme zu erkennen, diese gegen weitere Angriffe zu härten und Sicherheitstests zu automatisieren.

Prof. Dr. Jörn Müller-Quade ist Inhaber des Lehrstuhls für IT-Sicherheit am Karlsruher Institut für Technologie (KIT) und leitet dort die Arbeitsgruppe Kryptographie und Sicherheit. Er ist zudem Direktor am Karlsruher Forschungszentrum Informatik (FZI) und Sprecher des Kompetenzzentrums für Angewandte Sicherheitstechnologie. In der vom BMBF initiierten Plattform Lernende Systeme leitet Jörn Müller-Quade die Arbeitsgruppe „IT-Sicherheit, Privacy, Recht und Ethik“.

Gleichzeitig schafft Künstliche Intelligenz neue Bedrohungen. Denn auch Cyberkriminelle werden KI für ihre Ziele nutzen. Da sie als Mensch-Maschine-Team effektiver als bislang vorgehen können, wird es zum einen völlig neue, bisher unbekannte Angriffe geben. Zudem wird durch eine zunehmende Automatisierung die Anzahl der Angriffe deutlich steigen. Dies betrifft besonders das so genannte Social Engineering. Dabei werden Menschen so getäuscht, dass sie dem Angreifer freiwillig helfen.

Meist handelt es sich dabei um so genannte Phishing-Manöver: Der Angreifer fälscht die E-Mail eines vertrauenswürdigen Absenders und bringt den Empfänger dazu, auf einen vermeintlich wichtigen, aber schädlichen Inhalt zu klicken – etwa eine Rechnung. Eine Phishing-Mail an den Schreibstil des Absenders anzupassen, erforderte bislang Menschenkenntnis und Hintergrundwissen. Mit Hilfe von KI-Systemen lassen sich online verfügbare Informationen gezielt extrahieren, um Websites, Links oder E-Mails auf die Zielperson einer Attacke zuzuschneiden. KI-Systeme lernen aus Fehlern und Erfolgen der Vergangenheit und verbessern mit jedem Angriff ihre Taktik.

Auch andere Angriffsarten werden dadurch effektiver – etwa so genannte Distributed Denial of Service-Angriffe, bei denen viele gehackte Rechner einen Ziel-Server mit Anfragen überfluten, bis er zusammenbricht.

Schließlich können KI-Systeme selbst das Ziel von Angriffen werden. Ihre Prozesse und Entscheidungen sind für Menschen oft nicht mehr nachvollziehbar, sie agieren als „Black Box“. Sie zu schützen, ist deshalb besonders schwierig. Hinzu kommt, dass sich Lernende Systeme laufend verändern und an ihre Umgebung anpassen. Sie nutzen verschiedene Datenquellen, um Objekte zu erkennen oder Ereignisse vorherzusagen. Diese Daten können böswillig manipuliert werden und zu Fehlentscheidungen und falschen Vorhersagen führen. Weil KI-Systeme anders funktionieren als menschliches Erkennen, könnten etwa leicht modifizierte Verkehrsschilder völlig falsch interpretiert werden und Unfälle von KI-gesteuerten Fahrzeugen zur Folge haben.
Fest steht: Die Auswirkungen von KI auf die IT-Sicherheit ist eine von vielen offenen Fragen, die einen breiten gesellschaftlichen Dialog über Chancen und Risiken von Künstlicher Intelligenz erfordern.


Die hier veröffentlichten Inhalte und Meinungen der Autorinnen und Autoren entsprechen nicht notwendigerweise der Meinung des Wissenschaftsjahres 2019 – Künstliche Intelligenz.