Ob für Information und Kommunikation, Services oder Online-Einkäufe: Digitale Plattformen sind fester Bestandteil unseres Alltags. Mit den Chancen und Herausforderungen, die sie bieten, beschäftigt sich der Digital-Gipfel der Bundesregierung, der heute und morgen (28./29. Oktober 2019) in Dortmund stattfindet. Ein Aspekt werden dabei auch KI-basierte Plattformen und damit verbundene Fragen der IT-Sicherheit sein – Themen, mit denen sich die Plattform Lernende Systeme (PLS) beschäftigt, an der Forscher des Karlsruher Instituts für Technologie (KIT) maßgeblich mitarbeiten. Die PLS hat das Ziel, Künstliche Intelligenz (KI) und Maschinelles Lernen im Sinne der Gesellschaft zu gestalten.
„Aus unserer Informationsgesellschaft, aber auch aus Wirtschaft und Wissenschaft sind digitale Plattformen nicht mehr wegzudenken – und sie haben enormes Weiterentwicklungspotenzial, gerade mit Blick auf die aktuellen und künftigen Technologien, die Künstliche Intelligenz nutzen“, sagt der Präsident des KIT, Professor Holger Hanselka, der Mitglied im Lenkungskreis der PLS und Pate der Arbeitsgruppe „IT-Sicherheit, Privacy, Recht und Ethik“ ist. „Ein wesentlicher Aspekt dabei ist die Sicherheit von IT-Systemen: KI ist in der Lage sie entscheidend zu verbessern, gleichzeitig kann sie aber auch für potenzielle Angreifer neue Möglichkeiten schaffen. Neben den großartigen Chancen der KI, haben wir deshalb auch die Risiken für Cybersicherheit und Datenschutz fest im Blick.“
„Gemeinsam haben Wissenschaft, Wirtschaft und Gesellschaft die Aufgabe, den digitalen Wandel zu gestalten“, so Professor Michael Decker, Leiter des Bereichs II Informatik, Wirtschaft und Gesellschaft am KIT und Mitglied des Sherpa-Kreises der PLS, der unter anderem die Ergebnisse der Arbeitsgruppen als Grundlage für Handlungsempfehlungen an die Politik aufbereitet. Eine große gesellschaftliche Herausforderung beim Thema lernende Systeme sieht er dort, wo die Entscheidungshoheit von Mensch und künstlich intelligenter Maschine oder selbstlernendem Algorithmus aufeinander treffen. „Hier müssen wir für jeden Anwendungskontext aushandeln, wer welche Entscheidung in welcher Situation treffen darf.“ Dabei gehe es gleichermaßen um die faktische Akzeptanz der neuen Technologien als auch um die Akzeptabilität, also darum, was Nutzerinnen und Nutzern „zugemutet“ werden kann.
Besonderen Fokus auf die Cybersicherheit legt die PLS-Arbeitsgruppe „IT-Sicherheit, Privacy, Recht und Ethik“: „Der Einsatz von KI erzeugt eine neue Dynamik: KI-Methoden können IT-Systeme zwar sicherer machen, aber es wird auch derzeit noch unbekannte Angriffe mit KI geben, mit möglicherweise hohem Zerstörungspotenzial. Es kommt also zu einem neuen Wettlauf zwischen Angreifern und Verteidigern“, erläutert Professor Jörn Müller-Quade vom KIT, der die Arbeitsgruppe leitet. Für Unternehmen und Behörden sei es wichtig, in neue Sicherheitstechnologien zu investieren und zügig entsprechende Kompetenzen aufzubauen. „Um den Angreifern auch künftig einen Schritt voraus sein zu können, müssen wir auch die Ausbildung von IT-Fachkräften immer weiter entwickeln und anpassen.“
ww.kit.edu
