Autor:innen:
Franziska Boenisch | Fraunhofer AISEC
Lilli Walter | Fraunhofer AISEC
Sprache:
Englisch
Zielgruppe:
KI-Entwickler, Security Engineers, Systemarchitekten
Voraussetzungen:
Grundlagenwissen KI, mobile & eingebette Systeme, Trusted Computing
Überblick und Zusammenfassungen:
Methoden der Künstlichen Intelligenz (KI), wie Machine Learning (ML), kommen bereits in einer Vielzahl stetig wachsender heterogener mobiler und eingebetteter Plattformen zum Einsatz. Dort werden sie z.B. in intelligenten Assistenzprogrammen aber auch für biometrische Verifikationsverfahren oder zur Anomaliedetektion verwendet. Aufgrund ihrer Heterogenität ist es schwierig, solche Plattformen gegen Cyberangriffe zu schützen und die Manipulation der ML/DL-Modelle zu verhindern. Dies kann, z.B. im Bereich des autonomen Fahrens lebensgefährliche Folgen haben. Aber auch in weniger kritischen Umgebungen, wie z.B. auf Smartphones, kann ein gezielter Angriff auf KI-Systeme weitreichende Folgen haben. So kann z.B. durch gezielte Manipulation des Inputs die biometrische Gesichtserkennung des Authentifizierungsverfahrens umgangen werden, oder aber aus einem lokal gespeicherten KI-Modell zur Kreditkartenerkennung die zum Training verwendeten Kreditkartennummern extrahiert werden.
Das BMWi-geförderte Projekt SENSIBLE-KI erforscht neue innovative Ansätze, die dazu dienen sollen, solche Angriffe auf die KI-Systeme im mobilen und eingebetteten Kontext zu erschweren bzw. komplett zu verhindern. Hierfür werden bewährte Mechanismen des Trusted Computings (TC) eingesetzt und mithilfe wissenschaftlicher Methoden die Hypothese, dass derartige Technologien effektiven und zuverlässigen Schutz in den beschriebenen Angriffsszenarien bieten, untersucht. Insbesondere müssen dafür die klassischen Sicherheitsziele sichergestellt werden. Zusätzlich zu diesen hardwareseitigen TC-Methoden werden auch Softwaremethoden zur Überwachung und Integritätserhaltung erforscht und entwickelt. Zur Evaluation der Effektivität und Effizienz des entwickelten Ansatzes werden zwei unterschiedliche Prototypen aus den Bereichen Smart Living und Biometrie entwickelt, die einerseits praktische Beispiele darstellen, wie die im Projekt erarbeiteten Referenzarchitekturen und Best-Practices implementiert werden müssen und andererseits dazu dienen, die Einhaltung der Sicherheitsziele praktisch evaluieren zu können.
Im geplanten Vortrag geben wir interessierten Zuhörern einen Überblick über die Vorhaben im Projekt, sowie einen ersten Einblick in Ergebnisse und aktuell diskutierte Forschungsfragen.
Art der Vermittlung:
Präsentation von Forschungsthemen, Projektbeispiele
Nutzen:
Der Vortrag ermöglicht es Dritten, wie z.B. KMUs, ihr Wissen in diesem Bereich zu stärken, eigene Lösungen umzusetzen und sich von den großen Tech-Firmen, wie Google, Facebook und Amazon unabhängig zu machen. Gleichzeitig führt dies zu einem Mehrgewinn an Sicherheit und Privatsphäre für Nutzerinnen und Nutzer, sowie zur Stärkung des Digitalstandortes Deutschland.