Die Fallstricke der Künstlichen Intelligenz

Die Fortschritte in der KI führen zwangsläufig auch zu Manipulation von Deep-Learning-Techniken

Moderne Deep-Learning-Anwendungen sind manipulationsfähig, was bedeutet das?

Die enormen Fortschritte, die in jüngster Zeit im Bereich des maschinellen Lernens (ML) und der künstlichen Intelligenz (KI) gemacht wurden, sind im Begriff, Branchen vom Gesundheitswesen über das Transportwesen und Versicherungen bis hin zu Fertigung, Dienstleistungen und Verteidigung zu revolutionieren. Wie bei jeder revolutionären technologischen Veränderung, z. B. bei Automobilen oder dem Aufkommen von Fabriken, wirft dieser Fortschritt erhebliche Bedenken hinsichtlich Sicherheit, Zuverlässigkeit und Schutz auf.

Zu den größten Bedenken im Bereich KI und ML gehören die schwerwiegenden Anfälligkeiten ausgefeilter Deep-Learning-Techniken für böswillige Manipulationen. Bei diesen böswilligen Manipulationen handelt es sich in der Regel um eine sehr geringfügige und meist nicht nachweisbare Verfälschung von Trainings- oder Testdaten, die dazu führt, dass die resultierenden ML-Modelle bei den Aufgaben, für die sie trainiert wurden, versagen, wie zum Beispiel:

  • eine (für einen Menschen) unsichtbare Modifikation eines digitalen Bildes kann ein visuelles Klassifizierungssystem nicht nur dazu bringen, eine "Katze" fälschlicherweise als "Auto" zu klassifizieren oder umgekehrt, sondern dies auch mit extrem hoher Sicherheit tun
  • ein T-Shirt mit einem speziell entworfenen Muster kann zu einer "Tarnkappe" werden, die ein Überwachungssystem daran hindert, einen Eindringling zu entdecken, der es trägt
  • ein (für einen Menschen) nicht wahrnehmbares Flüstern, das einem Sprachbefehl überlagert wird, kann das Verhalten eines sprachgesteuerten Geräts verändern, so dass es den gegebenen Befehl nicht ausführen kann und das Gerät eine unbeabsichtigte und möglicherweise gefährliche Aktion ausführt
  • eine geringfügige Änderung eines Verkehrsschildes (die einen menschlichen Fahrer nicht verwirren würde) kann bei einem selbstfahrenden Auto verheerende Folgen haben

Das sich schnell entwickelnde Gebiet des Adversarial Machine Learning (AML) konzentriert sich auf die Verteidigung kritischer ML-Modelle gegen diese bösartigen Manipulationen. Im Bereich AML ist ein aktives "Wettrüsten" im Gange.

Mehrere neue Verteidigungsmechanismen werden buchstäblich täglich vorgeschlagen, nur um innerhalb weniger Wochen oder Monate durch ausgefeiltere gegnerische Angriffe besiegt zu werden.

Obwohl sie mit den traditionellen Bereichen robuster Methoden in ML verwandt sind, besteht die besondere Herausforderung von AML darin, eine umfassende Verteidigung bereitzustellen, die nicht nur im Durchschnitt funktioniert (was vor natürlicher Variabilität innerhalb der Trainings- und Testdaten schützt), sondern auch jederzeit (was notwendig ist, um vor böswilligen Änderungen und Variationen in den Daten zu schützen).

Die offensichtliche Bedeutung von AML für die KI-Revolution kann nicht hoch genug eingeschätzt werden.

AML kann dazu führen, dass autonome Fahrzeuge abstürzen, was zu Verletzungen, Zerstörung und dem Verlust von Menschenleben führt. AML kann auch dazu führen, dass Finanztransaktionen fälschlicherweise genehmigt oder verweigert werden. AML kann medizinische Bilder falsch kategorisieren, sodass gutartige Ergebnisse als schädlich eingestuft werden und Ergebnisse, die ein großes Gesundheitsrisiko darstellen, als gutartig bewertet werden.

Die Gefahren, die mit angriffslustigem maschinellem Lernen verbunden sind, sind außerhalb der Forschungsgemeinschaft und der Spezialisten, die mit Verteidigungs- und Sicherheitsanwendungen arbeiten, nicht allgemein bekannt. KI- und ML-Systeme werden zunehmend in verschiedenen Bereichen eingesetzt, von autonomen und teilautonomen Fahrzeugen über Risikobewertungen für Finanztransaktionen bis hin zu intelligenten Sicherheitssystemen. Die grundlegende und inhärente Anfälligkeit all dieser Systeme für AML ist wenig bekannt und wird deutlich unterschätzt.

Die potenziellen Folgen sind sehr ernst, da Angreifer ML-Systeme potenziell anfällig für lähmende Angriffe machen können, die kritische Abläufe und Dienste stören und so die US-Wirtschaft beeinträchtigen und die Sicherheit der Bürger gefährden.

Eine Vielzahl von Unternehmen (in der Versorgungs-, Finanz- und Transportbranche usw.) konzentriert sich jedoch nach wie vor fast ausschließlich auf die Geschwindigkeit und Leistung von KI-Systemen, ohne dem Thema AML Aufmerksamkeit zu schenken. Diejenigen, die den Einsatz von KI- und ML-Systemen in Erwägung ziehen, sollten sowohl deren Vorteile als auch deren Schwachstellen mit einem umfassenden analytischen Ansatz bewerten, der das Testen des Systems unter bekannten AML-Angriffen und die Untersuchung des potenziellen Nutzens aktueller Abschwächungstechniken beinhaltet.

Es gibt eine Reihe von Techniken zur Abschwächung und Verteidigung gegen AML, einschließlich Techniken, die auf einer intelligenteren und sorgfältigeren Vorverarbeitung und Darstellung von Trainingsdaten, der Diversifizierung von Entscheidungsmodellen und der rechtzeitigen Erkennung von verdächtigen Eingaben in diese Modelle basieren.

AML ist ein aktives und wichtiges Forschungsgebiet mit neuen Methoden in der Entwicklung, die das Potenzial haben, die Sicherheit und Zuverlässigkeit von KI- und ML-Anwendungen erheblich zu verbessern.

Ihr Kommentar zum Artikel

"Die Fallstricke der Künstlichen Intelligenz"

Wir freuen uns über Ihren Kommentar und antworten so schnell es geht!

Das Angebot von "HECKER CONSULTING" richtet sich ausschließlich an Unternehmen und Behörden (iSv § 14 BGB). Verbraucher (§ 13 BGB) sind vom Vertragsschluss ausgeschlossen. Mit Absendung der Anfrage bestätigt der Anfragende, dass er nicht als Verbraucher, sondern in gewerblicher Tätigkeit handelt. § 312i Abs. 1 S. 1 Nr. 1-3 und S. 2 BGB (Pflichten im elektronischen Geschäftsverkehr) finden keine Anwendung.

Vielen Dank, Ihr Kommentar wurde empfangen!
Beim Absenden des Formulars ist etwas schief gelaufen.
Unsere Beratungs-Leistungen für Das Thema

Künstliche Intelligenz (KI)

Wir erweitern ständig unser Beratungsportfolio. Über 300 Beratungsleistungen haben wir für Sie im Programm. Selbstverständlich lassen sich die einzelnen Themen kombinieren. So erhalten Sie genau die Beratung, die Sie wünschen und brauchen

Mehr IT-, Online-, Digital-Beratungsleistungen anzeigen >>
Mehr IT-, Online-, Digital-Beratungsleistungen anzeigen >>

Kontaktanfrage

Das Angebot von "HECKER CONSULTING" richtet sich ausschließlich an Unternehmen und Behörden (iSv § 14 BGB). Verbraucher (§ 13 BGB) sind vom Vertragsschluss ausgeschlossen. Mit Absendung der Anfrage bestätigt der Anfragende, dass er nicht als Verbraucher, sondern in gewerblicher Tätigkeit handelt. § 312i Abs. 1 S. 1 Nr. 1-3 und S. 2 BGB (Pflichten im elektronischen Geschäftsverkehr) finden keine Anwendung.

Vielen Dank, Ihre Nachricht wurde empfangen!
Beim Absenden des Formulars ist etwas schief gelaufen.
WEITERE INFORMATIONEN AUS UNSEREM BLOG ZUM THEMA

Künstliche Intelligenz (KI)

Aktuelle und interessante Themen und Beiträge für Sie zusammengetragen und aufbereitet.

Mehr IT-, Online-, Digital-Neuigkeiten anzeigen >>
Nach oben