Die KI-Hacker kommen
Kommen bald Hacker welche KI-Systeme auf eine ganz andere Art und Weise angreifen als "normale" Computersysteme. John Carpenter lässt mit "Black Star" grüßen!

Die KI-Hacker kommen

Wer sind die KI-Hacker die angeblich da kommen sollen? Der Begriff eines Hackers ist der Gesellschaft geläufig aber was sollte man unter einem KI-Hacker verstehen? Gibt es denn einen Unterschied zu den schon bekannten Hackern? Schließlich sind doch KI-Systeme auch so etwas wie Computerprogramme? Nicht ganz! In meinem letztem Blog „Die KI vor Gericht“ habe ich beschrieben, dass niemand so richtig nachvollziehen kann, warum eine KI ihre Entscheidung so trifft, wie sie sie trifft und dass es deshalb an der Nachvollziehbarkeit der Entscheidung mangelt für eine Richter. Wenn jetzt ein KI-Hacker das KI-System in seinem Sinne (oder im Sinne seines Auftraggebers) beeinflusst, wird es wegen der fehlenden Nachvollziehbarkeit sehr schwierig sein die externe Beeinflussung nachzuweisen. Die einzige Möglichkeit wäre, dass man den KI-Hacker quasi „in flagranti“ erwischt.  Das klingt jetzt etwas abstrakt aber hier einige Bespiele (aus der Praxis).

Die Facehacker

Das klingt jetzt so, als würde jemand mit seiner Axt auf das Gesicht eines Anderen einschlagen aber keine Angst, es ist hier ganz anders gemeint. In den Medien werden oft Beiträge von neuen  Gesichtserkennungssystemen gezeigt. Oft sind diese Beiträge kritisch bezogen auf den Datenschutz (Big Brother lässt grüßen). Vor allem ist dieses Thema in China ein Paradebeispiel für eine Überwachung der Bürgern seitens des Staates. Aber auch Hierzulande haben wir es mit immer mehr Gesichtskontrollen durch KI-Systeme zu tun. Bestes Beispiel; hierzulande sind Flughäfen aber auch in der Privatwirtschaft immer mehr Einlasskontrollsysteme im Einsatz (z.B. PlaySafe an Spielautomaten im Sinne des Spielerschutzes).

Hier kommen jetzt unsere KI-Hacker ins Spiel. Als erstes fangen die KI-Hacker an sich Masken auszudrucken und an diversen Gesichtserkennungskameras anzuwenden. Schlechte Gesichtskontrollen werden darauf rein fallen und deshalb werden diese in einem nächsten Schritt darauf getrimmt Masken zu erkennen (z.B. durch kombinierte Wärmebildaufnahmen und Gesichtsgestenbewegungen). Irgendwann werden die KI-Hacker solche ein Gesichtserkennungssysteme in die Hände bekommen um weitere „KI-Bildattacken“ auszuprobieren. Sie würden farbige Punkte, Kreuze oder anderweitige Muster ausprobieren, um so das Neuronale Netz der Kamera zu täuschen (gut möglich das irgendwann Tattoos auf Gesichtern von Behörden verboten werden 😉 ). Bei den Menschen nennen Psyhologen so etwas „optische Täuschung“. Es ist sogar denkbar, die Kontrolle gänzlich über das zugrundeliegende System der KI  zu erlangen, da die Bilddaten nicht korrekt von der Vorverarbeitung eingelesen werden und so einen so genannten „Buffer Overflow“ provozieren würden. Man stelle sich vor, dass dadurch Fotos von Terroristen als vertrauensvolle Sicherheitsbeamte von KI-Hackern im Vorfeld durch das Gesichtserkennungssystem in die Flughafendatenbanken abgelegt werden würden. Alles was nötig wäre, wäre ein 3D-Barcode auf der Stirn des KI-Hackers. Ich gebe zu, das klingt ein wenig übertrieben aber es beschreibt sehr gut den Kern der Sache. Das ist was ich unter dem Begriff eines Facehackers verstehe.

Die Autohacker

Und wie sieht es mit den Autoknackern von morgen aus? Nun, aus den „Knacker“ werden „Hacker“! Die Fahrzeuge werden immer intelligenter, so dass ich mir ganz gut vorstellen kann, dass Fahrzeugdiebe die Fahrzeuge anfangen werden zu „überreden“ die Tür zu öffnen. Ich weiß, das ganze klingt verrückt und klingt ein wenig nach dem Film von John Carpenter „Black Star“, wo die Astronuten versuchen die „intelligente“ Bombe zu überreden nicht zu explodieren aber im Grunde genommen, ist dies genau das was „Autohacker“ irgendwann machen werden. Der Grund ist der, dass niemand genau weiß, warum nach dem Lernen die künstlichen Neuronen des KI-Systems so gewichtet sind, wie sie es sind. So wird es sicherlich um das System anzugreifen, irgendwann „KI-psychologische Angriffe“ geben. Übrigens, Trickbetrüger führen auch psychologische Tricks an Menschen und Organisationen durch, um ihre Ziele zu erreichen. Man nennt dies heute „Social Engineering“.

Die Smarthome Einbrecher

Werden wir in Zukunft von IT-Experten vor Ort zu Hause ausgeraubt werden? Das klingt merkwürdig ab ganz so fremd auch nicht. Wenn ein Schloss an der Tür sich z.B. zukünftig durch eine Gesichtserkennung öffnen lassen sollte, was glaubst du was für ein „Schabernack“ zukünftig damit getrieben werden kann von Einbrechern? Ich denke daher, dass es in der Zukunft einen Markt für „3D-Gesichtsmaskendrucker“ geben wird. Die Frage ist aber, was werden die Einbrecher klauen wenn es eh fast alles aus der Cloud zu klauen gibt? Das gleiche wie heute auch. Möbel, Rechner, Fernseher, Fahrräder, Reisepässe … und vor allem,  analoge Dokumente! Dies könnten z.B. diverse TAN-Listen oder offizielle Zugangsdaten von Behörden sein.

Besonders interessant wir es, wenn die Einbrecher vor Ort auf Routern (das sind die kleinen Kästchen welche die Leute bekommen um ins Internet zu gehen) irgendwelche „Trojaner“ installieren. Oft ist es nämlich leichter einzubrechen als einen Internetzgang zu kapern um dadurch anonym unter einen anderen Namen zu surfen. Die Tore stünden offen für Hacker und nichts wäre anonymer um unter einen anderen Namen direkt ins Internet zu gehen. Ganz extrem ist es, wenn die Einbrecher dann vor Ort „nur“ in ihr Rechner eindringen (also physisch) und diverse Schadsoftware installieren, so dass ihre Banktransaktionen angegriffen werden können. Nichts auf ihrem Rechner wäre mehr sicher!

Die Ladendieb-Hacker

Neulich habe ich eine Sendung gesehen, welche einen Laden von amazon in San Francisco zeigte. Dort mussten sich die Einkäufer beim betreten des Stores am Eingang mittels ihrer Smartphone-App einloggen. Danach entnehmen sie das was sie brauchen aus den Regalen und verstauten diese Gegenstände in deren Taschen. Ein „physischer“ Einkaufswagen wurde nicht benötigt. Ist der Einkauf beendet, verlassen die Einkäufer den Laden ohne die Gegenstände an irgend welchen Kassen abzurechnen. Die Frage ist, wie funktioniert solche Einkäufe ohne Kassen? Ganz einfach, in dem man die Einkäufer verfolgt. Die Decken der Räume des Stores sin vollgepflastert mit Kameras. Diese „verfolgen“ die Einkäufer. Es ist klar, dass hier eine ganz neue Generation von Ladendieben heranwachsen werden.

Die Audio-Hacker

Das ganze lässt sich steigern. Warum nicht auch KI-Systeme welche sich am Telefon als andere Personen ausgeben? Da ruft der Freund, Sohn oder der Enkel an und sagt, dass er in Schwierigkeiten steckt und Geld braucht. Oder das KI-System gibt sich als Arbeitnehmer aus und ruft den Arbeitgeber an. Das muss ja nicht in 100% aller Fälle funktionieren aber man kann es ja automatisieren und dem entsprechend auch hoch skalieren, so dass es bei vielen ausreichen wird.

Die Medizin-Hacker

Richtig boshaft wird es in der Medizin. Stelle dir ein KI-Diagnostiksystem vor, welches Hacker kapern, so dass dir anstatt eines Blutsenkungsmittel eines zur Erhöhung verschrieben wird. Kein Scherz, ein Eldorado für Auftragskiller und Erpresser. Ein ganzes Krankenhaus könnte auf diese Art und Weise schweren Schaden erleiden. Damit meine ich nicht die Verwaltungsabteilung, sondern die Patienten. Würde mich daher nicht wundern, wenn irgendwann Terroristen zukünftig Krankenhäuser mittels KI-Hackerattacken anfangen zu terrorisieren.

Der Hackerassistent

Große Hackerangriffe müssen geplant und koordiniert werden. Dies erfordert ein Team. Deshalb existieren bereits jetzt ganze Armadas von Hackerabteilungen innerhalb von Geheimdiensten . Was wenn dies nicht mehr notwendig werden sollte? Ich meine nicht die Hackerangriffe per se, sondern dass dies eine KI ganz alleine durchführt? Letzten Endes werden Arbeitsplätze wegfallen und warum sollte dies bei Geheimdiensten und diversen Hackerorganisationen nicht auch der Fall sein? Man stelle sich vor, dass ein KI-System die Kraft einer ganzen Abteilung von Hackern hätte? Ich nenne solch ein System einen „Hackerassistenten“.

Zusammenfassung

Damit das hier klar ist. Ich möchte die KI nicht verteufeln. Diese wird unserer Gesellschaft weitaus mehr Vorteile als Nachteile bringen. Mich faszinieren aber die Auswirkungen welche KI-Systeme auf die Kriminalität haben werden. Machen wir uns doch nichts vor. Technologien konnten immer seitens Krimineller weitaus effizienter und effektiver eingesetzt werden, als es der Gesetzgeber vermochte. Warum sollte das bei KI-Systemen anders sein? Jedoch diesmal ist es irgendwie anders. Der Zugriff erfolgt über Schnittstellen, welche nicht nur öffentlich sind, sondern auch explizit gewünscht sind zu sein. Es sollen ja die Kameras beobachten und „intelligent“ sein oder um es mit Schlössern zu vergleichen, diese müssen „leicht“ zugänglich sein. Leicht zugänglich für den Besitzer aber auch leicht zugänglich für die Einbrecher. Trotzdem gibt es noch Schlösser und das ist auch gut so!

Schreibe einen Kommentar

Diese Website verwendet Akismet, um Spam zu reduzieren. Erfahre mehr darüber, wie deine Kommentardaten verarbeitet werden.

Menü schließen