Bilderkennung auf LSD: Wenn KI nur noch Farbe sieht

Für Künstliche Intelligenzen ist es mittlerweile ein Leichtes, Einzelne in einer Menschenmenge zu finden. Doch ein kleiner psychedelischer Aufkleber könnte genau das in Zukunft verhindern. Laut einer neuen Studie lenken bestimmte Muster die Aufmerksamkeit einer KI allein auf sich.

Regelmäßig neue Updates aus dem WIRED-Kosmos!

Für Künstliche Intelligenzen ist es mittlerweile ein Leichtes, Einzelne in einer Menschenmenge zu finden. Doch ein kleiner psychedelischer Aufkleber könnte genau das in Zukunft verhindern. Laut einer neuen Studie lenken bestimmte Muster die Aufmerksamkeit einer KI allein auf sich.

Bei Shakespeares Henry IV gab es sie noch, die Magie: Wer Farnsamen verspeise, heißt es darin, könne sich etwa für andere Menschen unsichtbar machen. Nun ist das natürlich ein Mythos, vielleicht aber gilt ähnliche Magie bald für Künstliche Intelligenzen (KI). Google-Wissenschaftler zumindest haben so etwas wie einen Farnsamen entwickelt – in Form von Aufklebern mit psychedelischen Mustern. Es geht dabei um quietschbunte Designs, so fanden die Forscher gerade heraus, die die Aufmerksamkeit einer KI so stark binden, dass sie alles andere in ihrem Sichtfeld ignoriert.

Künstlichen neuronalen Netzwerken entdecken ihre Umwelt von alleine, sobald man sie mit Daten füttert. Sie lernen etwa Autos von Flugzeugen zu unterscheiden oder Fische von Muscheln, indem sie Milliarden von YouTube-­Videos und Fotos auswerten. Dabei merken sie sich bestimmte Eigenarten und Muster wie etwa Formen, Farben oder Kurven. Auf diese Weise hat intelligente Bilderkennung etwa gelernt, den Vordergrund auf einem Bild vom Hintergrund zu unterscheiden.

Die Entwickler von Mario Kart hatten Recht: Schildkröten sind saugefährlich! Solche mit grünem Panzer knallen durch die Gegend, die Roten jagen ihr Ziel. Die mit blauem Panzer und weißen Zacken: Graue…

Die Forscher von Google nun schlagen die Bilderkennung mit ihren eigenen Waffen. Sie programmierten ein so genanntes Adversary System, ein gegnerisches System, das ebenfalls mit Hilfe von Daten lernt. Sie trainierten es darauf, Formen, Farben, Kontraste, Kombinationen und Größen zu erkennen, auf die eine Bilderkennung besonders anspringt. Aus den Ergebnissen generierte das Anti-System kleine bunte Kreise und es entstand jener Ablenkungs-Sticker, der wie eine süchtigmachende Droge auf die Bilderkennung wirkt. „Auch wenn die Sticker klein sind, werden sie intelligente Maschinen dazu bringen, nur sie zu erkennen und alles andere zu ignorieren“, schreiben die Wissenschaftler in ihrer Studie.