Luzerner warnt vor Gefahren der Deepfake-Technologie

Wie gefährlich ist künstliche Intelligenz? Der 18-jährige Kai Yu aus Neuenkirch stellte sich diese Frage, als er sich auf eine Schulpräsentation vorbereitete – und drehte kurzerhand eine Reportage zum Thema. zentralplus hat den technikaffinen Luzerner besucht und erfahren: Die Deepfake-Technologie kann leicht missbraucht werden.

Autor

Leon Huesler

Links Boromir aus «Herr der Ringe», dahinter die Stars der Netflix-Serie «Stranger Things» und daneben Alexa. Amazons Sprachassistentin reiht sich im Zimmer von Kai Yu nahtlos in die Actionhelden ein. Dass der 18-Jährige ein Herz für Technik hat, wird schnell klar. «Alexa, Raumlicht auf dunkelgrün», sagt Yu und schon wechselt das Licht von blau zur gewünschten Farbe. Doch dass nicht alles Gold ist, was in der Neuenkirchner Abendsonne auf dem Schreibtisch des Lehrlings glänzt, hat Yu längst bemerkt. Vor allem ein Thema beschäftigt ihn: Deepfakes.

Ein eindrückliches Beispiel dieser Technologie ist ein Video das den Ex-Präsidenten Barack Obama zeigt. Klar und deutlich spricht Obama in die Kamera. Doch was der 44. Präsident der Vereinigten Staaten von sich gibt, überrascht. Solch deutliche Worte ist man sich von einem Amtsinhaber nicht gewohnt.

Kein Wunder, denn es ist nicht Obama selbst, der spricht, sondern der Regisseur Jordan Peele. Und die Technik, dank der es aussieht, als ob Obama seine Manieren verlor, heisst Deepfake. Damit werden audiovisuelle Medieninhalte verändert, ohne dass dieser Eingriff sichtbar wird – beispielsweise Mundbewegungen oder ganze Gesichter. Deepfakes lassen sich oft nur schwer als bearbeitet erkennen und vermischen die Grenzen zwischen Realität und Fake immer mehr.

Für fast jeden machbar

Im Kern dieser Technologie steht eine künstliche Intelligenz. Mit ihr lassen sich die Manipulationen autonom erzeugen und werden immer realistischer.

Dass es eine Gefahr darstellt, wenn Videos von Politikerinnen mit nie von ihnen getroffenen Falschaussagen verbreitet werden, ist selbsterklärend. Der Schaden unvorstellbar. Dessen ist sich auch Kai Yu bewusst. Doch sein erster Berührungspunkt mit der Technologie war ein harmloser. In der Disney-Serie «The Mandalorian» wurde Mark «Luke Skywalker» Hamill künstlich verjüngt. Mithilfe einer Deepfake-Technologie.

Doch die Fans der Serie waren nicht zufrieden mit den Effekten des Mega-Studios. Und so bastelten technikaffine Star-Wars-Fans eine noch realistischere Version. Denn um Deepfakes zu erstellen, braucht es kaum technisches Fachwissen. Ein Computer mit ansehnlicher Rechenleistung und genügend Bildmaterial, der zu verfälschenden Person reicht, um dem grössten Filmproduzenten der Welt das Wasser zu reichen.

Mehr dazu erzählt Kai Yu im Video:

«Es braucht Regulierungen»

Dies wollte Yu selbst testen. So begann er, im Internet zu recherchieren, wie er einen Deepfake erstellen kann. Gleichzeitig zeichnete der Hobby-Filmemacher seinen Prozess in einer Reportage auf und veröffentlichte diese auf Youtube. Was als kleines Schulprojekt begann, wurde zu einer privaten Leidenschaft.

Das Ergebnis kann sich sehen lassen. Nicht nur gelang es dem 18-Jährigen, einen eigenen Deepfake zu erstellen, sondern für seine Recherche unterhielt er sich auch mit dem Forscher Anthony Sahakian von der École Polytechnique Fédérale de Lausanne. Dieser entwickelte eine Software zur Erkennung von Deepfakes. Eine von vielen Möglichkeiten, um die Gefahren dieser Technologie einzudämmen. Yu hält das auch für eine Aufgabe der Politik. Er ist sich sicher: «Es braucht Regulierungen.»

Doch wie diese aussehen und umgesetzt werden sollen, ist eine andere Frage, auf die selbst der schlagfertige Teenager noch keine Antwort hat. Vielleicht aber nach einem nächsten Video.