Während Tilo in Portugal entspannt Schildkröten beim Baden beobachtet, kämpft Henning in seiner Dachgeschosswohnung bei 27 Grad gegen den Hitzetod und das Kärcher-Geräusch der Nachbarn an. Doch trotz Urlaubsstimmung und Kaltgetränk, wird es heute ernst an der virtuellen Theke. Es geht um Deepfakes und die Frage, wie KI als Werkzeug für digitale Gewalt missbraucht wird. Wir sprechen über die mutigen Schritte von Betroffenen, die Ohnmacht der Justiz gegenüber anonymen Tätern und die Verantwortung von Plattformen. Ein Ritt durch Ethik, Recht und die Frage: Sollen unsere Kinder überhaupt noch ins Internet?
Shownotes:
Tesselaar – Bier van Texel
ZDF-Doku: „Deepfake-Pornos – Jagd nach Tätern“ mit Collien Fernandes
Hintergrund zum aktuellen Gesetzentwurf gegen digitale Gewalt und Deepfakes
Apokalypse & Filterkaffee – Presseklub: Wie KI die Welt verändert
Transkription:
[00:00]
Henning, ich sitze hier draußen auf dem Land. Links neben mir ist ein Tümpel, also ein kleiner Naturteich. Da kommt eine Quelle aus dem Berg raus und das Wasser sammelt sich dort. Es sind zwei Schildkröten drin, eine Schildkrötenmama und ein Schildkrötenbaby. Ich habe sie immer versucht zu beobachten, was nicht ganz leicht ist, weil man sich ganz nah heranpirschen muss. Sie sind natürlich sofort mit dem Kopf unten. Aber das ist wirklich eine Idylle hier. Zwischendurch springt noch ein Frosch herum und so weiter. Das sind Momente, wo man denkt: Das ist das reale Leben, direkt vor der Tür. Und das gibt es noch, Henning.
Dass du gerade wieder auf dem Land weilst, hört man schon an der Tonqualität. Die ist einigermaßen okay, aber wir hoffen mal, dass es besser wird. Hast du Sonne oder ist es eher bewölkt bei dir? [01:14]
Es ist bewölkt, aber mit blauem Himmel in Sichtweite. Ab und zu schaut die Sonne raus. Es sind ungefähr 20 Grad. Das ist eigentlich sehr angenehm, nicht zu heiß. Wir hatten im April schon ein paar richtig heiße Tage, die weit über dem Durchschnittswert lagen. Da kriegt man in Portugal gleich wieder das Zittern wegen der Waldbrände, wenn das so früh anfängt. Aber jetzt hat es sich auf eine sehr nette Frühlingstemperatur um die 20 Grad eingependelt. Ich mag dieses Wetter sehr gerne. [01:57]
Ich habe dich deswegen gefragt, weil ich beim heißesten Tag der Woche bei 27 Grad in meiner Dachkammer sitze. Ich möchte deswegen ein bisschen auf die Tube drücken, weil es hier oben sehr heiß ist. [02:31]
Es ist heiß und du kannst nicht mal das Fenster aufmachen, hast du mir vorhin erzählt. Wie es im Sommer oft der Fall ist, wird am ersten Samstag gleich der Kärcher angeschmissen. Da wird schön gekärchert und alles wieder picobello gemacht. Zugegeben, ich habe das heute Vormittag auch gemacht, weil ich wusste, dass ich heute Nachmittag einen Podcast aufnehmen will. Andere wussten das halt nicht. Man kann nicht alles haben. Ich würde sagen, wir fangen mal an. Wir haben heute kein leichtes Thema, aber vorher machen wir mal ein Bier auf. So sieht es aus, Henning. [03:23]
Ausnahmsweise nicht Samstagabend, sondern Samstagnachmittag treffen wir uns an der längsten virtuellen Theke der Welt. Das mache ich natürlich nicht allein, sondern mit meinem geschätzten Freund und Kollegen Tilo Wagner, der wieder auf dem Land weilt. Hallo Tilo! Hallo Henning, alles klar bei dir in deiner Dachstube? Wir haben diesmal keinen Videocall, deshalb sehe ich dich nicht. Was ganz gut ist, denn nach deiner Beschreibung mit der Hitze, dem geschlossenen Fenster und dem Nachmittag am Computer will ich gar nicht sehen, was für einen roten Kopf du hast. Danke, vielleicht ziehe ich gleich das T-Shirt aus. Da freue ich mich, dass wir ein Audio-Podcast sind und kein Video-Podcast. Da geht sowas einfach noch. Selbst wenn ich in der Unterhose hier sitzen würde, würde es keiner merken. [04:41]
Tilo, willst du mit dem Bier anfangen oder soll ich? Ich fange mal an. Ich wollte mich noch kurz akustisch verorten. Ich bin auf dem Land und es könnten ein paar Nebengeräusche im Verlauf des Podcasts auftauchen. Mein Sohn singt im Hintergrund ein bisschen Fado. Er kann zwar keine Gitarre spielen, aber dafür singen. Mal schauen, was dabei rauskommt. Ab und zu kommt ein kleiner Wind auf und dann klackert es hinten. Das sind hölzerne Verschlussdinge, ein Holzspiel. Ich trinke heute Super Bock. [05:28]
Sehr schön! Ich trinke kein Super Bock, ich war wieder im Urlaub in den Niederlanden auf Texel. Ich habe schon öfter Bier von Texel hier getrunken. Diesmal gibt es offensichtlich eine zweite Brauerei, die heißt Tesselaar. Ich habe keine Ahnung von Holländisch, ich spreche es so aus, wie es auf der Flasche steht. Ich bin da mal vorbeigefahren, man kann Besichtigungen machen. Die haben auch alkoholfreies Bier, aber das habe ich zum Podcast natürlich nicht mitgebracht. Sowas würde ich nie machen. Ich habe jetzt ein Eiland Pilsener mitgenommen, ein Pils von Texel, das gekühlt vor mir steht. [06:46]
Trinkst du es aus dem Glas? Nein, aus der Flasche. Dann mach mal auf, dann können wir anstoßen. 5 Prozent Alkohol. Ich habe 5,2. Der Punkt geht an mich. Prost, Henning! Prost! [07:12]
So ein schönes Nachmittagsbier. Ich muss mich bei dem Podcast auch ein bisschen beeilen, weil es nachher noch eine lustige Aktion hier im Dorf gibt. Sie bereiten sich auf das Dorffest vor, das im August stattfindet. Davor gibt es noch ein kleines Warm-up, wo sie Geld für die Organisation eintreiben wollen. Sie versteigern Sachen, zum Beispiel eine Chouriço-Wurst, die sonst drei Euro kostet und dann für sechs versteigert wird. Man kann sie dann gleich auf den Grill legen. Oder man kann ein Schaf oder ein Lamm kaufen. Früher sind die Leute dann gleich um die Ecke gegangen, haben es abgeschlachtet und auf den Grill gelegt. Dann kam irgendwann die Polizei und hat gesagt: Jungs, ihr seid in der EU, das geht nicht mehr. Willst du dir auch ein Lamm zulegen oder ein Schaf? Ich weiß noch nicht, ob ich mir ein Lamm ersteigere und es meiner Schwiegermutter in den Garten stelle. Das Schaf heißt übrigens Bert. Aber ich glaube, das mache ich trotzdem nicht. [08:36]
Ich weiß gar nicht, wie ich jetzt die Kurve kriegen soll zu dem Thema, das wir uns heute rausgepickt haben. Heute soll es bei uns um Deepfakes als neue Form von Gewalt gehen. Kurz erklärt: Jemand erstellt ein Nacktvideo von euch, nicht mit eurem Körper, aber mit eurem Gesicht, und jeder im Internet kann es sehen. Man kann nichts dagegen tun. Es ist technisch gesehen nicht echt, aber es wirkt real. Das ist mittlerweile keine Spielerei mehr. Wir haben schon vor Monaten über KI gesprochen und uns überlegt, was das für Auswirkungen auf unser Zusammenleben und unsere Arbeit hat. Dass das so schnell geht, konnte keiner von uns so richtig vorhersehen. Auf dieses Problem versucht die Politik gerade zu reagieren, mit Gesetzen oder dem Strafrecht insgesamt. Die Frage ist aber: Reicht das gegen anonyme Täter aus? [10:15]
Wie sieht es in Portugal aus? In Deutschland soll ein Gesetz gegen digitale Gewalt erstellt werden. Es soll schon die Herstellung strafbar werden, nicht nur die Verbreitung. Gibt es Ähnliches in Portugal? Wir hatten jetzt nicht so einen herausragenden Fall wie bei Collien Ulmen-Fernandes, die sich damit in die Öffentlichkeit gewagt und das stark angeschoben hat. Hut ab vor dieser Leistung. Das ist etwas, wo man ganz tief in sein eigenes Innerstes blicken lässt. Hunderttausende von Leuten können auf einmal nachvollziehen, was mit dir passiert ist. Das ist eigentlich gar nicht so richtig schön. [11:14]
Es ist ganz wichtig, dass wir darüber reden. Deshalb kommen wir mit so etwas Brachialem um die Ecke, obwohl wir den Podcast locker angefangen haben. Aus Portugal gibt es eine journalistische Recherche, die vor ein paar Monaten den Fall bei ganz normalen Leuten aufgedeckt hat. Es gibt WhatsApp-Gruppen mit Tausenden von Mitgliedern, in denen Deepfakes von Freundinnen verschickt werden. Das alles passiert im Geheimen. Warte mal, ich muss kurz gucken, es fängt gerade an zu regnen. Ich sitze ja draußen, aber ich glaube, das ist nur ein kleiner Schauer. Ich gehe kurz unter dieses kleine Dächlein. Diese journalistische Recherche hat mich schon erschüttert. Es ist ein gesellschaftliches Problem, das bis tief in Männergruppen hineingeht. Es hat viel damit zu tun, wie Männer auf Sexualität und auf Frauen blicken. [12:39]
Dass es technisch möglich ist, so etwas zu machen, ist wirklich erschreckend. Uns wird damit die Möglichkeit genommen, unsere Privatsphäre zu wahren. Wenn so ein Video einmal raus ist, ist es unheimlich schwer, das wieder einzufangen. Strafrechtlich ist es wichtig, dass da was passiert. In Portugal habe ich da meine Bedenken, weil viele wissen, wie überlastet das Justizsystem ist. Es ist schwierig, dort überhaupt Korruptionsfälle in der Politik zu Ende zu bringen. Was passiert dann bei solchen Sachen, wenn Massen an Klagen auftreten? Wer soll sich darum kümmern? Wird das Justizsystem ausgebaut? Ich sehe noch nicht, wie das strukturell zu einer effizienten Aufklärung und strafrechtlichen Verfolgung führen kann. [14:43]
Es ist auch die Frage: Wenn du selbst Betroffener bist, was für eine juristische Handhabe hast du dann, wenn du nicht weißt, gegen wen du Anzeige erstatten kannst? Man hat eigentlich nur denjenigen, der das Video verbreitet hat, aber in den seltensten Fällen findet man den Macher eines solchen Videos oder Bildes. Ich kenne mich technologisch nicht aus, aber man hinterlässt gewisse Fußstapfen im Internet. Wenn du ein Programm auf dem Rechner verwendest, das solche Deepfake-Videos herstellt, können Spezialisten das vielleicht nachvollziehen. Den Computer dann zu finden, ist die Frage. Da steht ja kein Name oder eine Adresse dabei. Leute, die sowas tun, sind sehr dahinterher zu gucken, dass die wahre Identität nicht herausgefunden werden kann. [16:31]
Wir reden hier vom letzten Schritt der Konsequenzen: die strafrechtliche Verfolgung von Tätern. Wer trägt die Verantwortung? Sind es wir als Individuen oder sind es Plattformen, die das verbreiten? Wenn man die Verantwortung zu den Plattformen transportieren müsste, stellt sich die Frage, inwieweit die Verantwortung auf die Plattform zurückfällt. Wir haben gemerkt, dass bei gewissen Inhalten die US-amerikanischen Plattformen wie Facebook oder Twitter wieder zurückgerudert sind und diese eigenen Moderationen und Content-Überprüfungen im europäischen Raum nicht mehr so machen. Das heißt, wir haben auf der anderen Seite des Atlantiks keine Partner, die sagen, wir müssen das zusammen angehen. [17:41]
Eine strafrechtliche Verfolgung innerhalb der Bundesrepublik oder Europas wird jetzt angedacht, in dem Moment, in dem sich diese Plattformen eh schon allgemein aus der Verantwortung ziehen. Das erschwert die Sache ungemein. Wir sind schon bei der Täterdiskussion, aber die Frage ist auch, wie wir präventiv vorgehen können. Ist es einfach möglich, über KI-Werkzeuge der großen Internetfirmen solche Deepfakes herzustellen? Kann ich das bei Google einfach so machen? [18:51]
Alles, was Pornografie angeht, lehnen die großen KI-Modelle ab. Wenn du versuchst, sowas zu machen, funktioniert das eigentlich nicht. Es ist allerdings so, dass es mit dem KI-Modell von Elon Musk, Grok, möglich sein soll. Da gab es auch wahnsinnig viel Ärger drum, dass Nacktbilder oder Nacktvideos mit Grok erstellbar waren, teilweise auch von Minderjährigen. Elon Musk hat gesagt, er möchte eine offene Gesellschaft, in der jeder das äußern kann, was er möchte. Das birgt natürlich Gefahren. Ob man da Deepfakes herstellen kann, weiß ich nicht. So wie ich das verstanden habe, ist das Herstellen von Deepfake-Videos mit Gesichtern von real existierenden Personen eher eine Geschichte, die auf spezialisierten Webseiten stattfindet. Die sind eher Teil des Darknets, der dunklen Seite des Internets. [20:42]
Das Internet offenbart die Schwächen einer globalen Gemeinschaft, in der Anonymität vollkommen möglich ist. Wir kommen an einen Punkt, wo wir allgemein darüber nachdenken können, wie wichtig es uns überhaupt noch ist, im Internet fotografisch präsent zu sein. Die beste Prävention, kein Opfer von Deepfakes zu werden, ist eine sehr geringe Präsenz im Internet, was Fotos anbetrifft. Zumindest von Leuten, die man persönlich nicht kennt. Gegen den Fall in Portugal, wo Partner die Videos erstellt haben, kann man sich gar nicht wehren, das hat nichts mit dem Internet zu tun. Aber die Herstellung von Internetvideos ist eine große Gefahr für junge Mädchen, die sich auf Facebook oder Instagram posten. Wenn das in die Hand von kriminellen Banden kommt, die damit Kinderpornos mit Hilfe von Deepfake-Software machen, ist das furchtbar. Darauf sollte man verzichten. [22:16]
Wir haben dieses Thema Jugendschutz im Internet auf der Agenda. Allein Aufklärung wird da wahrscheinlich nicht reichen. Ich finde präventive Maßnahmen, wie sie jetzt in Australien gemacht worden sind, grundsätzlich ganz gut. Allerdings habe ich gehört, dass das in Australien nicht so wirklich gut funktioniert, weil es relativ einfach ist, den Kinderschutz für Social Media Networks zu umgehen. Aber das ist der Punkt, weil du keine Kontrolle darüber hast, was deine Kinder ins Internet posten. Gibt es Maßnahmen, die du ergriffen hast, um deine Kinder vor sowas zu schützen? Meine tauchen im Internet nicht auf. Punkt. [23:55]
Sie haben keinen Facebook-Account und sie haben kein Instagram. Sie haben außer Kommunikationstools wie WhatsApp nichts. Nicht, dass ich es ihnen verboten hätte, sondern weil sie aus eigener Einsicht und Überzeugung verstanden haben, was die Gefahren sind. Es ist für sie selbst auch nicht so identitätsstiftend wichtig, eine Internetpräsenz in dieser Form zu haben. Ich glaube, man kann sich davor nicht ganz schützen. Ich weiß nicht, wie es gewesen wäre, wenn ich als Vater größeren Widerstand bekommen hätte und meine Tochter auf Instagram oder TikTok gepocht hätte. Es ist sehr schwierig, weil das den Alltag trüben kann, wenn man harte Verbote ausspricht, die dann teilweise auch kontraproduktiv sind. In meinem Fall habe ich bislang Glück gehabt. [25:13]
Ich bin etwas hoffnungsvoller, dass die heranwachsende Generation, die schon mit diesen ganzen Gefahren und Einschränkungen aufwächst, ganz anders damit umgeht als wir. Wir wurden praktisch in dieses Internet reingegossen. Wir waren von Beginn an beim Aufbau des Internets dabei und haben jede Veränderung mitgemacht. Das hatte natürlich einen absoluten Wow-Effekt und man ist darauf angesprungen, ohne sich über die Konsequenzen Gedanken zu machen. Deshalb ist es wichtig, die Sachen offen anzusprechen, auch diese Gefahren von Deepfakes. Man muss den jungen Leuten sagen: Das Internet ist genauso böse, wie die Welt böse sein kann. Man kann ihnen gewisse Sachen mit auf den Weg geben, was sie davon dann mitnehmen, kann man irgendwann nicht mehr steuern. Sonst wäre man sein Leben lang ein Helikopter-Papa. [26:46]
Die entscheidende Frage ist: Haben wir längst die Kontrolle über unser eigenes digitales Ich verloren oder können wir das durch Strafrecht und Gesetze wieder zurückkriegen? Das Strafrecht muss die Grundlage für das sein, was technisch umgesetzt werden muss. Strafrecht allein wird nicht reichen, sondern es braucht eine technische Umsetzung, wie dagegen vorgegangen wird. Das ist die Synthese aus dem, was wir gerade besprochen haben. [28:11]
Das können wir so als Fazit unter diese Diskussion schreiben. Das Technische mit dem Strafrechtlichen zu verbinden, die Umsetzung mit dem, was das Gesetz erreichen will. Genau, und deswegen machen wir jetzt den Deckel drauf, bevor ich hier noch T-Shirt und Hose ausziehen muss, weil ich so wahnsinnig schwitze. Tilo, ich hoffe, bei dir hat es aufgehört zu regnen. Es kam eine Wolke rüber, die hat sich gedacht: Ich piss hier mal ein bisschen runter. Aber es hat nicht für einen Regenguss gereicht, es hat nur ein bisschen gefusselt. Es ist schon wieder vorbei und wird noch ein richtig schöner Abend. Bei mir auch. In diesem Sinne: Schönen Abend dir und den Zuhörern. Wir hören uns in einem Monat wieder mit einer frischen Ausgabe von „Auf zwei Bier“. Wenn ihr Fragen, Wünsche oder Beschwerden habt, einfach an . Tilo, willst du noch was sagen? Nur das Versprechen, dass es nächstes Mal wieder besser klingt, was die technische Qualität anbetrifft. Da freuen wir uns drauf. Bis dann, alles Gute. Tschüss!