Ein Bild beweist nicht mehr das, was es früher bewiesen hat
KI-generierte Bilder, Stimmen und Videos sind keine Zukunftsmusik mehr. Sie sind verfügbar, überzeugend und billig. Für eine Hilfsorganisation heißt das: Die Bedrohung reicht über klassische IT-Sicherheit wie Phishing hinaus, vom Fake-Anruf im privaten Umfeld über gezielten Betrug auf Organisationsebene bis zu gezielter Desinformation in Krisen- und Einsatzlagen, wo Vertrauen über Leben entscheiden kann.
Hasan Tercan hat dafür eine These mitgebracht: Der Schutz vor Deepfakes ist nicht nur eine technische Aufgabe. An der technischen Seite arbeiten wir in der IDL unter anderem im Forschungsprojekt Defacto, in dem wir an Datensätzen und Erkennungsverfahren für manipulierte Inhalte forschen. Aber kein Erkennungsmodell ersetzt die geschulte Skepsis eines Menschen, der im richtigen Moment innehält und nachfragt.
Wie sehr das Thema die Teilnehmenden bewegt, zeigte die Diskussion im Anschluss. Die Fragen drehten sich kaum noch darum, ob Deepfakes eine Gefahr sind, sondern wie nah sie schon dran sind: Wie zugänglich ist die Erzeugung für die breite Masse, und wie einfach wird sie in Zukunft? Welche Verantwortung tragen die Social-Media-Plattformen? Und was lässt sich konkret tun, von der Zertifizierung von Inhalten bis zur Annotation von Medien über Metadaten?
Genau deshalb ist eine Organisation wie der Malteser Hilfsdienst der richtige Ort für dieses Thema. Das zeigte auch der weitere Abend: Merle Medick vom Malteser Hilfsdienst stellte die Ergebnisse des deFenSIO-Projekts vor, von Awareness-Formaten über Phishing-Testkampagnen bis zu Escape-Room- und Transferansätzen. In einer Welt, in der digitale Inhalte manipulierbar sind, wird das Vertrauen in verlässliche Infrastrukturen und Hilfsorganisationen zum eigentlichen Anker. Und die Menschen, die dort arbeiten, sind die wirksamsten Multiplikatoren: Wer einmal verstanden hat, wie eine Manipulation funktioniert, trägt das weiter, in die Familie, ins Team, in den Einsatz.
Danke an den Malteser Hilfsdienst für die Einladung und die Gastgeberschaft und an alle Ehrenamtlichen und Hauptamtlichen, die den Abend mit ihren Fragen und ihrer Aufmerksamkeit getragen haben.
deFenSIO ist ein Forschungsprojekt der BMFTR-Förderrichtlinie „Zivile Sicherheit - Bedrohungen aus dem digitalen Raum", gemeinsam von Malteser Hilfsdienst gGmbH., SoCura und dem TMDT.
