Funke
Deepfake DETECTION AND PREVENTION
Die rasante Entwicklung digitaler Technologien in den letzten Jahren hat sowohl faszinierende als auch beunruhigende Möglichkeiten eröffnet, insbesondere im Bereich synthetischer Inhalte und Deepfakes. Diese hoch-entwickelten KI-generierten Audio-, Bild- und Videoinhalte sind mittlerweile so realistisch, dass sie von echten Aufnahmen kaum zu unterscheiden sind.
Mit dem Anstieg der Leistungsfähigkeit von Systemen und Sprachmodellen basierend auf künstlicher Intelligenz (KI) und maschinellem Lernen (ML) verbessert sich nicht nur die Quantität, sondern auch die Qualität von Deepfakes rasant. Das birgt Gefahren – für Vertrauen, Sicherheit und die Wahrnehmung von Realität in unserer Gesellschaft.
Derzeit konzentrieren sich die Bemühungen zur Bekämpfung von Deepfakes hauptsächlich auf zwei Bereiche:
- Erkennung (Detection): Entwicklung von KI-Algorithmen zur Identifizierung von Deepfakes
- Prävention (Prevention): Implementierung von Authentifizierungsmechanismen für digitale Inhalte.
Trotz erheblicher Fortschritte in diesen Bereichen bleiben signifikante Herausforderungen wie die Generalisierbarkeit und Skalierbarkeit von KI-Deepfake-Erkennungssystemen und die Etablierung eines manipulierungsrestistenten Standards für Bild-Metadaten bestehen.
00:00
Die Herausforderung: die Entwicklung eines umfassenden Prototyps, der reaktive Maßnahmen zur Erkennung und/oder präventive Maßnahmen zum Schutz vor Bild-Deepfakes beinhaltet und in bestehende digitale Infrastrukturen integriert werden kann.
Der Prototyp muss demonstrieren, wie Bild-Deepfakes zuverlässig erkannt und authentifiziert werden können. Das gesamte System kann KI-gestützt arbeiten und sich kontinuierlich an neue Deepfake-Techniken anpassen können. Am Ende des Prozesses sollen mindestens drei unterschiedliche Anwendungsfälle (z.B. Social Media, Nachrichtenportale, Videokonferenzsysteme) abgedeckt werden. Skalierbarkeit und Anpassungsfähigkeit an verschiedene digitale Plattformen sollten möglich sein.
Der Funke läuft über einen Zeitraum von 13 Monaten. Eine Jury aus anerkannten Expert:innen hat Ende Mai 2025 sieben Teams ausgewählt, die zur Teilnahme an der zweiten Stufe zugelassen wurden.
Teams, die an diesem Funke teilnehmen, sind voll und ganz gefordert. Die SPRIND unterstützt deshalb intensiv und individuell. In Stufe 2 des Funkens finanziert die SPRIND die Teams mit bis zu 375.000 Euro. Im November 2025 kommt die Jury zur finalen Sitzung wieder zusammen, um über den vielversprechendsten Ansatz und Sieger des Funken zu entscheiden.
FAU/secunet-solution
Neuraforge
Valid - Trusted Information
Cinematic Context Aware AI Image Detection
DeepShield - The Disruptive Preventer
DeepFOCAS: DeepFake detection using Observable, Contextual, Accessible, and Semantic information
ClyraVision
Sie haben weitere Fragen? Dann können Sie uns gern unter challenge@sprind.org kontaktieren.
Weitere Challenges und Funken
