Funke
Deepfake DETECTION AND PREVENTION

Thema
Ziel
Teilnahme
Webinar
FAQ
Kontakt

Hallo, Neudenker:innen! Wir brauchen Sprunginnovationen, um Deepfakes zu identifizieren und die Integrität unserer digitalen Welt zu gewährleisten. Wir brauchen mutige Ideen. Wir brauchen Sie.

Die rasante Entwicklung digitaler Technologien in den letzten Jahren hat sowohl faszinierende als auch beunruhigende Möglichkeiten eröffnet, insbesondere im Bereich synthetischer Inhalte und Deepfakes. Diese hoch-entwickelten KI-generierten Audio-, Bild- und Videoinhalte sind mittlerweile so realistisch, dass sie von echten Aufnahmen kaum zu unterscheiden sind.

Mit dem Anstieg der Leistungsfähigkeit von Systemen und Sprachmodellen basierend auf künstlicher Intelligenz (KI) und maschinellem Lernen (ML) verbessert sich nicht nur die Quantität, sondern auch die Qualität von Deepfakes rasant. Das birgt Gefahren – für Vertrauen, Sicherheit und die Wahrnehmung von Realität in unserer Gesellschaft.

Derzeit konzentrieren sich die Bemühungen zur Bekämpfung von Deepfakes hauptsächlich auf zwei Bereiche:

  1. Erkennung (Detection): Entwicklung von KI-Algorithmen zur Identifizierung von Deepfakes
  2. Prävention (Prevention): Implementierung von Authentifizierungsmechanismen für digitale Inhalte.
    Trotz erheblicher Fortschritte in diesen Bereichen bleiben signifikante Herausforderungen wie die Generalisierbarkeit und Skalierbarkeit von KI-Deepfake-Erkennungssystemen und die Etablierung eines manipulierungsrestistenten Standards für Bild-Metadaten bestehen.

Die Herausforderung: Ziel des Funkens ist die Entwicklung eines umfassenden Prototyps der reaktiven Maßnahmen zur Erkennung und/oder präventive Maßnahmen zum Schutz vor Bild-Deepfakes beinhaltet und in bestehende digitale Infrastrukturen integriert werden kann.

Der Prototyp muss demonstrieren, wie Bild-Deepfakes zuverlässig erkannt und authentifiziert werden können. Das gesamte System kann KI-gestützt arbeiten und sich kontinuierlich an neue Deepfake-Techniken anpassen können. Am Ende des Prozesses sollen mindestens drei unterschiedliche Anwendungsfälle (z.B. Social Media, Nachrichtenportale, Videokonferenzsysteme) abgedeckt werden. Skalierbarkeit und Anpassungsfähigkeit an verschiedene digitale Plattformen sollten möglich sein.

Wir unterstützen: Potentielle Sprunginnovationen

Der Funke läuft über einen Zeitraum von 13 Monaten. Eine Jury aus anerkannten Expert:innen unterstützt die SPRIND bei der Bewertung der Bewerbungen und wählt bis zu 14 Teams aus, die zur Teilnahme der ersten Stufe zugelassen werden.

Teams, die an diesem Funke teilnehmen, sind voll und ganz gefordert. Die SPRIND unterstützt deshalb intensiv und individuell. Dazu gehört die Finanzierung der Teams mit bis zu 350.000 Euro in Stufe 1 des Funkens. Nach sieben Monaten kommt die Jury wieder zusammen, um den Zwischenstand zu bewerten und darüber zu entscheiden, welche Herangehensweisen das größte Sprunginnovationspotential haben und welche Teams sich bis zum Schluss des Funkens in einer zweiten Stufe beweisen können, die mit bis zu 375.000 Euro pro Team finanziert wird.

So nehmen Sie am SPRIND Funke teil

Bewerbungen werden bis zum 18. Oktober 2024, 18:00 Uhr (CET) entgegengenommen.

Webinar

Am 2. Oktober 2024, 17:00-18:00 Uhr, bieten wir ein Webinar an, um die SPRIND und unseren neuen SPRIND Funke vorzustellen. Anschließend gibt es die Möglichkeit für Fragen & Antworten. Die Registrierung erfolgt über den Link.
Webinar

FAQ

Sie haben weitere Fragen?
Dann können Sie uns gern unter challenge@sprind.org kontaktieren.
Jano Costard, Challenge Officer Jano Costard, Challenge Officer