Detektion von Deepfakes und KI-generierten Medien

Durch generative KI ist die Glaubwürdigkeit von Nachrichten und medialen Inhalten gefährdet. Mit KI-gestützter Software gibt Neuraforge seinen Nutzern die Möglichkeit, zwischen gefälschten und echten Medien zu unterscheiden.

Über Neuraforge

Was bietet euer Produkt bzw. eure Kooperationsmöglichkeit konkret?

Unser Produkt ist eine Software-basierte Lösung zur Erkennung von sogenannten Deepfakes und KI-generierten Bildern und Videos. Dabei schauen wir auf technische Artefakte im Bild - eine Art Fingerabdruck der KI - und können so auch bspw. in einem rein schwarzen Bild den Unterschied zwischen echt erzeugten und KI-generierten Bildern erkennen. Das ist bei den immer besser werdenden KI Modellen und bspw. Video-KIs wie SORA AI sehr wichtig.

Für wen genau eignet, oder an wen richtet sich euer Produkt bzw. eure Kooperationsmöglichkeit?

In erster Linie richten wir uns an Journalisten und Medienhäuser, da diese Jobsparte von Haus aus auf täglicher Basis mit Medien aus unbekannten Quellen arbeitet und Fake Inhalte potentiellen Reputationsverlust bedeuten können. Allerdings ist unser Produkt für jeden gedacht, der oder die Medieninhalten verifizieren möchte, ob diese mittels KI entstanden oder nachbearbeitet worden sind. Denkbar ist das im weiteren Sinne bspw. bei sozialen Medien oder Versicherungsbetrug.

Welche Vorteile bringt euer Produkt bzw. eure Kooperationsmöglichkeit?

Das Wissen um die Wahrheit im Bild ist essentiell für die Glaubwürdigkeit des heutigen Journalismus. Das Vertrauen der Zuschauer und Leser beruht auf der Reputation, die Medienhäuser sich über Jahrzehnte aufgebaut haben. Unsere Technologie ist ein essentieller Baustein zur Vertrauensbildung und Erhaltung von etablierten Medien. Gesellschaftlich bringt unsere Technologie zudem die Möglichkeit Fake-Kampagnen bspw. im Wahlkampf frühzeitig zu erkennen und ggf. entgegen zu wirken.

Gibt es bestimmte Voraussetzungen, um mit eurem Produkt arbeiten zu können bzw. mit euch kooperieren zu können?

Wir sind in der frühen Technologie-Phase und das Start-Up wurde erst gegründet. Für einen seriellen Einsatz unserer Lösung möchten wir ein Pilotprojekt mit potentiellen Kunden umsetzen. Dafür sind wir auf der Suche nach Akteuren und Partnern, um aktuelle Use-Cases besser zu verstehen und unser Produkt dahingehend weiter zu entwickeln.

Schildert hier kurz eure Vision.

Wir haben die Vision einer weiterhin gut informierten und nicht überforderten Gesellschaft. Mit wachsenden technologischen Möglichkeiten in praktisch "jeder Hosentasche" muss es ausgleichend auch die Möglichkeit zur Verifikation von Medien in "jede Hosentasche" geben. Ginge es nach uns, riefen wir gerne in 5-10 Jahren das (neue alte) Zeitalter der gut kuratierten Information anstatt einer postfaktischen Dystopie aus.

Gründer

Anika Gruner, Anatol Maier

Gründungsjahr

2024

Programm

Media Startup Fellowship, #15

Webseite

neuraforge.de/

Status

Aktiv

Neuraforge besuchen