OpenAI släpper ”Deepfake”-detektor till desinformationsforskare

Röstdeepfakes
  • Modellen använder en kombination av maskininlärning och kontextuala bevis för att identifiera och klassificera deepfakes.
  • Den analyserar bild- och videofunktioner, som textur, form och rörelse, för att identifiera artificiella element.
  • Modellen kan identifiera både synliga och osynliga deepfakes.
  • Journalistik: Identifiera ogensålig information i nyhetsrapporter och mediautskott.
  • Politisk kontroll: Identifiera manipulerade bilder och videoer som används för politiska syften.
  • Rettslig tillämpning: Identifiera och konfiskera falska bevis som används i bedrägeri.

OpenAI har släppt en ny verktyg för att detektera så kallade ”deepfakes”, vilket är bilder, ljud och videor genererade av konstig intelligens som kan påverka val och andra viktiga händelser. Detta verktyg är designat för att detektera innehåll skapat av DALL-E, en populär bildgenerator från OpenAI.

Trots att detta verktyg kan identifiera 98,8 procent av bilderna skapade av DALL-E:s senaste version, DALL-E 3, är det inte utformat för att detektera bilder producerade av andra populära genererare som Midjourney och Stability. OpenAI delar med sig av sitt nya deepfake-detektor till en liten grupp forskare inom desinformationsområdet för att de ska kunna testa verktyget i verkliga situationer och hjälpa till att identifiera sätt att förbättra det. Syftet med detta är att starta ny forskning inom området för säkerhet och policy. Detta steg tar OpenAI i en tid då experter varnar för den potentiella inverkan av AI-genererad innehåll på demokrati och samhällsprocessen.

Hur fungerar OpenAI deepfake-detektorn?

OpenAI deepfake-detektorn är ett viktigt verktyg som syftar till att bekämpa spridningen av desinformation och deepfakes i digitalt innehåll. OpenAI använder avancerad AI-teknik för att upptäcka dessa manipulerade bilder och videor, som har blivit allt vanligare i onlinesfären. Genom att utnyttja sofistikerade algoritmer och maskininlärningsmodeller kan detektorn analysera olika visuella ledtrådar och mönster för att identifiera anomalier som tyder på deepfake-manipulation.

Enligt OpenAI har fokuserat på att utveckla verktyg som den DALL-E 3 AI-genererade bilddetektorn för att ta itu med de utmaningar som deepfakes utgör. Den här detektorn använder banbrytande AI-funktioner för att känna igen och flagga potentiellt vilseledande eller tillverkat innehåll. Dessutom är OpenAI dedikerade till att förbättra noggrannheten och effektiviteten hos dess deepfake-detekteringsteknologi för att ligga steget före den utvecklande desinformationstaktiken.

Dessutom belyser OpenAI:s engagemang för att förbättra framgångsfrekvensen för deras deepfake-detektorer, med anmärkningsvärda framsteg som leder till en anmärkningsvärd 99% noggrannhetsgrad. Genom kontinuerlig forskning och förfining strävar OpenAI efter att ge desinformationsforskare ett pålitligt och potent verktyg för att identifiera djupförfalskningar i digitala medier.

Leave a Reply

Din e-postadress kommer inte publiceras. Obligatoriska fält är märkta *