Forskare kan identifiera ”fingeravtryck” av AI-genererade videor för att bekämpa deepfakes
- Forskare identifierar ”fingeravtryck” av AI-genererade videor för att bekämpa deepfakes.
- Ett nytt maskininlärningsverktyg har framgångsrikt kunnat identifiera AI-genererade videor genom att lära sig att känna igen digitala ”fingeravtryck”.
- Det traditionella verktygen för att upptäcka manipulerade digitala medier är inte effektiva mot AI-genererade videor.
Forskare från Drexel University har utvecklat en maskininlärningsalgoritm som kan identifiera ”fingeravtryck” av AI-genererade videor för att bekämpa deepfakes och säkerställa digital media autenticitet.
Drexel Universitys forskargrupp har utvecklat en svit av verktyg under det senaste årtiondet för att flagga digitalt manipulerade bilder och videor. Konstgjord intelligens har använts för att skapa helt nya, inte manipulerade, videor, vilket ställer unika utmaningar för upptäckt.
Testning av offentligt tillgängliga syntetiska bildidentifierare visade en minskning i prestanda när det gäller att känna igen videor skapade av AI-generatorer.
Denna utveckling är kritisk eftersom AI-genererat innehåll kan användas för att sprida missinformation, vilket kräver robusta identifieringstekniker för att upprätthålla medieintegriteten. Traditionella digitala mediedetektorer har visat sig vara ineffektiva mot AI-genererade videor, med effektiviteten som drastiskt sjunker jämfört med manipulerade bilder.
Denna forskning och utveckling är en viktig del av kampen mot missinformation och desinformation i det digitala åldern, särskilt i sammanhang som valkampanjer där AI-teknologi kan användas för att skapa mer övertygande och lättillgängliga bilder och videor.
Kan den här algoritmen användas för att upptäcka andra former av deepfakes förutom AI-genererade videor?
Denna algoritm kan användas för att identifiera andra former av deepfakes utöver AI-genererade videor. Forskarna vid Drexel University har utvecklat en maskininlärningsalgoritm som inte bara är specialiserad på att identifiera AI-genererade videor utan också kan tillämpas på att identifiera manipulerade bilder och ljud.
Deras forskning visar att deras algoritm, MISLnet, kan utbildas för att extrahera och känna igen digitala ”fingeravtryck” av många olika videogenererare, inklusive Stable Video Diffusion, Video-Crafter och Cog-Video. Dessutom har de visat att algoritmen kan lära sig att identifiera nya AI-genererare efter att ha studerat bara några exempel på deras video.
MISLnet är utformad för att ständigt anpassa sitt inlärningsmönster när den stöter på nya exempel, vilket gör det möjligt att känna igen nya forensiska spår när de utvecklas. Detta gör algoritmen till ett effektivt verktyg för att identifiera både kända och okända källor till deepfakes, inklusive bilder, videor och ljud.
