Facebook och Instagram för att märka alla falska AI-bilder

Facebook och Instagram har meddelat att de planerar att börja markera bilder som skapats genom artificiell intelligens (AI) på sina plattformar. Denna åtgärd vidtas som en del av en övergripande ansträngning från teknikbranschen för att identifiera vilket innehåll som är äkta och vad som inte är det. Med initiativet siktar Meta, företaget bakom plattformarna, på att motverka falskt innehåll och desinformation som kan spridas genom dessa bilder.

Varför Märka AI-genererade Bilder?

Beslutet att märka AI-genererade bilder kommer inför en tid med många viktiga globala val, där bilder som är skapade med AI riskerar att användas i syften som att lura och desinformera människor. Meta vill förebygga detta genom att proaktivt identifiera och märka sådana bilder. Det påtalas även att det kommer att bli en utmaning att ständigt ligga steget före då aktörer som vill sprida desinformation utvecklar metoder för att kringgå befintliga skyddsåtgärder.

Hur Kommer Märkningen att Fungera?

Det är ännu inte klargjort hur systemet för märkning kommer att implementeras tekniskt eller hur effektivt det kommer att vara. Men det är en del av Metas större initiativ att arbeta med industrin för att definiera tekniska standarder som underlättar identifieringen av AI-genererat material såsom bilder, videor och ljud.

En ny metod för att identifiera och märka AI-genererat innehåll har utvecklats. När fotorealistiska bilder skapas med Meta AI-funktionen används synliga markörer på bilderna samt osynliga vattenstämplar och inbäddad metadata i bildfiler för att informera om att AI är inblandad. Denna ansvarsfulla metod för att bygga generativ AI-funktioner inkluderar samarbete med andra företag för att utveckla gemensamma standarder för att identifiera AI-genererat innehåll. Osynliga markörer som används för Meta AI-bilder är i linje med Partnership on AI:s bästa praxis.

Meta har också rapporterats använda över en miljard bilder från Facebook och Instagram för att träna sin egna AI-generator, Emu, som en del av projektet ”Imagine with Meta AI”. Dessa bilder var publikt synliga och öppna för alla att se, vilket illustrerar hur omfattande AI-teknikens inverkan är på innehållet som användare interagerar med på sociala medier.

fb.com/news