Google Geminis AI-bildgenerator anklagas för att vara anti-vit

Gemini Googles nya AI-bildgenerator har stött på kritik för att vara ”för ’woke'”, på grund av att den genererar bilder som inkluderar kvinnor och minoriteter även när det skapar historiska figurer, vilket anses vara historiskt inkorrekt. Användare på plattform X har uttryckt missnöje över att verktyget inkluderar personer från olika etniciteter även när sådana bilder står i konflikt med historisk exakthet.

Gemini Googles AI-bildgenerator har hamnat i hetluften igen! Verkar som att den har läst lite för mycket på ”Inkludering 101” och bestämde sig för att omskriva historien med en regnbågspenna.

Exempelvis när AI:n ombeddes att avbilda Amerikas grundare, inkluderade den kvinnor och personer av färg. I fall som handlar om etablerade historiska fakta resulterar denna ”inkluderande” metod i oexakthet och problematik. Google har utlovat en lösning för dessa noggrannhetsproblem och har i ett uttalande på X meddelat att de är medvetna om inkonsekvenser hos Gemini och att de arbetar på att snarast förbättra dessa avbildningar.

De drabbade scenarierna inkluderar inte bara historiska figurer som de amerikanska grundarna, utan även misstolkningar av andra vita historiska karaktärer som senatsledamöter från 1800-talet och till och med soldater från Nazityskland.

Detta har också väckt frågor om huruvida Googles försök att korrigera brist på mångfald i AI kan ha lett till att den nya biasen introducerats i bildgenereringssystemet. Google har ännu inte hänvisat till specifika bilder som de anser vara felaktiga.

AI och Bias

En jämförelse av tre stora text-till-bild-genereringsverktyg visar att DALL-E genererar bilder med minst stereotyper jämfört med konkurrenterna Stable Diffusion och Midjourney. Trots försök att undvika stereotyper i träningsdatan fortsätter AI-bildgeneratorer att visa fördomar, vilket tyder på att det inte finns något enkelt sätt att lösa detta problem.

Google säger att det tillfälligt har upphävt förmågan hos Gemini dess flaggskeppsgenerativa AI-svit av modeller, att generera bilder av människor medan det arbetar med att uppdatera tekniken för att förbättra den historiska noggrannheten av utdata som involverar avbildningar av människor.