DALL-E 3 vattenstämpelsystem introducerat

OpenAI har infört ett vattenstämpelsystem för bilderna som genereras av DALL-E 3 deras AI-baserade bildgenereringsplattform. Syftet med detta system är att tydligare kunna bekräfta ursprunget för bilder skapade av plattformen som AI-genererade.

Vad innebär DALL-E 3:s vattenstämpelsystem?

Vattenstämplarna kommer att visas som en synlig Content Credentials (CR) symbol i övre vänstra hörnet av genererade bilder. Förutom synlig vattenstämpel, kommer bilder också att innehålla osynlig metadata som användare kan använda för att identifiera källan från vilken bilden skapades.

OpenAI har dock varnat för att vattenstämplar inte är en komplett lösning för att fastställa om en bild är AI-genererad, då de kan tas bort antingen av misstag eller med avsikt; exempelvis kan sociala medieplattformar ta bort metadata från uppladdade bilder, och handlingar som att ta skärmdumpar kan också eliminera den.

Införandet av vattenmärken är ett steg mot att förhindra missbruk av AI-genererade bilder och förbättra tillförlitligheten. OpenAI:s tillkännagivande sammanfaller med att fler företag ansluter sig till Coalition for Content Provenance and Authenticity (C2PA), en grupp som arbetar för standardisering och där teknikgiganter som Microsoft och Adobe ingår. CR-vattenmärken som skapats av Adobe kommer att göra det möjligt för användare att avgöra från vilken AI-plattform en bild genererades och om den skapades av en människa eller AI, vilket minskar risken för att bilder används felaktigt utan autenticitet och förtroende.

Hur fungerar DALL-E 3 vattenstämpelsystemet?

Vattenstämpelsystemet som OpenAI har implementerat i DALL-E 3 använder två typer av vattenmärken:

  1. Synligt Vattenmärke: Detta är ett markerat område på bilden som kan hjälpa till att på ett omedelbart sätt tydliggöra att bilden har genererats av AI.
  2. Metadata Vattenmärke: Mer detaljerat, detta system inkluderar information om hur och när bilden skapades inbäddat i bildens metadata. Detta innehåller detaljer som vilken AI-modell som användes och en unik identifierare för bilden.

Adobe skapade CR-vattenmärkena som används i detta system. Huvudsyftet med dessa vattenmärken är att öka transparensen och minska risken för missbruk av bilder genom att tillhandahålla ett pålitligt sätt att verifiera om en bild är skapad av en människa eller en AI-modell.

Autenticitetskontroll: Tack vare vattenmärkena blir det betydligt enklare att identifiera om en bild är AI-genererad, vilket bidrar till en ökad autenticitet och tillit.

Standardisering: Genom att anamma C2PA-standarden bidrar OpenAI till en mer enhetlig metod för innehållsprovenans och autenticitet över AI-genererade bilder.