Google Deepmind har i samarbete med Google Cloud tagit fram Synthid, en digital vattenstämpel som kan användas för att märka ut om en bild genererats fram genom AI.
”Samtidigt som generativ AI kan möjliggöra en enorm kreativ potential, så innebär den också nya risker, som att kreatörer kan sprida falsk information, både medvetet och omedvetet”, skriver Google Deepminds Sven Gowal och Pushmeet Kohli i ett blogginlägg.
Synthid bäddas in direkt i bildens pixlar vilket gör att verket kan identifieras som AI-genererat samtidigt som vattenstämpeln inte går att se med det mänskliga ögat. Synthid ska inte heller gå att ta bort genom att modifiera bilden med exempelvis beskärningar, filter eller justeringar av färg och ljusstyrka. Google Deepmind medger däremot att den digitala vattenstämpeln inte är immun mot ”extrem bildmanipulering”.
En beta-version av Synthid kommer inledningsvis vara tillgänglig för ett begränsat antal Vertex AI-kunder som använder sig av Googles egna bildgenereringsverktyg Imagen. Innehåll som skapats genom AI kan också laddas upp till Synthid för identifiering, förutsatt att bilden ursprungligen genererats fram med Imagen.
Enligt Google skulle Synthid kunna användas för andra AI-modeller och företaget ska titta på att ta den till fler av sina produkter. Google planerar även att göra Synthid tillgänglig för tredjeparter inom en snar framtid.
Läs också: Helt AI-genererad konst kan inte få upphovsrätt enligt domstol i USA