Så blev det (måske) lidt sværere at få Bryan Cranston til at rappe med Gandhis stemme på TikTok. OpenAI, folkene bag Sora – AI-videoapp’en, der på rekordtid er blevet kæmpehit i App Store – har nemlig fået noget så sjældent som selverkendelse og sat ordentlige grænser op. Og nej, ikke kun for show: Nu er det slut med at skabe videoer med kendtes ansigter og stemmer uden deres samtykke.
Efter en pæn, men bestemt opsang fra blandt andre Bryan Cranston (du ved, ham fra Breaking Bad, eller, hvis du virkelig er nørd: fra Malcolm in the Middle), samt fra efterladte til Robin Williams, George Carlin og Martin Luther King Jr., har OpenAI måttet indse, at "opt-in" ikke betyder ret meget, hvis teknologien alligevel lader brugerne deepfake løs.
- Sora blev lynhurtigt populær efter udgivelsen 30. september
- Flere kendte og historiske personer blev misbrugt uden samtykke i AI-genererede videoer
- OpenAI har nu sat hårdere tekniske og etiske grænser for brugen af ansigter og stemmer
Sammen med organisationer som SAG-AFTRA og Creative Artists Agency har OpenAI lige offentliggjort en udtalelse, der mest af alt lyder som en skriftlig bodsøvelse: De lover "produktivt samarbejde" for at beskytte kunstneres og kendtes rettigheder over deres stemmer og udseende i Sora 2 – og altså også Sora app’en.
Kunstnere, skuespillere og almindelige mennesker skal selv kunne vælge, om de gider at være digitale marionetdukker for nørder med for meget fritid og for smarte iPhones.
De nye beskyttelsesskinner (guardrails, som OpenAI så kækt kalder dem) skal forhindre, at nogen kan deepfake Bryan Cranston på en kedelig onsdag eftermiddag – uden hans velsignelse, forstås. Og, OpenAI lover at være lynhurtige til at svare på klager fremover. Tiden må vise, om det holder, når næste sag rammer pressen...
Spørgsmålet om historiske personer (tænk: MLK, Carlin, Williams) er stadig tricky. OpenAI lægger sig op ad "free speech"-argumentet, men nu har familiemedlemmer og juridiske arvtagere fået indsigelsesret, hvis de ikke synes, bedstefar skal agere meme på TikTok mere.
Sora, AI og OpenAI er igen i centrum for debatten om etik i teknologi. Apple-brugere – og især os, der elsker at nørde betalingsapps og AI-gadgets – kan kun glæde sig over, at der trods alt findes grænser, selv i Wild West-AI-land. Men mon ikke en smart jailbreak-hacker allerede er i gang med at finde et kreativt hul i Soras forsvar?
Kilde: MacRumors
Partager: