Skanna av en bakgrundsskådespelare, ge dem betalt för en dags arbete och använd sedan deras AI-genererade likhet i vilken film eller serie som helst, på vilket sätt som helst och utan möjlighet till godkännande. För evigt.
Det låter kusligt likt ett aktuellt avsnitt av "Black Mirror", där Salma Hayek spelar en AI-genererad version av mellanchefen Joan, som plötsligt ser sitt liv spelas upp i förnedrande manér i en ny serie på en strömningstjänst.
"Black Mirror'' – definitiv möjlighet
Enligt fackförbundet SAG-AFTRAs förhandlare Duncan Crabtree-Ireland var det ungefär så förslaget såg ut när det presenterades av Alliance of motion picture and television producers (AMPTP) – organisationen som representerar de stora film- och strömningsbolagen – innan förhandlingarna med skådespelarfacket kraschade.
– Om ni tror att det här är ett "banbrytande förslag" föreslår jag att ni tänker en extra gång, sade han under presskonferensen när strejken utlystes, rapporterar Vanity Fair.
– "Black Mirror"-scenariot är en möjlighet, säger också Virginia Dignum, professor i ansvarsfull AI vid Umeå universitet.
Hon ser stora faror med hur AI används i kulturvärlden. Både på grund av hur enkelt det har blivit att generera röstskådespel och mänsklig likhet för film, tv och spel. Och även AI-genererat författande och annan personlig data. Den amerikanska komikern Sarah Silverman försökte nyligen stämma Open AI och Meta för upphovsrättsintrång.
"Tar inte hänsyn till upphovsrätt"
– De har inte tagit hänsyn till upphovsrätt och andra integritetslagar när de tränat de här systemen, det är fundamentala rättigheter som behöver skyddas oavsett vilken teknologi som använder dem, säger Virginia Dignum.
TT: Manusförfattarna säger väl att AI inte har barndomstrauman att använda sig av.
– Nej, Chat GPT har inte barndomstrauman, men vi har delat med oss av alla våra barndomstrauman på internet på olika sätt, så det finns där för Chat GPT att använda sig av, säger Virginia Dignum.
Mer transparens och säkerhet
Virginia Dignum anser att vi måste kräva mycket mer transparens kring hur de här systemen utvecklas. Vad som sätts in, vad som kommer ut och vilken sorts säkerhet som finns. Hon har noterat att Chat GPT ändrar sina värderingar hela tiden. Tidigare kunde man be AI:n att skämta om kvinnor eller feta personer, men i dag går det inte.
– Vi gissar att de försöker göra systemet mer "etiskt" men vi vet inte vilka reglerna är eller hur de har utformats. Det är en väldigt nordeuropeisk, amerikansk kultur och systemen kommer förmodligen att drivas av våra värderingar.
Kulturen kan delas upp
Hon tror att AI kommer att dela kulturen i två riktningar. En för massproducerad AI-baserad kultur och en annan högklassig exklusiv alternativ underhållningsindustri som går tillbaka till teater med riktiga människor.
– Tyvärr tror jag att världen bryr sig mer om billiga och snabba resultat, så vi behöver utbilda oss för att förstå vad som är viktigt med konst. Vi behöver bli mer medvetna om den kreativa processen som är en inneboende mänsklig förmåga, säger Virginia Dignum.
