Den 13 mars 2024 röstade EU-parlamentet igenom den nya EU-förordningen om AI – EU AI Act. Detta kommer att resultera i världens första lag som ska reglera AI och användningen av generativ AI.

Nu ska jag backa bandet lite. I augusti 2022 lämnade programmeraren Jason Allen in verket Théâtre D'opéra Spatial till en konsttävling vid Colorado State Fair i USA. Bilden kammade hem förstapriset i tävlingskategorin digital konst. Detta rönte stor uppmärksamhet och även kritik, inte minst från andra deltagare som anklagade Allen för fusk och plagiarism, och som ansåg att förstaplaceringen var oetisk. Anklagelsen grundade sig i att han framställt verket med AI-bildverktyget Midjourney. Allen å sin sida hävdade att han varit öppen med att hans tävlingsbidrag är genererat med AI. Dessutom hade han, enligt egen utsago, arbetat i cirka 80 timmar för att generera en bild som han var nöjd med. Textprompten fick modifieras åtskilliga gånger, och den genererade bilden bearbetade han dessutom i Photoshop. Tilläggas bör att tävlingsjuryn trots kritiken stått fast vid sitt val av förstapristagare.

Den hisnande snabba utvecklingen av generativ AI ställer upphovsrätten inför helt nya frågeställningar och har resulterat i flera rättsfall de senare året. Dessa rör bland annat följande två viktiga punkter:

• upphovsrättsskyddat material ska ha hämtats från internet för att träna generativa AI-modeller utan att personerna som äger upphovsrätten har godkänt detta
• företag som tillhandahåller tjänster inom AI-bildgenerering och personer som använder deras tjänster anklagas för att göra sig skyldiga till plagiarism, något som också strider mot upphovsrätten.

Flera AI-bildverktyg är ”upplärda” på material (text och bilder) från LAION, en ideell organisation som tillhandahåller dataset, verktyg och modeller för forskning om maskininlärning. Vad LAION tillhandahåller är egentligen inte en databas utan URL-listor till bilder i kombination med texter som är kopplade till bilderna. Det kan bl.a. röra sig om material på Pinterest eller Fine Art America. I främst USA har flera stämningsansökningar lämnats in från konstnärer som hävdar att LAION och AI-företagen som säljer AI-bildgenereringstjänster har använt deras verk utan deras samtycke och därmed inkräktar på deras immateriella rättigheter. Stämningsansökningar har även inkommit från bildbyråer

. Flower PowerEN AI-genererad bild kan vara inspirerad av oändligt många bilder som ligger ute på Internet. Den här bilden är komponerad av flera olika fotografier, dock alla från mitt eget fotoarkiv. Men jag har säkert omedvetet inspirerats av bilder jag sett på internet.

Bildtext: AI-genererade bilder kan hämta inspiration från mängder av bilder som ligger ute på Internet, och flera bildkonstnärer anklagar olika bildgenereringstjänster för kränkning av deras upphovsrätt.  "Flower Power"-bilden ovan har jag komponerat av flera olika fotografier, dock alla från mitt eget fotoarkiv. Men jag har säkert omedvetet inspirerats av bilder jag sett på internet...

Här i Europa prövas nu i vår (detta skrivs i mars 2024) för första gången träning av diffusionsmodeller i domstol. Det är den tyske fotografen Robert Kneschke som har stämt LAION för upphovsrättsintrång, med anledning av att man utan tillstånd använt hans bilder i sitt dataset som används för träning av generativ AI. LAION åberopar existerande upphovsrättsliga undantag som finns och menar att dessa tillåter användningen. Hur domen utfaller kommer sannolikt att påverka kommande mål i andra länder, till exempel Sverige.

När det gäller rättsliga tvister kring själva bildgenereringen är en frågeställning om diffusionsmodellerna när de tränas skapar replikor av existerande, upphovsrättsskyddade verk eller om bilderna som genereras har omvandlats i grunden. Hur domstolarna kommer att döma i pågående och framtida mål är svårt att sia om. I sammanhanget är det dock viktigt att påpeka att upphovsrätten skyddar specifika verk, inte idéer, tankar, stilar eller tekniker.

Vem äger då rättigheterna till bilder som genererats med AI-bildverktyg? Enligt svenska Patent- och registreringsverket kan ingen ha upphovsrätt till en bild som till 100 % är framställd med ett AI-bildverktyg utifrån en prompt. Upphovsrätt kräver att ett verk är skapat av en människa som kunnat göra fria, kreativa val. Det är dock inte helt omöjligt att verk som innehåller AI som en av flera beståndsdelar (t.ex. i kombination med fotografier eller målat material) skulle kunna upphovsrättsskyddat.

De enskilda AI-bildverktygens användarrättigheter skiljer sig åt. De finns i användarvillkoren som man godkänner när man ingår avtal med företaget som tillhandahåller tjänsten, till exempel Stable Diffusion, Midjourney och Dall-E.

Åter till EU AI Act. Denna delar in AI-material i fyra riskklasser, varav generativ AI hamnar i klassen ”Begränsad risk”. Den här typen av system måste informera tydligt om sin karaktär och sitt syfte. Därtill måste slutanvändarna informeras om att de interagerar med AI och kunna välja bort att använda detta. 

Vidare bygger system som använder generativ AI för att generera eller manipulera bilder, ljud eller videor på så kallade ”AI-modeller för allmänna ändamål”. Alla som tillhandahåller de här modellerna måste kunna lämna ut teknisk dokumentation och bruksanvisningar. De måste även efterleva EU:s upphovsrättsdirektiv och publicera en sammanfattning om innehållet som används för att träna modellerna. Företag som utvecklar eller använder AI-system måste tillhandahålla dokumentation som visar att systemen uppfyller kraven i lagen.

När det specifikt gäller innehåll som genereras eller modifieras med AI (bilder, ljud, video, t.ex. deepfakes) måste detta tydligt märkas som AI-genererat.

EU har inrättat den Europeiska AI-byrån (European Artificial Intelligence Office) som bland annat ska övervaka genomförandet och tillämpningen av regler om AI-modeller och AI-system för allmänna ändamål. Vilken svensk myndighet som kommer att få det nationella, övergripande ansvaret för EU AI Act är i skrivande stund inte klart, och hur den nya lagstiftningen ska implementeras konkret samt påverka lagstiftningen i de enskilda europeiska länderna återstår också att se.