Förslaget till AI-förordning har uppdaterats

Under de senaste månaderna har diskussionen om artificiell intelligens (AI) intensifierats, särskilt kring användningen av s.k. generativa AI-system, som tex. ChatGPT, som kan skapa nya unika texter, bilder, videor, etc. I ljuset av den snabba utvecklingen av AI-system, och den kraftigt ökade användningen av AI, har EU publicerat ett uppdaterat förslag till AI-förordning i maj 2023 som innehåller vissa anpassningar till den utveckling som skett.

I det följande kommer vi att beröra några centrala uppdateringar i EU:s förslag till AI-förordning.

Kort om EU:s förslag till AI-förordning

Inom EU har det sedan 2021 funnits förslag på att anta av en så kallad AI-förordning (på engelska AI Act) med krav på AI-system i syfte att reglera användningen av AI harmoniserat inom EU och skydda grundläggande mänskliga rättigheter. I tidigare nyhetsbrev har vi berört EU:s förslag till AI-förordning och även förslag till anpassade skadeståndsregler och bevisregler i anslutning till AI-system. Nyhetsbrevet går att läsa här.

Förslaget till AI-förordning bygger på ett riskbaserat angreppssätt där de krav som uppställs för ett AI-system är anpassade till de risker som systemet kan medföra. En uppdelning görs mellan förbjudna AI-system, som inte får släppas ut på marknaden i EU, och AI-system med hög risk, som får släppas ut på marknaden i EU under förutsättning att en mängd krav efterlevs. Till exempel uppställs krav gällande teknisk dokumentation, att det ska finnas ett inrättat kvalitetsstyrningssystem och att mänsklig tillsyn ska kunna utövas över AI-systemet. Därtill finns AI-system som inte bedöms medföra någon större risk för individer och som därför är föremål för endast lättare krav.

Olika aktörer kommer att träffas av AI-förordningen. Dels föreslås vissa krav ställas på leverantörer av AI-system (t.ex. utvecklare), dels på användare av AI-system (t.ex. företag som brukar AI-systemet i sin verksamhet). Därtill ställs vissa krav på distributörer och importörer av AI-system.

Uppdaterat förslag till AI-förordning i maj 2023

Sedan förslaget till AI-förordning kom under 2021 har det av olika aktörer bemötts med kritik såväl för att det är för strängt, och därmed riskerar att hämma utvecklingen av AI inom EU, som att det inte i tillräcklig utsträckning reglerar AI. Det uppdaterade förslaget till AI-förordningen som publicerades i maj 2023 innehåller en del centrala ändringar jämfört med det ursprungliga förslaget, varav vi sammanfattat några av de mer centrala förändringarna nedan.

• Definitionen av AI-system: Tidigare föreslogs att AI-system skulle omfatta all programvara som har utvecklats med en eller flera av vissa – i en bilaga till förordningen listade – tekniker och metoder som kan generera utdata som innehåll, förutsägelser, rekommendationer eller beslut som påverkar de miljöer som den samverkar med. I det senaste förslaget har man emellertid smalnat av definitionen av AI och gjort den mer förenlig med hur AI typiskt sätt definieras i andra sammanhang, bland annat inom EU. Man har försökt att göra AI-förordningen mera träffsäker.

• Förbjudna AI-system och AI-system med hög risk: Vilka AI-system som ska räknas som förbjudna respektive anses ha hög risk justeras något enligt det omarbetade förslaget till AI-förordning. Ett exempel är att det föreslås vara förbjudet med AI-system som skapar en databas för ansiktsigenkänning genom att hämta material från internet (s.k. ”scraping”) på ett ospecifikt sätt. Vidare föreslås att vissa särskilda AI-system som avses att användas av mycket stora onlineplattformar, exempelvis Facebook och Instagram, och som kan påverka det innehåll som visas för användare ska utgöra AI-system med hög risk och därigenom träffas av de särskilda krav som förordningen föreskriver för högrisksystem.

• Kraven har utökats i vissa avseenden: Kraven på leverantörer och användare av AI-system har utökats något, till exempel ska användare av AI-system med hög risk utföra en bedömning av konsekvenser ur ett rättighetsperspektiv (Eng: “fundamental rights impact assessment”) som användningen av AI-systemet kan medföra.

• Reglering av ”generativ AI”: Det omarbetade förslaget innehåller särskilda regler för generativ AI, som genererar innehåll i olika former med olika grad av självständighet, exempelvis avancerad textmassa, ljud och bild. Ett exempel på generativ AI är ChatGPT. Sådana AI-system ska bland annat uppfylla särskilda transparenskrav och redovisa en tillräckligt detaljerad sammanfattning kring data som har använts för att träna AI-systemet som är immaterialrättsligt skyddat inom EU.

• Generella principer för alla AI-system: Det föreslås att generella principer ska gälla för alla AI-system, oberoende av vilken risk ett system bedöms ha. Aktörer som träffas av AI-förordningen ska vidta ”best efforts” för att utveckla och använda AI-system i enlighet med principerna. Bland annat föreskrivs att utvecklingen och användningen av AI-system inte resultera i diskriminering, att människors integritet och värdighet ska respekteras samt att vissa principer om transparens ska följas.

• Sanktionsavgifter vid överträdelser av förordningen: För det fall tex. en användare av ett A-system bryter mot kraven enligt förordningen föreslås sanktionsavgifter kunna dömas ut. Enligt det uppdaterade förslaget har storleken på den högsta potentiella sanktionsavgift höjts. Om ett förbjudet AI-system släpps ut på marknaden i EU kan sanktionsavgiften komma att uppgå till 40 000 000 EUR, eller om överträdelsen begås av ett företag, upp till 7 % av dess totala globala årsomsättning, beroende på vilket belopp som är högst.

Vad händer nu?

Under onsdagen den 13–14 juni 2023 förväntas ledamöterna i EU:s parlament debattera förslaget till AI-förordning och ha omröstning och anta sin förhandlingsposition inför förslaget. Efter ledamöterna har debatterat och antagit sin ståndpunkt väntas förhandlingar i EU:s råd för att kunna inleda förhandlingar om den slutliga utformningen av AI-förordningen. Det är därmed för tidigt att veta hur det slutliga utkastet kommer att se ut.

Vi på Cederquist håller oss uppdaterade om utvecklingen kring förslaget och processen för antagande av AI-förordningen. Hör gärna av dig om du har frågor kring hur AI-förordningen kan komma att påverka din verksamhet framöver.