Läkemedelsverket vägleder om användning av AI inom svensk sjukvård

Läkemedelsverket har nyligen publicerat en vägledning om användning av AI i svensk sjukvård. Vägledningen riktar sig till huvudmän inom svensk sjukvård och innehåller bland annat en checklista för vårdgivare vid införande av AI.

Användning av AI inom sjukvården väcker såväl etiska som juridiska och praktiska frågor. Det finns förhoppningar om att användning av AI bland annat ska kunna leda till bättre medicinska bedömningar till lägre kostnader och att AI har potential att öka effektiviteten och säkerheten inom vården. Liksom annan användning av AI, kan användningen av AI inom sjukvården medföra vissa risker. Läkemedelsverket rekommenderar därför vårdgivare att använda ett systematiskt, riskbaserat och väldokumenterat arbetssätt vid all användning av AI inom sjukvården.

Det är grundläggande inom hälso- och sjukvården att vård ska erbjudas alla patienter på lika villkor. Statens medicinsk-etiska råd har tidigare lyft att användning av AI kan bidra både till att minska omotiverade skillnader i praxis mellan enskilda vårdanställda, och att minska risken för fel som beror på att information förbises eller inte tolkas korrekt.

För att principen om vård på lika villkor ska kunna upprätthållas är det viktigt att den data som har använts för att träna AI-modellen är diversifierad och omfattar hela den tänkta patientgruppen. Det finns risk att resultatets tillförlitlighet bli lägre om en AI-algoritm används på otypiska patienter, det vill säga sådana som inte har ingått i den data som AI-modellen tränats på.

Det finns även en risk att AI-modellerna ger upphov till diskriminerande resultat, med anledning av data som speglar mänskliga fördomar. Läkemedelsverket tar i vägledningen fasta på denna risk och betonar att vårdgivare vid anskaffning av AI-produkter bör ställa tydliga krav på de modeller som ingår i produkten.

I vägledningen anges att riskbedömningen vid användning av AI bör inkludera en analys av risken för diskriminering och en plan för hur eventuella ojämlikheter i produktens prestanda ska kompenseras med alternativa tekniska system eller manuella rutiner.

En annan risk med AI-modeller som lyfts i vägledningen är att AI-modellerna riskerar att försämras över tid med anledning av träningsdatans förändrade relevans.

I första hand rekommenderar Läkemedelsverket att produkter med transparenta AI-modeller används, då det ökar möjligheten till jämlik vård, tydlig ansvarsfördelning samt motverkande av strukturella orättvisor. Användning av produkter med transparenta AI-modeller underlättar även övervakning av systemets funktion.

Vissa icke-transparenta modeller kan dock vara mer effektiva. Läkemedelsverket klargör att om sådana modeller används bör tillverkaren kunna visa att motsvarande prestanda och robusthet inte kan uppnås genom transparenta modeller. Funktioner som indirekt ökar modellernas förklarbarhet bör i sådana fall integreras i produkten (s.k. explainable AI).

Vad gäller ansvarsfördelningen, så har tillverkaren av en medicinteknisk produkt ansvaret för att produkten är säker och fungerar för det ändamål den är avsedd och CE-märkt för. Vårdgivarens ansvar omfattar att produkten används för sitt avsedda ändamål inom vården, i enlighet med tillverkarens rekommendationer och på ett sätt som är förenligt med god, säker och jämlik vård.

Vi på Cederquist håller oss uppdaterade om den legala utvecklingen såväl inom hälso- och sjukvården som inom AI, och kring vilka krav som ställs på aktörer som tillverkar och använder AI-system, t.ex. i förhållande till förslaget om den nya AI-förordningen. Hör gärna av er om ni har frågor kring hur kommande förändringar kan komma att påverka er verksamhet.