Mats Högberg: ”Kan regelverken hantera AI inom vården?”
Artificiell Intelligens (AI) bryter ny mark inom en mängd tillämpningsområden och inte minst inom hälso- och sjukvården. Här finns en stor potential till att förbättra diagnostik, behandling och hantering av patientinformation. Men AI-produkter inom vården står också inför betydande utmaningar när det gäller certifiering enligt Medical Device Regulation (MDR).
En grundläggande orsak är den dynamiska och självlärande naturen hos många AI-algoritmer. Traditionella certifieringsmetoder är ofta statiska och har svårt att tillämpas på produkter som förändras över tid. Ett AI-system som kontinuerligt lär sig från nya data kan vara svårt att certifiera utifrån nuvarande regelverk. Självlärande system kan också innebära att installerad utrustning beter sig på ett nytt sätt efter en tids användning. Något som i sig också torde innebära en ökad komplexitet för tillverkarna om de behöver felsöka ett system och det installerade systemet beter sig annorlunda.
Vidare är frågor gällande produktansvar och transparens centrala i nuvarande certifieringsprocess. Frågan är hur detta skall hanteras inom nuvarande regelverk då många AI-algoritmer fungerar som ”svarta lådor”, vilket innebär att det kan vara svårt att förstå hur system och produkter når sina slutsatser. Här kommer de anmälda organen att ställas inför nya utmaningar när det gäller att bedöma och garantera att systemen är tillförlitliga och säkra för användning i verkliga vårdmiljöer.
MDR som introducerades 2017 togs fram under en tid då AI som begrepp inom vården knappt existerade och förordningen saknar därför specifika riktlinjer för hur nya medicintekniska produkter baserad på AI i en eller annan form ska hanteras. Kort sagt, det finns risk att förordningen behöver uppdateras innan den ens fullt ut har implementerats.
Det finns risk att förordningen behöver uppdateras innan den ens fullt ut har implementerats
För att möta dessa utmaningar krävs samarbete mellan olika intressenter som regleringsmyndigheter, anmälda organ, tillverkare och experter inom AI och medicin. Tydliga riktlinjer och standarder som specifikt riktar sig till AI inom hälso- och sjukvården behöver utvecklas och implementeras.
Möjligen behöver också själva certifieringsprocessen anpassas utifrån den snabba teknikutvecklingen som sker. Här kan det också behöva tydliggöras att certifiering inte är en engångsprocess. Eftersom AI-system ständigt utvecklas och anpassas måste hela certifieringsprocessen vara flexibel nog att hantera dessa förändringar över tid.
Sammanfattningsvis är integreringen av AI inom hälso- och sjukvården en lovande utveckling, men för att realisera dess fulla potential måste utmaningarna med certifiering enligt MDR adresseras. Detta kräver en proaktiv och samarbetsinriktad strategi för att inkludera dessa innovativa teknologier i regelverket, och det utan att tappa fokus på patientsäkerheten.
Artikeln är en del av vårt tema om Krönika.