23948sdkhjf

Det går att CE-märka AI

Med AI-system inom hälso- och sjukvården avses i regel självlärande beslutsstöd för diagnos eller behandling, med en algoritm som utan vidare mänsklig medverkan successivt förbättrar systemet, skriver Mats Ohlson, regulatorisk expert i MedTech Magazine.

Många sådana system idag har en ganska begränsad avsedd användning; till exempelatt urskilja förändringar i avbildningar eller cellprov. Framtidens system tänks mer generella och ska genom att sammanväga indata från undersökningar med all kunskap och vetenskap föreslå diagnos och/eller behandling.

Men hur rimmar detta med CE-märkning och tillverkaransvar? Här diskuteras några av utmaningarna:

Begreppet Artificiell intelligens, AI-system är ganska odefinierat och används ofta slarvigt i diskussioner om vad som är möjligt och vad som är önskvärt. Jag begränsar mej här att illustrera med två extremer:

1. Övervakad inlärning: Innebär att man uppnår en förfinad algoritm, trimmar vissa bestämda variabler i algoritmen, genom att träna den med en kontrollerad datamängd och ett i förväg känt ”rätt svar”. Ganska okontroversiellt och tillämpas redan t ex för produkter för mönsterigenkänning såsom bildtolkning eller automatiska hjärtstartare.

2. Oövervakad inlärning. Innebär att sträva mot en förbättrad (?) funktion som, till skillnad från ovan, bygger på ej kategoriserade data och utan att ha något facit. Man kan alltså inte kontrollera den resulterande funktionen gentemot ”rätt svar”.

Det senare är en modell som stimulerar fantasin och som till exempel beskrivs i läroboken Artificial Intelligence: A Modern Approach, S. Russell och P. Norvigs, som en allvarlig risk, då de "kan leda till utvecklingen av ett system med ett oavsiktlig beteende".

Möjliga problem med AI i ett CE-märkningsperspektiv:

  • Tillverkaransvar. MDD/MDR kräver ett tydligt, uttalat tillverkaransvar typ ”Jag tar ansvaret för att min produkt är säker och uppfyller lagkraven”. Innebär en hel del åtaganden för tillverkaren och som inte får komprometteras under produktens livslängd. Tufft för en föränderlig produkt, men inte omöjligt.

  • Att definiera avsedd användning. Innebär tillverkarens löfte till användaren. Ger avgränsningar och förväntad prestanda. Produktens förväntade prestanda ska beläggas med en klinisk utvärdering och med erfarenheter från klinisk användning. Om prestanda har utvecklats till bättre än utlovat och tillverkaren vill tillgodoräkna förbättringen måste den kliniska utvärderingen uppdateras.

  • En uppstyrd konstruktionsprocess. Ett säkerhetskrav som särskilt gäller komplicerade programvaror med säkerhetskritiska funktioner. Men, hur kan man ha koll på kvaliteten på programvaran i ett självutvecklande system?

  • Klinisk utvärdering.Vid klinisk utvärdering av medicintekniska programvaror ska man utvärdera följande:

- Vilken vetenskaplig grund man har för produktens algoritmer.

- Att man lyckats koda produktens programvara så att kliniska indata ger förväntade utdata,

- och att produktens presentation av utdata verkligen är kliniskt användbar i den avsedda situationen.

Med vedertagen nomenklatur kallas dessa steg Scientific Validity, Analytical Validation samt Clinical Validation. Se imdrf.org, dokument N41.

Särskild utmaning för system som har fri tillgång till externa källor för att självständigt uppdatera sina algoritmer. Vad blir resultatet om algoritmen inhämtar referensvärden från olämpliga källor och t ex börjar rekommendera paramedicinska åtgärder, om inte detta nu var avsikten…?

Hur ska man validera kliniska påståenden om ett AI-system innan det tas i bruk, när man inte i förväg vet hur bra det kommer att ”lära sig” att bli?

För system med hyfsat avgränsad tillämpning är det säkert greppbart, men utmaningen växer med komplexiteten och hur mycket externa källor tillåts påverka algoritmerna.

Har vi ett dilemma? Definitivt!

  • Ska AI system uppfylla samma krav vi ställer på andra CE-märkta medicintekniska produkter. Med krav på validerade releaser. Möjligen en broms utvecklingstakten?

  • Ska vi sänka kraven så det passar bättre för utvecklingshungriga intressenter?

Predikamentet ökar i takt med att teknikutvecklingen trycker på.

Ska vedertagna krav gälla alla, måste myndigheter och andra intressenter komma överens och ge vägledning hur kraven ska tillämpas, i proportion mot de aktuella riskerna. (MDR regel 11 kommer t ex inte att fungera som den ser ut idag…)

Snarast!

Annars måste vi förklara för patienterna att risk/nytta balansen förskjutits och att vi är beredda att chansa lite mer med hälsan.

Håll dig uppdaterad med MedTech Magazine
Är du prenumerant? Bli prenumerant

Med en prenumeration får du obegränsad tillgång till webbtidningen. Läs webbtidningen online.

Kommentarer (0)
Startsidan just nu

Sökes: Reporter med digital inriktning

Reportern ska ingå i teamet som producerar Life Science Sweden, MedTech Magazine och Hjälpmedel.

Framåt för Kontigo

Tecknar avtal med två kommuner.

Kirurger tar hjälp av 3d-printing

3d-modeller skapar nya möjligheter vid planering av operationer.

De bygger en AI för anamnes

Forskningsstudie använder datorer för att lyssna på patienternas berättelser.

Ny regiondirektör i Uppsala

Johan von Knorring tillträder i mars.

Lokaltillverkat och biobaserat attraherar svenska apotek

Frost Pharma har tillsammans med Mälarplast tagit fram ett nytt sortiment av doseringshjälpmedel.

Nyhetsbrev

Getinge gör miljardförvärv

Köper bolag som utvecklar bioreaktorsystem.

Arkiv

Ny koreansk stororder för Senzime

Jobb & Karriär
Ny vd tar Kry in i nästa fas

Växlar upp sin roll efter två år som COO.

Data från Sigrid visar på motverkad viktuppgång

Ny studie på möss publicerad i Nanomedicine visar att Sigrids medicintekniska produkt SiPore15 motverkar viktuppgång. Detta öppnar vägen till nya behandlingar av fetma och diabetes.

AI lika bra som patologer

”När det gäller gradering av prostatacancerns allvarlighet ligger AI:n i samma spann som de internationella experterna”

Så påverkas du av nya regelverket

Väljer huvudkandidat i strålningsprojekt

Utvecklar nanopartiklar för tumörselektiv strålning – Nästa steg är proof of concept.

Utvecklar återanvändningsbar binda

”Fungerar ungefär som en menskopp, fast utanför kroppen” – Fick 9,9 miljoner från Vinnova.

Ny sårgel närmare kliniska studier

Resistens vanligt vid ledprotesinfektioner

Kardiolog stämmer Apple

Anklagas för patentintrång för den teknik som används för att upptäcka förmaksflimmer med Apple Watch.

Cellink breder ut sig

God jul och gott nytt år!

Nu tar MedTech Magazine ett uppehåll under helgerna.

Får miljoner för big data i vården

Gävleforskare utvecklar metod för att ta fram relevant underlag ur big data.

Skåne klara med helt digital cancerdiagnostik

Ett steg mot kortare svarstider och snabbare diagnoser.

Jobb & Karriär
Titti Lundgren lämnar Coala

Samtidigt blir Christian Pitulia CCO för bolaget.

Så digitaliserar V6-kommunerna sin omsorg

Med projektet Divos ökar man den digitala kompetensen inom vård och omsorg.

Smile-bolag avtalar med Baxter

Innovationslunch på Karolinska

Hon ska utveckla framtidens sjukhus

Pharmarelations stärker upp

Se alla Företagens egna nyheter

Erbjud kunder fler betalsätt med våra PAX Android terminaler

Germanium glas från Mirit Glas

Dr Karl Busch hederssenator vid Münchens universitet

Receptionsdiskar - Gör ett bra första intryck

Modern vakuumteknik för avgasning under extrudering

Busch Vacuum Solutions - World Market Leader 2020

God Jul och Gott nytt år!

Hög driftsäkerhet vid vakuumgenering inom plastindustrin

Mirit Glas tilbyr Skräddarsydda glasvaror

White Paper: Kontaktdon med integrerade EEPROM-minnen

Livsmedel-godkänt glas från Mirit Glas

Ny teknik: Systemlösningar med silikonövergjutning

E700: Smart och modernt kassa- och betalsystem

Floatglas – Materialet som används överallt

Dolphin vätskeringvakuumpumpar

Medicintekniska vågar, Klass III, CE - Vad betyder det?

Blyglas för industriell och medicinsk användning

Effektiv vakuumförsörjning för tillverkning av husbilar

Vi ses på Elmia!

Mätteknik för vakuum i ny tappning

Skyddsglas för lasersvetsning från Mirit Glas

BALINIT ® DYLYN – nu i Halmstad!

Livsmedel-godkänt glas från Mirit Glas

Värmerutor från Mirit Glas

Järnfattigt glas från Mirit Glas

Sänd till en kollega

0.149