23948sdkhjf

Det går att CE-märka AI

Med AI-system inom hälso- och sjukvården avses i regel självlärande beslutsstöd för diagnos eller behandling, med en algoritm som utan vidare mänsklig medverkan successivt förbättrar systemet, skriver Mats Ohlson, regulatorisk expert i MedTech Magazine.

Många sådana system idag har en ganska begränsad avsedd användning; till exempelatt urskilja förändringar i avbildningar eller cellprov. Framtidens system tänks mer generella och ska genom att sammanväga indata från undersökningar med all kunskap och vetenskap föreslå diagnos och/eller behandling.

Men hur rimmar detta med CE-märkning och tillverkaransvar? Här diskuteras några av utmaningarna:

Begreppet Artificiell intelligens, AI-system är ganska odefinierat och används ofta slarvigt i diskussioner om vad som är möjligt och vad som är önskvärt. Jag begränsar mej här att illustrera med två extremer:

1. Övervakad inlärning: Innebär att man uppnår en förfinad algoritm, trimmar vissa bestämda variabler i algoritmen, genom att träna den med en kontrollerad datamängd och ett i förväg känt ”rätt svar”. Ganska okontroversiellt och tillämpas redan t ex för produkter för mönsterigenkänning såsom bildtolkning eller automatiska hjärtstartare.

2. Oövervakad inlärning. Innebär att sträva mot en förbättrad (?) funktion som, till skillnad från ovan, bygger på ej kategoriserade data och utan att ha något facit. Man kan alltså inte kontrollera den resulterande funktionen gentemot ”rätt svar”.

Det senare är en modell som stimulerar fantasin och som till exempel beskrivs i läroboken Artificial Intelligence: A Modern Approach, S. Russell och P. Norvigs, som en allvarlig risk, då de "kan leda till utvecklingen av ett system med ett oavsiktlig beteende".

Möjliga problem med AI i ett CE-märkningsperspektiv:

  • Tillverkaransvar. MDD/MDR kräver ett tydligt, uttalat tillverkaransvar typ ”Jag tar ansvaret för att min produkt är säker och uppfyller lagkraven”. Innebär en hel del åtaganden för tillverkaren och som inte får komprometteras under produktens livslängd. Tufft för en föränderlig produkt, men inte omöjligt.

  • Att definiera avsedd användning. Innebär tillverkarens löfte till användaren. Ger avgränsningar och förväntad prestanda. Produktens förväntade prestanda ska beläggas med en klinisk utvärdering och med erfarenheter från klinisk användning. Om prestanda har utvecklats till bättre än utlovat och tillverkaren vill tillgodoräkna förbättringen måste den kliniska utvärderingen uppdateras.

  • En uppstyrd konstruktionsprocess. Ett säkerhetskrav som särskilt gäller komplicerade programvaror med säkerhetskritiska funktioner. Men, hur kan man ha koll på kvaliteten på programvaran i ett självutvecklande system?

  • Klinisk utvärdering.Vid klinisk utvärdering av medicintekniska programvaror ska man utvärdera följande:

- Vilken vetenskaplig grund man har för produktens algoritmer.

- Att man lyckats koda produktens programvara så att kliniska indata ger förväntade utdata,

- och att produktens presentation av utdata verkligen är kliniskt användbar i den avsedda situationen.

Med vedertagen nomenklatur kallas dessa steg Scientific Validity, Analytical Validation samt Clinical Validation. Se imdrf.org, dokument N41.

Särskild utmaning för system som har fri tillgång till externa källor för att självständigt uppdatera sina algoritmer. Vad blir resultatet om algoritmen inhämtar referensvärden från olämpliga källor och t ex börjar rekommendera paramedicinska åtgärder, om inte detta nu var avsikten…?

Hur ska man validera kliniska påståenden om ett AI-system innan det tas i bruk, när man inte i förväg vet hur bra det kommer att ”lära sig” att bli?

För system med hyfsat avgränsad tillämpning är det säkert greppbart, men utmaningen växer med komplexiteten och hur mycket externa källor tillåts påverka algoritmerna.

Har vi ett dilemma? Definitivt!

  • Ska AI system uppfylla samma krav vi ställer på andra CE-märkta medicintekniska produkter. Med krav på validerade releaser. Möjligen en broms utvecklingstakten?

  • Ska vi sänka kraven så det passar bättre för utvecklingshungriga intressenter?

Predikamentet ökar i takt med att teknikutvecklingen trycker på.

Ska vedertagna krav gälla alla, måste myndigheter och andra intressenter komma överens och ge vägledning hur kraven ska tillämpas, i proportion mot de aktuella riskerna. (MDR regel 11 kommer t ex inte att fungera som den ser ut idag…)

Snarast!

Annars måste vi förklara för patienterna att risk/nytta balansen förskjutits och att vi är beredda att chansa lite mer med hälsan.

Håll dig uppdaterad med MedTech Magazine
Är du prenumerant? Bli prenumerant

Med en prenumeration får du obegränsad tillgång till webbtidningen. Läs webbtidningen online.

Kommentarer (0)
Startsidan just nu

Fosterdiagnoser ökar markant

Addlife övertecknades

Abbott och Novo Nordisk i diabetessamarbete

Cancervård fortfarande ett geografisk lotteri

Det spelar stor roll var i landet du bor för hur snabbt du kan få vård. Det visar siffror som i dag presenteras i Cancerfondsrapporten.

E-hälsa, samarbeten och patienten i fokus på framtidsdag i Lund

Den 4 april är det dags för nätverksdagen the Future of Swedish & Danish Life Science i Lund för åttonde året i rad med en lång rad spännande talare och utställare.

Spago till klinik

Nyhetsbrev

Sedana får testa på barn

Arkiv

Positivt för Camanio

Både intäkterna och omsättningen ökade närmast det dubbla för robotikbolaget.

Smarta plåster för skidlandslaget

Säkerhetsskandal på 1177

Miljontals samtal till vårdguiden låg oskyddade på internet, avslöjar tidningen Computer Sweden.

Fler får mekanisk hjärtpump

Skåne inför screening för tarmcancer

Medicinteknikjätten inför Industri 4.0 i produktionen

Kylningsbolaget tar in 30 miljoner

”Sverige är annorlunda på flera sätt”

Branschen saknar kompetens, samtidigt som det går arbetslösa akademiker i landet. Nu får de hjälp att finna varandra.

Branschupprop för life science-Sverige

Namnkunnigt ekosystemet samlar sig bakom uppgiften att stärka Sveriges attraktions- och lyskraft som life science-nation. Idag lämnas åtgärdsförslagen till regeringen. ”Engagemanget finns men förutsättningarna måste komma från regeringen.”

Litet Skånebolag digitaliserar journaler i Zambia

Det Malmöbaserade bolaget levererar ett egenutvecklat digitalt patientjournalsystem särskilt designat för afrikanska förhållanden - som fungerar utan internetuppkoppling.

Nytt piller gör sprutor onödiga

Forskare har utvecklat en ny typ av läkemedel som gör att patienter kan slippa injektioner. En kapsel som automatiskt avfyrar en minispruta, som i sig består av insulin, direkt in i magsäcken.

Kry flyttar till Sörmland

Väljer att sänka sina avgifter.

Här finns jobben om fem år

Om fem år väntas underskottet på utbildad arbetskraft vara 100 000 personer och det finns goda chanser till jobb inom vissa specifika branscher. Men inom andra branscher blir det kärvare.

KI:s rektor om skandalboken

”Det är en partsinlaga som behandlar händelser som ägde rum långt innan jag rekryterades till KI.” Så skriver Ole Petter Ottersen på sin blogg om den uppmärksammade bok som kom ut förra veckan.

Oklar nytta av bröstcancerscreening med 3D-mammografi

Det är oklart om 3D-mammografi har fördelar framför vanlig 2D-mammografi vid bröstcancer-screening. Det konstaterar SBU i en kommentar till en norsk litteraturöversikt.

Sigrid går mot klinik

Bioteknikbolaget inleder klinisk prövning av sin produktkandidat. Siktar på att bli det första oralt intagna medicintekniska preparatet för behandling av prediabetes.

Banbrytande handprotes har implanterats

Ny topp hos Medhouse

Region Stockholm vill ha hjälp med AI

Få vill äta nyttigare trots att vi blir fetare

Tryggare badrum med mer teknik

Ny teknik för diabetiker

Bettskenor vanligare – stress är boven

Se alla Företagens egna nyheter

Mirit Glas erbjudar kemiskt härdat glas

Cirkulära kontaktdon uppfyller senaste medicinska IEC 60601-1-krav

Synglas används för att inspektera eller övervaka en process med t.ex. vätska i en behållare

Tekniskt glas är glas med speciella egenskaper

Äntligen lanseras den första betalterminalen med integrerad Androidenhet av Interpay.

Mirit Glas erbjudar glasrör och glasstavar

Nytt sortiment av anatomiska modeller från 3B Scientific

Mirit Glas erbjudar kemiskt härdat glas

Synglas till process industrin

Tekniskt glas er mer än bara syns skull

Breddar utbudet av kontorsmöbler ytterligare i samarbete med VANK

Mirit Glas erbjudar rundat glas

Synglas från Mirit Glas till process industrin

LG2020 - En elektrisk trappklättrare från Italien

Mirit Glas har ett av det största och mest välsorterade utbud av glasrör och glasstavar

SWEMED - Stödföretag till UNHCR

Mirit Glas leverar säkerhetsglas – glas for beskyttelse

Professionella massagebänkar hos Swemed

Nytt sortiment av veterinärutrustning

Rundat glas från Mirit Glas

K7 - En självdrivande rullstol för tunga brukare

Tekniskt glas från Mirit Glas – för mer än bara syns skull

Airwheel H3S - En smart elrullstol

Mirit Glas erbjudar synglas

Glasrör och glasstavar från Mirit Glas

Sänd till en kollega

0.105