23948sdkhjf

Det går att CE-märka AI

Med AI-system inom hälso- och sjukvården avses i regel självlärande beslutsstöd för diagnos eller behandling, med en algoritm som utan vidare mänsklig medverkan successivt förbättrar systemet, skriver Mats Ohlson, regulatorisk expert i MedTech Magazine.

Många sådana system idag har en ganska begränsad avsedd användning; till exempelatt urskilja förändringar i avbildningar eller cellprov. Framtidens system tänks mer generella och ska genom att sammanväga indata från undersökningar med all kunskap och vetenskap föreslå diagnos och/eller behandling.

Men hur rimmar detta med CE-märkning och tillverkaransvar? Här diskuteras några av utmaningarna:

Begreppet Artificiell intelligens, AI-system är ganska odefinierat och används ofta slarvigt i diskussioner om vad som är möjligt och vad som är önskvärt. Jag begränsar mej här att illustrera med två extremer:

1. Övervakad inlärning: Innebär att man uppnår en förfinad algoritm, trimmar vissa bestämda variabler i algoritmen, genom att träna den med en kontrollerad datamängd och ett i förväg känt ”rätt svar”. Ganska okontroversiellt och tillämpas redan t ex för produkter för mönsterigenkänning såsom bildtolkning eller automatiska hjärtstartare.

2. Oövervakad inlärning. Innebär att sträva mot en förbättrad (?) funktion som, till skillnad från ovan, bygger på ej kategoriserade data och utan att ha något facit. Man kan alltså inte kontrollera den resulterande funktionen gentemot ”rätt svar”.

Det senare är en modell som stimulerar fantasin och som till exempel beskrivs i läroboken Artificial Intelligence: A Modern Approach, S. Russell och P. Norvigs, som en allvarlig risk, då de "kan leda till utvecklingen av ett system med ett oavsiktlig beteende".

Möjliga problem med AI i ett CE-märkningsperspektiv:

  • Tillverkaransvar. MDD/MDR kräver ett tydligt, uttalat tillverkaransvar typ ”Jag tar ansvaret för att min produkt är säker och uppfyller lagkraven”. Innebär en hel del åtaganden för tillverkaren och som inte får komprometteras under produktens livslängd. Tufft för en föränderlig produkt, men inte omöjligt.

  • Att definiera avsedd användning. Innebär tillverkarens löfte till användaren. Ger avgränsningar och förväntad prestanda. Produktens förväntade prestanda ska beläggas med en klinisk utvärdering och med erfarenheter från klinisk användning. Om prestanda har utvecklats till bättre än utlovat och tillverkaren vill tillgodoräkna förbättringen måste den kliniska utvärderingen uppdateras.

  • En uppstyrd konstruktionsprocess. Ett säkerhetskrav som särskilt gäller komplicerade programvaror med säkerhetskritiska funktioner. Men, hur kan man ha koll på kvaliteten på programvaran i ett självutvecklande system?

  • Klinisk utvärdering.Vid klinisk utvärdering av medicintekniska programvaror ska man utvärdera följande:

- Vilken vetenskaplig grund man har för produktens algoritmer.

- Att man lyckats koda produktens programvara så att kliniska indata ger förväntade utdata,

- och att produktens presentation av utdata verkligen är kliniskt användbar i den avsedda situationen.

Med vedertagen nomenklatur kallas dessa steg Scientific Validity, Analytical Validation samt Clinical Validation. Se imdrf.org, dokument N41.

Särskild utmaning för system som har fri tillgång till externa källor för att självständigt uppdatera sina algoritmer. Vad blir resultatet om algoritmen inhämtar referensvärden från olämpliga källor och t ex börjar rekommendera paramedicinska åtgärder, om inte detta nu var avsikten…?

Hur ska man validera kliniska påståenden om ett AI-system innan det tas i bruk, när man inte i förväg vet hur bra det kommer att ”lära sig” att bli?

För system med hyfsat avgränsad tillämpning är det säkert greppbart, men utmaningen växer med komplexiteten och hur mycket externa källor tillåts påverka algoritmerna.

Har vi ett dilemma? Definitivt!

  • Ska AI system uppfylla samma krav vi ställer på andra CE-märkta medicintekniska produkter. Med krav på validerade releaser. Möjligen en broms utvecklingstakten?

  • Ska vi sänka kraven så det passar bättre för utvecklingshungriga intressenter?

Predikamentet ökar i takt med att teknikutvecklingen trycker på.

Ska vedertagna krav gälla alla, måste myndigheter och andra intressenter komma överens och ge vägledning hur kraven ska tillämpas, i proportion mot de aktuella riskerna. (MDR regel 11 kommer t ex inte att fungera som den ser ut idag…)

Snarast!

Annars måste vi förklara för patienterna att risk/nytta balansen förskjutits och att vi är beredda att chansa lite mer med hälsan.

Håll dig uppdaterad med MedTech Magazine
Är du prenumerant? Bli prenumerant

Med en prenumeration får du obegränsad tillgång till webbtidningen. Läs webbtidningen online.

Kommentarer (0)
Startsidan just nu

Läser av ditt blod och din svett

Ny kraft för optiska pincetter upptäckt

När biologiska celler studeras med optisk pincett är ett stort problem den skada som verktyget orsakar cellen. Nu har en forskare vid Göteborgs universitet upptäckt en ny typ av kraft som rejält minskar den optiska pincettens ljusanvändning.

Wallenius ska leda vården in i framtiden

Wallenius leder “en av de största moderniseringsprojekten inom svensk hälso- och sjukvård”, som Cerner själva konstaterar, med en plattform som idag hanterar över 100 miljoner patienter.

Tar fram AI-stöd för ambulanspatienter

Ett AI-beslutsstöd för akutvårdspersonalen som baseras på inmatade patientdata. Det är målet med ett projekt vid Högskolan i Borås.

Krönika: Vårdens förändring är leverantörernas ansvar

Att förändra, utveckla och komma på botemedel - det är leverantörernas ansvar gentemot patienterna.

Handledd träning på distans hjälper hjärtpatienter

Nyhetsbrev

Krönika: Nya etiska frågeställningar med AI

En artificiellt intelligent MR-undersökning kan ge information om sjukdomar vi inte efterfrågat. Var ska den etiska gränsen dras, frågar Tomas Kramar, vd för Siemens Healthineers.

Arkiv

Bactiguard går in i Kanada

Senzimes styrelseledamot Ulf Lindskog har avlidit

Han blir teknikchef på Camanio

Miljonorder för Senzime i Korea

Getinge återkallar slang till hjärtlungmaskin

Nytt partnerskap för Bactiguard

Soldrivet i norr

Rekryterar tidigare OS-skidskytt till vd-posten

Orsaker och prevention på möte om demens

Drottning Silvia bjöd nyligen in till det 3:e internationella stormötet Dementia Forum X 2019. Mötet samlade verksamhetsledare, beslutsfattare, forskare och kungligheter från hela världen i biblioteket på Stockholms kungliga slott.

Vd-byte hos vårdjätten

Smartare protonstrålar kan ge ny cancerterapi

Protonstrålar med fördubblad energi kan användas för att nå längre in i kroppen. Nu visar forskare på Chalmers och Göteborgs universitet hur metoden kan användas till mer kompakta och prisvärda acceleratorer.

1

Appen som leker bebis

För att förbereda blivande föräldrar lanseras nu en app som simulerar livet med en bebis.

Hon blir chef för Skånes sjukvård

Träffpunkt i norr

Med långa avstånd blir behovet av ett samlande forum ännu större. Under två dagarsmötet Fokus Hjälpmedel möttes förskrivare, hjälpmedelskonsulenter och leverantörer för fortbildning och nya perspektiv.

Riktad emission för Camanio

1

Permobil i exklusivt samarbete med Batec 

Får egna försäljningsrättigheter i fem länder. 

Europeiskt patent för Braincool

200 miljoner till kvalitetsregister

Krönika: Allt vi tar för givet

Nytt avtal för Senzime

Från börsen till startup

1

Gunther organiserar patienter

Se alla Företagens egna nyheter

Böjt och rundat glas från Mirit Glas

Synglas i hög kvalitet för inspektion av industriella processer

R 5 0760 A PLUS den intelligenta vakuumpumpen med integrerad frekvensomvandlare

Kemiskt härdat glas - Den tunna, starka produkten

Glasrör och glasstavar från Mirit Glas

Interpay visar världens modernaste allt-i-ett terminaler på Retail Experience Live 2019, Kistamässan

Synglas i hög kvalitet - Mirit Glas

Förberedd för industri 4.0: Ny lamellvakuumpump med tryckreglering

Tekniskt glas er kännetecknad ved speciella egenskaper

2-poliga modulen kombinerar dataöverföring och koax

Klovakuumpumpen Mink MV 0312 B från Busch Vakuumteknik – effektiv och tillförlitlig

R 5 0760 A PLUS den intelligenta vakuumpumpen med integrerad frekvensomvandlare

Mirit Glas framställer kemiskt härdat glas till industrier

Mirit Glas leverar glasrör och glasstavar

Synglas till process industrin från Mirit Glas

Robust optisk överföring i populär kontakdonsfamilj

Speciella egenskaper får du med Tekniskt glas

Mirit Glas erbjudar kemiskt härdat glas som gorillaglas

Nu lanserar vi vår bärbara betal/kassaterminal PAX E600 med intergrerad 8 tum androidskärm.

Träningsdockor för sjuksköterskeutbildningar

Glasrör och glasstavar från Mirit Glas

Mirit Glas erbjudar kemiskt härdat glas

Cirkulära kontaktdon uppfyller senaste medicinska IEC 60601-1-krav

Synglas används för att inspektera eller övervaka en process med t.ex. väts...

Tekniskt glas är glas med speciella egenskaper

Sänd till en kollega

0.276