23948sdkhjf

Det går att CE-märka AI

Med AI-system inom hälso- och sjukvården avses i regel självlärande beslutsstöd för diagnos eller behandling, med en algoritm som utan vidare mänsklig medverkan successivt förbättrar systemet, skriver Mats Ohlson, regulatorisk expert i MedTech Magazine.

Många sådana system idag har en ganska begränsad avsedd användning; till exempelatt urskilja förändringar i avbildningar eller cellprov. Framtidens system tänks mer generella och ska genom att sammanväga indata från undersökningar med all kunskap och vetenskap föreslå diagnos och/eller behandling.

Men hur rimmar detta med CE-märkning och tillverkaransvar? Här diskuteras några av utmaningarna:

Begreppet Artificiell intelligens, AI-system är ganska odefinierat och används ofta slarvigt i diskussioner om vad som är möjligt och vad som är önskvärt. Jag begränsar mej här att illustrera med två extremer:

1. Övervakad inlärning: Innebär att man uppnår en förfinad algoritm, trimmar vissa bestämda variabler i algoritmen, genom att träna den med en kontrollerad datamängd och ett i förväg känt ”rätt svar”. Ganska okontroversiellt och tillämpas redan t ex för produkter för mönsterigenkänning såsom bildtolkning eller automatiska hjärtstartare.

2. Oövervakad inlärning. Innebär att sträva mot en förbättrad (?) funktion som, till skillnad från ovan, bygger på ej kategoriserade data och utan att ha något facit. Man kan alltså inte kontrollera den resulterande funktionen gentemot ”rätt svar”.

Det senare är en modell som stimulerar fantasin och som till exempel beskrivs i läroboken Artificial Intelligence: A Modern Approach, S. Russell och P. Norvigs, som en allvarlig risk, då de "kan leda till utvecklingen av ett system med ett oavsiktlig beteende".

Möjliga problem med AI i ett CE-märkningsperspektiv:

  • Tillverkaransvar. MDD/MDR kräver ett tydligt, uttalat tillverkaransvar typ ”Jag tar ansvaret för att min produkt är säker och uppfyller lagkraven”. Innebär en hel del åtaganden för tillverkaren och som inte får komprometteras under produktens livslängd. Tufft för en föränderlig produkt, men inte omöjligt.

  • Att definiera avsedd användning. Innebär tillverkarens löfte till användaren. Ger avgränsningar och förväntad prestanda. Produktens förväntade prestanda ska beläggas med en klinisk utvärdering och med erfarenheter från klinisk användning. Om prestanda har utvecklats till bättre än utlovat och tillverkaren vill tillgodoräkna förbättringen måste den kliniska utvärderingen uppdateras.

  • En uppstyrd konstruktionsprocess. Ett säkerhetskrav som särskilt gäller komplicerade programvaror med säkerhetskritiska funktioner. Men, hur kan man ha koll på kvaliteten på programvaran i ett självutvecklande system?

  • Klinisk utvärdering.Vid klinisk utvärdering av medicintekniska programvaror ska man utvärdera följande:

- Vilken vetenskaplig grund man har för produktens algoritmer.

- Att man lyckats koda produktens programvara så att kliniska indata ger förväntade utdata,

- och att produktens presentation av utdata verkligen är kliniskt användbar i den avsedda situationen.

Med vedertagen nomenklatur kallas dessa steg Scientific Validity, Analytical Validation samt Clinical Validation. Se imdrf.org, dokument N41.

Särskild utmaning för system som har fri tillgång till externa källor för att självständigt uppdatera sina algoritmer. Vad blir resultatet om algoritmen inhämtar referensvärden från olämpliga källor och t ex börjar rekommendera paramedicinska åtgärder, om inte detta nu var avsikten…?

Hur ska man validera kliniska påståenden om ett AI-system innan det tas i bruk, när man inte i förväg vet hur bra det kommer att ”lära sig” att bli?

För system med hyfsat avgränsad tillämpning är det säkert greppbart, men utmaningen växer med komplexiteten och hur mycket externa källor tillåts påverka algoritmerna.

Har vi ett dilemma? Definitivt!

  • Ska AI system uppfylla samma krav vi ställer på andra CE-märkta medicintekniska produkter. Med krav på validerade releaser. Möjligen en broms utvecklingstakten?

  • Ska vi sänka kraven så det passar bättre för utvecklingshungriga intressenter?

Predikamentet ökar i takt med att teknikutvecklingen trycker på.

Ska vedertagna krav gälla alla, måste myndigheter och andra intressenter komma överens och ge vägledning hur kraven ska tillämpas, i proportion mot de aktuella riskerna. (MDR regel 11 kommer t ex inte att fungera som den ser ut idag…)

Snarast!

Annars måste vi förklara för patienterna att risk/nytta balansen förskjutits och att vi är beredda att chansa lite mer med hälsan.

Håll dig uppdaterad med MedTech Magazine
Är du prenumerant? Bli prenumerant

Med en prenumeration får du obegränsad tillgång till webbtidningen. Läs webbtidningen online.

Kommentarer (0)
Startsidan just nu

Lucka 15 - se vem du hittar här

Cellulosa läker svåra sår

Forskarna Mårten Skog och Petter Sivlér utvecklade en produkt som läker svåra sår och brännskador. Sedan bestämde de sig för att starta en egen klinik. Nu börsnoteras deras företag.

Lucka 14 - vem där?

Lucka 13 - öppna och se

I dagens lucka förutspås att en ketchupeffekt väntar bakom hörnet...

Forskarna svarar om Pcure-kritiken

Colombia-avtal för plåsterbolag

Nyhetsbrev

Nyhetsbrevet skickas en gång i veckan.

Se det senaste nyhetsbrevet. Annonsera i nyhetsbrevet

Lucka 12 - vem där?

Denna internationellt bevandrade vd önskar sig färre knäppgökar i världspolitiken...

Arkiv

Macchiarini-utredning öppnas igen

Beslut från överåklagare Mikael Björk under en presskonferens idag.

Pharem slår tillbaka mot Akademiska

En publicerad studie från forskare vid Akademiska sjukhuset pekar mot att Pcures läkemedelsrening i toalettstolen inte fungerar. Artikeln borde dras tillbaka och studien göras om, skriver Pharems vd.

Lucka 11 - se vem som finns här

Krönika: Tjäna på nöjda patienter

Chefredaktör Hanna Brodda om varför vården måste förlora betydligt på att tappa fokuset på människan bakom journalen, annars blir det inte verklig förändring.

Lucka 10 - vem finns här bakom?

Lucka 9 - vem där?

Lucka 8 - vem hittar vi här?

Akademiska spolar Pcure

Nu har Akademiska gjort en större studie av enzymblocken som skulle rena läkemedelsrester redan i toalettstolen. Resultatet är nedslående.

Lucka 7 - kika in här

Lucka 6 - vem där?

Ministersamtal och ett command center nämns bland vd:ns julönskningar.

Sveriges första digitala psykolog för barn och unga

Nätdoktor tar sikte på psykisk ohälsa bland yngre.

Lucka 5 - Vem hittar vi här?

Värmlands jättesatsning på digitala hälsotjänster

Lucka 4 - vem där?

Här bakom döljer sig önskningar om förändring i Aladdin-askens undre lager...

Språkstöd i vården

När patienten inte förstår svenska kan svårigheterna i vårdmötet bli många. Dart tagit fram ett omfattande kommunikationsstöd som utgår direkt från verksamheterna.

Sahlgrenska satsar på precisionsmedicin

Lucka 3 - vem där?

Här finns en riksdagsledamot som önskar sig ett samtal från en minister...

Lucka 1 – vem döljer sig här?

Slutgiltigt klart för VGR:s IT-system

Får Forska Sveriges hedersutmärkelse

Han lämnar vd-posten

Krönika: Tuffa krav på återförsäljare

Nya coala är träffsäkrare

Ny topp till Getinge

Ny finanschef till Probi

Blir utvecklingschef

Från Iran till Uppsala

AI och läkare gör ofta olika val

Kontigos vd lämnar

Se alla Företagens egna nyheter

Synglas från Mirit Glas till process industrin

LG2020 - En elektrisk trappklättrare från Italien

Mirit Glas har ett av det största och mest välsorterade utbud av glasrör och glasstavar

SWEMED - Stödföretag till UNHCR

Mirit Glas leverar säkerhetsglas – glas for beskyttelse

Professionella massagebänkar hos Swemed

Nytt sortiment av veterinärutrustning

Rundat glas från Mirit Glas

K7 - En självdrivande rullstol för tunga brukare

Tekniskt glas från Mirit Glas – för mer än bara syns skull

Airwheel H3S - En smart elrullstol

Mirit Glas erbjudar synglas

Glasrör och glasstavar från Mirit Glas

Nytt samarbete med Favero Health Projects inleds

Härdat glas från Mirit Glas, är en stark lösning

Mirit Glas erbjudar synglas

Kemiskt härdat glas som gorillaglas hos Mirit Glas

Floatglas från Mirit Glas – Materialet som brukas överallt

Synglas från Mirit Glas

Mirit Glas erbjudar härdat glas är en stark lösning

Floatglas från Mirit Glas – Materialet som anvánds överallt

Mirit Glas erbjudar kemiskt härdat glas som gorillaglas

Härdat glas är en stark lösning - Kontakt Mirit Glas

LINAK introducerar ett OpenBus™-system för sjukhussängar

LINAK presenterar det enkla sättet att välja rätt rörelselösning

Sänd till en kollega

0.139