23948sdkhjf

Det går att CE-märka AI

Med AI-system inom hälso- och sjukvården avses i regel självlärande beslutsstöd för diagnos eller behandling, med en algoritm som utan vidare mänsklig medverkan successivt förbättrar systemet, skriver Mats Ohlson, regulatorisk expert i MedTech Magazine.

Många sådana system idag har en ganska begränsad avsedd användning; till exempelatt urskilja förändringar i avbildningar eller cellprov. Framtidens system tänks mer generella och ska genom att sammanväga indata från undersökningar med all kunskap och vetenskap föreslå diagnos och/eller behandling.

Men hur rimmar detta med CE-märkning och tillverkaransvar? Här diskuteras några av utmaningarna:

Begreppet Artificiell intelligens, AI-system är ganska odefinierat och används ofta slarvigt i diskussioner om vad som är möjligt och vad som är önskvärt. Jag begränsar mej här att illustrera med två extremer:

1. Övervakad inlärning: Innebär att man uppnår en förfinad algoritm, trimmar vissa bestämda variabler i algoritmen, genom att träna den med en kontrollerad datamängd och ett i förväg känt ”rätt svar”. Ganska okontroversiellt och tillämpas redan t ex för produkter för mönsterigenkänning såsom bildtolkning eller automatiska hjärtstartare.

2. Oövervakad inlärning. Innebär att sträva mot en förbättrad (?) funktion som, till skillnad från ovan, bygger på ej kategoriserade data och utan att ha något facit. Man kan alltså inte kontrollera den resulterande funktionen gentemot ”rätt svar”.

Det senare är en modell som stimulerar fantasin och som till exempel beskrivs i läroboken Artificial Intelligence: A Modern Approach, S. Russell och P. Norvigs, som en allvarlig risk, då de "kan leda till utvecklingen av ett system med ett oavsiktlig beteende".

Möjliga problem med AI i ett CE-märkningsperspektiv:

  • Tillverkaransvar. MDD/MDR kräver ett tydligt, uttalat tillverkaransvar typ ”Jag tar ansvaret för att min produkt är säker och uppfyller lagkraven”. Innebär en hel del åtaganden för tillverkaren och som inte får komprometteras under produktens livslängd. Tufft för en föränderlig produkt, men inte omöjligt.

  • Att definiera avsedd användning. Innebär tillverkarens löfte till användaren. Ger avgränsningar och förväntad prestanda. Produktens förväntade prestanda ska beläggas med en klinisk utvärdering och med erfarenheter från klinisk användning. Om prestanda har utvecklats till bättre än utlovat och tillverkaren vill tillgodoräkna förbättringen måste den kliniska utvärderingen uppdateras.

  • En uppstyrd konstruktionsprocess. Ett säkerhetskrav som särskilt gäller komplicerade programvaror med säkerhetskritiska funktioner. Men, hur kan man ha koll på kvaliteten på programvaran i ett självutvecklande system?

  • Klinisk utvärdering.Vid klinisk utvärdering av medicintekniska programvaror ska man utvärdera följande:

- Vilken vetenskaplig grund man har för produktens algoritmer.

- Att man lyckats koda produktens programvara så att kliniska indata ger förväntade utdata,

- och att produktens presentation av utdata verkligen är kliniskt användbar i den avsedda situationen.

Med vedertagen nomenklatur kallas dessa steg Scientific Validity, Analytical Validation samt Clinical Validation. Se imdrf.org, dokument N41.

Särskild utmaning för system som har fri tillgång till externa källor för att självständigt uppdatera sina algoritmer. Vad blir resultatet om algoritmen inhämtar referensvärden från olämpliga källor och t ex börjar rekommendera paramedicinska åtgärder, om inte detta nu var avsikten…?

Hur ska man validera kliniska påståenden om ett AI-system innan det tas i bruk, när man inte i förväg vet hur bra det kommer att ”lära sig” att bli?

För system med hyfsat avgränsad tillämpning är det säkert greppbart, men utmaningen växer med komplexiteten och hur mycket externa källor tillåts påverka algoritmerna.

Har vi ett dilemma? Definitivt!

  • Ska AI system uppfylla samma krav vi ställer på andra CE-märkta medicintekniska produkter. Med krav på validerade releaser. Möjligen en broms utvecklingstakten?

  • Ska vi sänka kraven så det passar bättre för utvecklingshungriga intressenter?

Predikamentet ökar i takt med att teknikutvecklingen trycker på.

Ska vedertagna krav gälla alla, måste myndigheter och andra intressenter komma överens och ge vägledning hur kraven ska tillämpas, i proportion mot de aktuella riskerna. (MDR regel 11 kommer t ex inte att fungera som den ser ut idag…)

Snarast!

Annars måste vi förklara för patienterna att risk/nytta balansen förskjutits och att vi är beredda att chansa lite mer med hälsan.

Håll dig uppdaterad med MedTech Magazine
Är du prenumerant? Bli prenumerant

Med en prenumeration får du obegränsad tillgång till webbtidningen. Läs webbtidningen online.

Kommentarer (0)
Startsidan just nu

Jobb & Karriär
Cellavision tappar vd

Sara Gunnerås till KI Science Park

Debatt
Vad händer nu?

Givetvis kommer efterfrågan tillbaka, men det kommer att ta tid, skriver Torbjörn Kronander om de följder som covid-19-krisen har för medtechbranschen på kort och lång sikt.

Cytiva och Scilifelab i covid-samarbete

Cytiva låter sina anställda delta i en pilotstudie för covid-test som genomförs av forskare på Scilifelab. Hittills har endast en liten andel av företagets anställda testat positivt.

De ska utveckla snabbare analysmetod för akut leukemi

Illumina och Genomic Medicine Sweden ingår samarbete för att utveckla helgenom- och RNA-sekvensering för patienter med akut leukemi.

Apotea och Werlabs säljer antikroppstest för covid-19

Nyhetsbrev

Getinge och Semcon i nytt samarbete mot vårdrelaterade infektioner

Med hjälp av en digital plattform hoppas företagen kunna minska risken för infektioner i samband med operation.

Arkiv

Mikrovågor ska leta brösttumörer

Diagnostiken av bröstcancer skulle kunna förbättras av mikrovågsteknik, anser forskare från Chalmers som arbetar med att ta fram en prototyp för tekniken.

Scibase genomför företrädesemission

Företaget vill öka försäljningen av teknik som upptäcker tidig hudcancer.

Elekta har bästa vd:n

Real Heart tankar kassan inför klinisk fas

Hoppas ta in 26 miljoner kronor genom företrädesemission – "Ska räcka gott och väl till att få en färdig design på plats"

Jobb & Karriär
Ny chef på Bactiguard

I augusti tillträder Gabriella Björknert Caracciolo som ny CFO samt vice vd på Bactiguard.

Björn Olsen: "Det kommer nog ingen andra våg av covid-19"

Det är dags att sluta se på det nya coronaviruset som om det vore en influensa. MedTech Magazine har intervjuat infektionsprofessorn Björn Olsen om flockimmunitet och hur viruset kommer påverka oss i framtiden.

Läkemedelsverket förbjuder ett till covidtest

Intertek blir Sveriges första MDR-organ

Kan nu ta emot MDR-ansökningar.

Röntgen visar hur coronaviruset förökar sig

De har byggt den minsta 3D-printade roboten

Flexibla, mjuka robotar som utför mikrokirurgi är ett möjligt användningsområde.

Jobb & Karriär
Abigo får ny vd

Danmark först med rikstäckande system för livräddare

Först i Europa med rikstäckande system där livräddare larmas om misstänkta hjärtstopp i närheten via en app.

Jobb & Karriär
Micropos får ny vd

Nascent Invest och Fort Knox investerar i test för bloddoping

Jobb & Karriär
KI-bolag skaffar gemensam styrelse

Sana Alajmovic: ”Vi måste tala om de stora visionerna – bygga nästa Astra”

Sigrid Terapeutics grundare och vd, Sana Alajmovic, hamnade på listan Framtidens kvinnliga ledare.

Orexo förvärvar digital terapi

Det svenska läkemedelsföretaget Orexo har förvärvat ytterligare en digital terapi som snart kommer lanseras i USA.

Dignitana tecknar avtal med Hartford HealthCare

Synartro genomför nyemission inför artrosstudie

Fälttester för covid-19 ska utvärderas

Ytterligare förbud mot självtest av covid-19

Jobb & Karriär
Xvivo byter vd

Gratisapp ska kartlägga smittspridningen i Sverige

Blodtest hittar tidig alzheimer

Jobb & Karriär
Biolamina rekryterar ny försäljningschef

Ultraljudsteknik bra vid diagnos av leversjukdomar

FDA utvidgar testalternativ för covid-19

Apparat larmar om osynlig smuts – kan identifiera virus

Gedea Biotech närmare antibiotikafri behandling av bakteriell vaginos

Se alla Företagens egna nyheter

Anders Jonsson ny VD för Oerlikon Balzers

Hur fungerar en syrgaskoncentrator?

Swemed tar in syrgaskoncentratorer från Yuwell

Akut produktion av desinfektionsmedel med hjälp av Busch

Härdat glas - en stark lösning från Mirit Glas

Mirit Glas är specialister på glasproduktion

Leverans av Busch vakuumsystem till Brasilien

Busch Vakuum Solutions levererar till sjukhus i Palestina

Synglas i hög kvalitet från Mirit Glas

Busch Vacuum Solutions levererar till sjukhustrailers i USA

Centralisering av vakuum från Busch Vacuum Solutions

Mirit Glas - Välsorterat råvarulager

Busch levererar vakuumsystem till akutsjukhus i Madrid

Samarbete mellan Busch i Schweiz och Frankrike mot Corona

Rening av gaser med vakuumteknik från Busch Vacuum Solutions

Snabbleverans av dit glas från Mirit Glas

Swemed tar in hjälpmedel från TrustCare

Biofiltrering med Busch TYR Blåsmaskin

Perfekt packad skinka med vakuum från Busch

A50- en kraftfull Android mobil POS

Fiskodling med vakuum från Busch Vacuum Solutions

Livsmedel-godkänt glas från Mirit Glas

Busch Vacuum Solutions

Energieffektiv produktion med centralvakuum

Stor energibesparing med centralvakuum i förpackningsprocess

Sänd till en kollega

0.125