23948sdkhjf

Nya etiska frågeställningar med AI

En artificiellt intelligent MR-undersökning kan ge information om sjukdomar vi inte efterfrågat. Var ska den etiska gränsen dras, frågar Tomas Kramar, vd för Siemens Healthineers.

För att upprätthålla hög säkerhet inom AI och maskininlärning krävs ständigt uppdaterad mänsklig kompetens inom bland annat medicin. När nya förutsättningar och utmaningar kommer inom sjukvården med eventuella nya sjukdomar eller nya behandlingsmöjligheter är risken att den kompetensen saknas. Det är etiskt viktigt att AI både gör saker rätt, vilket handlar om säkerhet, och att AI gör rätt saker.

Prestige kan vara en bromskloss för AI:s utveckling och kan innebära ett bakslag. Det finns konservativa krafter inom sjukvården som bromsar att maskiner och en intelligens som är artificiell tar över sjukvårdskunnigas kompetens och till och med kan ta över deras arbete. Det rör sig om rädsla och kamp för sitt existensberättigande. Om professionen inte tillåter bättre vård genom att motsäga sig den nya tekniken i form av AI, kan det anses oetiskt.

Om vi föreställer oss att en urolog skickar sin patient till en MR-undersökning för till exempel misstänkt prostatacancer så bedömer urologen sedan resultat som rör den misstänka diagnosen och inget annat. En 15 minuters MR-undersökning med automatiska AI baserade beräkningar kan leverera så ofantligt många fler fynd från kroppens olika organ. Värdefull kompletterande data kan skickas vidare till den medicinska kompetensen. Man kommer därför kunna upptäcka andra sjukdomar tidigare och ge patienten bättre livsbetingelser och sjukvården får samtidigt lägre kostnader. Men den etiska frågan är om radiologen skall skicka denna icke efterfrågade informationen vidare till den relevanta för sjukdomsbilden rätta läkarkompetensen?

Ur informationsperspektivet är behovet av data för att utveckla AI en annan intressant fråga av etisk karaktär. Leverantörer som vill utveckla AI har inte tillgång till data, men det har sjukvården. Kan sjukvården sälja den datan? Kan patienter dela med sig av eller sälja sin egen data? Vem äger all data som genereras av vården?

Ett lyckat införande av AI i vården kommer att ge oss möjligheter att få en mer precis diagnos och bättre terapiförslag än vad läkarna kan göra idag. Vård och behandling kommer dock även i fortsättningen behöva den mänskliga kontakten med dess magi, intimitet och handpåläggning som dagens sjukvård erbjuder. Varken en digital doktor eller AI kommer att kunna ersätta detta. Att vara människa handlar inte bara om att leva ett friskt liv utan även ett bra liv. Etiska frågan är naturligtvis, hur långt och var är det är etiskt rätt , att AI tar över den humana handpåläggningen?

Att erkänna fel har mänskligheten haft svårt med under alla tider. Under medeltiden fick en bock tjänstgöra som syndabock vid diverse misstag. I framtiden kommer AI vara en perfekt syndabock, inte minsta tvekan om det. Bedömningar och beslut fattas ju av någon annan än en människa. Ansvarsfrågan väcker etiska frågor. Kan vi skylla felaktigheter på en maskin, eller är maskinens ägare den ansvariga, eller är det programmeraren, företaget eller till och med samhället som tillåter en ny teknik? Den etiska ansvarsfrågan är lika viktig som vid införandet av självgående bilar.

Självklart finns det etiska spörsmål redan idag inom sjukvården. En fråga som är aktuell är vilken patient som ska få effektiv men dyr medicin? Eftersom de mest effektiva läkemedlen har hög prislapp och det samtidigt inte finns ändlösa resurser kommer det även fortsättningsvis att krävas mer distinkta horisontella prioriteringar mellan individer och patientgrupper. Kan vi lämna dessa prioriteringar till algoritmer genom att mata in människovärdesprinciper, behovsprinciper och effektivitetsprinciper?

Hur lägger vi in de etiska perspektiven i olika kulturer eller olika ekonomiska förutsättningar, till exempel i ett u-land? Idag skapas AI av en väldigt snäv grupp som sannolikt delar mycket av varandras bakgrund och världsåskådning. Hur demokratiseras AI.

_____________________________________________

Fakta: Det här är artificiell intelligens

AI finns idag på allas läppar utan att man kanske vet eller förstår det. En kort definition är därför på plats. AI är en mänsklig produkt med förmåga att efterlikna mänsklig intelligens. En annan lite längre definition är att AI är en utveckling av maskiner och system som effektivt utför uppgifter som normalt kräver mänsklig intelligens. AI kan praktiskt taget inte begå fel eftersom den lär sig av sina misstag under ”utbildningen” och vägrar att sättas i gång innan samtliga misstag är eliminerade. Paradoxalt nog kan dock AI lära sig fel och därmed göra fel, beroende på indata och programmering och det är människor som sätter igång programmet, efter validering. AI, liksom annan teknologi är varken ond eller god, det är upp till oss vad vi gör med den. All teknologi är neutral, det är ett verktyg för att förstärka vår egen förmåga. AI är ett verktyg, ett medel för att åstadkomma något – som till exempel friskare människor eller en renare värld.

Vi ses i Almedalen, hoppas jag!

Kommentera en artikel
Utvalda artiklar

Nyhetsbrev

Sänd till en kollega

0.094