Torbjörn Kronander: Kan AI bli rättvisare än människor?
För några år sedan kom en vän till mig hem från ett möte i Kalifornien som ordnas av Google. Han hade varit där som professor inom ett medicinskt område och med på mötet var forskare från många olika discipliner från hela världen. Allt betalades av Google och min vän var otroligt stimulerad och full av nya spännande idéer när han kom tillbaka.
Ett av de centrala områdena som diskuterades var AI, och även etiska aspekter av AI. Han berättade bland annat för mig om chocken när en kvinna hade berättat för honom att domar i New York State nu föreslås av AI. (För dem som inte känner till det amerikanska systemet så fattar en lekmannajury beslutet om en åtalad är skyldig eller icke skyldig, men därefter är det en domare, en professionell jurist, som dömer ut straffet).
Nåväl, min vän blev upprörd, vilket även såväl föredragshållaren som auditoriet hade varit när hon berättade om detta. Ska en dator verkligen avgöra frågor som kan innebära många år av frihet eller fängelse för en människa? Det hela blev som ett argument mot AI – att detta skulle vara nära nog missbruk av tekniken. Det tyckte jag med när jag hörde det först. Man ser framför sig ett ohyggligt kallt samhälle där datorer bestämmer djupt mänskliga frågor.
Men är det verkligen så att detta var missbruk? Eller ens dåligt?
Daniel Kahneman, nobelpristagare i ekonomi som jag skrivit om tidigare och som skrivit den fantastiska boken Thinking, Fast and Slow, har nyligen, tillsammans med Olivier Sibony och Cass R Sunstein, kommit ut med en ny bok; Noise. En bok som jag starkt kan rekommendera om ni uppskattade Thinking, Fast and Slow eller överhuvudtaget är intresserade av mänskligt beslutsfattande.
Den handlar om det brus ("Noise") som vårt mänskliga beslutsfattande belastas av. Och hur man, i alla fall delvis, kan minska det. En fascinerande bok för den som är intresserad av människor och hur vi fungerar. Boken tar upp många exempel som belyser hur ofullkomliga vi är som beslutsfattare. Flera av dessa handlar om medicin, som ju berör oss kanske mest i detta forum, men den ger även exempel inom just juridiken.
Det är till exempel visat att om en amerikansk stads hemmalag förlorar en match på söndagen så dömer domare i den staden klart hårdare fängelsestraff på måndagen än om hemmalaget hade vunnit. En brottsling som ska få sitt straff utmätt på måndagen har alltså större anledning än de flesta att hålla på hemmalaget i den föregående helgens matcher. Detta är givetvis chockerande orättvist, men likväl ett faktum. Det svenska juridiska systemet ser inte riktigt likadant ut, men vi kan nog med fog anta att sådana fel även sker här.
Ett AI-nät som på samma sätt utmäter straff kommer som underlag att ha tidigare domar som faktagrund och kommer därför att döma så likartat som möjligt utifrån tidigare kända domar. Ett AI-nät som inte får hemmalagets resultat inmatat kommer inte heller att påverkas av detta.
Likadant är det med etnicitet i USA, där man vet att domare i genomsnitt dömer ut hårdare straff för svarta än för vita för samma brott. Om inte AI-nätet får ras som indata kan den heller inte ta detta som grund för domar. Och vi kan styra vilka indata som AI-näten får och därmed tar hänsyn till. Men en människa, som är humörstyrd även om hon eller han strävar efter att inte vara det, kan helt enkelt inte stänga av vissa indata vid utmätningen av straffet, oavsett vilka de egna intentionerna är.
När man ser det ovan nämnda AI-exemplet från New York State i den belysningen får man lätt en annan inställning till att låta ett AI-nät döma ut straffen för ett brott. Det ligger något djupt rimligt i att samma brott leder till samma straff, oavsett om hemmalaget vann eller ej, eller om den åtalade är svart eller vit.
Kommer AI att mer sällan ta hänsyn till förmildrande omständigheter? Ja det kommer den att göra. Men i slutänden är det ändå domaren som tar det slutliga beslutet, AI:s roll är att föreslå det.
Jag har efter att ha läst Noise (och några andra andra liknande böcker och artiklar) ändrat mig helt i min inställning till att låta AI föreslå besluten.
Noise behandlar även det för oss mer näraliggande ämnet medicinska beslut. Man vet till exempel att sannolikheten för en ordentlig utredning inklusive biopsi med mera för en amerikansk kvinna som kommer in med en knöl i bröstet, är större på morgonen än under sen eftermiddag. Läkarna är trötta, kan vara irriterade och har bråttom att komma hem så de tar – vi får hoppas omedvetet – mer enkla och tidsbesparande beslut då. Ska ni in på en cancerutredning så är det bästa alltså, i alla fall i USA, att komma in en förmiddag. Det är väl inte orimligt att anta att vi har liknande effekter i Sverige som i USA.
Dagens AI är långt från perfekt, dessa metoder har stora nackdelar och ofullkomligheter som inte människor har lika ofta, som jag ju också tidigare skrivit om här. Men de tar samma beslut varje gång om indatan är densamma. Och vi kan kontrollera vilka indata vi tillåter att den använder. Det kan vi aldrig med en människa.
Vi vet till exempel att två läkare inom bedömningsområden (lyssna med stetoskop, bedöma patologi- eller radiologibilder med mera) alldeles för ofta kommer till helt olika beslut. Det kan vara fråga om liv eller död om rätt läkare bedömer ditt fall eller fattar beslut om din vård.
En stor fördel med AI som sällan diskuteras är att den kan demokratisera vården. De bästa människorna är oftast bättre än AI, men variansen är större hos mänskliga bedömare, både mellan olika tillfällen för samma individ och mellan olika individer. Och vi kan använda de bästa människorna för att träna AI-systemen. Skillnader i såväl tid och rum kan kraftig reduceras med AI. Det är något som inte diskuteras så ofta, men det ligger något djupt demokratiskt och rimligt i att vi minskar skillnaderna mellan stad och landsbygd, mellan fattig och rik och mellan för- och eftermiddagspatienter.
Artikeln är en del av vårt tema om Krönika.