Stefan Fölster: Rätt att lita mer på robotar än människor

Algoritmer gör allt oftare bättre bedömningar än läkare, domare eller banktjänstemän.

Hej robot!

Hej robot!

Foto: Lars Pehrson/SvD/TT

Krönika2019-01-14 16:00
Detta är en ledare. Correns ledarsida är borgerlig. Tidningen står fri och obunden från alla partier.

Patienter som vårdas av kvinnliga läkare löper mindre risk att dö i förtid. De behöver också mer sällan återvända för sjukhusvård. Om resultaten från denna gedigna amerikanska undersökning står sig också i Sverige vet vi inte. Det mest intressanta är emellertid den presumtiva orsaken: De kvinnliga läkarna tycks följa riktlinjer och vårdprogram bättre.

Resultaten speglas i svenska framgångar med att öka överlevnad för patienter med hjärtstillestånd och slaganfall. Till stor del har det åstadkommits genom att förmå vårdpersonal att överge individuella bedömningar och i stället följa delvis ganska enkla checklistor och tydliga rutiner.

På datorspråk kallas evidensbaserade checklistor för algoritmer. Sådana algoritmer används nu av halvsmarta datorprogram världen över. De hjälper banken att bedöma kunders kreditrisker, Skatteverket att hitta sannolika fuskare eller Netflix att föreslå filmer som är anpassade till varje tittares smak och intressen. En online modebutik Stitch Fix marknadsför sig rentav med att kunden får hjälp med en personlig stilrådgivning, som i verkligheten mest bygger på en datoriserad algoritm.

Det kan dock vara ett misstag att försöka sticka under stol med att datorer och robotar fattar beslut. Sedan 1950-talet har nämligen en växande forskningslitteratur dokumenterat att algoritmer allt oftare gör bättre bedömningar än läkare, domare eller banktjänstemän. Ändå framförs en ihärdig myt enligt vilken människor skulle lita mer på experter än på datorer. Den sprids inte minst av de som ogillar att bli utkonkurrerade av en enkel checklista.

Myten har dock krossats i nya studier. De visar att människor numera oftare litar på råd från algoritmer än liknande råd från mänskliga experter. Benägenhet att tro mer på algoritmer är helt oberoende av ålder, men något större bland siffervana personer. Fler litar på algoritmer som avser fakta och prognoser, men inte när det gäller moraliska ställningstaganden.

De flesta vill dock inte bli lurade. Google Duplex som ringer upp och bokar tjänster vållade genast ett bakslag eftersom de svarande inte upplystes om att de talar med en dator. Givet tillräcklig transparens, tar vi dock till oss robotarna. Amerikanska försvaret experimenterar till exempel med robotsamtalspartnern Ellie för suicidbenägna soldater. Soldaterna visade sig vara mer öppenhjärtiga med Ellie än med riktiga terapeuter.

Det blir emellertid ännu mer intressant. I studierna visas nämligen att experter har en tendens att avfärda råd inom sina expertområden oavsett om de kommer från algoritmer eller från andra experter. De litar helt enkelt mer på sina egna omdömen.

Och gör fel. Icke-experterna gjorde rentav mer träffsäkra bedömningar när de fick råd av algoritmer jämfört med experterna. De senare struntade nämligen i algoritmerna. Så som manliga läkare i USA något oftare tycks göra än kvinnliga.

Resultaten visar också varför den ny populära ”tillitsbaserade” styrningen av expertverksamheter som sjukvård ofta inte fungerar tillräckligt väl. Experter är helt enkelt lite för malliga. Särskilt om de är män.