är titel på min artikel i boken AI & Makten över besluten Vad alla borde veta om algoritmer i offentlig sektor (red. Maja Fjaestad och Simon Vinge) utgiven 2024 på 8tto/Volante. Där skriver jag om återkravsrutiner i två sociala bidragssystem, ett australiskt och ett nederländskt. Systemen har använt algoritmer, i det ena fallet, det nederländska, dessutom med maskinell inlärning, där nya beslut vartefter tas fram med stöd av tidigare beslut som systemet genererat. Tillämpningen har medfört omfattande negativa samhälleliga konsekvenser. Man ville bekämpa kriminalitet. Skadeverkningar av systemen för mängder av resurssvaga bidragstagare, klienter eller ”kunder” blev enorma. Bemötandet av bidragstagarna präglades av tondövhet och arrogans.
Resultatet blev förutom skador för de enskilda ett stort merarbete (även för tillsynsmyndigheter, domstolar och särskilt utsedda kommissioner) och extra kostnader för det allmänna (för att försvara systemen, för att justera systemfelen och för att kompensera skadelidande). Allt ledde till sist till att systemen varefter förlorade sin legitimitet. Haverierna blev slutligen omöjliga att hantera politiskt för regering och parlament. Läs artikeln här.
Johan Hirschfeldt 
Lämna en kommentar