Den holländska barnbidragsskandalen handlar bl.a. om självlärande AI-system och diskriminering
Johan Hirschfeldt har skrivit denna pm utifrån ett ärende i Venedigkommissionen, rapporten med beteckningen CDL-AD(2021)031 är tillgänglig på kommissionens hemsida venice.coe.int. Det som jag särskilt vill uppmärksamma är att det i kontrollen av bidragssystemet användes en självlärande AI-applikation för riskklassificering med medborgarskap och utländsk härkomst som urvalskriterier med diskriminering som följd.
I Nederländerna infördes år 2005 ett system där föräldrarna på en reglerad marknad köper vårdtjänster för sina förskolebarn på daghem eller i annan barnomsorg. Föräldrarna får ersättning för viss del av sina kostnader beroende på familjens inkomst. Bidragen är avsedda endast för familjer med låg inkomst.
Bidragen utbetalas i förskott till föräldrarna mot bakgrund av en uppgiven beräknad årlig kostnad. Utbetalningen är förenad med vissa villkor och är att se som preliminär. Föräldrarna ska betala själva till vårdgivaren och betalningarna måste kunna styrkas med bankkvitton.
Administrationen av systemet lades inte på socialtjänsten utan på skattemyndigheterna.
Utbetalningarna har skötts av skattemyndigheterna som satte upp ett datasystem för kontroll av utbetalda bidrag. I datasystemet har funnits möjligheter att välja ut misstänkta ärenden på basis av en AI-baserad självlärande (från exempel på korrekta eller felaktiga ansökningar) funktion för riskklassificering. En av många indikatorer var där medborgarskap och bidragstagare med utländsk härkomst valdes ut av systemet för närmare kontroll. År 2013 avslöjades en storskalig brottshärva där personer från andra länder reste till Nederländerna, registrerades som bosatta där och sökte bidrag men åkte hem och lyfte beloppen hemma med avdrag för belopp som togs om hand av brottens organisatörer. Detta ledde till skärpta insatser mot denna brottslighet.
Förskottsutbetalningarna har alltså gjorts utan närmare prövning för beräknade kostnader för det kommande året. Nästan alla sökande fick bifall. Först därefter ägde kontrollen rum. Det fanns fram till 2021 års ingång en bestämmelse i bidragslagen där det stadgades att om kontrollen visade att det förelåg grund för ett återkrav med ett delbelopp så förelåg skyldighet att återbetala hela det utbetalda bidragsbeloppet. Detta uppfattades som en ”allt eller intet”-regel tillämplig även i fall av bristande tidsredovisning och smärre felaktigheter. Regeln tillämpades på 15 % av föräldrarna och de omfattande återkraven kunde gälla hela fem år. Några ansvarsfrihetsgrunder fanns inte i lagstiftningen och någon proportionalitetsbedömning gjordes inte. Denna ordning underkändes i första domstolsinstans men bekräftades efter skattemyndigheternas överklagande dock av den högsta administrativa domstolen.
Skattemyndigheterna centraliserade kontrollen vilket försvårande för de enskilda att få förklaringar. Klagomål kunde framföras bara till ett call-center och så småningom inte alls. För att bekämpa den brottslighet som upptäckts beslutade skattemyndigheterna senare om återkrav utifrån ett rent grupptänkande: ”80 % av ansökningarna är fel och 20 % är rätt”. Den holländska ombudsmannen kritiserade år 2017 behandlingen av 237 ärenden där ombudsmannen rekommenderade återbetalning till föräldrarna. Detta genomfördes inte. Parlamentet fick först efter särskilda påstötningar information om bristerna. År 2019 ändrade den högsta administrativa domstolen sin tolkning nu med stöd av principer om god förvaltning och om proportionalitet. År 2020 slog Datainspektionen slagit fast att skattemyndigheternas riskvärderingssystem baserad på AI-tillämpning bröt mot GDPR och var diskriminerande.
Mellan 2012 och 2019 hade omkring 25.000 – 35.000 personer bedömts som skyldiga på grund av uppsåt eller grov oaktsamhet. Denna bedömning ansågs i en parlamentarisk undersökningsrapport ohållbar i 94 % av fallen. Skandalen orsakade regeringens avgång i januari 2021.
Venedigkommissionens yttrande
Venedigkommissionen skriver först om Nederländerna som en välfungerande demokratisk rättsstat och om det legitima att bekämpa bedrägeribrottslighet av detta slag. Därefter erinrar kommissionen om sin Rule of Law Checklist, CDL-AD(2016)007, Därefter behandlas i särskilda avsnitt som tar upp i stort sett alla de problem som aktualiserats i ärendet (se p. 35 och 36 i yttrandet). Det erinras också om bl.a. den s.k. NAV-skandalen i Norge (p. 38).
Därefter behandlas i särskilda avsnitt de tre områdena (se närmare den inledande innehållsförteckningen)
- Lagstiftningsfrågorna inkl. den parlamentarisk kontroll av den verkställande makten
- Förvaltningsförfarandet inkl. bl.a. den rigorösa lagtolkningen och AI-användningen
- Domstolarnas roll inkl frågor om proportionalitet och behovet av att införa lagprövning.
Yttrandet avslutas med slutsatserna som innehåller ett drygt tiotal rekommendationer som gäller alla tre områden (p. 137).
Johan Hirschfeldt 
Kommentera