Dators teica 'krāpnieks': kā viens algoritms sagrāva tūkstošiem ģimeņu un gāza valdību

Vēstule atnāk parastā dienā. Oficiāla, sausa, ar valsts iestādes logotipu. Tajā teikts, ka ģimenei jāatmaksā desmitiem tūkstošu eiro saņemto bērnu kopšanas pabalstu.

Iemesls? Aizdomas par krāpšanu. Bet kas tieši šīs aizdomas radīja, neviens nepaskaidro.

Read nextKlusā nakts slimnīcas palātā: Kāpēc vecāku vainas apziņa patiesībā ir mīlestība bez robežām

Tā sākas tūkstošiem stāstu Nīderlandē. Laikā no 2013. līdz 2019. gadam nodokļu administrācija izmanto automatizētu riska modeli, kas atlasa pabalstu saņēmējus pārbaudēm. Aptuveni 26 000 līdz 35 000 vecāku tiek nepamatoti apzīmēti kā krāpnieki.

Sekas ir smagas. Ģimenes zaudē mājokļus. Vecāki iekrīt parādos, no kuriem nespēj izkļūt gadiem. Laulības jūk. Vēlāk atklājas, ka vairāk nekā tūkstotis bērnu no skartajām ģimenēm nonāk ārpusģimenes aprūpē.

Un tad nāk vissāpīgākā detaļa. Viens no faktoriem, ko sistēma ņem vērā, ir dubultpilsonība.

Valsts datu aizsardzības iestāde vēlāk šo praksi atzīst par diskriminējošu un nelikumīgu. Administrācijai piemēro 2,75 miljonu eiro sodu. Bet naudas sods nevar atdot zaudētos gadus.

Problēmu saasina politika. Pēc agrāka krāpšanas skandāla valdība ievieš nulles toleranci. Trūkstošs paraksts vai sīka kļūda dokumentos var nozīmēt prasību atmaksāt visu pabalstu, ne tikai daļu.

Algoritms norāda, kuru pārbaudīt. Stingrie noteikumi pārvērš sīkumus katastrofās. Un cilvēki sistēmas iekšienē uzticas datoram vairāk nekā savam vērtējumam.

2021. gada janvārī premjerministra Marka Rutes valdība atkāpjas. Retais gadījums, kad algoritma kļūda burtiski gāž valdību.

Katrai skartajai ģimenei tiek apsolīti vismaz 30 000 eiro kompensācijā. Kopējā summa sasniedz miljardus. Ironiski, bet arī kompensāciju process izrādās lēns un birokrātisks.

Sabiedrības reakcija ir asa un sašķelta. Viens komentētājs saka, ka problēma nav tehnoloģijā, bet cilvēkos, kas to nepareizi izmantoja. Cits iebilst, ka necaurskatāmi algoritmi valsts pārvaldē vienmēr trāpīs visneaizsargātākajiem.

Vēl kāds norāda uz to, ko eksperti sauc par automatizācijas aizspriedumu. Ja ekrānā rakstīts augsts risks, ierēdnim ir grūti iebilst.

Nīderlande nav vienīgā. Austrālijā Robodebt shēma kļūdaini pieprasa parādus no pabalstu saņēmējiem. Lielbritānijā 2020. gadā algoritms pazemina eksāmenu vērtējumus skolēniem no nabadzīgākiem rajoniem.

Eiropa reaģē. Mākslīgā intelekta akts sistēmas, kas lemj par piekļuvi pabalstiem, klasificē kā augsta riska. Tām nepieciešama cilvēka uzraudzība, dokumentācija un caurskatāmība.

Bet vai ar to pietiek? Eksperti brīdina, ka likums uz papīra ir viena lieta, bet reāla īstenošana pavisam cita.

Jautājums paliek atvērts arī Latvijai, kur valsts pakalpojumi arvien vairāk digitalizējas. Kurš atbild, kad kods kļūdās? Izstrādātājs, ierēdnis vai politiķis?

Nīderlandes ģimenēm atbilde nāk par vēlu. Bet viņu stāsts kļūst par brīdinājumu visai pasaulei.

Kodu Dokumenti vadītāji šo stāstu izpēta sīkāk jaunākajā podkāsta epizodē — klausies, lai uzzinātu, kā sistēma salūza un ko tas nozīmē mums.