In het kort
De Dienst Uitvoering Onderwijs (DUO) gaat een schadevergoeding betalen aan studenten die gediscrimineerd zijn door een algoritme. Dit algoritme werd gebruikt om studenten te screenen, waarbij er van hen foto's werden gemaakt. Een oud-studente, Sheila, is een van de gedupeerden die hierdoor schade heeft geleden.
Feiten over dit nieuwsbericht
- 1
DUO betaalt schadevergoeding aan studenten.
- 2
De schade is veroorzaakt door discriminatie door een algoritme.
- 3
Het algoritme werd gebruikt voor screening en het maken van foto's van studenten.
- 4
Een oud-studente genaamd Sheila is een van de gedupeerden.
- 5
Sheila stelt dat DUO 'overal foto's van heeft gemaakt'.
Hoe de media berichten
1 artikel
Oud-student Sheila krijgt schadevergoeding vanwege discriminatie DUO: 'Ze hebben overal foto’s van gemaakt’
Lees meerAchtergrond
Het gebruik van algoritmes in overheidsinstanties is een groeiend fenomeen, maar brengt ook risico's met zich mee op het gebied van bias en discriminatie. In dit geval lijkt het algoritme van DUO onbedoeld of bedoeld bepaalde studenten te hebben benadeeld op basis van kenmerken die mogelijk uit de gemaakte foto's zijn afgeleid of gekoppeld. De zaak rondom Sheila en de andere studenten benadrukt de noodzaak van zorgvuldige controle en ethische overwegingen bij de implementatie van geautomatiseerde systemen.
