De Autoriteit Persoonsgegevens (AP) heeft opnieuw gewaarschuwd voor de potentiële gevaren van het gebruik van artificiële intelligentie (AI)-algoritmes. De toezichthouder uit haar zorgen over de impact van deze technologieën op de privacy en de bescherming van persoonsgegevens. Ondanks herhaalde waarschuwingen lijkt de AP tot dusver weinig gehoor te vinden met haar boodschap.
De AP benadrukt dat AI-algoritmes, indien onzorgvuldig ingezet, kunnen leiden tot discriminatie, uitsluiting en andere vormen van benadeling. De algoritmes zijn vaak gebaseerd op grote hoeveelheden data, waardoor vooroordelen die in die data aanwezig zijn, kunnen worden versterkt en geautomatiseerd. Dit kan bijvoorbeeld gevolgen hebben voor sollicitatieprocedures, kredietwaardigheidsbeoordelingen en toegang tot bepaalde diensten.
De toezichthouder pleit voor een zorgvuldige afweging bij de ontwikkeling en implementatie van AI-systemen. Organisaties zouden zich bewust moeten zijn van de mogelijke risico's en maatregelen moeten nemen om deze te minimaliseren. Transparantie over de werking van de algoritmes en de gebruikte data is daarbij essentieel. Daarnaast is het van belang dat er mogelijkheden zijn voor mensen om bezwaar te maken tegen beslissingen die door AI-systemen worden genomen.
De AP heeft in het verleden al vaker aandacht gevraagd voor de risico's van AI. Zo heeft de autoriteit onderzoek gedaan naar specifieke toepassingen van AI en aanbevelingen gedaan voor verbetering. Ondanks deze inspanningen constateert de AP dat de bewustwording en de implementatie van adequate beschermingsmaatregelen achterblijven. De autoriteit blijft daarom aandringen op meer aandacht voor de ethische en juridische aspecten van AI.
