Hvem kontrollerer algoritmerne?

03-05-2017 af Anette Lerche

Et britisk forskerhold efterlyser en uafhængig instans, der skal sikre vores rettigheder, når algoritmer i en nær fremtid tager afgørende beslutninger, der påvirker vores liv.

Voksende mængder af data og mere computerkraft vil betyde, at algoritmer overtager beslutninger, såsom hvorvidt man kan få bevilliget et lån i banken eller få lov til at tegne en sundhedsforsikring. Men hvis man får et nej, er algoritmerne forretningshemmeligheder, og derfor vil man som forbruger ikke få adgang til at kende baggrunden for afslaget.

Den udvikling har et britisk forskerhold set nærmere på, og manglen på brugerrettigheder bekymrer forsker i dataetik og algoritmer Sandra Wachter fra Oxford Internet Institute, der er i Danmark i forbindelse med en workshop om kunstig intelligens og etik på Aalborg Universitet i København den 4. maj.

Hun peger på, at det tætteste bud på en beskyttelse af forbrugernes rettigheder er EU’s Databeskyttelsesforordning, der træder i kraft i 2018. Men her nævnes retten til at få en forklaring på en afgørelse kun en enkelt gang, og den er ikke juridisk bindende og tager desuden hensyn til virksomheders behov for at holde forretningskritiske oplysninger skjult.

- Det er forståeligt, for hvis du driver en forretning, vil du ikke offentligøre din forretningsstrategi og dit software, fordi du er nødt til at konkurrere på et åbent marked. Samtidig vil det også give mulighed for, at folk »gamer« eller manipulerer systemet, siger hun til IDA Universe, der udgives af Ingeniørforeningen.

- Det er et validt argument. Og det er også derfor, vi mener, at en »AI Watchdog«, som har beføjelsen til at undersøge systemet, hvis folk tror, at noget ikke er i overensstemmelse med loven, når en beslutning er taget via algoritmer, er en god ide.

BF’s formand, Tine Jørgensen, har også gjort opmærksom på, at de etiske problemstillinger omkring data er vigtige at tage hånd om. Hun pegede i 2016 på behovet for et digitalt etisk råd i Danmark og skrev i en leder i Perspektiv nummer 9/2016:

»Det kunne være interessant at lege med tanken om et digitalt etisk råd. Vi har allerede nu et etisk råd, der rådgiver og skaber debat om nye bio- og genteknologier, men på området for digitalisering og dens konsekvenser er der også nogle grundlæggende drøftelser, som bør tages.«

Se hele nyheden

Læs Tine Jørgensens leder om et digitalt etisk råd


Skriv en kommentar