Cover
RAPPORT

Toezicht met algoritmen

Essay - Vinger aan de pols, werk aan de winkel

 Verantwoorde toepassing van AI Artificial intelligence (AI) maakt al geruime tijd deel uit van ons leven. Denk bijvoorbeeld aan de computersystemen van Spotify en Netflix, die leren wat iemand leuk vindt en op basis daarvan aanbevelingen doen. Webshops gebruiken kunstmatige intelligentie om voorspellingen over koopgedrag te doen en voor het tonen van gerelateerde producten. Zelfrijdende auto’s zijn in staat op basis van algoritmen besluiten te nemen.

Artificial intelligence (AI) biedt veel kansen voor onze economie en samenleving. Toch valt in de samenleving bezorgdheid te bespeuren over deze nieuwe ontwikkeling. In onze whitepaper ‘Gespreksstof en handvatten voor een evenwichtige inbedding in de samenleving’ (2018, ECP) gaan we daarop in. Wij stellen onder andere dat organisaties die  AI toepassen voldoende moeten weten van de techniek om deze verantwoord te kunnen toepassen: hoe een systeem tot beslissingen komt en wat de sterke en zwakke kanten zijn. Systemen werken bijvoorbeeld met historische data die zelden de rijkheid en variëteit representeren van de echte werkelijkheid en die ongewenste maatschappelijke verhoudingen reflecteren. Systemen beslissen vaak op basis van toevallige verbanden die vaak niet gezien mogen worden als oorzaak en gevolg. In deze zelfde whitepaper signaleren we daarom dat organisaties moeten analyseren hoe zij de kracht van de techniek optimaal kunnen benutten en tegelijkertijd de impact van de zwakke kanten kunnen minimaliseren. Belangrijke vragen doen zich voor ten aanzien van belanghebbenden, de eigen organisatie en het borgen van ethische waarden.

Een belangrijk punt bij toepassing van AI is verantwoording en openheid: dát een organisatie met AI werkt en welke rol techniek speelt. Juist op deze punten gaat het mis bij de overheid, schrijft de NOS op 29 mei 2019 in haar bericht ‘Overheid gebruikt op grote schaal voorspellende algoritmen, risico op discriminatie’. Uit een vertrouwelijke inventarisatie onder 54 overheidsinstanties die de NOS heeft verkregen op basis van de Wet Openbaarheid Bestuur, blijkt dat zij op grote schaal voorspellende algoritmen gebruiken. Vooral als het gaat om toezicht, fraude- en criminaliteitsbestrijding. “Het heeft de schijn van discriminatie”, schrijft een samenwerkingsverband van de gemeenten Nieuwegein, Houten en IJsselstein. “De data kent een vooringenomenheid”, stelt een hoogleraar ICT-recht. Volgens de NOS zijn overheden niet altijd even open over hun gebruik van algoritmen, terwijl dit volgens een ICT-jurist in datzelfde artikel wel zou moeten.

De maatschappelijke en bestuurlijke onrust over toepassing van AI, die de NOS signaleert, is door een werkgroep van experts uit overheid, wetenschap en bedrijfsleven al eind 2018 onderkend en opgeschreven. Zij hebben een ‘Impact Assessment Artificial Intelligence’ (2018, ECP) ontwikkeld, bestaande uit acht stappen, die helpt bij het ethisch en juridisch verantwoord implementeren en omgaan met AI.

Als gevolg van de actualiteit wil deze werkgroep van experts een helpende hand toesteken door aan de hand van actuele casussen te reflecteren op de betekenis van ‘verantwoorde toepassing van AI’ in een aantal toepassingsdomeinen. De werkgroep wil daardoor bijdragen aan een ethisch en juridisch zorgvuldige implementatie en borging van AI. Gezien de actuele berichtgeving richt dit eerste essay zich op het domein van toezichthouders. Aan de hand van drie casussen uit de praktijk worden aanbevelingen gedaan voor een evenwichtige inbedding van AI in de beroepspraktijk van toezichthouders.

logo experttube

Video's op het gebied van Audit & Control, Actuariaat & Risk Management, Juridisch & Fiscale Zaken, Pensioenen, Schade & Hypotheken, Compliance en Investment Management.

Bekijk ons volledige overzicht op www.experttube.nl.

logo CareerTube

Videoplatform met werkenbij video's van toonaangevende organisaties in de financiële wereld. Met een focus op de finance specialisatie zorgt de koppeling met de 17 (niche) vacaturesites van CareerGuide direct voor een relevant bereik.

Bekijk ons volledige overzicht op www.careertube.com.