David Dalenberg wint UvA-scriptieprijs

12 juni 2018

Hij kreeg een 9 voor zijn scriptie en daarmee werd David Dalenberg, alumnus International and European Law, winnaar van de UvA Scriptieprijs 2017-2018. De scriptie gaat over hoe je discriminatie in automatisch getargete vacatures kunt voorkomen. Hij kreeg de prijs van 3000 euro uitgereikt tijdens de UvA-Universiteitsdag.

De UvA-scriptieprijzen worden elk jaar tijdens de UvA-Universiteitsdag uitgereikt voor de beste en origineelste aan de UvA geschreven masterscriptie van het afgelopen jaar. Meedoen is niet voor iedereen weggelegd: studenten moeten minimaal twee aanbevelingsbrieven meesturen, evenals de cijferlijst en het eindcijfer. David schreef zijn scriptie Preventing discrimination in the automated targeting of job advertisements voor de master track Public International Law. Kevin Jon Heller en Frederik Zuiderveen Borgesius schreven aanbevelingsbrieven.

Kunstmatige intelligentie

De scriptie gaat over discriminatie bij het gebruik van kunstmatige intelligentie bij het automatisch targeten van vacatures. KI wordt steeds vaker ingezet om beslissingen te automatiseren, bijvoorbeeld bij de toekenning van een hypotheek, of een lening, een baan, of zelfs toelating tot een universiteit.

David: ‘Ik heb onderzocht wat er gebeurt als KI wordt ingezet bij recruitment, in de vorm van automatisch targeten van vacatures. Kunstmatige intelligentie kan bijvoorbeeld bepalen of jij wel of niet een advertentie te zien krijgt voor een bepaalde baan. Stel dat vacature voor een CEO-functie alleen aan mannen wordt getoond, dan worden de kansen voor vrouwen verminderd. Uit eerder onderzoek is al gebleken dat dit soort gevallen zich in de praktijk voordoen.’

‘Exceptional thesis’

Volgens Frederik Zuiderveen Borgesius toont de scriptie een ‘deep understandig not only of the interplay between artificial intelligence, big data, algoritms and machine learning, but also of EU non-discrimination law. The result was an exceptional thesis’. De scriptie is inmiddels in de vorm van een paper gepubliceerd in het wetenschappelijke tijdschrift Computer Law & Security Review.

Gevaren

Volgens David is het onderwerp van zijn scriptie maatschappelijk zeer relevant omdat veel organisaties inzetten op kunstmatige intelligentie. ‘Kunstmatige intelligentie en big data zorgen ervoor dat we meer kunnen automatiseren dan ooit tevoren, maar dat kan discriminatie juist in de hand werken als er gebruikt wordt gemaakt van onzorgvuldig geprogrammeerde KI. KI ontwikkelaars moeten zich meer bewust zijn van de mogelijke gevaren van hun creaties. Op basis van Europees non-discriminatierecht heeft David aanbevelingen geschreven over hoe een KI geprogrammeerd dient te worden om discriminerende gevaren van het gebruik van KI te voorkomen.   

Podcast

De jongerenredactie van Spui25, Spui in Spe, maakte een podcast over het onderzoek van David Dalenberg. 

Gepubliceerd door  Faculteit der Rechtsgeleerdheid