"Hoe goed je algoritme ook is, staar je nooit blind op data"

Als specialist in kunstmatige intelligentie zit Maarten Sukel op de algoritmische kant van stedelijke vraagstukken. Op Overheid360 geeft hij een presentatie over hoe kunstmatige intelligentie door gemeentes verantwoord kan worden ingezet voor een schone stad met een efficiënte en eerlijke dienstverlening. Het overzien van alle ethische implicaties is een duivels dilemma. “Wat wij doen kan zomaar ten koste gaan van mensen. Dat willen we echt voorkomen.”

Maarten Sukel is gefascineerd door nieuwe intelligentie en de ongekende kracht van de algoritmes. Niet om mensen nóg meer te laten kopen en nóg verder te laten reizen. Nee, voor “iets constructiefs”. Schonere steden, minder bureaucratie, een mooiere wereld, dat wil toch iedereen? Het zou de focus moeten zijn van elke datascientist, vindt Sukel. “Nu gebruiken de knapste koppen van deze planeet hun kennis om zoveel mogelijk mensen op een advertentie te laten klikken. Dat is wat mij betreft niet de manier waarop dit vakgebied gebruikt moet worden.”

Vier jaar geleden, tijdens zijn bacheloropleiding aan de UVA, kwam Sukel binnen bij de gemeente Amsterdam. Jarenlang werkte hij in zijn eentje want kunstmatige intelligentie was nog niet echt doorgedrongen tot het gemeentehuis. Inmiddels heeft hij een tiental computerwetenschappers om zich heen. Samen jagen ze innovatie na en proberen ze de kloof te overbruggen tussen ambtenarij en techniek. Daar is een wereld te winnen. Neem afvalverwerking, een primaire taak van gemeentes. Vroeger reed de vuilniswagen door de stad en ruimde het afval op. Maar de burger werd mondiger. En afvalstromen veranderden. Het werd, kortom, tijd voor kunstmatige intelligentie.

Wat kan kunstmatige intelligentie betekenen voor afvalverwerking?
“Zeker in deze tijd vraagt afvalverwerking veel aandacht, enerzijds omdat er te weinig vuilnismannen zijn om het afval op te halen, anderzijds omdat mensen meer thuis zijn gaan werken en nog meer online bestellen. Dat leidt tot meer kartonafval. Daar komt bij dat burgers contact willen kunnen opnemen als er iets aan de hand is. Ze willen hun verhaal kwijt. Karton op straat? Een matras dat rondslingert? Dat moet gemeld kunnen worden. Deze twee ontwikkelingen hebben we bij elkaar gebracht met kunstmatige intelligentie. Door het analyseren van afbeeldingen en tekst kunnen we een melding sneller oppakken en beter voorspellen waar de problemen ontstaan. Die ontwikkeling is snel gegaan. Je kunt hiermee realtime analyseren en bijsturen waar nodig. En degene die de melding heeft gedaan, hoeven we niet meer lastig te vallen met irritant jargon over zwerfafval, bedrijfsafval of grofvuil. Onze technologie maakt het proces effciënter en vermindert de bureaucratie.”

Hoe hebben jullie de algoritmes voor afvalverwerking getraind?
“Om deze modellen te maken, hadden we heel veel foto’s nodig van steden, en vooral van troep in steden. We hebben 25.000 foto’s bekeken om het algoritme te leren wat het verschil is tussen een vuilniszak en een kartonnen doos. Ik kan geen afval meer zien.”

Zijn er genoeg jonge mensen die dit vak willen leren?
“Qua werving en selectie hebben we niet te klagen. We hebben genoeg goede kandidaten. Ze kunnen ook in de financiële wereld aan de slag. Of bij grote reisorganisaties. Maar ze weten ons te vinden, ik denk omdat we zo intensief samenwerken met universiteiten, stageplekken aanbieden en een ecosysteem hebben ingericht voor jonge developers. Elk jaar hebben we rond de dertig afstudeerders, die we uitnodigen om te publiceren over hun opdrachten en pijnpunten. We willen zo transparant mogelijk zijn over wat we doen. Blijkbaar is dat aantrekkelijk voor jonge mensen.”

Beeldherkenning schurkt aan tegen privacy. Hoe blijf je weg van persoonsgegevens?
“We focussen op constructieve oplossingen waarvan we zeker weten dat we de burgers ermee helpen en niet benadelen. De bijvangst proberen we al in het begin, bij het ontwerp van het model, te minimaliseren. We bouwen het model zo dat de data later niet ook gebruikt kan worden om personen te vinden. Bij de scans van de stad kijken we eerst of er kentekens of personen op staan. Die maken we zwart want die hebben we niet nodig. Daarna pas slaan we het op om er algoritmes van te maken.”

Voeren jullie veel discussies over privacy?
“Zeker. We discussiëren iedere dag over het voorkomen van negatieve effecten van kunstmatige intelligentie. Het is ook een flinke klus om dit allemaal zo te krijgen dat het aan de wet- en regelgeving voldoet. Dan bedoel ik bijvoorbeeld het met een camera door de straat rijden. Als je een camera ophangt, moet je die registreren en het doel aangeven. Voor de wet is dat voldoende. Maar als je rond gaat rijden met een camera, en je meldt dat een keer, dan blijkt dat er nog niet zulke duidelijke regels zijn. Dat is spannend. We hebben veel specialisten nodig om alle ethische implicaties van ons werk te overzien. Het doet iets met het gedrag van mensen als ze weten dat de overheid burgers filmt. Dat kan kwalijke effecten hebben, ook al zeg je dat het voor afvalverwerking is.”

Burgers worden bekeken en maken zich zorgen.
“Ik vind het goed dat mensen zich hier zorgen over maken. Kijk, we willen efficiency. Maar we willen voorkomen dat we de verkeerde dingen efficiënter maken. Dat hebben we gezien bij SyRI, het omstreden fraude-opsporingssysteem van de overheid. SyRI bleek in strijd met het Europees Verdrag voor de Rechten van de Mens (EVRM). Kunstmatige intelligentie kan zomaar de menselijke maat missen en doorslaan. Kijk bijvoorbeeld naar fraude en het type auto dat in een wijk staat. Stel: in Nieuw-West zien we, in verhouding tot het gemiddelde inkomen van de wijk, opvallend veel dure Tesla’s staan. Waar een algoritme in zo’n geval geen rekening mee zou houden, is dat het waarschijnlijk allemaal geleasde Tesla’s zijn van taxichauffeurs die bij Schiphol werken. Hoe goed je algoritme ook is, staar je nooit blind op data. Blijf de kleine nuances zien die invloed kunnen hebben op het leven van mensen. Zorg voor de menselijke maat, anders werk je maatschappelijke onbalans in de hand. Neem de politie. Als die vaker mensen met een donkere huidskleur gaat controleren, zal blijken dat zij vaker overtredingen begaan en dat komt omdat ze vaker worden gecontroleerd. Algoritmes kunnen dezelfde fouten maken.”

Wat bedoel je met ‘de menselijke maat’? Heb je een voorbeeld?
“De meeste meldingen die bij ons binnenkomen, zijn in het Nederlands en gaan over afval. Soms komt er een Engelse melding binnen over iets wat minder vaak voorkomt maar wel belangrijk is, bijvoorbeeld overlast in de straat. Engelse meldingen zitten sowieso al minder vaak in de database. En overlast ook. Het algoritme herkent zo’n belangrijke melding niet goed en daar moeten we iets mee. Als we ook maar even de indruk hebben dat het over mensen gaat, dan laten we er een medewerker naar kijken. Zo vangen we randgevallen af. Overheidssystemen zijn soms net als auto’s. Ze worden gebouwd voor de gemiddelde 80 procent. Zeker als je gaat automatiseren, loop je de kans dat je de onderste en bovenste 10 procent over het hoofd ziet en mensen gaat buitensluiten. Daar moeten we een goede balans in vinden.”

Nederland wil geen surveillance-maatschappij worden zoals China. Hoe bewaak je als stad de vrijheid van de burger en de ethische normen die wij belangrijk vinden?
“De gemeente Amsterdam heeft besloten dat burgers zich veilig door de stad moeten kunnen bewegen zonder dat ze zich bespied voelen. Door transparant te zijn over beeldherkenning en kunstmatige intelligentie, en er kennis over te delen, kunnen we het samen vormgeven op een manier die we in Europa wenselijk vinden. Daarom hebben we het Algoritme Register ontwikkeld, een overzicht van de algoritmes die de gemeente Amsterdam gebruikt voor haar dienstverlening. Hoe gebruiken we ze? En waarom? Dat doen we juist om feedback van de burgers te krijgen. We zijn blij met meldingen die ons laten zien waar we rekening mee moeten houden om negatieve effecten te voorkomen.”

Het FD had onlangs het bericht ‘Gemeentes moedigen burgers aan om over elkaar te klikken’. Wat denk je als je zo’n bericht leest?
“Ik ben dan benieuwd wat erachter zit. Gaat het om een online-formuliertje? Of is het een systeem dat wordt gekoppeld aan iemands financiële gegevens? Vaak kom je er jaren later pas achter hoe het echt zat. Daarom is transparantie in een vroeg stadium voor ons zo belangrijk. We willen liever vooraf open en transparant zijn over wat we doen, dan achteraf met een WOB-verzoek geconfronteerd worden.”

Wisselen jullie ervaringen uit met andere steden?
“Kleinere gemeentes beschikken vaak niet over een AI-team. We werken vooral samen met Rotterdam, Den Haag en Utrecht. Met z’n allen bouwen we aan een beeldherkenningssysteem. Het liefst zou ik wereldwijd één AI-team hebben maar dat is politiek lastig.”

Is dat zo? Hoe groter het project, hoe makkelijker het politiek geregeld kan worden, zo lijkt het soms.
“Nou, als je in Amsterdam iets voor elkaar wilt krijgen, moet je al rekening houden met verschillende beleidsterreinen. Voor digitalisering, voor privacy, voor afvalverwerking. Haal je er een andere stad bij, dan krijg je alle meningen van die stad er ook bij. Je zult een gemene deler moeten vinden.”

Jullie gebruiken ook de 3D-puntenwolk. Hoe werkt die techniek?
“Neem de hoogte van de stoeprand en de vraag of je daar met een rolstoel overheen kunt. Met een 3D-puntenwolk kunnen we voor de hele stad uitrekenen welke oversteekplaatsen geschikt zijn voor rolstoelgebruikers, en welke niet. De puntenwolk gaan we nu ook gebruiken om zo’n 140.000 Amsterdamse lantaarnpalen in kaart te brengen. Inderdaad, een soort digital twin. Dat is ook handig voor aannemers. Als wij straks een opdracht geven aan een bouwbedrijf, en we weten waar de lantaarnpalen staan, dan is dat heel efficiënt. Dat systeem testen we nu in Weesp. De resultaten willen we straks delen met andere steden.”

Met deze projecten krijgen jullie een enorme berg data binnen. Wie gaat de data beheren?
“In Amsterdam hebben we ervoor gekozen om alle data die we over de stad verzamelen zelf te gaan beheren. Wat we willen is dat de data zoveel mogelijk beschikbaar is voor alle Amsterdammers. We kunnen het beheer bij marktpartijen neerleggen, maar dan komt de data op zoveel verschillende plekken terecht dat het onoverzichtelijk wordt. Ik vind dat beheer bij de overheid hoort. Mijn oproep zou zijn: investeer erin. En wees niet te zuinig met het aannemen van mensen want dit is de toekomst.”

Uiteindelijk worden de burgers daar beter van.
“Ik hoop dat mensen blij worden van ons werk omdat de dienstverlening beter en eenvoudiger wordt. Ik denk ook dat kunstmatige intelligentie de gelijkheid vergroot als je het goed aanpakt. Als de burger op de oude manier een aanvraag deed, was het toch een beetje de vraag welke ambtenaar ernaar keek en of die zijn dag wel had. Een algoritme dat er eerlijk naar kijkt, gaat voor meer gelijkheid zorgen.”