De VNG maakte op 9 juli bekend te starten met een pilot voor de bestuurlijke leerlijn informatiepositie, bedoeld voor burgemeesters, wethouders en gemeentesecretarissen. Deelnemers verdiepen zich onder meer in informatiemanagement, digitalisering en digitale ethiek. Dat klinkt misschien als een onderwerp voor de IT-afdeling, maar raakt steeds directer aan het werk van bestuurders.
Bestuurders zijn gewend grote hoeveelheden informatie te wegen. Ambtelijke adviezen, financiële gegevens, onderzoeken en signalen uit de samenleving vormen de basis voor besluiten die uiteindelijk politiek moeten worden verantwoord. Door digitalisering en de snelle opkomst van kunstmatige intelligentie verandert de manier waarop een deel van die informatie wordt verzameld en verwerkt.
Daarmee wordt een vraag steeds belangrijker: begrijp je als bestuurder voldoende hoe de informatie waarop je vertrouwt tot stand is gekomen?
Een wethouder hoeft daarvoor niet te weten hoe een algoritme wordt gebouwd. Wel moet hij of zij kunnen beoordelen welke informatie betrouwbaar is, waar mogelijke risico’s zitten en wanneer doorvragen nodig is. Dat is ook de gedachte achter de nieuwe bestuurlijke leerlijn van de VNG: bestuurders beter toerusten om regie te kunnen voeren in een steeds verder digitaliserende overheid.
Als AI voorspelt waar het onveilig wordt
Hoe concreet die ontwikkeling inmiddels is, zien we in Heerlen. De gemeente werkt binnen het project Pulse-Twin aan een digitale tweeling van de stad. Door verschillende databronnen te combineren, wil Heerlen met behulp van AI onder meer voorspellen waar overlast en criminaliteit kunnen ontstaan.
De mogelijkheden zijn interessant. Als een gemeente eerder zicht krijgt op plekken waar problemen dreigen, kan zij mogelijk ook eerder en gerichter handelen. Tegelijkertijd leidde het project tot stevige discussie. Experts waarschuwden in Trouw onder meer voor de risico’s van dergelijke voorspellende systemen.
Ook Amnesty International mengde zich in maart in de discussie en riep Heerlen op het experiment te heroverwegen. De mensenrechtenorganisatie waarschuwt voor het gebruik van AI om criminaliteit te voorspellen en wijst onder meer op risico’s rond privacy en discriminatie. Amnesty pleit bij het gebruik van algoritmische systemen door overheden onder meer voor een bindende mensenrechtentoets en waarschuwt specifiek voor discriminerende risicoprofielen.
Een belangrijk risico bij voorspellende systemen is dat bestaande patronen in de data kunnen doorwerken in nieuwe voorspellingen. Als een bepaalde wijk bijvoorbeeld als risicogebied wordt aangemerkt en daar vervolgens intensiever wordt gecontroleerd, kan dat ook meer geregistreerde incidenten opleveren. Voor bestuurders is het daarom belangrijk te begrijpen welke gegevens worden gebruikt, welke aannames in een model zitten en hoe een uitkomst vervolgens wordt geïnterpreteerd.
Dat brengt heel praktische bestuurlijke vragen met zich mee. Hoe representatief zijn de gegevens? Hoe zwaar mag een voorspelling wegen bij de inzet van toezicht of handhaving? Welke groepen kunnen door een systeem onevenredig worden geraakt? En kun je aan inwoners uitleggen waarom hun wijk extra aandacht krijgt?
De discussie in Heerlen is interessant zonder dat Pulse-Twin daarmee bij voorbaat als goed of fout hoeft te worden bestempeld. Ze laat vooral zien hoe ingewikkeld de afweging wordt zodra nieuwe technologie raakt aan veiligheid, privacy en gelijke behandeling. Van bestuurders wordt verwacht dat zij daar uiteindelijk verantwoordelijkheid voor nemen.
AI-geletterdheid als bestuurlijke vaardigheid
Dat is precies waarom AI-geletterdheid steeds meer onderdeel wordt van het bestuurlijke vak. De ontwikkelingen gaan te snel om van bestuurders te verwachten dat zij ieder systeem technisch doorgronden. Wel moeten zij voldoende begrijpen om te weten wanneer ze moeten doorvragen.
Dat kan gaan over de kwaliteit van de gebruikte data, maar ook over transparantie, privacy, vooroordelen in algoritmen en de vraag wie verantwoordelijk is wanneer een systeem een verkeerde uitkomst geeft. Een advies kan technisch uitstekend onderbouwd zijn, maar een bestuurder moet zicht houden op de keuzes en aannames die eraan voorafgingen.
Een sterke informatiepositie betekent daarom ook dat je niet uitsluitend afhankelijk bent van wat een systeem of een specialist je vertelt. Je moet voldoende kennis hebben om zelf de bestuurlijk relevante vragen te kunnen stellen en de antwoorden te kunnen wegen.
Kennis die je meeneemt naar een volgende rol
Voor politieke ambtsdragers heeft die ontwikkeling nog een andere kant. De kennis die zij nu opdoen over AI, digitalisering en informatievoorziening blijft relevant wanneer het politieke ambt eindigt.
Veel oud-bestuurders vervolgen hun loopbaan als directeur, toezichthouder, adviseur of bestuurder van een maatschappelijke organisatie. Ook daar staan vragen rond AI inmiddels op de agenda. Een raad van toezicht moet kunnen beoordelen hoe een organisatie AI inzet en welke risico’s daarmee samenhangen. Directies maken keuzes over toepassingen en investeringen en adviseurs krijgen te maken met organisaties die zoeken naar een verantwoorde manier om nieuwe technologie te gebruiken.
Ervaring met deze vraagstukken wordt daarmee steeds relevanter in het professionele profiel van een bestuurder. De technologie waarmee informatie wordt verzameld, geselecteerd en geïnterpreteerd verandert snel. Voor bestuurders blijft de opdracht in de kern dezelfde: voldoende begrijpen waarop een oordeel is gebaseerd om er verantwoordelijkheid voor te kunnen nemen.
Verder verdiepen in AI en leiderschap?
Op 24 september organiseert LoopbaanNaPolitiek de nieuwe Masterclass Strategisch & verantwoord AI-leiderschap, samen met Esther van Egerschot en Marco Florijn van Aanvullende Intelligentie. Tijdens deze masterclass staat juist de bestuurlijke kant van AI centraal: wat betekent AI voor leiderschap en besluitvorming, welke kansen biedt het en welke vragen moet je als bestuurder of leider kunnen stellen?
