Marleen Stikker: ‘Human-centered AI is niet langer een luxe, maar een noodzaak’
De digitale machtsverhouding is volledig scheef. Het individu verzuipt in de strijd tegen de steeds groter wordende datamacht van big tech en overheid. Data en software spelen een belangrijke rol in het publieke belang en open netwerken waarbij de informatie niet door één partij wordt gecontroleerd. Dat is de oorspronkelijke, onderliggende architectuur van het internet. Dit gedistribueerde, open model heeft mijn voorkeur. Steeds meer partijen bieden toegankelijke alternatieven aan. Het is cruciaal dat overheid, werkgevers en onderwijsinstellingen hierin meegaan. Publieke waarden moeten worden meegenomen in de software die er wordt gebruikt.
Waardengedreven digitalisering voor een veerkrachtige overheid
1. Human-centered AI als kernprincipe
De AI-coalitie richt zich op innovatie en nieuwe technologieën, waarbij begrippen als human-centered AI en AI for good vaak naar voren komen. Echter, wanneer deze concepten in de praktijk worden gebracht, verdwijnen deze idealen vaak en nemen efficiëntie en verhoogde arbeidsproductiviteit de overhand. Hierdoor wordt de korte termijn economische output dominant en worden onze investeringen bepaald door de wensen van bedrijven. Ethische, juridische en sociale aspecten worden vaak naar de zijlijn geschoven, wat we ons niet meer kunnen permitteren. Deze aspecten moeten juist centraal staan in onze afwegingen. Met de AI Act blijkt dat veel van wat we nu doen niet meer is toegestaan, wat kan leiden tot verlamming in het openbaar bestuur en hoge boetes. Human-centered AI is niet langer een luxe, maar een noodzaak. Dit creëert niet alleen een nieuwe markt, maar voorkomt ook een markt met hoge toetredingsbarrières en afhankelijkheid van locked-in oplossingen. Strategische autonomie en soevereiniteit zijn essentieel, en er moet geen sprake zijn van black-box systemen. De staatssecretaris moet duidelijke richtlijnen formuleren voor alle ministeries en de VNG, zodat digitalisering langs deze lijnen plaatsvindt. Er moeten criteria worden opgesteld voor hoe er gewerkt moet worden. Digitaliseren mag niet langer gericht zijn op de laagste prijs of volledige ontzorging; dit is geen duurzame manier van handelen.
2. Implementatie van de public stack
De public stack richt zich op het borgen van publieke waarden binnen de gelaagde opbouw van technologie. Dit kan worden vertaald naar proces- en ontwerpprincipes, zoals de vraag of er aan technologie verdiend mag worden. Vanuit de Waag is het public stack model ontwikkeld met als centrale vraag “Waar optimaliseer je voor?” Vaak wordt er geoptimaliseerd voor iets dat niet overeenkomt met de behoeften van de samenleving. Het ontwerpproces moet niet uitsluitend vanuit IT en opdrachtgevers komen, maar vanuit een breder scala aan expertises, waaronder sociale en geesteswetenschappen. Technologie is een socio-technocratisch construct en het implementeren van dit soort standaarden vereist toezicht in alle domeinen.
“Human-centered AI is niet langer een luxe, maar een noodzaak”
3. Betrek maatschappelijke actoren in de uitvoeringen
In de uitvoering zijn maatschappelijke actoren vaak te veel naar binnen gekeerd en wordt de relatie tussen publieke en civiele partnerschappen verwaarloosd. De overheid beweegt zich voornamelijk binnen haar eigen driehoek van beleid en politiek, waardoor de connectie met de samenleving vaak vergeten wordt. Er is een groot maatschappelijk middenveld met actoren die genegeerd worden, wat managementwetenschapper Henry Mintzberg de ‘plural sector’ noemt. Vroeger konden we alles organiseren langs deze lijnen, maar sinds de jaren 80 van de vorige eeuw zijn taken en verantwoordelijkheden naar de overheid verschoven, die deze in de jaren 90 weer naar de markt bracht. De publieke sector moet zich meer richten op de civiele maatschappij en maatschappelijke entiteiten. Uitvoering hoeft niet altijd publiek of privaat te zijn; er liggen ook grote kansen in samenwerking met maatschappelijke actoren. Een voorbeeld hiervan is het project ‘Hollandse Luchten’, waarbij burgers zelf de luchtkwaliteit meten. Het is belangrijk om in de uitvoering een lijn op te bouwen die met de samenleving opereert, zonder autonomie te verliezen of waarde-extractie en locked-in situaties te creëren. De overheid zit momenteel klem, maar de governance in het Verenigd Koninkrijk heeft laten zien dat overheidscontracten opzeggen miljarden kan kosten, terwijl opensource oplossingen slechts een fractie daarvan bedragen. Initiatieven zoals het European Digital Infrastructure Consortium (een samenwerkingsverband op het gebied van digitale gemeenschapsgoederen, of digital commons), bieden een uitweg.
4. Stimuleer de digitale publieke ruimte
Ik geloof sterk in het borgen van publieke waarden binnen de digitale ruimte. Technologie moet worden ontwikkeld met het oog op de behoeften en rechten van burgers, niet enkel op commerciële belangen. De huidige dominantie van enkele techreuzen bedreigt onze strategische autonomie. En daarom pleit ik voor een publiek digitaal domein waarin open source en gedeelde hulpbronnen centraal staan. De overheid moet hierin een leidende rol spelen door kaders te scheppen en te investeren in technologieën die publieke waarden ondersteunen. Daarnaast is het essentieel dat bestuurders kritische technologische kennis bezitten en dat sociale en geesteswetenschappen worden geïntegreerd in technologische ontwikkelingen. Alleen zo kunnen we een eerlijk en democratisch digitaal landschap creëren.
Bundel ‘Ongefilterde expertadviezen voor de digitale overheid’
In de expertbundel 'Ongefilterde expertadviezen voor de digitale overheid' geven twintig experts op het gebied van digitalisering en publieke dienstverlening hun visie en impactvolle verbetervoorstellen te komen. Hoogleraren, (internet)ondernemers, bestuurders, oud-Tweede Kamerleden, CIO’s en andere experts die ieder vanuit hun eigen invalshoek staatssecretaris Zsolt Szabó adviseren in zijn opgave om te komen tot één goedwerkende digitale overheid.