AI is de afgelopen jaren een welgekende tool geworden. Het is een ware sneltrein die door onze maatschappij raast en waarover gezegd wordt dat je moet springen of je hem mist. Bedrijven, ngo’s, zelfstandigen, artiesten… de publieke sector, de private sector, iedere werkvloer komt voor dezelfde vraag te staan: hoe gaan we hier mee om, hoe ver gaan we hierin mee?
Ook als stad worden we met deze vraag geconfronteerd. In februari 2024 stelde collega Peeters al volgende vragen:
Uit het antwoord van schepen Bracke bleek dat de ethische reflex zeker aanwezig is en dat men daar al op aan het werken was. Zo gaf District09 een toelichting waarin o.a. meegegeven werd dat men zou onderzoeken of er een ethische commissie of klankbordgroep met externe experten opgericht kan worden, die vanuit hun ethische, academische, juridische, economische (of andere) achtergrond mee kunnen oordelen over wat de stad met AI doet.
Iets later, in augustus 2024, is de Europese AI Act in werking getreden. Deze verordening tracht een geharmoniseerd kader rond het gebruik en de ontwikkeling van AI te bieden aan de lidstaten. Dit welgekomen kader biedt al meer duidelijkheid rond het gebruik van AI voor verschillende diensten.
Toch blijft het belangrijk om hier ook binnen de stad, op het lokale niveau aandachtig voor te zijn. Het is zoeken naar een balans tussen wat er op andere niveaus verschuift en onze eigen werking, een balans tussen efficiëntie, optimalisatie en het niet uit het oog verliezen van onze creatievelingen, hun talenten en hun rechten.
Het vinden van deze balans zal geen makkelijke opdracht worden en hier zal in de toekomst op verschillende niveaus nog heel wat op gewerkt worden. Het is daarom des te belangrijk dat we hier als stad een proactieve houding in aannemen. Indien er een ethische commissie of klankbordgroep opgericht wordt, lijkt het aan te raden om daarin naast eigen experten ook externe partners zoals academici en mensen uit de creatieve sector mee te nemen.
Beste raadslid Sioen,
Bij het testen en gebruiken van AI proberen we als stad ethische risico's vroegtijdig te detecteren en externe experts te betrekken om deze te evalueren. Dit kan een gespecialiseerd bedrijf of organisatie zijn, maar in de toekomst mogelijks ook een ethische commissie. Zoals terecht opgemerkt biedt de EU AI Act hiervoor sinds begin augustus een regelgevend kader. Momenteel is er nog geen ethische commissie actief binnen de Stad Gent rond het gebruik van AI.
Voor de use cases die het afgelopen jaar zijn uitgetest, kwamen geen ethische risico's aan bod. Er is bewust gekozen voor use cases waarbij de risico's beperkt zijn. Bijvoorbeeld, de use case rond wegherstellingen waarover onlangs een artikel in de pers verscheen:
Hierbij werd gebruik gemaakt van data over wegen om AI-modellen te testen. Dergelijke use cases vallen volgens de EU AI Act onder minimaal tot laag risico omdat ze geen tot weinig invloed hebben op belangrijke aspecten van het leven van een individu.
In 2025 hebben we als stadsorganisatie voor AI zes belangrijke thema’s gedefinieerd. Eén van deze thema’s is Betrouwbare AI. Dit thema is gericht op het waarborgen van de betrouwbaarheid van AI-producten door te voldoen aan zowel ethische als technische normen. Dit omvat aspecten zoals informatiebeveiliging, transparantie en eerlijkheid. Eén van de acties binnen dit thema betreft de herziening van onze huidige werkwijze voor het detecteren van ethische risico's. Tijdens deze herziening zullen we onder meer onderzoeken of de oprichting van een ethisch comité wenselijk is en hoe dit samengesteld kan worden.
In uw tweede vraag suggereert u om ook een creatieve stem aan bod te laten komen in deze commissie, dat is een waardevolle suggestie die ik zeker mee wil bekijken in het geheel. Sowieso denk ik dat de input van de creatieve sector niet alleen van groot belang is voor een eventuele ethische commissie, maar voor het AI en digitaal beleid tout court. Ik kijk er dan ook naar uit om bij opmaak van de beleidsnota’s er met de sector over te reflecteren.
Tenslotte, in het bestuursakkoord staat vermeld dat we de AI-evolutie zien als een kans om stadsmedewerkers te ontlasten van repetitieve taken om hen net effectiever te kunnen inzetten voor de Gentenaars. Dit geldt ook voor repetitieve creatieve taken. Het spreekt voor zich dat dit alles hoe dan ook gekoppeld is aan de opmaak van een meerjarenplan en de budgettaire ruimte die daarvoor kan vrijgemaakt worden.
vr 14/02/2025 - 14:43