Keuze 01
Geen verbod, maar een veilig alternatief
Een verbod vergroot het risico op ongecontroleerd gebruik. Het inrichten van een veilige omgeving was dus net zo belangrijk als de regels.
Wat doe je als gemeente wanneer je medewerkers volop AI gebruiken zonder voorwaarden? En hoe zorg je er dan voor dat dat verantwoord en ethisch gebeurt?
Net als bij andere organisaties werd binnen de gemeente volop gebruik gemaakt van AI. Beleidsmedewerkers lieten notities samenvatten door gratis chatbots, communicatie schreef teksten met AI en een team had zelfs op eigen initiatief een tool ingericht die klachten automatisch sorteerde. Stuk voor stuk goede initiatieven die bijdragen aan het verbeteren van de dienstverlening, maar met oncontroleerbare risico's.
De CISO en de functionaris gegevensbescherming zagen de risico's: vertrouwelijke stukken die buiten de organisatie belandden en toepassingen die onder de AI-verordening mogelijk als hoog risico worden geclassificeerd. Als MT kun je dan neigen naar een (tijdelijk) verbod, maar in de realiteit stijgt dan enkel het risico op verder ongecontroleerd en onethisch gebruik.
Om deze risico's te beperken wilde de gemeente een werkbaar beleid met oog op veiligheid en ethiek: de risico's beheersen terwijl medewerkers juist de ruimte krijgen om AI verantwoord te gebruiken.
Het werkelijke gebruik in kaart brengen, beoordelen van elke toepassing op risico en dat vertalen naar beleid dat voor medewerkers ook echt werkbaar is.
Een verbod vergroot het risico op ongecontroleerd gebruik. Het inrichten van een veilige omgeving was dus net zo belangrijk als de regels.
Het beleid is geschreven op het werkelijke gebruik in de organisatie, niet op een theoretisch beeld van wat medewerkers zouden doen.
Het beleid is ingericht op basis van de vastgestelde risico's. Toepassingen worden daarin geplot in plaats van de toepassing leidend te laten zijn.
Om de implementatie up-to-date te houden, is er een vast moment ingepland om nieuwe toepassingen te toetsen.
duidelijke visie op AI en de inzet daarvan.
Iedere organisatie werkt met AI, maar iedereen doet het anders.
In deze case zie je welke fases van het Disruptiv framework een andere organisatie doorliep. Het assessment doet dat voor die van jou: je ziet niet alleen een score, maar ook welke fase je voortgang op dit moment begrenst en wat daar als eerste te doen staat.
