Mogelijk verbod op AI-software bij rijksoverheid

In een recente ontwikkeling heeft Staatssecretaris Alexandra van Huffelen van Digitale Zaken aangekondigd dat de Nederlandse regering overweegt om het gebruik van AI-software door ambtenaren te verbieden. Het conceptvoorstel, gebaseerd op onderzoek van de landsadvocaat Pels Rijcken en de Autoriteit Persoonsgegevens, wijst op aanzienlijke risico's met betrekking tot privacy en auteursrechten die momenteel met het gebruik van generatieve AI gepaard gaan1.

Privacy en Auteursrechten als Kernzorgen

Het voorgestelde verbod zou betrekking hebben op AI-programma's die teksten, foto's, audio of video kunnen genereren, zoals ChatGPT, Bard, Dall-E, en Midjourney. Het onderzoek concludeert dat niet-gecontracteerde generatieve AI-toepassingen doorgaans niet voldoen aan de Nederlandse privacy- en auteursrechtelijke wetgeving1.

Een belangrijk punt van zorg is het gebrek aan transparantie bij aanbieders zoals Google en OpenAI over welke werken zij gebruiken om hun AI-modellen te trainen. Bovendien is er nog geen duidelijk juridisch oordeel over het gebruik van openbare internetbronnen voor dit doel1.

Veilig en Verantwoord Gebruik van Generatieve AI

Staatssecretaris Van Huffelen erkent echter ook het potentieel van generatieve AI binnen de overheid, maar benadrukt de noodzaak van veilige experimenten. Er wordt gewerkt aan pilots die medio volgend jaar zullen worden afgerond, gevolgd door richtlijnen voor verantwoord gebruik van AI door overheidsorganisaties1.

Daarnaast staat er een opleidingsprogramma voor ambtenaren op de planning, evenals een uitgebreide visie op AI. Hierbij wordt de nadruk gelegd op bewustwording, aangezien experts al langer waarschuwen dat organisaties soms te lichtvaardig omgaan met programma's zoals ChatGPT, waarbij vertrouwelijke informatie wordt ingevoerd zonder volledig inzicht in wat er met die informatie gebeurt1.

Kritiek en Toekomstige Uitdagingen

Hoewel de voorgestelde maatregel is ingegeven door legitieme zorgen over privacy en auteursrechten, is er ook kritiek. Sander Klous, hoogleraar big data ecosystems aan de Universiteit van Amsterdam, erkent de risico's maar acht een algemeen verbod te verregaand. Hij waarschuwt dat een dergelijk verbod Nederland op achterstand zou kunnen zetten ten opzichte van landen die breder gebruikmaken van generatieve AI1.

Conclusie

Terwijl Nederland zich buigt over het al dan niet verbieden van AI-gebruik door ambtenaren, blijft de discussie tussen privacybescherming, auteursrechten, en technologische vooruitgang voortduren. Het is duidelijk dat er een balans moet worden gevonden tussen het reguleren van potentieel risicovol gebruik en het stimuleren van innovatie en kansen op het gebied van generatieve AI.

Bronvermelding:

1. Verhagen, L., & Olsthoorn, P. (16 november 2023). Regering bereidt verbod voor op gebruik AI-software door ambtenaren. De Volkskrant. Geraadpleegd op 16 november 2023. https://www.volkskrant.nl/tech/regering-bereidt-verbod-voor-op-gebruik-ai-software-door-ambtenaren~b8948cc7/