diff --git a/CONTRIBUTING.md b/CONTRIBUTING.md index aabff35bff..0fcb29f1da 100644 --- a/CONTRIBUTING.md +++ b/CONTRIBUTING.md @@ -1,3 +1,8 @@ +--- +hide: +- toc +--- + # Bijdragen aan het Algoritmekader Allereerst, bedankt dat je de tijd hebt genomen om een bijdrage te leveren! ❤️ @@ -21,10 +26,10 @@ We kijken uit naar alle bijdragen! 🎉 - [Code of Conduct](#code-of-conduct) - [Ik heb een vraag](#ik-heb-een-vraag) - [Ik wil iets bijdragen](#ik-wil-iets-bijdragen) -- [Ik wil een fout of bug melden](#ik-wil-een-fout--bug-melden) +- [Ik wil een fout of bug melden](#ik-wil-een-fout-of-bug-melden) - [Hoe we werken op GitHub](#hoe-we-werken-op-github) -### Code of Conduct +## Code of Conduct Dit project en iedereen die eraan deelneemt, valt onder de [Code of Conduct](https://github.com/MinBZK/Algoritmekader?tab=coc-ov-file#readme). Door deel te nemen, wordt van je verwacht dat je je aan deze code houdt. Meld onacceptabel gedrag @@ -59,7 +64,7 @@ Voor sommige bouwblokken wordt er gewerkt met werkgroepen, om de informatie verd ### Neem deel aan een sprint review / klankbord / demo Het team van het algoritmekader werkt in sprints van ongeveer 3 weken. Daarin werken we toe naar de volgende release van het Algoritmekader. Ongeveer eens in de 6 weken vindt er een nieuwe release plaats. Wanneer er een release is, wordt deze altijd toegelicht en gepresenteerd in een open online review / demo. Deze kan je vrijblijvend volgen. Zo blijf je op de hoogte en kun je een bijdrage leveren. [Bekijk de agenda op Algoritmes Pleio](https://algoritmes.pleio.nl/events) voor de komende bijeenkomsten. -### Ik wil een fout / bug melden +## Ik wil een fout of bug melden Heb je een foutje gevonden in het Algoritmekader? Dan kan je deze melden door een [Issue](https://github.com/MinBZK/Algoritmekader/issues) aan te maken. Voordat je een [Issues](https://github.com/MinBZK/Algoritmekader/issues) gaat aanmaken, kan je bekijken of jouw gevonden fout al tussen de bestaande [Issues](https://github.com/MinBZK/Algoritmekader/issues) staat. @@ -70,18 +75,18 @@ Als je de gevonden fout nog steeds wilt melden, kan je een [Issue](https://githu 2. Beschrijf de fout duidelijk en geef een heldere toelichting. Voeg waar mogelijk een screenshot toe. 3. Het team van het Algoritmekader zal deze issue labelen als `bug` en pakt jouw issue zo snel mogelijk op. Mogelijk neemt het team van het Algoritmekader contact op voor een verduidelijking of een oplossing. -### Ik wil een verbetering voorstellen +## Ik wil een verbetering voorstellen Heb je een suggestie of wil je een verbetering voorstellen? Dat kan gaan om een compleet nieuwe functionaliteit van de site of om kleine verbeteringen. Het volgen van onderstaande instructie helpt het team van het algoritmekader om je suggestie te begrijpen en gerelateerde suggesties te vinden. Je kan een suggestie doen door een [Issue](https://github.com/MinBZK/Algoritmekader/issues) aan te maken of door een Pull Request te maken. -#### Voordat je een suggestie gaat maken +### Voordat je een suggestie gaat maken - Voordat je een suggestie gaat maken, kan je bekijken of jouw suggestie al tussen de bestaande [Issues](https://github.com/MinBZK/Algoritmekader/issues) staat. Wellicht bestaat er al een issue die jouw suggestie beschrijft, en zijn we er al mee bezig. - Zoek uit of jouw idee past binnen het doel en de scope van het project. Wat zijn de voordelen van deze functionaliteit of toevoeging? Het is aan jou om het team van het Algoritmekader en de community te overtuigen dat dit een nuttige toevoeging is aan het Algoritmekader. Houd in gedachten dat we functioanliteiten willen die nuttig zijn voor de meerderheid van onze gebruikers en niet slechts voor een kleine groep. -#### Een issue aanmaken +### Een issue aanmaken Als je jouw suggestie nog steeds wilt doen, kan je een [Issue](https://github.com/MinBZK/Algoritmekader/issues) aanmaken. @@ -91,7 +96,7 @@ Als je jouw suggestie nog steeds wilt doen, kan je een [Issue](https://github.co > Afhankelijk van de complexiteit en het onderwerp van jouw suggestie kan het even duren voordat deze wordt opgepakt door het team van het Algoritmekader. -#### Een pull-request maken +### Een pull-request maken Kun je niet uit de voeten met de issues? Bijvoorbeeld omdat je verschillende wijzigingsvoorstellen wilt doen? Je kan ook gebruik maken van een [Fork en een Pull Request](https://docs.github.com/en/pull-requests/collaborating-with-pull-requests/working-with-forks). @@ -99,18 +104,18 @@ Het team van Algoritmekader bekijkt daarna jouw aanpassingen en kan bij akkoord > Afhankelijk van de complexiteit en het onderwerp van jouw suggestie kan het even duren voordat deze wordt opgepakt door het team van het Algoritmekader. -> #### Preview van een pull-request +> ### Preview van een pull-request > We maken gebruik van de tool [pr-preview-action](https://github.com/rossjrw/pr-preview-action) om automatisch previews te maken van een pull-request. Dit maakt het mogelijk om de wijzigingen die zijn gedaan in een pull-request al te bekijken in de uiteindelijke omgeving. > Wanneer er een pull-request gedaan wordt via een fork, leidt dit helaas tot een error, zie [Issue #79](https://github.com/MinBZK/Algoritmekader/issues/79). Dit blokkeert de pull-request niet. -### Hoe we werken op Github +## Hoe we werken op Github We werken met [Markdown](https://www.markdownguide.org/basic-syntax/) bestanden. Dit is bestandsformaat voor platte tekstbestanden en wordt door veel verschillende tools ondersteund. Dit maakt het eenvoudig om versiebeheer op het Algoritmekader toe te passen. Daarnaast maken gebruik van [mkdocs](https://www.mkdocs.org/) en [material for mkdocs](https://squidfunk.github.io/mkdocs-material/) om de informatie op een interactieve wijze inzichtelijk te maken op de website van [het Algoritmekader](https://minbzk.github.io/Algoritmekader/). -#### Wil je een nieuwe pagina aanmaken? +### Wil je een nieuwe pagina aanmaken? In het [mkdocs.yml](https://github.com/MinBZK/Algoritmekader/blob/main/mkdocs.yml) bestand staan de settings voor deze website. In principe hoef je hier niets aan aan te passen, maar als je een nieuwe pagina wilt aanmaken kan het nodig zijn om hier een aanpassing in te doen. Onderdeel van deze settings is namelijk de navigatie voor de site (welke pagina's zijn zichtbaar, en welke pagina's vallen daaronder). Dit staat in de nav: sectie. diff --git a/docs/afbeeldingen/bouwblokken/bias-en-non-discriminatie.jpg b/docs/afbeeldingen/bouwblokken/bias-en-non-discriminatie.jpg new file mode 100644 index 0000000000..e69452b585 Binary files /dev/null and b/docs/afbeeldingen/bouwblokken/bias-en-non-discriminatie.jpg differ diff --git a/docs/afbeeldingen/iconen/bias-en-non-discriminatie.png b/docs/afbeeldingen/iconen/bias-en-non-discriminatie.png new file mode 100644 index 0000000000..a4088bfe67 Binary files /dev/null and b/docs/afbeeldingen/iconen/bias-en-non-discriminatie.png differ diff --git a/docs/bouwblokken/fundamentele-rechten/non-discriminatie.md b/docs/bouwblokken/bias-en-non-discriminatie/index.md similarity index 99% rename from docs/bouwblokken/fundamentele-rechten/non-discriminatie.md rename to docs/bouwblokken/bias-en-non-discriminatie/index.md index 816ff9ffcc..1e4d4b1e6a 100644 --- a/docs/bouwblokken/fundamentele-rechten/non-discriminatie.md +++ b/docs/bouwblokken/bias-en-non-discriminatie/index.md @@ -1,10 +1,9 @@ --- title: Bias en non-discriminatie +icon: material/equal-box --- -!!! info "Disclaimer" - - Het Algoritmekader is nog volop in ontwikkeling. Op deze plek willen we vooral aan de slag gaan op een open en transparante wijze. Het is dus niet definitief. Dat betekent dat er dingen opstaan die niet af zijn en soms zelfs fout. Mocht er iets niet kloppen, laat het ons weten via [GitHub](https://github.com/MinBZK/Algoritmekader). +![bias-en-non-discriminatie](../../afbeeldingen/bouwblokken/bias-en-non-discriminatie.jpg){align="right"; width="50%"} ## Wat en waarom? Algoritmes worden binnen de overheid veelvuldig ingezet om publieke taken uit te voeren. Dit biedt veel kansen, maar er zijn ook risico's aan verbonden. @@ -211,3 +210,16 @@ is verboden. Daarnaast wordt expliciet vermeld dat binnen de werkingssfeer van d * [Fairness Handbook](https://amsterdamintelligence.com/resources/the-fairness-handbook) * [Handreiking non-discriminatie-by-design](https://www.rijksoverheid.nl/documenten/rapporten/2021/06/10/handreiking-non-discriminatie-by-design) * [College voor de rechten van de mens, Discriminatie door risicoprofielen - een mensenrechtelijk toetsingskader](https://publicaties.mensenrechten.nl/publicatie/61a734e65d726f72c45f9dce) + +!!! info "Disclaimer" + + Het Algoritmekader is nog volop in ontwikkeling. Op deze plek willen we vooral aan de slag gaan op een open en transparante wijze. Het is dus niet definitief. Dat betekent dat er dingen opstaan die niet af zijn en soms zelfs fout. Mocht er iets niet kloppen, laat het ons weten via [GitHub](https://github.com/MinBZK/Algoritmekader). + + +## Vereisten + + + +## Maatregelen + + diff --git a/docs/bouwblokken/conformiteitsbeoordeling/index.md b/docs/bouwblokken/conformiteitsbeoordeling/index.md deleted file mode 100644 index d992ed978b..0000000000 --- a/docs/bouwblokken/conformiteitsbeoordeling/index.md +++ /dev/null @@ -1,23 +0,0 @@ ---- -title: Conformiteitsbeoordeling -summary: Hier staat een korte samenvatting over dit onderwerp -icon: material/check-circle ---- - -![conformiteitsbeoordeling](../../afbeeldingen/bouwblokken/conformiteitsbeoordeling.jpg "visuele weergave conformiteitsbeoordeling"){align="right"; width="50%"} - -Hier komt een beschrijving van dit bouwblok. - -!!! info "Opmerking" - - Dit bouwblok moet nog ontwikkeld worden. Deze pagina is dus nog niet volledig. Op deze pagina vind je mogelijk wel al onderdelen waar we aandacht aan willen besteden in dit bouwblok. - - -## Vereisten - - - - -## Maatregelen - - \ No newline at end of file diff --git a/docs/bouwblokken/fundamentele-rechten/index.md b/docs/bouwblokken/fundamentele-rechten/index.md index 91626ff2ad..2f9e052625 100644 --- a/docs/bouwblokken/fundamentele-rechten/index.md +++ b/docs/bouwblokken/fundamentele-rechten/index.md @@ -20,7 +20,7 @@ Een zorgvuldige aanpak tijdens de ontwikkeling van een algoritme kan ervoor zorg Een aantal wezenlijke grondrechten die vaak worden geraakt met de inzet van algoritmen en AI, komen ook afzonderlijk in andere onderdelen van het Algoritmekader aan bod. -Dit geldt bijvoorbeeld op het recht op persoonsgegevensbescherming in het bouwblok [Privacy en gegevensbescherming](../../bouwblokken/privacy-en-gegevensbescherming/index.md) of het verbod op ongelijke behandeling in het bouwblok [Bias en non-discriminatie](non-discriminatie.md). +Dit geldt bijvoorbeeld op het recht op persoonsgegevensbescherming in het bouwblok [Privacy en gegevensbescherming](../../bouwblokken/privacy-en-gegevensbescherming/index.md) of het verbod op ongelijke behandeling in het bouwblok [Bias en non-discriminatie](../../bouwblokken/bias-en-non-discriminatie/index.md). In dit bouwblok van het algoritmekader beschrijven we wat de vereisten zijn rondom het beschermen van fundamentele rechten. Vervolgens worden deze vereisten ook vertaald in praktische maatregelen en instrumenten die overheden kunnen toepassen om invulling te geven aan deze vereisten. @@ -29,7 +29,7 @@ Vervolgens worden deze vereisten ook vertaald in praktische maatregelen en instr Dit bouwblok moet nog ontwikkeld worden. Deze pagina is dus nog niet volledig. Op deze pagina vind je mogelijk wel al onderdelen waar we aandacht aan willen besteden in dit bouwblok. -Onderdeel van het bouwblok Fundamentele rechten is het onderwerp [Bias en non-discriminatie](non-discriminatie.md). +Onderdeel van het bouwblok Fundamentele rechten is het onderwerp [Bias en non-discriminatie](../../bouwblokken/bias-en-non-discriminatie/index.md). ## Vereisten @@ -38,3 +38,7 @@ Onderdeel van het bouwblok Fundamentele rechten is het onderwerp [Bias en non-di ## Maatregelen + +## Instrumenten + + diff --git a/docs/bouwblokken/index.md b/docs/bouwblokken/index.md index b2a1e44052..8b77ff9ae6 100644 --- a/docs/bouwblokken/index.md +++ b/docs/bouwblokken/index.md @@ -21,8 +21,6 @@ hide: [:octicons-arrow-right-24: Naar fundamentele rechten](../bouwblokken/fundamentele-rechten/index.md) - [:octicons-arrow-right-24: Naar bias en non-discriminatie](../bouwblokken/fundamentele-rechten/non-discriminatie.md) - - ### [Publieke inkoop](../bouwblokken/publieke-inkoop/index.md) --- @@ -59,17 +57,17 @@ hide: [:octicons-arrow-right-24: Naar transparantie](../bouwblokken/transparantie/index.md) -- ### [Conformiteitsbeoordeling](../bouwblokken/conformiteitsbeoordeling/index.md) +- ### [Bias en non-discriminatie](../bouwblokken/bias-en-non-discriminatie/index.md) --- - ![conformiteitsbeoordeling](../afbeeldingen/iconen/conformiteitsbeoordeling.png) + ![bias-en-non-discriminatie](../afbeeldingen/iconen/bias-en-non-discriminatie.png) --- - Hier kunnen we een korte tekst kwijt over conformiteitsbeoordeling + Op deze pagina vind je de relevantie informatie over bias en non-discriminatie die van belang is wanneer je gebruik maakt van algoritmes of AI. - [:octicons-arrow-right-24: Naar conformiteitsbeoordeling](../bouwblokken/conformiteitsbeoordeling/index.md) + [:octicons-arrow-right-24: Naar bias en non-discriminatie](../bouwblokken/bias-en-non-discriminatie/index.md) - ### [Data](../bouwblokken/data/index.md) @@ -95,7 +93,7 @@ hide: [:octicons-arrow-right-24: Naar duurzaamheid](../bouwblokken/duurzaamheid/index.md) -- ### [Governance](../bouwblokken/governance/index.md) +- ### [Governance](../governance/index.md) --- @@ -105,7 +103,7 @@ hide: Hier kunnen we een korte tekst kwijt over governance - [:octicons-arrow-right-24: Naar governance](../bouwblokken/governance/index.md) + [:octicons-arrow-right-24: Naar governance](../governance/index.md) - ### [Menselijke controle](../bouwblokken/menselijke-controle/index.md) diff --git a/docs/bouwblokken/publieke-inkoop/index.md b/docs/bouwblokken/publieke-inkoop/index.md index 345d532ae5..ffdf6c90d7 100644 --- a/docs/bouwblokken/publieke-inkoop/index.md +++ b/docs/bouwblokken/publieke-inkoop/index.md @@ -43,9 +43,6 @@ Daarom is ervoor gekozen om hier niet een opsomming te geven van al deze vereist In de laag van 'maatregelen' wordt ook uitgewerkt wat vanuit publieke inkoop kan worden gedaan om op een betekenisvolle wijze invulling aan te geven aan de betreffende vereiste. Daarvoor kan ook op het tabblad 'publieke inkoop' worden geklikt om deze maatregelen te filteren. -Nagenoeg alle vereisten die gelden voor algoritmen en AI kunnen een plek krijgen in het publiek inkoopproces. -Daarom is ervoor gekozen om hier niet een opsomming te geven van al deze vereisten, maar wordt verwezen we naar het gedeelte [vereisten](../../vereisten/index.md) in het Algoritmekader. -In de laag van 'maatregelen' bij de vereisten voor algoritmes en AI-systemen, wordt uitgewerkt wat vanuit publieke inkoop kan worden gedaan om op een betekenisvolle manier invulling te geven aan deze vereisten. Daarvoor kan ook op het tabblad 'publieke inkoop' worden geklikt om deze maatregelen te filteren. Zie hieronder bij bruikbare informatie en bronnen in het bijzonder de Europese modelcontractbepaling voor (niet) hoog risico AI-systemen en contractvoorwaarden voor algoritmen. Dit geeft een beeld hoe de vereisten onderdeel kunnen worden gemaakt van contractvoorwaarden. diff --git a/docs/bouwblokken/technische-robuustheid-en-veiligheid/index.md b/docs/bouwblokken/technische-robuustheid-en-veiligheid/index.md index 94155e89c5..da8a58e950 100644 --- a/docs/bouwblokken/technische-robuustheid-en-veiligheid/index.md +++ b/docs/bouwblokken/technische-robuustheid-en-veiligheid/index.md @@ -8,7 +8,7 @@ icon: material/cog Wanneer algoritmes of AI-systemen worden gebruikt om publieke taken uit te voeren, dient het onderliggende systeem voldoende robuust en veilig te zijn. -## Technische robuustheid +### Technische robuustheid De technische robuustheid van een algoritme of AI-systeem beschrijft het vermogen om het gewenste prestatieniveau onder alle omstandigheden te handhaven [^1]. Dit betekent dat algoritmes en AI-systemen vergelijkbaar moeten presteren ondanks externe of zware veranderingen in de omgeving. Robuustheid kan daarnaast ook duiden op eigenschappen als veerkracht, betrouwbaarheid en nauwkeurigheid van het systeem. @@ -18,7 +18,7 @@ Wanneer het algoritme of het AI-systeem niet voldoet aan de eisen wat betreft ro Er moeten technische en organisatorische maatregelen getroffen worden om de robuustheid van algoritmes en AI-systemen te waarborgen. Dit kunnen bijvoorbeeld maatregelen zijn bestaande uit vooraf bepaalde mechanismen die het systeem in staat stellen om de werking veilig te onderbreken wanneer daar redenen voor zijn of wanneer de prestaties van het algoritme buiten vooraf bepaalde grenzen treedt. -## Veiligheid +### Veiligheid Naast robuustheid dient het onderliggende systeem ook voldoende beveiligd te zijn, zodat het systeem weerbaar is tegen pogingen het systeem te wijzigen en onrechtmatig gebruik door derden, en die onbedoelde schade tot een minimum beperkt. Om te zorgen voor een passend niveau van cyberbeveiliging die aansluit op de risico's van het systeem, dienen er passende maatregelen zoals veiligheidscontroles genomen te worden. Daarbij dient er rekening te worden gehouden met de onderliggende ICT-infrastructuur. diff --git a/docs/bouwblokken/transparantie/index.md b/docs/bouwblokken/transparantie/index.md index b10d3be622..b811df2ecf 100644 --- a/docs/bouwblokken/transparantie/index.md +++ b/docs/bouwblokken/transparantie/index.md @@ -6,17 +6,17 @@ icon: material/magnify ![transparantie](../../afbeeldingen/bouwblokken/transparantie.jpg "visuele weergave transparantie"){align="right"; width="50%"} -Om openheid te bieden en controleerbaarheid te zijn moeten overheidsinstanties transparant zijn over inzet van algoritmen en AI-systemen. +Om openheid te bieden en controleerbaar te zijn moeten overheidsinstanties transparant zijn over inzet van algoritmen en AI-systemen. Het is van belang dat overheden nadenken over hun besluitvormingsprocessen en dat zij de werking en toegevoegde waarde van het inzetten van een algoritme kunnen uitleggen. -Dit is bijzonder relevant als een algoritme of AI-systeem impact heeft en besluiten maakt of de totstandkoming van besluitvorming die burgers raken ondersteunt. +Dit is bijzonder relevant als een algoritme of AI-systeem, al dan niet geautomatiseerd, impact heeft op besluitvorming die burgers raakt. -Als burgers geen kennis kunnen nemen van de gebruikte algoritmes en in hoeverre diens output hen raakt, kunnen zij zich niet verdedigen tegen nadelige gevolgen zoals discriminatie of een onjuist genomen beslissing of besluit. +Als burgers geen kennis kunnen nemen van de gebruikte algoritmes en in hoeverre diens output hen raakt, worden ze onrechtmatig beperkt in de mogelijkheid om zicht te verdedigen tegen nadelige gevolgen zoals discriminatie of een onjuist genomen beslissing of besluit. Daarnaast versterkt transparantie de controlerende functie van burgers en journalistiek, omdat burgers kunnen aangeven of een uitleg over een algoritmisch systeem duidelijk is en of zij de werking van het systeem hetzelfde ervaren. Transparantie bij algoritmes en AI gaat zowel over het bekendmaken van de inzet en bijbehorende doelen, als ook over openheid van het type model en de gebruikte factoren. Gebruikers moeten in staat zijn om de werking en de output van een algoritme of AI-systeem te begrijpen, zodat zij onderbouwde beslissingen of besluiten kunnen nemen. -Dit betekent bijvoorbeeld ook dat gebruikers bewust moet worden gemaakt dat zij communiceren of interageren met een algoritme of AI-systeem, dat zij worden geïnformeerd over de mogelijkheden en beperkingen van een systeem en dat betrokkenen worden geïnformeerd over hun rechten. +Dit betekent bijvoorbeeld ook dat gebruikers bewust moet worden gemaakt dat zij communiceren of samenwerken met een algoritme of AI-systeem, dat zij worden geïnformeerd over de mogelijkheden en beperkingen van een systeem en dat betrokkenen worden geïnformeerd over hun rechten. In dit bouwblok van het algoritmekader besteden we aandacht aan transparantie naar gebruikers en betrokkenen, transparantie door documentatie en opname in het [algoritmeregister]( https://algoritmes.overheid.nl/nl), uitlegbaarheid en traceerbaarheid van een besluit. Hier worden de vereisten uitgewerkt die bestaan op basis van wet- en regelgeving en bestaand beleid met betrekking tot transparantie van algoritmen en AI. diff --git a/docs/governance/governance-structuur.md b/docs/governance/governance-structuur.md new file mode 100644 index 0000000000..2dcf8acada --- /dev/null +++ b/docs/governance/governance-structuur.md @@ -0,0 +1,5 @@ +--- +title: Governance structuur +--- + +Hier komt een tekst. \ No newline at end of file diff --git a/docs/bouwblokken/governance/index.md b/docs/governance/index.md similarity index 92% rename from docs/bouwblokken/governance/index.md rename to docs/governance/index.md index 8150bc8822..ab07e3e33d 100644 --- a/docs/bouwblokken/governance/index.md +++ b/docs/governance/index.md @@ -4,7 +4,7 @@ summary: Hier staat een korte samenvatting over dit onderwerp icon: material/bank --- -![governance](../../afbeeldingen/bouwblokken/governance.jpg "visuele weergave governance"){align="right"; width="50%"} +![governance](../afbeeldingen/bouwblokken/governance.jpg "visuele weergave governance"){align="right"; width="50%"} Governance is een breed begrip, en er bestaan verschillende opvattingen van. In essentie gaat het over het inrichten van de organisatie, processen en bijbehorende verantwoordelijkheden. Een belangrijk aspect van governance is bepalen wie waarvoor verantwoordelijk is. Dit kan op verschillende niveaus: van (inter)nationaal niveau, naar organisatieniveau naar het niveau van het AI-systeem. In het Algoritmekader wordt gefocust op het niveau van organisatie en AI-systeem. @@ -28,4 +28,4 @@ Let wel: Het Algoritmekader schrijft niet voor hoe een organisatie ingericht moe ## Maatregelen - + diff --git a/docs/governance/interactie-burgers-en-omgeving.md b/docs/governance/interactie-burgers-en-omgeving.md new file mode 100644 index 0000000000..5a25dace75 --- /dev/null +++ b/docs/governance/interactie-burgers-en-omgeving.md @@ -0,0 +1,5 @@ +--- +title: Interactie met burgers en omgeving +--- + +Hier komt een tekst. \ No newline at end of file diff --git a/docs/governance/levenscyclus.md b/docs/governance/levenscyclus.md new file mode 100644 index 0000000000..8ace5368d1 --- /dev/null +++ b/docs/governance/levenscyclus.md @@ -0,0 +1,5 @@ +--- +title: Levenscyclus +--- + +Hier komt een tekst. diff --git a/docs/governance/politiek-bestuurlijk-kader.md b/docs/governance/politiek-bestuurlijk-kader.md new file mode 100644 index 0000000000..ae207f9886 --- /dev/null +++ b/docs/governance/politiek-bestuurlijk-kader.md @@ -0,0 +1,5 @@ +--- +title: Politiek bestuurlijk kader +--- + +Hier komt een tekst \ No newline at end of file diff --git a/docs/governance/rollen_en_verantwoordelijkheden.md b/docs/governance/rollen_en_verantwoordelijkheden.md new file mode 100644 index 0000000000..b5e3807e5a --- /dev/null +++ b/docs/governance/rollen_en_verantwoordelijkheden.md @@ -0,0 +1,5 @@ +--- +title: Rollen en verantwoordelijkheden +--- + +Hier komt een tekst. diff --git a/docs/governance/type_algoritme.md b/docs/governance/type_algoritme.md new file mode 100644 index 0000000000..072ed4a70d --- /dev/null +++ b/docs/governance/type_algoritme.md @@ -0,0 +1,5 @@ +--- +title: Type algoritme en risicoclassificatie +--- + +Hier komt een tekst. diff --git a/docs/governance/volwassenheidsniveau.md b/docs/governance/volwassenheidsniveau.md new file mode 100644 index 0000000000..d7744c6ab4 --- /dev/null +++ b/docs/governance/volwassenheidsniveau.md @@ -0,0 +1,5 @@ +--- +title: Volwassenheidsniveau +--- + +Hier komt een tekst. \ No newline at end of file diff --git a/docs/index.md b/docs/index.md index f773209599..2e56f77117 100644 --- a/docs/index.md +++ b/docs/index.md @@ -25,7 +25,7 @@ Waardengedreven met algoritmes en AI werken, betekent dat er aandacht moet zijn 1. rollen en verantwoordelijkheden (governance); 2. risico’s op bias/discriminatie vroegtijdig detecteren; 3. het veilig kunnen verweken van gegevens; -4. de uitvoering van mensenrechtentoetsen (zoals IAMA’s); +4. de uitvoering van mensenrechtentoetsen (zoals [IAMA’s](instrumenten/IAMA.md)); 5. adequate inkoopvoorwaarden afspreken voor algoritmes die de overheid inkoopt bij derden. Aan deze opsomming zie je al dat op een verantwoorde manier met AI en algoritmes werken niet de verantwoordelijkheid is of kan zijn van één enkele professional in een organisatie. diff --git a/docs/instrumenten/IAMA.md b/docs/instrumenten/IAMA.md new file mode 100644 index 0000000000..ba46023243 --- /dev/null +++ b/docs/instrumenten/IAMA.md @@ -0,0 +1,60 @@ +--- +title: Impact Assessment Mensenrechten en Algoritmes +toelichting: Het Impact Assessment voor Mensenrechten bij de inzet van Algoritmes (IAMA) is een instrument voor overheidsorganen om een interdisciplinaire dialoog en besluitvorming te faciliteren bij de ontwikkeling en inzet van algoritmische systemen. +vereiste: +- beoordelen_gevolgen_voor_grondrechten +- fundamentele_rechten +levenscyclus: +- probleemanalyse +- ontwerp +- verificatie-en-validatie +- implementatie +bouwblok: +- fundamentele-rechten +rollen: +- projectleider +- aanbieder +- data-engineer +- data-scientist +- ethicus +- gemandateerd-verantwoordelijke +- jurist +- privacy-officer +- proceseigenaar +- security-officer +--- + + + +[Direct naar het IAMA](https://www.rijksoverheid.nl/documenten/rapporten/2021/02/25/impact-assessment-mensenrechten-en-algoritmes){ .md-button } +## Instrument + +Het Impact Assessment voor Mensenrechten bij de inzet van Algoritmes (IAMA) is een instrument voor overheidsorganen om een interdisciplinaire dialoog en besluitvorming te faciliteren bij de ontwikkeling en inzet van algoritmische systemen. +Het IAMA stelt een reeks vragen die moeten worden besproken en beantwoord om een zorgvuldige afweging van de inzet van algoritmen te waarborgen. +Dit proces is onderverdeeld in drie fasen: voorbereiding, input en throughput, en output en toezicht, waarbij steeds aandacht wordt besteed aan het vierde onderdeel van het IAMA: de impact op mensenrechten. +Het IAMA fungeert als naslagwerk voor de besluitvorming en is gekoppeld aan andere relevante richtlijnen en instrumenten, zoals de [gegevensbeschermingseffectbeoordeling (ook wel DPIA)](../vereisten/dpia_verplicht_bij_hoog_risico.md). +Hierdoor biedt het een overkoepelend kader dat helpt om algoritmen verantwoord te implementeren en mogelijke risico’s, zoals inbreuken op grondrechten, te identificeren en te mitigeren. + + +## Relevantie +Het IAMA kan op dit moment op veel politieke en internationale belangstelling rekenen. +In zowel de Eerste als Tweede Kamer zijn hierover [moties ingediend](https://www.tweedekamer.nl/kamerstukken/moties/detail?id=2022D12329&did=2022D12329) en vragen gesteld. +Daarbij is het IAMA een van de weinige instrumenten in de EU die een interdisciplinaire discussie rondom (de ontwikkeling, inzet en monitoring van) algoritmes, AI en grondrechten initieert en bevordert. + + +## Auteur +Het IAMA is ontwikkeld door de [Utrecht Data School](https://dataschool.nl/iama/). De auteurs van het IAMA zijn prof. mr. Janneke Gerards, dr. Mirko Tobias Schäfer, Arthur Vankan en Iris Muis, allen werkzaam aan de Universiteit Utrecht. Opdrachtgever voor de ontwikkeling is het Ministerie van Binnenlandse Zaken. + +## Bijbehorende vereisten + + + +## Bronnen + +| Bron | +|-----------------------------| +|[Impact Assessment Mensenrechten en Algoritmes](https://www.rijksoverheid.nl/documenten/rapporten/2021/02/25/impact-assessment-mensenrechten-en-algoritmes)| + +## Voorbeeld + +Heb jij een goed voorbeeld? Laat het ons weten! diff --git a/docs/instrumenten/index.md b/docs/instrumenten/index.md index bdb4487d9a..e11ded200b 100644 --- a/docs/instrumenten/index.md +++ b/docs/instrumenten/index.md @@ -14,7 +14,7 @@ Er is een groot aanbod aan instrumenten die kunnen worden ingezet tijdens de ont [^1]: Definitie opgesteld door team Algoritmekader Instrumenten worden ontwikkeld door de verschillende partijen, zoals de overheid, wetenschap en industrie. -Bekende voorbeelden hiervan zijn het IAMA (UU) en het Toetsingskader Algoritmes (ARK). +Bekende voorbeelden hiervan zijn het [IAMA](IAMA.md) (UU) en het Toetsingskader Algoritmes (ARK). Het team Algoritmekader heeft verschillende instrumenten geanalyseerd. Wat opvalt is dat er (veel) overlap zit tussen deze instrumenten wat betreft doel en onderwerpen. Het is voor gebruikers ook niet altijd duidelijk wanneer welk instrument kan of moeten worden ingezet en of het dan alle relevante aspecten van een onderwerp dekt. diff --git a/docs/maatregelen/DPIA_onderdeel_programma_van_eisen.md b/docs/maatregelen/DPIA_onderdeel_programma_van_eisen.md deleted file mode 100644 index ce705b3d2d..0000000000 --- a/docs/maatregelen/DPIA_onderdeel_programma_van_eisen.md +++ /dev/null @@ -1,41 +0,0 @@ ---- -title: Aanleveren DPIA door aanbieder wordt vereist in het Programma van Eisen, als persoonsgegevens worden verwerkt -toelichting: Neem als er sprake is van een hoog risico AI of impactvol algoritme of AI-systeem, waarbij persoonsgegevens worden verwerkt, de eis op in het Programma van Eisen dat de aanbieder een DPIA moet kunnen overhandigen. -vereiste: -- dpia_verplicht_bij_hoog_risico -levenscyclus: -- ontwerp -- monitoring-en-beheer -bouwblok: -- publieke-inkoop -- privacy-en-gegevensbescherming -rollen: -- behoeftesteller -- inkoopadviseur -- privacy-officer ---- - - -## Maatregel - -Neem als er sprake is van een hoog risico AI of impactvol algoritme of AI-systeem, waarbij persoonsgegevens worden verwerkt, de eis op in het Programma van Eisen dat de aanbieder een DPIA moet kunnen overhandigen. - - -## Toelichting - - - -## Bijbehorende vereiste(n) - - - -## Bronnen - -| Bron | -|-----------------------------| -|Algoritmekader| - -## Voorbeeld - -Heb jij een goed voorbeeld? Laat het ons weten! - diff --git a/docs/maatregelen/aansprakelijkheidsvoorwaarden_aanbieder_onderdeel_beoordelingsmatrix.md b/docs/maatregelen/aansprakelijkheidsvoorwaarden_aanbieder_onderdeel_beoordelingsmatrix.md index eebce6f94f..2478643065 100644 --- a/docs/maatregelen/aansprakelijkheidsvoorwaarden_aanbieder_onderdeel_beoordelingsmatrix.md +++ b/docs/maatregelen/aansprakelijkheidsvoorwaarden_aanbieder_onderdeel_beoordelingsmatrix.md @@ -14,9 +14,12 @@ rollen: - inkoopadviseur - contractbeheerder - aanbestedingsjurist +hide: +- navigation --- + ## Maatregel Maak de aansprakelijkheidsvoorwaarden die een aanbieder ten aanzien van auteursrechten kan geven een vast onderdeel van de wedstrijd/inkoop/beoordeelingsmatrix als ook de vaste beoordeling hiervan. @@ -41,10 +44,10 @@ Maak een jurist onderdeel van de beoordeling hiervan. ## Bronnen -| Bron | -|-----------------------------| -|Algoritmekader| -|https://open.overheid.nl/documenten/16d72572-da6b-422c-8cf8-cdc95a523093/file| +| Bron | +|------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------| +| Algoritmekader | +| [Advies Landsadvocaat Pels Rijcken over het gebruik van generatieve AI-tools door medewerkers van de Staat](https://open.overheid.nl/documenten/16d72572-da6b-422c-8cf8-cdc95a523093/file) | ## Voorbeeld diff --git a/docs/maatregelen/archiveren_beperkingen_openbaarheid.md b/docs/maatregelen/archiveren_beperkingen_openbaarheid.md index e004b0a64c..4a4915807b 100644 --- a/docs/maatregelen/archiveren_beperkingen_openbaarheid.md +++ b/docs/maatregelen/archiveren_beperkingen_openbaarheid.md @@ -13,9 +13,12 @@ rollen: - informatiebeheerder - archiefdeskundige - jurist +hide: +- navigation --- + ## Maatregel Stel vast of beperkingen aan openbaarheid van de archiefbescheiden moeten worden gesteld. @@ -35,7 +38,7 @@ transparantie/openheid (uitgangspunt zou 'open, tenzij' moeten zijn). | Bron | |-----------------------------| -|Algoritmekader| +| Algoritmekader | ## Voorbeeld diff --git a/docs/maatregelen/archiveren_bewaartermijnen.md b/docs/maatregelen/archiveren_bewaartermijnen.md index b2f27315a3..c2f17a240f 100644 --- a/docs/maatregelen/archiveren_bewaartermijnen.md +++ b/docs/maatregelen/archiveren_bewaartermijnen.md @@ -13,9 +13,12 @@ rollen: - proceseigenaar - informatiebeheerder - archiefdeskundige +hide: +- navigation --- + ## Maatregel Stel de bewaartermijnen vast voor de archiefbescheiden. diff --git a/docs/maatregelen/archiveren_bewaartermijnen_implementeren.md b/docs/maatregelen/archiveren_bewaartermijnen_implementeren.md index 6b0f065bca..a4512a0a6c 100644 --- a/docs/maatregelen/archiveren_bewaartermijnen_implementeren.md +++ b/docs/maatregelen/archiveren_bewaartermijnen_implementeren.md @@ -16,9 +16,12 @@ rollen: - data-engineer - data-scientist - security-officer +hide: +- navigation --- + ## Maatregel Zorg ervoor dat de vereisten met betrekking tot bewaartermijnen correct zijn of worden vertaald naar het algoritme of AI-systeem en de onderliggende systemen. @@ -37,7 +40,7 @@ Een aanbieder moet | Bron | |-----------------------------| -|Algoritmekader| +| Algoritmekader | ## Voorbeeld diff --git a/docs/maatregelen/archiveren_duurzaam_toegankelijk.md b/docs/maatregelen/archiveren_duurzaam_toegankelijk.md index e81218f0c4..c3afcc075a 100644 --- a/docs/maatregelen/archiveren_duurzaam_toegankelijk.md +++ b/docs/maatregelen/archiveren_duurzaam_toegankelijk.md @@ -11,9 +11,12 @@ rollen: - proceseigenaar - informatiebeheerder - archiefdeskundige +hide: +- navigation --- + ## Maatregel Stel vast hoe de archiefbescheiden op een duurzame wijze toegankelijk kunnen worden gemaakt. @@ -35,7 +38,7 @@ Onderzoek welke voorziening hiervoor beschikbaar is binnen de organisatie. | Bron | |-----------------------------| -|Algoritmekader| +| Algoritmekader | ## Voorbeeld diff --git a/docs/maatregelen/archiveren_programma_van_eisen.md b/docs/maatregelen/archiveren_programma_van_eisen.md deleted file mode 100644 index 3d67f9002c..0000000000 --- a/docs/maatregelen/archiveren_programma_van_eisen.md +++ /dev/null @@ -1,46 +0,0 @@ ---- -title: Vereisten uit Archiefwet onderdeel van de aanbesteding maken -toelichting: Maak de vereisten op grond van de Archiefwet (en die betrekking hebben op algoritmes en AI-systemen) onderdeel van het Programma van Eisen en onderzoek of dit onderdeel kan worden van een wedstrijd/inkoop/beoordelingsmatrix. -vereiste: -- archiefwet -levenscyclus: -- ontwerp -- implementatie -- monitoring-en-beheer -bouwblok: -- publieke-inkoop -rollen: -- proceseigenaar -- behoeftesteller -- inkoopadviseur -- informatiebeheerder -- archiefdeskundige ---- - - -## Maatregel - -Maak de vereisten op grond van de Archiefwet (en die betrekking hebben op algoritmes en AI-systemen) onderdeel van het Programma van Eisen en onderzoek of dit onderdeel kan worden van een wedstrijd/inkoop/beoordelingsmatrix. - - -## Toelichting - -Het is van belang dat marktpartijen tijdig kunnen beoordelen of hun voorzieningen voldoen aan de vereisten uit de Archiefwet. -Dit kan kenbaar worden gemaakt bijvoorbeeld via het Programma van Eisen, maar kan ook onderdeel worden gemaakt van een beoordelingsmatrix. -Daarbij kunnen bijvoorbeeld vragen opgenomen worden over of aanbieders vereisten vanuit de Archiefwet goed kunnen vertalen naar hun oplossing en hoe zij dit (by design) aanpakken. - - -## Bijbehorende vereiste(n) - - - -## Bronnen - -| Bron | -|-----------------------------| -|Algoritmekader| - -## Voorbeeld - -Heb jij een goed voorbeeld? Laat het ons weten! - diff --git a/docs/maatregelen/archiveren_vaststellen_documenten.md b/docs/maatregelen/archiveren_vaststellen_documenten.md index acdee7e426..a39b92023f 100644 --- a/docs/maatregelen/archiveren_vaststellen_documenten.md +++ b/docs/maatregelen/archiveren_vaststellen_documenten.md @@ -15,9 +15,12 @@ rollen: - archiefdeskundige - data-scientist - jurist +hide: +- navigation --- + ## Maatregel Stel vast welke documenten, (samengesteld geheel van) data/informatie van/in het algoritme of het AI-systeem gelden als "archiefbescheiden" in de zin van artikel 1 c Archiefwet en documenteer daarvan een overzicht, bij voorkeur vastgesteld door een daartoe bevoegde. @@ -31,9 +34,6 @@ Het is mogelijk dat de selectielijsten nog niet duiden welke informatie of data, Formeer hierbij een multi-discipinaire groep (bestaande uit bv. een inkoper, ontwikkelaar, data scientist, proceseigenaar en archief deskundige) om deze maatregel toe te passen. - - - ## Bijbehorende vereiste(n) @@ -42,7 +42,7 @@ een inkoper, ontwikkelaar, data scientist, proceseigenaar en archief deskundige) | Bron | |-----------------------------| -|[Toetsingskader Algemene Rekenkamer 4.01](https://www.rekenkamer.nl/onderwerpen/algoritmes-digitaal-toetsingskader)| +| Algoritmekader | |[Rekenen en rekenschap. Essay over Algoritmes en de Archiefwet](https://www.inspectie-oe.nl/binaries/inspectie-oe/documenten/publicatie/2021/01/21/rekenen-en-rekenschap/Rekenen+en+rekenschap%2C+Algoritme+en+de+Archiefwet+essay+door+Petra+Helwig+BJu+Tijdschrift+voor+Toezicht++aflevering+1+2020.pdf)| ## Voorbeeld diff --git a/docs/maatregelen/autorisatiematrix_inrichten.md b/docs/maatregelen/autorisatiematrix_inrichten.md index ccd1399e32..2b629f8822 100644 --- a/docs/maatregelen/autorisatiematrix_inrichten.md +++ b/docs/maatregelen/autorisatiematrix_inrichten.md @@ -16,15 +16,17 @@ rollen: - aanbieder - security-officer - inkoopadviseur +hide: +- navigation --- + ## Maatregel Uitsluitend bevoegde personen mogen de data verwerken en mogen werken aan de ontwikkeling van de algoritmes en AI-systemen. Maak hierover afspraken met de aanbieder. - ## Toelichting Stel een RACI-matrix op en definieer rollen en verantwoordelijkheden. diff --git a/docs/maatregelen/bepalende_invloed_besluit_richting_personen.md b/docs/maatregelen/bepalende_invloed_besluit_richting_personen.md index a16e78a35a..742aead09b 100644 --- a/docs/maatregelen/bepalende_invloed_besluit_richting_personen.md +++ b/docs/maatregelen/bepalende_invloed_besluit_richting_personen.md @@ -15,6 +15,8 @@ rollen: - inkoopadviseur - ethicus - jurist +hide: +- navigation --- diff --git a/docs/maatregelen/bespreek_vereiste_met_aanbieder.md b/docs/maatregelen/bespreek_vereiste_met_aanbieder.md new file mode 100644 index 0000000000..ff7a44688c --- /dev/null +++ b/docs/maatregelen/bespreek_vereiste_met_aanbieder.md @@ -0,0 +1,117 @@ +--- +# vul hier een titel in voor deze maatregel +title: Bespreek de vereiste met aanbieder of opdrachtnemer +# geef hier een korte toelichting van deze maatregel +toelichting: Ga met aanbieder of opdrachtnemer in gesprek over in hoeverre invulling is gegeven of kan worden gegeven aan de vereiste. +# vul hier de bestandsnamen in van de vereisten die horen bij deze maatregel +vereiste: +- archiefwet +- Recht_op_uitleg_AI-besluiten +- Verplichtingen_van_aanbieders_van_ai_modellen_voor_algemene_doeleinden +- archiefwet +- auteursrechten +- beveiliging_informatie_en_informatiesystemen +- beveiliging_van_verwerking +- databankenwet +- melding_ernstige_incidenten +- automatische_logregistratie +- beperkte_bewaartermijn_van_persoonsgegevens +- bescherming_van_kwetsbare_groepen +- beschrijven_en_toewijzen_van_verantwoordelijkheden_bij_verwerking_persoonsgegevens +- bevorder_ai_geletterdheid_personeel +- bewaartermijn_voor_documentatie +- bewaartermijn_voor_gegenereerde_logs +- corrigerende_maatregelen_voor_non_conforme_ai +- uitzonderlijk_verwerken_ bijzondere_categorieen_persoonsgegevens +- documentatie_beoordeling_niet_hoog_risico_ai +- persoonsgegevens_worden_rechtmatig_verwerkt +- fundamentele_rechten +- geb_dpia_verplicht_bij_hoog_risico +- juistheid_en_actualiteit_van_persoonsgegevens +- kwaliteitsbeheersysteem_voor_hoog_risico_ai +- kwaliteitscriteria_voor_data +- maatregelen_van_gebruiksverantwoordelijken_voor_gebruik +- beoordelen_gevolgen_voor_grondrechten +- monitoring_na_het_in_de_handel_brengen +- non_discriminatie +- ontwerp_voor_nauwkeurigheid_robuustheid_en_cyberbeveiliging +- minimale_verwerking_van_persoonsgegevens +- privacy_bij_ontwerp_bij_verwerking_van_persoonsgegevens +- inroepen_privacyrecht_bij_verwerking_persoonsgegevens +- recht_op_niet_geautomatiseerd_besluitvorming +- recht_op_uitleg_ai_besluiten +- risicobeheersing +- risicobeoordeling_voor_jongeren_en_kwetsbaren +- technische_documentatie_voor_hoog_risico_ai +- toezichtmogelijkheden_voor_gebruikers +- traceerbare_besluitvorming +- transparantie +- transparantie_bij_verwerken_persoonsgegevens +- verplicht_risicobeheersysteem_voor_hoog_risico_ai +- Verplichtingen_van_aanbieders_van_ai_modellen_voor_algemene_doeleinden_ +- Verplichtingen_van_aanbieders_van_ai_modellen_voor_algemene_doeleinden_met_systeemrisico +- ai_modellen_algemene_doeleinden_syteemrisico_informatie_ernstige_incidenten +- ai_modellen_algemene_doeleinden_syteemrisico_cyberbeveiliging +- registratieverplichtingen_hoog_risico +- EU_conformiteitsverklaring_hoog_risico +- conformiteitsbeoordelingsprocedure_hoog_risico +- aantoonbaarheid_vereisten_hoog_risico +- toegankelijkheidseisen_hoog_risico +- verstrekking_van_informatie_op_verzoek +- verdere_verwerking_van_persoonsgegevens_in_ai_testomgevingen +- wettelijke_verwerking_van_gevoelige_gegevens +- recht_op_toegang_tot_publieke_informatie +- algoritmeregister +- beginsel_van_proportionaliteit_en_subsidiariteit + +# vul hier de fasen van de levenscyclus in die horen bij deze maatregel +levenscyclus: +- ontwerp +- ontwikkelen +# vul hier de bouwblokken in die horen bij deze maatregel +bouwblok: +- publieke-inkoop + +# geef hier aan welke rollen bij deze maatregelen betrokken kunnen zijn +rollen: +- proceseigenaar +- behoeftesteller +- inkoopadviseur +- contractbeheerder +- aanbestedingsjurist +- aanbieder +- opdrachtnemer + +hide: +- navigation + +--- + + + + +## Maatregel + +Bespreek de vereiste met aanbieder. + +## Toelichting + +Ga met een aanbieder en/of met opdrachtnemers in gesprek over in hoeverre deze invulling heeft gegeven of gaat geven aan de vereiste. Op basis van nieuwe of gewijzigde wet- en regelgeving is het denkbaar dat een aanbieder van algoritmes of AI-systemen nog niet of niet meer voldoet aan deze vereiste. Indien van toepassing, laat de aanbieder inzichtelijk maken welke stappen deze gaat zetten om hieraan te gaan voldoen. Dit is ook relevant bij reeds afgesloten contracten. + +## Bijbehorende vereiste(n) + + + + + +## Bronnen + + +| Bron | +|-----------------------------| +| Algoritmekader | + +## Voorbeeld + + +Heb je een voorbeeld of best practice, laat het ons weten via [algoritmes@minbzk.nl](mailto:algoritmes@minbzk.nl) diff --git a/docs/maatregelen/betrek_belanghebbenden.md b/docs/maatregelen/betrek_belanghebbenden.md index e712313b1a..6e1cbf750f 100644 --- a/docs/maatregelen/betrek_belanghebbenden.md +++ b/docs/maatregelen/betrek_belanghebbenden.md @@ -17,6 +17,8 @@ levenscyclus: # vul hier de bouwblokken in die horen bij deze maatregel bouwblok: - fundamentele-rechten +hide: +- navigation --- @@ -62,14 +64,14 @@ Terugkoppelen aan buitenwereld. ## Bronnen -| Bron | -|-----------------------------| -| [Toetsingskader Algemene Rekenkamer 2.09](https://www.rekenkamer.nl/onderwerpen/algoritmes-digitaal-toetsingskader) | -| [The Fairness Handbook](https://openresearch.amsterdam/nl/media/inline/2022/7/14/fairness_handbook.pdf) | -| [Handreiking non-discriminatie by design](https://open.overheid.nl/repository/ronl-3f9fa69c-acf4-444d-96e1-5c48df00eb3c/1/pdf/bijlage-1-handreiking-non-discriminatie-by-design.pdf) | -| Ethics Guidelines for Trustworthy AI | - +| Bron | +|--------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------| +| [Toetsingskader Algemene Rekenkamer 2.12](https://www.rekenkamer.nl/onderwerpen/algoritmes/documenten/publicaties/2024/05/15/het-toetsingskader-aan-de-slag) | +| [The Fairness Handbook](https://openresearch.amsterdam/nl/media/inline/2022/7/14/fairness_handbook.pdf) | +| [Handreiking non-discriminatie by design](https://open.overheid.nl/repository/ronl-3f9fa69c-acf4-444d-96e1-5c48df00eb3c/1/pdf/bijlage-1-handreiking-non-discriminatie-by-design.pdf) | +| Ethics Guidelines for Trustworthy AI | +| [Onderzoekskader Algoritmes Auditdienst Rijk, SV.10](https://www.rijksoverheid.nl/documenten/rapporten/2023/07/11/onderzoekskader-algoritmes-adr-2023) | ## Risico diff --git a/docs/maatregelen/configuratie_met_de_mens.md b/docs/maatregelen/configuratie_met_de_mens.md index 53fcc1a265..244d5e8c90 100644 --- a/docs/maatregelen/configuratie_met_de_mens.md +++ b/docs/maatregelen/configuratie_met_de_mens.md @@ -17,6 +17,8 @@ levenscyclus: bouwblok: - governance - menselijke-controle +hide: +- navigation --- diff --git a/docs/maatregelen/contractuele_afspraken_data_en_artefacten.md b/docs/maatregelen/contractuele_afspraken_data_en_artefacten.md index 2c7df84c4c..b5789e19f7 100644 --- a/docs/maatregelen/contractuele_afspraken_data_en_artefacten.md +++ b/docs/maatregelen/contractuele_afspraken_data_en_artefacten.md @@ -15,6 +15,8 @@ rollen: - contractbeheerder - aanbestedingsjurist - aanbieder +hide: +- navigation --- diff --git a/docs/maatregelen/controle_eigen_data_schending_auteursrechten.md b/docs/maatregelen/controle_eigen_data_schending_auteursrechten.md index e3d4a1ead8..0a4630f0de 100644 --- a/docs/maatregelen/controle_eigen_data_schending_auteursrechten.md +++ b/docs/maatregelen/controle_eigen_data_schending_auteursrechten.md @@ -12,6 +12,8 @@ rollen: - proceseigenaar - informatiebeheerder - jurist +hide: +- navigation --- diff --git a/docs/maatregelen/controle_mechanisme_betekenisvolle_menselijke_tussenkomst.md b/docs/maatregelen/controle_mechanisme_betekenisvolle_menselijke_tussenkomst.md index 19b143372a..2280bf882b 100644 --- a/docs/maatregelen/controle_mechanisme_betekenisvolle_menselijke_tussenkomst.md +++ b/docs/maatregelen/controle_mechanisme_betekenisvolle_menselijke_tussenkomst.md @@ -12,6 +12,8 @@ rollen: - proceseigenaar - gebruiker - aanbieder +hide: +- navigation --- diff --git a/docs/maatregelen/creeer_ruimte_voor_samenwerking_in_contract.md b/docs/maatregelen/creeer_ruimte_voor_samenwerking_in_contract.md new file mode 100644 index 0000000000..20a49c537a --- /dev/null +++ b/docs/maatregelen/creeer_ruimte_voor_samenwerking_in_contract.md @@ -0,0 +1,93 @@ +--- +# vul hier een titel in voor deze maatregel +title: Creëer ruimte in het contract om opdrachtgever en aanbieder/opdrachtnemer te laten samenwerken om deze vereiste te realiseren. +# geef hier een korte toelichting van deze maatregel +toelichting: Om op een betekenisvolle manier invulling te geven bepaalde vereisten, kan het nodig zijn dat de opdrachtgever en aanbieder/opdrachtnemer (innovatief) samenwerken om deze vereiste te realiseren. +# vul hier de bestandsnamen in van de vereisten die horen bij deze maatregel +vereiste: +- Recht_op_uitleg_AI-besluiten +- auteursrechten +- databankenwet +- bescherming_van_kwetsbare_groepen +- bevorder_ai_geletterdheid_personeel +- corrigerende_maatregelen_voor_non_conforme_ai +- fundamentele_rechten +- juistheid_en_actualiteit_van_persoonsgegevens +- kwaliteitsbeheersysteem_voor_hoog_risico_ai +- kwaliteitscriteria_voor_data +- maatregelen_van_gebruiksverantwoordelijken_voor_gebruik +- beoordelen_gevolgen_voor_grondrechten +- monitoring_na_het_in_de_handel_brengen +- non_discriminatie +- ontwerp_voor_nauwkeurigheid_robuustheid_en_cyberbeveiliging +- minimale_verwerking_van_persoonsgegevens +- privacy_bij_ontwerp_bij_verwerking_van_persoonsgegevens +- inroepen_privacyrecht_bij_verwerking_persoonsgegevens +- recht_op_niet_geautomatiseerd_besluitvorming +- risicobeheersing +- risicobeoordeling_voor_jongeren_en_kwetsbaren +- toezichtmogelijkheden_voor_gebruikers +- traceerbare_besluitvorming +- transparantie +- transparantie_bij_verwerken_persoonsgegevens +- verplicht_risicobeheersysteem_voor_hoog_risico_ai +- Verplichtingen_van_aanbieders_van_ai_modellen_voor_algemene_doeleinden_ +- Verplichtingen_van_aanbieders_van_ai_modellen_voor_algemene_doeleinden_met_systeemrisico +- aantoonbaarheid_vereisten_hoog_risico +- toegankelijkheidseisen_hoog_risico +- verstrekking_van_informatie_op_verzoek +- wettelijke_verwerking_van_gevoelige_gegevens +- recht_op_toegang_tot_publieke_informatie +- beginsel_van_proportionaliteit_en_subsidiariteit + +# vul hier de fasen van de levenscyclus in die horen bij deze maatregel +levenscyclus: +- ontwerp +- ontwikkelen +# vul hier de bouwblokken in die horen bij deze maatregel +bouwblok: +- publieke-inkoop + +# geef hier aan welke rollen bij deze maatregelen betrokken kunnen zijn +rollen: +- proceseigenaar +- behoeftesteller +- inkoopadviseur +- aanbestedingsjurist + +hide: +- navigation +--- + + + + +## Maatregel + +Creëer ruimte in het contract om opdrachtgever en aanbieder/opdrachtnemer te laten samenwerken om deze vereiste te realiseren. + +## Toelichting + +Om op een betekenisvolle manier invulling te geven aan bepaalde vereisten, kan het noodzakelijk zijn dat de opdrachtgever en aanbieder/opdrachtnemer (innovatief) moeten samenwerken. Op basis van nieuwe wet- en regelgeving (bv. AI-Verordening) kunnen aanbieders mogelijk nog niet voldoen aan deze nieuwe vereisten of is onduidelijk op welke manier hier invulling aan moet worden gegeven. +In de context van algoritmes en AI kan het voor bepaalde onderwerpen zoals non-discriminatie, transparantie en eerbiedigen van fundamentele rechten van belang zijn om samen te verkennen hoe hier invulling aan moet worden gegeven. Het is belangrijk om bij de behoeftestelling al te verkennen op welke onderwerpen dit mogelijk van toepassing is. + + +## Bijbehorende vereiste(n) + + + + + +## Bronnen + + +| Bron | +|-----------------------------| +| Algoritmekader | +| [Ruimte voor Innovatie in het contract](https://www.pianoo.nl/sites/default/files/media/documents/Inspiratiebundel-Ruimte-voor-innovatie-in-het-contract-juni2020.pdf)| + + +## Voorbeeld + + +Heb je een voorbeeld of best practice, laat het ons weten via [algoritmes@minbzk.nl](mailto:algoritmes@minbzk.nl) diff --git a/docs/maatregelen/dataminimalisatie_pseudonimisering_anonimisering_aggregeren_persoonsgegevens.md b/docs/maatregelen/dataminimalisatie_pseudonimisering_anonimisering_aggregeren_persoonsgegevens.md index 176f077310..b91b46c3bb 100644 --- a/docs/maatregelen/dataminimalisatie_pseudonimisering_anonimisering_aggregeren_persoonsgegevens.md +++ b/docs/maatregelen/dataminimalisatie_pseudonimisering_anonimisering_aggregeren_persoonsgegevens.md @@ -16,6 +16,8 @@ rollen: - data-engineer - security-officer - privacy-officer +hide: +- navigation --- @@ -23,11 +25,8 @@ rollen: Pas maatregelen toe als dataminimalisatie, pseudonimisering, anonimisering of aggregeren van persoonsgegevens bij het verwerken van de (trainings)data. - ## Toelichting - - ## Bijbehorende vereiste(n) diff --git a/docs/maatregelen/formuleren_doelstellling.md b/docs/maatregelen/formuleren_doelstellling.md new file mode 100644 index 0000000000..cba57eb935 --- /dev/null +++ b/docs/maatregelen/formuleren_doelstellling.md @@ -0,0 +1,58 @@ +--- +title: Formuleren doelstelling +toelichting: Het doel en de eventuele subdoelen van het algoritme moeten zo specifiek mogelijk zijn geformuleerd, en waar mogelijk gekwantificeerd. +vereiste: +- zorgvuldigheidsbeginsel +levenscyclus: +- probleemanalyse +bouwblok: +- governance +rollen: +- projectleider +- opdrachtgever +- domeinspecialist +hide: +- navigation +--- + + + +## Maatregel + +Het doel en de eventuele subdoelen van het algoritme moeten zo specifiek mogelijk zijn geformuleerd, en waar mogelijk gekwantificeerd. +Maak de consequenties van het algoritme specifiek en zorg dat het doel van het algoritme formeel is vastgesteld en vastgelegd. + +## Toelichting + +- Het doel van de inzet van een algoritme dient zo concreet en specifiek mogelijk gedefinieerd te worden. +Indien er meerdere doelen zijn, is het belangrijk om een zekere rangorde te maken: wat zijn de belangrijkste doelen? En waarom? +Welke doelen zijn subdoelen, waarvoor het minder belangrijk is om deze te realiseren? + +- Indien mogelijk, dienen de doelstellingen gekwantificeerd te worden (SMART). + +- Om te zorgen voor voldoende draagvlak voor de beoogde doelen, is het noodzaak om [voldoende belanghebbenden te betrekken](../maatregelen/betrek_belanghebbenden.md). +Hierbij kan het ook helpen om burgers te betrekken bij de totstandkoming van de doelstellingen, bijvoorbeeld door middel van een burgerpanel of het betrekken van belangengroepen. + +## Bijbehorende vereiste(n) + + + +## Risico +Het algoritme dient niet het beoogde doel en onderliggend probleem. +Zonder eenduidigheid over het doel is geen sturing op en verantwoording over het algoritme mogelijk. +Er is dan een groter risico op fouten en/of verschillen in interpretatie. + +Wanneer doelstellingen niet meetbaar zijn gemaakt, is het onmogelijk om achteraf te kwantificeren of de doelstellingen zijn behaald. +Doelstellingen zijn in dat geval moeilijk bespreekbaar. + +## Bronnen +| Bron | +|--------------------------------------------------------------------------------------------------------------------------------------------------------------------------| +| [Toetsingskader Algoritmes Algemene Rekenkamer, 1.01, 1.02](https://www.rekenkamer.nl/onderwerpen/algoritmes/documenten/publicaties/2024/05/15/het-toetsingskader-aan-de-slag) | +| [Impact Assessment Mensenrechten en Algoritmes, 1.2](https://www.rijksoverheid.nl/documenten/rapporten/2021/02/25/impact-assessment-mensenrechten-en-algoritmes) | +| [Onderzoekskader Algoritmes Auditdienst Rijk, SV.3](https://www.rijksoverheid.nl/documenten/rapporten/2023/07/11/onderzoekskader-algoritmes-adr-2023) | + +## Voorbeeld + +Heb jij een goed voorbeeld? Laat het ons weten! + diff --git a/docs/maatregelen/formuleren_probleemdefinitie.md b/docs/maatregelen/formuleren_probleemdefinitie.md new file mode 100644 index 0000000000..5f1f1ade57 --- /dev/null +++ b/docs/maatregelen/formuleren_probleemdefinitie.md @@ -0,0 +1,44 @@ +--- +title: Formuleren aanleiding en probleemdefinitie +toelichting: Formuleer en documenteer wat de aanleiding is om een algoritme of AI-systeem in te willen zetten. +vereiste: +- zorgvuldigheidsbeginsel +levenscyclus: +- probleemanalyse +bouwblok: +- governance +rollen: +- projectleider +- opdrachtgever +- domeinspecialist +hide: +- navigation +--- + + + +## Maatregel +Formuleer en documenteer wat de aanleiding is om een algoritme of AI-systeem in te willen zetten. +Formuleer duidelijk de probleemdefinitie en probleemafbakening waarvoor het algoritme een oplossing zou moeten vormen. + +## Toelichting +Formuleer de probleemdefinitie en probleemafbakening zo concreet en precies mogelijk. Maak dit waar mogelijk kwantificeerbaar. + +## Bijbehorende vereiste(n) + + + +## Risico +Het algoritme dient niet het onderliggende probleem. +Zonder eenduidigheid over het op te lossen probleem is geen sturing op en verantwoording over het algoritme mogelijk. + +## Bronnen +| Bron | +|--------------------------------------------------------------------------------------------------------------------------------------------------------------------------| +| [Impact Assessment Mensenrechten en Algoritmes, 1.1](https://www.rijksoverheid.nl/documenten/rapporten/2021/02/25/impact-assessment-mensenrechten-en-algoritmes) | +| [Onderzoekskader Algoritmes Auditdienst Rijk, SV.1](https://www.rijksoverheid.nl/documenten/rapporten/2023/07/11/onderzoekskader-algoritmes-adr-2023) | + +## Voorbeeld + +Heb jij een goed voorbeeld? Laat het ons weten! + diff --git a/docs/maatregelen/Getroffen_maatregelen_van_aanbieder_voorkomen_schending_auteursrechten.md b/docs/maatregelen/getroffen_maatregelen_van_aanbieder_voorkomen_schending_auteursrechten.md similarity index 98% rename from docs/maatregelen/Getroffen_maatregelen_van_aanbieder_voorkomen_schending_auteursrechten.md rename to docs/maatregelen/getroffen_maatregelen_van_aanbieder_voorkomen_schending_auteursrechten.md index 7ec7a2fb8b..91554c4dc1 100644 --- a/docs/maatregelen/Getroffen_maatregelen_van_aanbieder_voorkomen_schending_auteursrechten.md +++ b/docs/maatregelen/getroffen_maatregelen_van_aanbieder_voorkomen_schending_auteursrechten.md @@ -15,6 +15,8 @@ rollen: - contractbeheerder - aanbestedingsjurist - aanbieder +hide: +- navigation --- diff --git a/docs/maatregelen/index.md b/docs/maatregelen/index.md index 20eba77af3..e0cbb360fd 100644 --- a/docs/maatregelen/index.md +++ b/docs/maatregelen/index.md @@ -1,5 +1,7 @@ --- title: Maatregelen +hide: +- navigation --- De maatregelen die zijn opgenomen in het Algoritmekader geven aan 'hoe' overheidsorganisaties invulling *kunnen* geven aan specifieke vereisten. @@ -18,7 +20,7 @@ Het is ook denkbaar dat bepaalde maatregelen aan meerdere vereisten kunnen worde Dit moet organisaties helpen om met hun beschikbare middelen effectief en gericht te komen tot een verantwoorde ontwikkeling en inzet van algoritmes en AI. Om tot een overzicht van de maatregelen te komen is naar een aantal waardevolle bronnen gekeken. -Het [Toetsingskader Algoritmes](https://www.rekenkamer.nl/onderwerpen/algoritmes-digitaal-toetsingskader) van de Algemene Rekenkamer en het [Onderzoekskader algoritmes](https://www.rijksoverheid.nl/documenten/rapporten/2023/07/11/onderzoekskader-algoritmes-adr-2023)van de Auditdienst Rijk zijn daar goede voorbeelden van. +Het [Toetsingskader Algoritmes](https://www.rekenkamer.nl/onderwerpen/algoritmes/documenten/publicaties/2024/05/15/het-toetsingskader-aan-de-slag) van de Algemene Rekenkamer en het [Onderzoekskader algoritmes](https://www.rijksoverheid.nl/documenten/rapporten/2023/07/11/onderzoekskader-algoritmes-adr-2023)van de Auditdienst Rijk zijn daar goede voorbeelden van. Daarnaast is ook de kennis van experts binnen en buiten het team Algoritmekader toegevoegd om te kunnen duiden welke maatregelen in de praktijk kunnen worden getroffen om te voldoen aan de vereisten. ## Standaarden @@ -31,6 +33,39 @@ Waar mogelijk zullen de standaarden onderdeel worden van het Algoritmekader en t Er zal een verwijzing worden gemaakt naar de betreffende standaard. Hierover moeten nog nadere afspraken worden gemaakt met deze standaardisatieorganisaties. +## Overzicht van maatregelen + +Onderstaand volgt een overzicht van maatregelen per fase van de levenscyclus. + +??? simple "Probleemanalyse" + + + +??? simple "Ontwerp" + + + +??? simple "Dataverkenning en datapreparatie" + + + +??? simple "Ontwikkelen" + + + +??? simple "Verificatie en validatie" + + + +??? simple "Implementatie" + + + +??? simple "Monitoring en beheer" + + + +??? simple "Uitfaseren" + + -!!! note "Opmerking" - Hier volgt in een volgende versie een opsomming van de maatregelen. \ No newline at end of file diff --git a/docs/maatregelen/kwetsbare_groepen.md b/docs/maatregelen/kwetsbare_groepen.md new file mode 100644 index 0000000000..3d25b61b06 --- /dev/null +++ b/docs/maatregelen/kwetsbare_groepen.md @@ -0,0 +1,57 @@ +--- +title: Kwetsbare groepen in kaart brengen en beschermen +toelichting: Bepaal wat de impact van het in te zetten algoritme is voor betrokkenen (personen of groepen). Bepaal vervolgens of de er groepen zijn waarbij de impact van het algoritme dermate groot kan zijn, dat het wenselijk is om deze groepen extra bescherming te bieden. +vereiste: +- tbd +levenscyclus: +- ontwerp +bouwblok: +- fundamentele-rechten +rollen: +- projectleider +- opdrachtgever +- ethicus +hide: +- navigation +--- + + + +## Maatregel +Bepaal wat de impact van het in te zetten algoritme is voor betrokkenen (personen of groepen). +Bepaal vervolgens of er groepen zijn waarbij de impact van het algoritme dermate groot kan zijn, dat het wenselijk is om deze groepen extra bescherming te bieden. + +## Toelichting +- Verschillende groepen kunnen op een andere manier geraakt worden door het inzetten van een algoritme. Dit is afhankelijk van de context waarin het algoritme wordt ingezet, en dient daardoor bij iedere toepassing opnieuw bekeken te worden. +- Bedenk wat er met de uitkomsten van het algoritme gedaan wordt, en wat de consequenties daarvan zijn voor burgers. Hierbij kan gedacht worden aan de volgende aspecten: + - Worden bepaalde groepen sneller gemonitord? + - Wat als het model het fout heeft? + - Wordt het systeem gebruikt om informatie te verkrijgen, om besluiten voor te bereiden of om zelfstandige besluiten te nemen en welke gevolgen heeft dat voor de mate waarin het algoritme bepalend zal zijn in de praktijk? + - Worden de gegevens veilig en vertrouwelijk behandeld; welke gevolgen zou een datalek hebben voor groepen of categorieën personen? + - Worden data gedeeld met andere partijen en wat is het gevaar dat die misbruik maken van de data met negatieve gevolgen voor groepen of categorieën personen? +- Houd hierbij ook rekening met de impact van het in te zetten algoritme op de samenleving (vanuit sociaal, democratisch en milieu/ecologisch perspectief). +- Om de impact op groepen te bepalen, kan het handig zijn een mensenrechtentoets zoals het [Impact Assessment Mensenrechten en Algoritmes](https://open.overheid.nl/documenten/ronl-c3d7fe94-9c62-493f-b858-f56b5e246a94/pdf) toe te passen. +- Bepaal of er maatregelen genomen kunnen worden om de geïdentificeerde groepen extra bescherming te bieden. Hierbij kan men denken aan de volgende aspecten: Kan de (extra) administratieve druk voor bepaalde groepen worden weggenomen? Worden resultaten van het algoritme naast de resultaten van een expert gelegd? Is het wenselijk om een proces in te richten waarbij zowel algoritme als een expert een uitkomst geven? Kunnen we de betreffende groep extra hulp aanbieden? Is het wenselijk bij negatieve uitkomsten een vier-ogen-principe toe te passen? +- De impact van het algoritme op de groepen die geïdentificeerd worden in deze stap, kunnen mogelijk onderzocht worden in een [biasanalyse](../bouwblokken/bias-en-non-discriminatie/index.md). Daarbij kan geidentificeerd worden of bepaalde groepen oververtegenwoordigd of ondervertegenwoordigd zijn in selecties, of dat het algoritme andere of meer fouten maakt voor bepaalde groepen. +- Merk op dat het onmogelijk is om de risico's voor alle specifieke groepen af te vangen. Hierbij kan het helpen om te focussen op de meest kwetsbare groepen. + +## Bijbehorende vereiste(n) + + + +## Risico +De impact van het algoritme op de besluitvorming en op personen, doelgroepen en/of de samenleving is niet inzichtelijk, waardoor onvoldoende maatregelen zijn getroffen om ongewenste effecten (zoals bias en discriminatie) te voorkomen. + +## Bronnen +| Bron | +|-------------------------------------------------------------------------------------------------------------------------------------------------------| +| [Onderzoekskader Algoritmes Auditdienst Rijk, SV.4](https://www.rijksoverheid.nl/documenten/rapporten/2023/07/11/onderzoekskader-algoritmes-adr-2023) | +| [Kamerstukken II 2023/24, 31066-1374](https://www.tweedekamer.nl/downloads/document?id=2024D15214) | +| [Impact Assessment Mensenrechten en Algoritmes, 4.1](https://open.overheid.nl/documenten/ronl-c3d7fe94-9c62-493f-b858-f56b5e246a94/pdf) | +| [Handreiking non-discriminatie by design, 1.7 en 1.8 en 1.15](https://open.overheid.nl/documenten/ronl-3f9fa69c-acf4-444d-96e1-5c48df00eb3c/pdf) | + + +## Voorbeeld + +Heb jij een goed voorbeeld? Laat het ons weten! + diff --git a/docs/maatregelen/leveren_bewijs_niet_schenden_auteursrechten_output.md b/docs/maatregelen/leveren_bewijs_niet_schenden_auteursrechten_output.md index 81e3780da8..f9c518bfea 100644 --- a/docs/maatregelen/leveren_bewijs_niet_schenden_auteursrechten_output.md +++ b/docs/maatregelen/leveren_bewijs_niet_schenden_auteursrechten_output.md @@ -15,6 +15,8 @@ rollen: - contractbeheerder - aanbestedingsjurist - gemandateerd-verantwoordelijke +hide: +- navigation --- diff --git a/docs/maatregelen/leveren_bewijs_niet_schenden_auteursrechten_trainingsdata.md b/docs/maatregelen/leveren_bewijs_niet_schenden_auteursrechten_trainingsdata.md index 4647e47c33..2808fd4b7b 100644 --- a/docs/maatregelen/leveren_bewijs_niet_schenden_auteursrechten_trainingsdata.md +++ b/docs/maatregelen/leveren_bewijs_niet_schenden_auteursrechten_trainingsdata.md @@ -14,6 +14,8 @@ rollen: - inkoopadviseur - contractbeheerder - aanbestedingsjurist +hide: +- navigation --- @@ -47,7 +49,7 @@ Overweeg om een bronvermelding te laten opnemen. | Bron | |-----------------------------| |Algoritmekader| -|https://open.overheid.nl/documenten/16d72572-da6b-422c-8cf8-cdc95a523093/file| +| [Advies Landsadvocaat Pels Rijcken over het gebruik van generatieve AI-tools door medewerkers van de Staat](https://www.rijksoverheid.nl/documenten/brieven/2023/10/10/1-advies-landsadvocaat-pels-rijcken) | ## Voorbeeld diff --git a/docs/maatregelen/leveren_bewijs_onderdeel_beoordeling_inschrijving.md.md b/docs/maatregelen/leveren_bewijs_onderdeel_beoordeling_inschrijving.md.md new file mode 100644 index 0000000000..3685494669 --- /dev/null +++ b/docs/maatregelen/leveren_bewijs_onderdeel_beoordeling_inschrijving.md.md @@ -0,0 +1,70 @@ +--- +# vul hier een titel in voor deze maatregel +title: Maak het leveren van bewijs voor het voldoen aan de vereiste onderdeel van de beoordeling van een inschrijving +# geef hier een korte toelichting van deze maatregel +toelichting: Door aanbieders bewijs te laten leveren dat zij voldoen aan de vereiste, kan worden beoordeeld in hoeverre daadwerkelijk wordt voldaan aan deze vereiste. +# vul hier de bestandsnamen in van de vereisten die horen bij deze maatregel +vereiste: +- Recht_op_uitleg_AI-besluiten +- auteursrechten +- databankenwet +- bescherming_van_kwetsbare_groepen +- bevorder_ai_geletterdheid_personeel +- corrigerende_maatregelen_voor_non_conforme_ai +- uitzonderlijk_verwerken_ bijzondere_categorieen_persoonsgegevens +- fundamentele_rechten +- kwaliteitsbeheersysteem_voor_hoog_risico_ai +- kwaliteitscriteria_voor_data +- beoordelen_gevolgen_voor_grondrechten +- non_discriminatie +- minimale_verwerking_van_persoonsgegevens +- privacy_bij_ontwerp_bij_verwerking_van_persoonsgegevens +- recht_op_niet_geautomatiseerd_besluitvorming +- risicobeheersing +- risicobeoordeling_voor_jongeren_en_kwetsbaren +- toezichtmogelijkheden_voor_gebruikers +- traceerbare_besluitvorming +- transparantie +- transparantie_bij_verwerken_persoonsgegevens +- verplicht_risicobeheersysteem_voor_hoog_risico_ai +- toegankelijkheidseisen_hoog_risico +- verstrekking_van_informatie_op_verzoek +- recht_op_toegang_tot_publieke_informatie + +# vul hier de fasen van de levenscyclus in die horen bij deze maatregel +levenscyclus: +- ontwerp +- ontwikkelen +# vul hier de bouwblokken in die horen bij deze maatregel +bouwblok: +- publieke-inkoop +hide: +- navigation +--- + + + + +## Maatregel + + Maak het leveren van bewijs voor het voldoen aan de vereiste onderdeel van de beoordeling van een inschrijving + +## Toelichting + +Door de inschrijver/aanbieder bewijs te laten leveren dat deze voldoet aan de vereiste, kan worden beoordeeld door opdrachtgever in hoeverre daadwerkelijk wordt voldaan aan deze vereiste. Op deze manier worden inschrijvers/aanbieders aangespoord om te motiveren wat zij hebben gedaan om te voldoen aan de vereiste. + +## Bijbehorende vereiste(n) + + + + + +## Bronnen + + +| Bron | +|-----------------------------| +| Algoritmekader | + +## Voorbeeld + diff --git a/docs/maatregelen/maak_de_vereiste_onderdeel_van_programma_van_eisen.md b/docs/maatregelen/maak_de_vereiste_onderdeel_van_programma_van_eisen.md new file mode 100644 index 0000000000..41019a0548 --- /dev/null +++ b/docs/maatregelen/maak_de_vereiste_onderdeel_van_programma_van_eisen.md @@ -0,0 +1,111 @@ +--- +# vul hier een titel in voor deze maatregel +title: Maak de vereiste onderdeel van het programma van eisen +# geef hier een korte toelichting van deze maatregel +toelichting: Door de vereiste onderdeel te maken van het programma van eisen bij de aanbesteding, is het voor aanbieders duidelijk aan welke specifieke eisen hun oplossing moet voldoen. +# vul hier de bestandsnamen in van de vereisten die horen bij deze maatregel +vereiste: +- archiefwet +- Recht_op_uitleg_AI-besluiten +- Verplichtingen_van_aanbieders_van_ai_modellen_voor_algemene_doeleinden +- archiefwet +- auteursrechten +- beveiliging_informatie_en_informatiesystemen +- beveiliging_van_verwerking +- databankenwet +- melding_ernstige_incidenten +- automatische_logregistratie +- beperkte_bewaartermijn_van_persoonsgegevens +- bescherming_van_kwetsbare_groepen +- beschrijven_en_toewijzen_van_verantwoordelijkheden_bij_verwerking_persoonsgegevens +- bevorder_ai_geletterdheid_personeel +- bewaartermijn_voor_documentatie +- bewaartermijn_voor_gegenereerde_logs +- corrigerende_maatregelen_voor_non_conforme_ai +- uitzonderlijk_verwerken_ bijzondere_categorieen_persoonsgegevens +- documentatie_beoordeling_niet_hoog_risico_ai +- persoonsgegevens_worden_rechtmatig_verwerkt +- fundamentele_rechten +- geb_dpia_verplicht_bij_hoog_risico +- juistheid_en_actualiteit_van_persoonsgegevens +- kwaliteitsbeheersysteem_voor_hoog_risico_ai +- kwaliteitscriteria_voor_data +- maatregelen_van_gebruiksverantwoordelijken_voor_gebruik +- beoordelen_gevolgen_voor_grondrechten +- monitoring_na_het_in_de_handel_brengen +- non_discriminatie +- ontwerp_voor_nauwkeurigheid_robuustheid_en_cyberbeveiliging +- minimale_verwerking_van_persoonsgegevens +- privacy_bij_ontwerp_bij_verwerking_van_persoonsgegevens +- inroepen_privacyrecht_bij_verwerking_persoonsgegevens +- recht_op_niet_geautomatiseerd_besluitvorming +- recht_op_uitleg_ai_besluiten +- risicobeheersing +- risicobeoordeling_voor_jongeren_en_kwetsbaren +- technische_documentatie_voor_hoog_risico_ai +- toezichtmogelijkheden_voor_gebruikers +- traceerbare_besluitvorming +- transparantie +- transparantie_bij_verwerken_persoonsgegevens +- verplicht_risicobeheersysteem_voor_hoog_risico_ai +- Verplichtingen_van_aanbieders_van_ai_modellen_voor_algemene_doeleinden_ +- Verplichtingen_van_aanbieders_van_ai_modellen_voor_algemene_doeleinden_met_systeemrisico +- ai_modellen_algemene_doeleinden_syteemrisico_informatie_ernstige_incidenten +- ai_modellen_algemene_doeleinden_syteemrisico_cyberbeveiliging +- registratieverplichtingen_hoog_risico +- conformiteitsbeoordelingsprocedure_hoog_risico +- aantoonbaarheid_vereisten_hoog_risico +- toegankelijkheidseisen_hoog_risico +- verstrekking_van_informatie_op_verzoek +- wettelijke_verwerking_van_gevoelige_gegevens +- recht_op_toegang_tot_publieke_informatie +- algoritmeregister +- beginsel_van_proportionaliteit_en_subsidiariteit + +# vul hier de fasen van de levenscyclus in die horen bij deze maatregel +levenscyclus: +- ontwerp +- ontwikkelen +# vul hier de bouwblokken in die horen bij deze maatregel +bouwblok: +- publieke-inkoop +# geef hier aan welke rollen bij deze maatregelen betrokken kunnen zijn +rollen: +- proceseigenaar +- behoeftesteller +- data-scientist +- inkoopadviseur +- contractbeheerder +- aanbestedingsjurist +hide: +- navigation +--- + + + + +## Maatregel + + Maak de vereiste onderdeel van het programma van eisen + +## Toelichting + +Door de vereiste onderdeel te maken van het programma van eisen, is het voor aanbieders duidelijk dat hun oplossing hieraan moet voldoen. +Afhankelijk van de specifieke toepassing, context en noodzaak kan een vereiste in het programma van eisen concreet worden gemaakt. +Het is hierbij van belang om dit af te wegen tegen zaken die mogelijk al zijn geregeld door middel van algemene inkoopvoorwaarden die gelden voor algoritmes en AI. + +## Bijbehorende vereiste(n) + + + + + +## Bronnen + + +| Bron | +|-----------------------------| +| Algoritmekader | + +## Voorbeeld + diff --git a/docs/maatregelen/maak_vereiste_onder_van_contractvoorwaarden.md b/docs/maatregelen/maak_vereiste_onder_van_contractvoorwaarden.md new file mode 100644 index 0000000000..857ddad445 --- /dev/null +++ b/docs/maatregelen/maak_vereiste_onder_van_contractvoorwaarden.md @@ -0,0 +1,118 @@ +--- +# vul hier een titel in voor deze maatregel +title: Maak de vereiste onderdeel van contractvoorwaarden +# geef hier een korte toelichting van deze maatregel +toelichting: Door de vereiste onderdeel te maken van contractvoorwaarden, is het voor aanbieders vooraf duidelijk waar zij aan moeten voldoen. +# vul hier de bestandsnamen in van de vereisten die horen bij deze maatregel +vereiste: +- archiefwet +- Recht_op_uitleg_AI-besluiten +- Verplichtingen_van_aanbieders_van_ai_modellen_voor_algemene_doeleinden +- archiefwet +- auteursrechten +- beveiliging_informatie_en_informatiesystemen +- beveiliging_van_verwerking +- databankenwet +- melding_ernstige_incidenten +- automatische_logregistratie +- beperkte_bewaartermijn_van_persoonsgegevens +- bescherming_van_kwetsbare_groepen +- beschrijven_en_toewijzen_van_verantwoordelijkheden_bij_verwerking_persoonsgegevens +- bevorder_ai_geletterdheid_personeel +- bewaartermijn_voor_documentatie +- bewaartermijn_voor_gegenereerde_logs +- corrigerende_maatregelen_voor_non_conforme_ai +- uitzonderlijk_verwerken_bijzondere_categorieen_persoonsgegevens +- documentatie_beoordeling_niet_hoog_risico_ai +- persoonsgegevens_worden_rechtmatig_verwerkt +- fundamentele_rechten +- geb_dpia_verplicht_bij_hoog_risico +- juistheid_en_actualiteit_van_persoonsgegevens +- kwaliteitsbeheersysteem_voor_hoog_risico_ai +- kwaliteitscriteria_voor_data +- maatregelen_van_gebruiksverantwoordelijken_voor_gebruik +- beoordelen_gevolgen_voor_grondrechten +- monitoring_na_het_in_de_handel_brengen +- non_discriminatie +- ontwerp_voor_nauwkeurigheid_robuustheid_en_cyberbeveiliging +- minimale_verwerking_van_persoonsgegevens +- privacy_bij_ontwerp_bij_verwerking_van_persoonsgegevens +- inroepen_privacyrecht_bij_verwerking_persoonsgegevens +- recht_op_niet_geautomatiseerd_besluitvorming +- recht_op_uitleg_ai_besluiten +- risicobeheersing +- risicobeoordeling_voor_jongeren_en_kwetsbaren +- technische_documentatie_voor_hoog_risico_ai +- toezichtmogelijkheden_voor_gebruikers +- traceerbare_besluitvorming +- transparantie +- transparantie_bij_verwerken_persoonsgegevens +- verplicht_risicobeheersysteem_voor_hoog_risico_ai +- Verplichtingen_van_aanbieders_van_ai_modellen_voor_algemene_doeleinden_ +- Verplichtingen_van_aanbieders_van_ai_modellen_voor_algemene_doeleinden_met_systeemrisico +- ai_modellen_algemene_doeleinden_syteemrisico_informatie_ernstige_incidenten +- ai_modellen_algemene_doeleinden_syteemrisico_cyberbeveiliging +- registratieverplichtingen_hoog_risico +- EU_conformiteitsverklaring_hoog_risico +- conformiteitsbeoordelingsprocedure_hoog_risico +- aantoonbaarheid_vereisten_hoog_risico +- toegankelijkheidseisen_hoog_risico +- verstrekking_van_informatie_op_verzoek +- verdere_verwerking_van_persoonsgegevens_in_ai_testomgevingen +- wettelijke_verwerking_van_gevoelige_gegevens +- recht_op_toegang_tot_publieke_informatie +- beginsel_van_proportionaliteit_en_subsidiariteit + +# vul hier de fasen van de levenscyclus in die horen bij deze maatregel +levenscyclus: +- ontwerp +- ontwikkelen +# vul hier de bouwblokken in die horen bij deze maatregel +bouwblok: +- publieke-inkoop +# geef hier aan welke rollen bij deze maatregelen betrokken kunnen zijn +rollen: +- proceseigenaar +- behoeftesteller +- inkoopadviseur +- contractbeheerder +- aanbestedingsjurist +hide: +- navigation +--- + + + + +## Maatregel + +Maak de vereiste onderdeel van contractvoorwaarden + +## Toelichting + +Door de vereiste onderdeel te maken van contractvoorwaarden, is voor aanbieder vooraf duidelijk aan welke voorwaarden zij moeten voldoen als zijn algoritmes en AI-systemen willen aanbieden. +Het is van belang om een afweging te maken in welke gevallen contractvoorwaarden worden ingezet en welke vereisten daarbij horen. +Welke vereisten onderdeel moeten worden gemaakt van contractvoorwaarden is afhankelijk van de beoogde toepassing. +Er zijn meer vereiste van toepassing bij impactvolle en hoog risico AI-systemen, waarmee burgers potentieel in aanmerkelijke mate kunnen worden getroffen dan bij geen impactvolle of laag risico AI-systemen. + +## Bijbehorende vereiste(n) + + + + + +## Bronnen + + +| Bron | +|-----------------------------| +| Algoritmekader | +| [Contractvoorwaarden gemeente Amsterdam](https://www.amsterdam.nl/innovatie/digitalisering-technologie/algoritmen-ai/contractvoorwaarden-algoritmen/) | +| [Europese Inkoopvoorwaarden Hoog Risico](https://public-buyers-community.ec.europa.eu/sites/default/files/2023-10/AI_Procurement_Clauses_template_High_Risk%20NL.pdf) | +| [Europese Inkoopvoorwaarden Laag Risico](https://public-buyers-community.ec.europa.eu/sites/default/files/2023-10/AI_Procurement_Clauses_Template_NON_HIGH_RISK_NL.pdf)| + + +## Voorbeeld + + +Heb je een voorbeeld of best practice, laat het ons weten via [algoritmes@minbzk.nl](mailto:algoritmes@minbzk.nl) diff --git a/docs/maatregelen/maak_vereiste_onderdeel_van_contractovereenkomst.md b/docs/maatregelen/maak_vereiste_onderdeel_van_contractovereenkomst.md new file mode 100644 index 0000000000..b15dc3dddb --- /dev/null +++ b/docs/maatregelen/maak_vereiste_onderdeel_van_contractovereenkomst.md @@ -0,0 +1,108 @@ +--- +# vul hier een titel in voor deze maatregel +title: Maak de vereiste onderdeel van de contractovereenkomst +# geef hier een korte toelichting van deze maatregel +toelichting: Door de vereiste onderdeel te maken van de contractvereenkomst, worden deze contractueel afdwingbaar. +# vul hier de bestandsnamen in van de vereisten die horen bij deze maatregel +vereiste: +- archiefwet +- Recht_op_uitleg_AI-besluiten +- Verplichtingen_van_aanbieders_van_ai_modellen_voor_algemene_doeleinden +- archiefwet +- auteursrechten +- beveiliging_informatie_en_informatiesystemen +- beveiliging_van_verwerking +- databankenwet +- melding_ernstige_incidenten +- automatische_logregistratie +- beperkte_bewaartermijn_van_persoonsgegevens +- bescherming_van_kwetsbare_groepen +- beschrijven_en_toewijzen_van_verantwoordelijkheden_bij_verwerking_persoonsgegevens +- bevorder_ai_geletterdheid_personeel +- bewaartermijn_voor_documentatie +- bewaartermijn_voor_gegenereerde_logs +- corrigerende_maatregelen_voor_non_conforme_ai +- uitzonderlijk_verwerken_bijzondere_categorieen_persoonsgegevens +- documentatie_beoordeling_niet_hoog_risico_ai +- persoonsgegevens_worden_rechtmatig_verwerkt +- fundamentele_rechten +- geb_dpia_verplicht_bij_hoog_risico +- juistheid_en_actualiteit_van_persoonsgegevens +- kwaliteitsbeheersysteem_voor_hoog_risico_ai +- kwaliteitscriteria_voor_data +- maatregelen_van_gebruiksverantwoordelijken_voor_gebruik +- beoordelen_gevolgen_voor_grondrechten +- monitoring_na_het_in_de_handel_brengen +- non_discriminatie +- ontwerp_voor_nauwkeurigheid_robuustheid_en_cyberbeveiliging +- minimale_verwerking_van_persoonsgegevens +- privacy_bij_ontwerp_bij_verwerking_van_persoonsgegevens +- inroepen_privacyrecht_bij_verwerking_persoonsgegevens +- recht_op_niet_geautomatiseerd_besluitvorming +- recht_op_uitleg_ai_besluiten +- risicobeheersing +- risicobeoordeling_voor_jongeren_en_kwetsbaren +- technische_documentatie_voor_hoog_risico_ai +- toezichtmogelijkheden_voor_gebruikers +- traceerbare_besluitvorming +- transparantie +- transparantie_bij_verwerken_persoonsgegevens +- verplicht_risicobeheersysteem_voor_hoog_risico_ai +- Verplichtingen_van_aanbieders_van_ai_modellen_voor_algemene_doeleinden_ +- Verplichtingen_van_aanbieders_van_ai_modellen_voor_algemene_doeleinden_met_systeemrisico +- ai_modellen_algemene_doeleinden_syteemrisico_informatie_ernstige_incidenten +- ai_modellen_algemene_doeleinden_syteemrisico_cyberbeveiliging +- registratieverplichtingen_hoog_risico +- EU_conformiteitsverklaring_hoog_risico +- conformiteitsbeoordelingsprocedure_hoog_risico +- aantoonbaarheid_vereisten_hoog_risico +- toegankelijkheidseisen_hoog_risico +- verstrekking_van_informatie_op_verzoek +- verdere_verwerking_van_persoonsgegevens_in_ai_testomgevingen +- wettelijke_verwerking_van_gevoelige_gegevens +- recht_op_toegang_tot_publieke_informatie +- beginsel_van_proportionaliteit_en_subsidiariteit + +# vul hier de fasen van de levenscyclus in die horen bij deze maatregel +levenscyclus: +- ontwerp +- ontwikkelen +# vul hier de bouwblokken in die horen bij deze maatregel +bouwblok: +- publieke-inkoop +hide: +- navigation +--- + + + + +## Maatregel + +Maak de vereiste onderdeel van de contractovereenkomst + +## Toelichting + +Door de vereiste onderdeel te namen van de contractovereenkomst, zijn deze voorwaarden voor opdrachtgever richting aanbieder/opdrachtnemer afdwingbaar. Het is van belang dat bij de behoeftestelling een afweging wordt gemaakt in hoeverre de betreffende vereiste van toepassing is. + +## Bijbehorende vereiste(n) + + + + + +## Bronnen + + +| Bron | +|-----------------------------| +| Algoritmekader | +| [Contractvoorwaarden gemeente Amsterdam](https://www.amsterdam.nl/innovatie/digitalisering-technologie/algoritmen-ai/contractvoorwaarden-algoritmen/) | +| [Europese Inkoopvoorwaarden Hoog Risico](https://public-buyers-community.ec.europa.eu/sites/default/files/2023-10/AI_Procurement_Clauses_template_High_Risk%20NL.pdf) | +| [Europese Inkoopvoorwaarden Laag Risico](https://public-buyers-community.ec.europa.eu/sites/default/files/2023-10/AI_Procurement_Clauses_Template_NON_HIGH_RISK_NL.pdf) | + + +## Voorbeeld + + +Heb je een voorbeeld of best practice, laat het ons weten via [algoritmes@minbzk.nl](mailto:algoritmes@minbzk.nl) diff --git a/docs/maatregelen/maak_vereiste_onderdeel_van_service_level_agreement.md b/docs/maatregelen/maak_vereiste_onderdeel_van_service_level_agreement.md new file mode 100644 index 0000000000..fc19469be6 --- /dev/null +++ b/docs/maatregelen/maak_vereiste_onderdeel_van_service_level_agreement.md @@ -0,0 +1,71 @@ +--- +# vul hier een titel in voor deze maatregel +title: Maak de vereiste onderdeel van Service Level Agreement +# geef hier een korte toelichting van deze maatregel +toelichting: Onderzoek of het relevant is om de vereiste onderdeel te maken van de Service Level Agreement. Met een SLA kunnen specifieke afspraken worden gemaakt over de kwaliteit van de dienstverlening. +# vul hier de bestandsnamen in van de vereisten die horen bij deze maatregel +vereiste: +- beveiliging_informatie_en_informatiesystemen +- beveiliging_van_verwerking +- melding_ernstige_incidenten +- automatische_logregistratie +- beschrijven_en_toewijzen_van_verantwoordelijkheden_bij_verwerking_persoonsgegevens +- bevorder_ai_geletterdheid_personeel +- corrigerende_maatregelen_voor_non_conforme_ai +- kwaliteitsbeheersysteem_voor_hoog_risico_ai +- kwaliteitscriteria_voor_data +- monitoring_na_het_in_de_handel_brengen +- risicobeheersing +- toezichtmogelijkheden_voor_gebruikers +- traceerbare_besluitvorming +- transparantie_bij_verwerken_persoonsgegevens +- verplicht_risicobeheersysteem_voor_hoog_risico_ai +- toegankelijkheidseisen_hoog_risico +- verstrekking_van_informatie_op_verzoek +- recht_op_toegang_tot_publieke_informatie + +# vul hier de fasen van de levenscyclus in die horen bij deze maatregel +levenscyclus: +- ontwerp +- ontwikkelen +# vul hier de bouwblokken in die horen bij deze maatregel +bouwblok: +- publieke-inkoop +# geef hier aan welke rollen bij deze maatregelen betrokken kunnen zijn +rollen: +- proceseigenaar +- behoeftesteller +- inkoopadviseur +- contractbeheerder +- aanbestedingsjurist +hide: +- navigation +--- + + + +## Maatregel + +Maak de vereiste onderdeel van Service Level Agreement + +## Toelichting + +Onderzoek of het relevant is om de vereiste onderdeel te maken van de Service Level Agreement (SLA). Met een SLA kunnen specifieke afspraken worden gemaakt over de kwaliteit van de dienstverlening. Hierbij kan worden gedacht aan onderwerpen als incidentmanagement, servicemanagement, verantwoordelijkheden matrix, hersteltijd en beveiliging. Laat de aanbieder aangeven welke vormen van onderhoud aan het algoritme of AI-systeem nodig zijn en de snelheid waarmee signalen vanuit gebruik, ongeacht de bron, kunnen worden verwerkt in het systeem. + +## Bijbehorende vereiste(n) + + + + + +## Bronnen + + +| Bron | +|-----------------------------| +| Algoritmekader | + +## Voorbeeld + + +Heb je een voorbeeld of best practice, laat het ons weten via [algoritmes@minbzk.nl](mailto:algoritmes@minbzk.nl) diff --git a/docs/maatregelen/menselijke_tussenkomst_eis_in_programma_van_eisen.md b/docs/maatregelen/menselijke_tussenkomst_eis_in_programma_van_eisen.md deleted file mode 100644 index 19738b5f39..0000000000 --- a/docs/maatregelen/menselijke_tussenkomst_eis_in_programma_van_eisen.md +++ /dev/null @@ -1,46 +0,0 @@ ---- -title: Menselijke tussenkomst is een vast onderdeel van het Programma van Eisen bij aanbestedingen -toelichting: Neem menselijke tussenkomst op als standaard eis in het Programma van Eisen. -vereiste: -- recht_op_niet_geautomatiseerd_besluitvorming -levenscyclus: -- ontwikkelen -- monitoring-en-beheer -bouwblok: -- publieke-inkoop -rollen: -- behoeftesteller -- proceseigenaar -- gebruiker -- inkoopadviseur ---- - - -## Maatregel - -Neem menselijke tussenkomst op als standaard eis in het Programma van Eisen. - - -## Toelichting - -De eis stellen is nooit tevergeefs, want als achteraf blijkt dat het niet aan de hand is, doet de bepaling ook geen pijn. -Het moment van daadwerkelijk constateren is bij oplevering, dus is dit veelal geen punt van waardering in een inkoopproces, anders dan als gestelde eis aan het op te leveren product. -Dit laat onverlet dat het een criterium is die al in een inkooptraject kan worden beoordeeld, zoals bij het aanschaffen van standaardproducten en/of diensten. - -Het lijkt overbodig, maar het zien begint met het kunnen zien en kijken. -De uitdaging is de 'trigger' te vinden waarop de vraag gesteld wordt en herkend. - -## Bijbehorende vereiste(n) - - - -## Bronnen - -| Bron | -|-----------------------------| -|Algoritmekader| - -## Voorbeeld - -Heb jij een goed voorbeeld? Laat het ons weten! - diff --git a/docs/maatregelen/menselijke_tussenkomst_projectplan_en_dchargedocument.md b/docs/maatregelen/menselijke_tussenkomst_projectplan_en_dchargedocument.md index 1f19147f68..d4cdd8edaa 100644 --- a/docs/maatregelen/menselijke_tussenkomst_projectplan_en_dchargedocument.md +++ b/docs/maatregelen/menselijke_tussenkomst_projectplan_en_dchargedocument.md @@ -14,6 +14,8 @@ rollen: - behoeftesteller - proceseigenaar - inkoopadviseur +hide: +- navigation --- diff --git a/docs/maatregelen/model-verwerkersovereenkomst_onderdeel_aanbesteding.md b/docs/maatregelen/model-verwerkersovereenkomst_onderdeel_aanbesteding.md index 791a1c2eaa..d3463d28b2 100644 --- a/docs/maatregelen/model-verwerkersovereenkomst_onderdeel_aanbesteding.md +++ b/docs/maatregelen/model-verwerkersovereenkomst_onderdeel_aanbesteding.md @@ -13,6 +13,8 @@ rollen: - proceseigenaar - privacy-officer - inkoopadviseur +hide: +- navigation --- diff --git a/docs/maatregelen/neem_technische_documentatie_in_algoritmeregister.md b/docs/maatregelen/neem_technische_documentatie_in_algoritmeregister.md new file mode 100644 index 0000000000..1f4e1499d0 --- /dev/null +++ b/docs/maatregelen/neem_technische_documentatie_in_algoritmeregister.md @@ -0,0 +1,50 @@ +--- +# vul hier een titel in voor deze maatregel +title: Neem technische documentatie op in het algoritmeregister +# geef hier een korte toelichting van deze maatregel +toelichting: Neem geschikte informatie uit technische documentatie op in het algoritmeregister +# vul hier de bestandsnamen in van de vereisten die horen bij deze maatregel +vereiste: algoritmeregister +# vul hier de fasen van de levenscyclus in die horen bij deze maatregel +levenscyclus: +- ontwikkelen +- verificatie-en-validatie +- implementatie +- monitoring-en-beheer +# vul hier de bouwblokken in die horen bij deze maatregel +bouwblok: +- transparantie +rollen: +- proceseigenaar +- privacy-officer +- data-scientist +- data-engineer +- beleidsmedewerker +hide: +- navigation +--- + + + + +## Maatregel + +Neem geschikte informatie uit technische documentatie op in het algoritmeregister. + +## Toelichting + +Met het opstellen van technische documentatie over algoritmes en AI-systemen wordt belangrijke informatie vastgelegd die moet worden opgenomen of kan worden opgenomen in het Algoritmeregister. De Handreiking Algoritmeregister en de [Publicatiestandaard van het register](https://algoritmes.pleio.nl/attachment/entity/a47f2708-48bd-4a10-8893-ab24ac8c7207) kan worden geraadpleegd om te bepalen of en welke informatie van een algoritme of AI-systeem moet worden gepubliceerd. Door dit goed af te stemmen kan hergebruik worden gemaakt van al gedocumenteerde informatie. + +## Bijbehorende vereiste(n) + + + + + +## Bronnen + +| Bron | +|----------------| +| Algoritmekader | +| [Handreiking Algoritmeregister](https://www.digitaleoverheid.nl/wp-content/uploads/sites/8/2023/12/Handreiking-Algoritmeregister-versie-1.0.pdf) | +| [Publicatiestandaard](https://algoritmes.pleio.nl/attachment/entity/a47f2708-48bd-4a10-8893-ab24ac8c7207) | diff --git a/docs/maatregelen/neem_vereiste_op_als_subgunningscriteria.md b/docs/maatregelen/neem_vereiste_op_als_subgunningscriteria.md new file mode 100644 index 0000000000..df6106708b --- /dev/null +++ b/docs/maatregelen/neem_vereiste_op_als_subgunningscriteria.md @@ -0,0 +1,84 @@ +--- +# vul hier een titel in voor deze maatregel +title: Neem de vereiste op als een subgunningscriteria bij gunningscriteria beste prijs-kwaliteitverhouding. +# geef hier een korte toelichting van deze maatregel +toelichting: Door de vereiste op te nemen als subgunningscriteria ontstaat een mogelijkheid voor aanbieders om zich te onderscheiden. +# vul hier de bestandsnamen in van de vereisten die horen bij deze maatregel +vereiste: +- Recht_op_uitleg_AI-besluiten +- auteursrechten +- databankenwet +- bescherming_van_kwetsbare_groepen +- bevorder_ai_geletterdheid_personeel +- corrigerende_maatregelen_voor_non_conforme_ai +- uitzonderlijk_verwerken_ bijzondere_categorieen_persoonsgegevens +- fundamentele_rechten +- kwaliteitsbeheersysteem_voor_hoog_risico_ai +- kwaliteitscriteria_voor_data +- beoordelen_gevolgen_voor_grondrechten +- non_discriminatie +- minimale_verwerking_van_persoonsgegevens +- privacy_bij_ontwerp_bij_verwerking_van_persoonsgegevens +- recht_op_niet_geautomatiseerd_besluitvorming +- risicobeheersing +- risicobeoordeling_voor_jongeren_en_kwetsbaren +- toezichtmogelijkheden_voor_gebruikers +- traceerbare_besluitvorming +- transparantie +- transparantie_bij_verwerken_persoonsgegevens +- verplicht_risicobeheersysteem_voor_hoog_risico_ai +- toegankelijkheidseisen_hoog_risico +- verstrekking_van_informatie_op_verzoek +- recht_op_toegang_tot_publieke_informatie + +# vul hier de fasen van de levenscyclus in die horen bij deze maatregel +levenscyclus: +- ontwerp +- ontwikkelen +# vul hier de bouwblokken in die horen bij deze maatregel +bouwblok: +- publieke-inkoop + +# geef hier aan welke rollen bij deze maatregelen betrokken kunnen zijn +rollen: +- proceseigenaar +- behoeftesteller +- data-scientist +- ethicus +- privacy-officer +- security-officer +- inkoopadviseur +- contractbeheerder +- aanbestedingsjurist +hide: +- navigation +--- + + + + +## Maatregel + +Neem de vereiste op als een subgunningscriteria bij gunningscriteria beste prijs-kwaliteitverhouding. + +## Toelichting + +Door de vereiste op te nemen als subgunningscriteria, ontstaat een mogelijkheid voor aanbieders om zich te onderscheiden. In de context van algoritmes en AI is dit in het bijzonder relevant, bijvoorbeeld in relatie tot vereisten als non-discriminatie, eerbiedigen privacyrechten of het verbod op schenden auteursrechten. Door vereisten te vertalen naar een subgunningscriteria, kan een inhoudelijke beoordeling worden gemaakt in hoeverre een aanbieder hier invulling aan geeft. + +## Bijbehorende vereiste(n) + + + + + +## Bronnen + + +| Bron | +|-----------------------------| +| Algoritmekader | + +## Voorbeeld + + +Heb je een voorbeeld of best practice, laat het ons weten via [algoritmes@minbzk.nl](mailto:algoritmes@minbzk.nl) diff --git a/docs/maatregelen/omgaan_restrisico's_aanbiede_onderdeel_beoordelingsmaatrix.md b/docs/maatregelen/omgaan_restrisico's_aanbiede_onderdeel_beoordelingsmaatrix.md index fc424651b7..ecf41d158d 100644 --- a/docs/maatregelen/omgaan_restrisico's_aanbiede_onderdeel_beoordelingsmaatrix.md +++ b/docs/maatregelen/omgaan_restrisico's_aanbiede_onderdeel_beoordelingsmaatrix.md @@ -14,6 +14,8 @@ rollen: - inkoopadviseur - contractbeheerder - aanbestedingsjurist +hide: +- navigation --- diff --git a/docs/maatregelen/onderbouwen_gebruik_algoritme.md b/docs/maatregelen/onderbouwen_gebruik_algoritme.md new file mode 100644 index 0000000000..7eed819ec1 --- /dev/null +++ b/docs/maatregelen/onderbouwen_gebruik_algoritme.md @@ -0,0 +1,46 @@ +--- +title: Formuleren aanleiding en probleemdefinitie +toelichting: Bepaal en documenteer waarom het gewenst of nodig is om een algoritme in te zetten om het probleem te kunnen aanpakken. +vereiste: +- zorgvuldigheidsbeginsel +levenscyclus: +- probleemanalyse +bouwblok: +- governance +rollen: +- projectleider +- opdrachtgever +- domeinspecialist +hide: +- navigation +--- + + + +## Maatregel +Bepaal en documenteer waarom het gewenst of nodig is om een algoritme in te zetten om het probleem te kunnen aanpakken. + +## Toelichting + +- Bepaal waarom het gewenst of nodig is om een algoritme in te zetten, en of er ook alternatieven zijn om het probleem op te lossen. +Documenteer de onderbouwing waarom een algoritme een betere oplossing zou bieden dan een niet-geautomatiseerd of niet-digitaal proces. + +- Maak een bewuste afweging of een algoritme het juiste middel is om [het probleem](../maatregelen/formuleren_probleemdefinitie.md) op doelmatige en doeltreffende wijze op te lossen, en documenteer deze afweging. + +## Bijbehorende vereiste(n) + + + +## Risico +Het algoritme is niet het juiste middel om het probleem op te lossen. Het risico daarbij bestaat dat het probleem niet wordt opgelost. + +## Bronnen +| Bron | +|--------------------------------------------------------------------------------------------------------------------------------------------------------------------------| +| [Impact Assessment Mensenrechten en Algoritmes, 1.1](https://www.rijksoverheid.nl/documenten/rapporten/2021/02/25/impact-assessment-mensenrechten-en-algoritmes) | +| [Onderzoekskader Algoritmes Auditdienst Rijk, SV.2](https://www.rijksoverheid.nl/documenten/rapporten/2023/07/11/onderzoekskader-algoritmes-adr-2023) | + +## Voorbeeld + +Heb jij een goed voorbeeld? Laat het ons weten! + diff --git a/docs/maatregelen/onderhoud_onderdeel_aanbesteding.md b/docs/maatregelen/onderhoud_onderdeel_aanbesteding.md deleted file mode 100644 index 1a85b69494..0000000000 --- a/docs/maatregelen/onderhoud_onderdeel_aanbesteding.md +++ /dev/null @@ -1,40 +0,0 @@ ---- -title: De mate waarin onderhoud aan algoritmes en AI-systemen wordt uitgevoerd door aanbieder is onderdeel van de aanbesteding -toelichting: Laat de aanbieder aangeven welke vormen van onderhoud aan het algoritme of AI-systeem onderdeel zijn van de aanbesteding, met name het oppakken van signalen vanuit het gebruik, ongeacht de bron waar het signaal vandaan komt, en de snelheid en mate van reactie (CtR/CtF) en verwerking in het betreffende systeem. -vereiste: -- bevorder_ai_geletterdheid_personeel -levenscyclus: -- ontwerp -- monitoring-en-beheer -bouwblok: -- publieke-inkoop -rollen: -- aanbieder -- behoeftesteller -- inkoopadviseur ---- - - -## Maatregel - -Laat de aanbieder aangeven welke vormen van onderhoud aan het algoritme of AI-systeem onderdeel zijn van de aanbesteding, met name het oppakken van signalen vanuit het gebruik, ongeacht de bron waar het signaal vandaan komt. Laat hen ook aangeven wat de snelheid en mate van reactie, en verwerking in het betreffende systeem is. - -## Toelichting - -Om te zorgen dat bij een probleem met het algoritme of AI systeem, op tijd en correct wordt gehandeld, is het van belang dat duidelijk is welk onderhoud wel en niet door de aanbieder wordt verzorgd en op welke termijn. - - -## Bijbehorende vereiste(n) - - - -## Bronnen - -| Bron | -|-----------------------------| -|Algoritmekader| - -## Voorbeeld - -Heb jij een goed voorbeeld? Laat het ons weten! - diff --git a/docs/maatregelen/schending_auteursrechten_output_onderdeel_conceptovereenkomst.md b/docs/maatregelen/schending_auteursrechten_output_onderdeel_conceptovereenkomst.md index 54bc138832..ce226935e9 100644 --- a/docs/maatregelen/schending_auteursrechten_output_onderdeel_conceptovereenkomst.md +++ b/docs/maatregelen/schending_auteursrechten_output_onderdeel_conceptovereenkomst.md @@ -14,6 +14,8 @@ rollen: - inkoopadviseur - contractbeheerder - aanbestedingsjurist +hide: +- navigation --- @@ -42,7 +44,7 @@ Is dat niet het geval, dan kan bij veel vormen van gebruik van de output immers | Bron | |-----------------------------| |Algoritmekader| -|https://open.overheid.nl/documenten/16d72572-da6b-422c-8cf8-cdc95a523093/file| +| [Advies Landsadvocaat Pels Rijcken over het gebruik van generatieve AI-tools door medewerkers van de Staat](https://www.rijksoverheid.nl/documenten/brieven/2023/10/10/1-advies-landsadvocaat-pels-rijcken) | ## Voorbeeld diff --git a/docs/maatregelen/schending_auteursrechten_trainingsdata_onderdeel_conceptovereenkomst.md b/docs/maatregelen/schending_auteursrechten_trainingsdata_onderdeel_conceptovereenkomst.md index 64ef69ffd8..a599c9e3d5 100644 --- a/docs/maatregelen/schending_auteursrechten_trainingsdata_onderdeel_conceptovereenkomst.md +++ b/docs/maatregelen/schending_auteursrechten_trainingsdata_onderdeel_conceptovereenkomst.md @@ -14,6 +14,8 @@ rollen: - inkoopadviseur - aanbestedingsjurist - contractbeheerder +hide: +- navigation --- diff --git a/docs/maatregelen/Stel_archiefbescheiden_vast.md b/docs/maatregelen/stel_archiefbescheiden_vast.md similarity index 99% rename from docs/maatregelen/Stel_archiefbescheiden_vast.md rename to docs/maatregelen/stel_archiefbescheiden_vast.md index 15cafbd894..5e44356a6a 100644 --- a/docs/maatregelen/Stel_archiefbescheiden_vast.md +++ b/docs/maatregelen/stel_archiefbescheiden_vast.md @@ -13,6 +13,8 @@ levenscyclus: # vul hier de bouwblokken in die horen bij deze maatregel bouwblok: - publieke-inkoop +hide: +- navigation --- diff --git a/docs/maatregelen/stel_een_RACI-matrix_op.md b/docs/maatregelen/stel_een_RACI-matrix_op.md new file mode 100644 index 0000000000..52bea2d1c6 --- /dev/null +++ b/docs/maatregelen/stel_een_RACI-matrix_op.md @@ -0,0 +1,61 @@ +--- +# vul hier een titel in voor deze maatregel +title: Stel een RACI-matrix op +# geef hier een korte toelichting van deze maatregel +toelichting: Stel een RACI-matrix op waarbij de rollen en verantwoordelijkheden worden beschreven en toebedeeld bij het verwerken van persoonsgegevens +# vul hier de bestandsnamen in van de vereisten die horen bij deze maatregel +vereiste: beschrijven_en_toewijzen_van_verantwoordelijkheden_bij_verwerking_persoonsgegevens +# vul hier de fasen van de levenscyclus in die horen bij deze maatregel +levenscyclus: +- ontwerp +- dataverkenning-en-datapreparatie +- ontwikkelen +- implementatie +- monitoring-en-beheer +# vul hier de bouwblokken in die horen bij deze maatregel +bouwblok: +- privacy-en-gegevensbescherming +- governance +rollen: +- proceseigenaar +- privacy-officer +- data-scientist +- data-engineer +- inkoopadviseur +- contractbeheerder +- aanbieder +hide: +- navigation +--- + + + + +## Maatregel + +Stel een RACI-matrix op waarbij de rollen en verantwoordelijkheden worden beschreven en toebedeeld bij het verwerken van persoonsgegevens. + +## Toelichting + +Het is van belang om de rollen en verantwoordelijkheden over en gedurende de gehele levenscyclus te beschrijven en eventueel onderdeel te maken van conceptovereenkomsten. +Tijdens de ontwikkelfase worden bijvoorbeeld andere (risicovolle) werkzaamheden uitgevoerd dan in de implementatie- of monitoring en beheerfase. +Doorgaans zijn ook andere actoren betrokken in verschillende fases en in de praktijk kunnen taken en verantwoordelijkheden opnieuw worden belegd. + +## Bijbehorende vereiste(n) + + + + + +## Bronnen + + +| Algoritmekader | + + + +## Voorbeeld + + +Heb je een voorbeeld of best practice, laat het ons weten via [algoritmes@minbzk.nl](mailto:algoritmes@minbzk.nl) + diff --git a/docs/maatregelen/uitvoeren_audit_voor_naleving_vereiste.md b/docs/maatregelen/uitvoeren_audit_voor_naleving_vereiste.md new file mode 100644 index 0000000000..8e89e7a923 --- /dev/null +++ b/docs/maatregelen/uitvoeren_audit_voor_naleving_vereiste.md @@ -0,0 +1,107 @@ +--- +# vul hier een titel in voor deze maatregel +title: Neem het kunnen uitvoeren van een audit over de vereiste op in contractvoorwaarden en de contractovereenkomst +# geef hier een korte toelichting van deze maatregel +toelichting: Het is van belang dat opdrachtgever mogelijkheden heeft om te controleren in hoeverre door aanbieder/opdrachtnemer wordt voldaan aan naleving van de vereiste. +# vul hier de bestandsnamen in van de vereisten die horen bij deze maatregel +vereiste: +- archiefwet +- Recht_op_uitleg_AI-besluiten +- Verplichtingen_van_aanbieders_van_ai_modellen_voor_algemene_doeleinden +- auteursrechten +- beveiliging_informatie_en_informatiesystemen +- beveiliging_van_verwerking +- databankenwet +- melding_ernstige_incidenten +- automatische_logregistratie +- beperkte_bewaartermijn_van_persoonsgegevens +- bescherming_van_kwetsbare_groepen +- beschrijven_en_toewijzen_van_verantwoordelijkheden_bij_verwerking_persoonsgegevens +- bevorder_ai_geletterdheid_personeel +- bewaartermijn_voor_documentatie +- bewaartermijn_voor_gegenereerde_logs +- corrigerende_maatregelen_voor_non_conforme_ai +- uitzonderlijk_verwerken_bijzondere_categorieen_persoonsgegevens +- documentatie_beoordeling_niet_hoog_risico_ai +- persoonsgegevens_worden_rechtmatig_verwerkt +- fundamentele_rechten +- geb_dpia_verplicht_bij_hoog_risico +- juistheid_en_actualiteit_van_persoonsgegevens +- kwaliteitsbeheersysteem_voor_hoog_risico_ai +- kwaliteitscriteria_voor_data +- maatregelen_van_gebruiksverantwoordelijken_voor_gebruik +- beoordelen_gevolgen_voor_grondrechten +- monitoring_na_het_in_de_handel_brengen +- non_discriminatie +- ontwerp_voor_nauwkeurigheid_robuustheid_en_cyberbeveiliging +- minimale_verwerking_van_persoonsgegevens +- privacy_bij_ontwerp_bij_verwerking_van_persoonsgegevens +- inroepen_privacyrecht_bij_verwerking_persoonsgegevens +- recht_op_niet_geautomatiseerd_besluitvorming +- recht_op_uitleg_ai_besluiten +- risicobeheersing +- risicobeoordeling_voor_jongeren_en_kwetsbaren +- technische_documentatie_voor_hoog_risico_ai +- toezichtmogelijkheden_voor_gebruikers +- traceerbare_besluitvorming +- transparantie +- transparantie_bij_verwerken_persoonsgegevens +- verplicht_risicobeheersysteem_voor_hoog_risico_ai +- Verplichtingen_van_aanbieders_van_ai_modellen_voor_algemene_doeleinden_ +- Verplichtingen_van_aanbieders_van_ai_modellen_voor_algemene_doeleinden_met_systeemrisico +- ai_modellen_algemene_doeleinden_syteemrisico_informatie_ernstige_incidenten +- ai_modellen_algemene_doeleinden_syteemrisico_cyberbeveiliging +- registratieverplichtingen_hoog_risico +- EU_conformiteitsverklaring_hoog_risico +- conformiteitsbeoordelingsprocedure_hoog_risico +- aantoonbaarheid_vereisten_hoog_risico +- toegankelijkheidseisen_hoog_risico +- verstrekking_van_informatie_op_verzoek +- verdere_verwerking_van_persoonsgegevens_in_ai_testomgevingen +- wettelijke_verwerking_van_gevoelige_gegevens +- recht_op_toegang_tot_publieke_informatie +- beginsel_van_proportionaliteit_en_subsidiariteit + +# vul hier de fasen van de levenscyclus in die horen bij deze maatregel +levenscyclus: +- ontwerp +- ontwikkelen +# vul hier de bouwblokken in die horen bij deze maatregel +bouwblok: +- publieke-inkoop +hide: +- navigation +--- + + + + +## Maatregel + +Neem het kunnen uitvoeren van een audit over de vereiste op in contractvoorwaarden en de contractovereenkomst + +## Toelichting + +Het is van belang dat opdrachtgever mogelijkheden heeft om te controleren in hoeverre door aanbieder/opdrachtnemer wordt voldaan aan naleving van de contractvoorwaarden + +## Bijbehorende vereiste(n) + + + + + +## Bronnen + + +| Bron | +|-----------------------------| +| Algoritmekader | +| [Contractvoorwaarden gemeente Amsterdam](https://www.amsterdam.nl/innovatie/digitalisering-technologie/algoritmen-ai/contractvoorwaarden-algoritmen/) | +| [Europese Inkoopvoorwaarden Hoog Risico](https://public-buyers-community.ec.europa.eu/sites/default/files/2023-10/AI_Procurement_Clauses_template_High_Risk%20NL.pdf) | +| [Europese Inkoopvoorwaarden Laag Risico](https://public-buyers-community.ec.europa.eu/sites/default/files/2023-10/AI_Procurement_Clauses_Template_NON_HIGH_RISK_NL.pdf) | + + +## Voorbeeld + + +Heb je een voorbeeld of best practice, laat het ons weten via [algoritmes@minbzk.nl](mailto:algoritmes@minbzk.nl) diff --git a/docs/maatregelen/vaststellen_aanleveren_informatie_technische_documentatie.md b/docs/maatregelen/vaststellen_aanleveren_informatie_technische_documentatie.md index 3ffb152d12..97be439d6a 100644 --- a/docs/maatregelen/vaststellen_aanleveren_informatie_technische_documentatie.md +++ b/docs/maatregelen/vaststellen_aanleveren_informatie_technische_documentatie.md @@ -12,6 +12,8 @@ rollen: - behoeftesteller - inkoopadviseur - aanbieder +hide: +- navigation --- diff --git a/docs/maatregelen/vaststellen_benodigde_kennisoverdracht_enondersteuning.md b/docs/maatregelen/vaststellen_benodigde_kennisoverdracht_enondersteuning.md index 4bb2382c00..3689538deb 100644 --- a/docs/maatregelen/vaststellen_benodigde_kennisoverdracht_enondersteuning.md +++ b/docs/maatregelen/vaststellen_benodigde_kennisoverdracht_enondersteuning.md @@ -14,6 +14,8 @@ rollen: - behoeftesteller - inkoopadviseur - contractbeheerder +hide: +- navigation --- diff --git a/docs/maatregelen/vaststellen_passend_trainingsniveau_door_aanbieder.md b/docs/maatregelen/vaststellen_passend_trainingsniveau_door_aanbieder.md index 000fb1ae83..80ccfeffc4 100644 --- a/docs/maatregelen/vaststellen_passend_trainingsniveau_door_aanbieder.md +++ b/docs/maatregelen/vaststellen_passend_trainingsniveau_door_aanbieder.md @@ -12,6 +12,8 @@ rollen: - aanbieder - proceseigenaar - inkoopadviseur +hide: +- navigation --- diff --git a/docs/maatregelen/vaststellen_typen_algoritme_of_AI-systeem_en_risicoclassificatie.md b/docs/maatregelen/vaststellen_typen_algoritme_of_AI-systeem_en_risicoclassificatie.md new file mode 100644 index 0000000000..6c3055b8ba --- /dev/null +++ b/docs/maatregelen/vaststellen_typen_algoritme_of_AI-systeem_en_risicoclassificatie.md @@ -0,0 +1,51 @@ +--- +# vul hier een titel in voor deze maatregel +title: Stel vast of het gaat om een algoritme en/of AI-systeem en wat de bijbehorende risicoclassificatie is om te bepalen welke vereisten hierop van toepassing zijn. +# geef hier een korte toelichting van deze maatregel +toelichting: Het verschilt per typen algoritmen of AI-systemen welke vereisten hierop van toepassing zijn en waar een aanbieder of gebruiksverantwoordelijke aan moet voldoen. Dit is mede afhankelijk van de bijbehorende risicoclassificatie. +# vul hier de bestandsnamen in van de vereisten die horen bij deze maatregel +vereiste: +- transparantie +- beginsel_van_proportionaliteit_en_subsidiariteit + +# vul hier de fasen van de levenscyclus in die horen bij deze maatregel +levenscyclus: +- ontwerp +- ontwikkelen +# vul hier de bouwblokken in die horen bij deze maatregel +bouwblok: +- publieke-inkoop +- governance +hide: +- navigation +--- + + + + +## Maatregel + + Stel vast of het gaat om een algoritme en/of AI-systeem en wat de bijbehorende risicoclassificatie is om te bepalen welke vereisten hierop van toepassing zijn. + +## Toelichting + +Het verschilt per typen algoritmen of AI-systemen welke vereisten hierop van toepassing is en waar een aanbieder of gebruiksverantwoordelijke aan moet voldoen. +Dit is mede afhankelijk van de bijbehorende risicoclassificatie. +Hiervoor kan in de nabije toekomst de 'beslisboom' in het Algoritmekader voor worden gebruikt'. +Deze stap is van groot belang, omdat dit ook bepalend is welke contractuele verplichtingen moeten worden gecreëerd tussen opdrachtgever en opdrachtnemer/aanbieder. + +## Bijbehorende vereiste(n) + + + + + +## Bronnen + + +| Bron | +|-----------------------------| +| Algoritmekader | + +## Voorbeeld + diff --git a/docs/maatregelen/voer_een_data_beschikbaarheid_kwaliteit_en_toegankelijkheidsanalyse_uit.md b/docs/maatregelen/voer_een_data_beschikbaarheid_kwaliteit_en_toegankelijkheidsanalyse_uit.md new file mode 100644 index 0000000000..b7b35fc8cf --- /dev/null +++ b/docs/maatregelen/voer_een_data_beschikbaarheid_kwaliteit_en_toegankelijkheidsanalyse_uit.md @@ -0,0 +1,58 @@ +--- +# vul hier een titel in voor deze maatregel +title: Voer voorafgaand aan een aanbesteding een data beschikbaarheid, kwaliteit- en toegankelijkheidsanalayse uit. +# geef hier een korte toelichting van deze maatregel +toelichting: Het is van belang om voorafgaand aan een aanbesteding vast te stellen of de data die noodzakelijk is om een algoritme of AI-systeem te ontwikkelen beschikbaar is of gaat worden en van voldoende kwaliteit is. +# vul hier de bestandsnamen in van de vereisten die horen bij deze maatregel +vereiste: +- kwaliteitscriteria_voor_data + +# vul hier de fasen van de levenscyclus in die horen bij deze maatregel +levenscyclus: +- ontwerp +- ontwikkelen +# vul hier de bouwblokken in die horen bij deze maatregel +bouwblok: +- publieke-inkoop +- data + +# geef hier aan welke rollen bij deze maatregelen betrokken kunnen zijn +rollen: +- proceseigenaar +- behoeftesteller +- informatie-analist +- data-scientist +- inkoopadviseur +- contractbeheerder +- aanbestedingsjurist +- aanbieder +- opdrachtnemer +hide: +- navigation +--- + + + + +## Maatregel + +Voer voorafgaand aan een aanbesteding een data beschikbaarheids- en kwaliteitsanalayse uit. + +## Toelichting + +Het is van belang om voorafgaand aan een aanbesteding vast te stellen of de data die noodzakelijk is om een algoritme of AI-systeem te ontwikkelen beschikbaar is, gaat worden en of de data van voldoende kwaliteit is. Het is van belang om te onderzoeken of en hoe data vanuit de eigen organisatie of die van een aanbieder beschikbaar kan worden gesteld, kan worden opgeslagen en er goedkeuring kan worden gegeven voor het verwerken van de data. +De infrastructuur van de eigen organisatie en/of die van de aanbieder moeten van voldoende niveau zijn om de beoogde verwerkingen uit te kunnen voeren. +Een dergelijke analyse levert inzichten op welke problemen er eventueel op dit vlak kunnen ontstaan. + +## Bijbehorende vereiste(n) + + + + + +## Bronnen + + +| Bron | +|-----------------------------| +| [Towards a Systematic Understanding on the Challenges of Procuring Artificial Intelligence in the Public Sector](https://www.google.nl/url?sa=t&rct=j&q=&esrc=s&source=web&cd=&ved=2ahUKEwi20eiMqfmGAxXV9gIHHbnbAjkQFnoECB0QAQ&url=https%3A%2F%2Fec.europa.eu%2Fnewsroom%2Fgrowth%2Fredirection%2Fdocument%2F86850&usg=AOvVaw3rVw_SLj8yjlU-uhWQv2eQ&opi=89978449)| diff --git a/docs/overhetalgoritmekader/definities.md b/docs/overhetalgoritmekader/definities.md index ab5e61cc35..d36e9cbdfd 100644 --- a/docs/overhetalgoritmekader/definities.md +++ b/docs/overhetalgoritmekader/definities.md @@ -2,9 +2,9 @@ title: Definities --- -Welke definities gebruikt het Algoritmekader? Je vindt een overzicht op deze pagina. Deze definities komen overeen met de definities van het het [Algoritmeregister](https://algoritmes.overheid.nl/nl), zie daarvoor de [Handreiking Algoritmeregister](https://algoritmes.pleio.nl/wiki/view/19bb6e9e-7a97-43d5-bef3-b1d66e59f4ff/handreiking-algoritmeregister) +Welke definities gebruikt het Algoritmekader? Je vindt een overzicht op deze pagina. Deze definities komen overeen met de definities van het het [Algoritmeregister](https://algoritmes.overheid.nl/nl), zie daarvoor de [Handreiking Algoritmeregister](https://algoritmes.pleio.nl/wiki/view/19bb6e9e-7a97-43d5-bef3-b1d66e59f4ff/handreiking-algoritmeregister). -### Definitie van een algoritme +## Definitie van een algoritme Er zijn veel definities van een algoritme. Voor het algoritmekader hanteren we de definitie van de Algemene Rekenkamer: > 'Een set van regels en instructies die een computer geautomatiseerd volgt bij het maken van berekeningen om een probleem op te lossen of een vraag te beantwoorden.’ @@ -26,7 +26,7 @@ Dit is een brede definitie die de maximale reikwijdte weergeeft van algoritmes w Het omvat de hoog-risico AI-systemen zoals gedefinieerd in de AI-verordening én de algoritmes die we daarnaast als impactvol beschouwen. -## Relatie scope Algoritmekader en de AI-Verordening +### Relatie scope Algoritmekader en de AI-Verordening Op dit moment wordt op EU-niveau de AI-verordening ontwikkeld, die naar verwachting van toepassing wordt op een deel van de algoritmes in gebruik bij de overheid. In de AI-verordening zijn AI-systemen onderverdeeld in verschillende categorieën: verboden praktijken, hoog-risico AI-systemen, AI-systemen met manipulatierisico’s en AI-systemen met geen/minimale risico’s. Afhankelijk van de categorie waarin een AI-systeem valt, gelden zwaardere of minder zware eisen waar die systemen aan moeten voldoen. @@ -64,6 +64,97 @@ Mogelijke uitzonderingsgronden. In uitzonderlijke gevallen worden algoritmes maa Voor meer toelichting over dit hulpmiddel verwijzen we naar de [Handreiking Algoritmeregister](https://algoritmes.pleio.nl/wiki/view/19bb6e9e-7a97-43d5-bef3-b1d66e59f4ff/handreiking-algoritmeregister). +## Begrippenlijst + + + + + +| Begrip | Definitie | +| ---- | ---- | +| aanbieder | Een natuurlijke of rechtspersoon, overheidsinstantie, agentschap of ander orgaan die/dat een AI-systeem of een AI-model voor algemene doeleinden ontwikkelt of laat ontwikkelen en dat systeem of model in de handel brengt of het AI-systeem in gebruik stelt onder de eigen naam of merk, al dan niet tegen betaling. | +| aanbieders | Een natuurlijke of rechtspersoon, overheidsinstantie, agentschap of ander orgaan die/dat een AI-systeem of een AI-model voor algemene doeleinden ontwikkelt of laat ontwikkelen en dat systeem of model in de handel brengt of het AI-systeem in gebruik stelt onder de eigen naam of merknaam, al dan niet tegen betaling. | +| aanbieder verder in de AI-waardeketen | Een aanbieder van een AI-systeem, met inbegrip van een AI-systeem voor algemene doeleinden, waarin een AI-model is geïntegreerd, ongeacht of het AI-model door hemzelf wordt verstrekt en verticaal geïntegreerd is of door een andere entiteit wordt aangeboden op basis van contractuele betrekkingen | +| aangemelde instantie | Een conformiteitsbeoordelingsinstantie die overeenkomstig de AI-verordening en andere relevante harmonisatiewetgeving van de Unie is aangemeld | +| aanmeldende autoriteit | De nationale autoriteit die verantwoordelijk is voor het opzetten en uitvoeren van de noodzakelijke procedures voor de beoordeling, aanwijzing en kennisgeving van de conformiteitsbeoordelingsinstanties en de monitoring hiervan | +| AI-bureau | De taak van de Commissie waarbij zij bijdraagt aan de uitvoering van, de monitoring van en het toezicht op AI-systemen en AI-modellen voor algemene doeleinden, en AI-governance, als bepaald in het besluit van de Commissie van 24 januari 2024; verwijzingen in deze verordening naar het AI-bureau worden begrepen als verwijzingen naar de Commissie | +| AI-geletterheid | Vaardigheden, kennis en begrip die aanbieders, gebruiksverantwoordelijken en betrokken personen, rekening houdend met hun respectieve rechten en plichten in het kader van de de AI-verordening, in staat stellen met kennis van zaken AI-systemen in te zetten en zich bewuster te worden van de kansen en risico’s van AI en de mogelijke schade die zij kan veroorzaken | +| AI-model voor algemene doeleinden | Een AI-model, ook wanneer het is getraind met een grote hoeveelheid data met behulp van self-supervision op grote schaal, dat een aanzienlijk algemeen karakter vertoont en in staat is op competente wijze een breed scala aan verschillende taken uit te voeren, ongeacht de wijze waarop het model in de handel wordt gebracht, en dat kan worden geïntegreerd in een verscheidenheid aan systemen verder in de AI-waardeketen of toepassingen verder in de AI-waardeketen, met uitzondering van AI-modellen die worden gebruikt voor onderzoek, ontwikkeling of prototypingactiviteiten alvorens zij in de handel worden gebracht. | +| AI-modellen voor algemene doeleinden | Een AI-model, ook wanneer het is getraind met een grote hoeveelheid data met behulp van self-supervision op grote schaal, dat een aanzienlijk algemeen karakter vertoont en in staat is op competente wijze een breed scala aan verschillende taken uit te voeren, ongeacht de wijze waarop het model in de handel wordt gebracht, en dat kan worden geïntegreerd in een verscheidenheid aan systemen verder in de AI-waardeketen of toepassingen verder in de AI-waardeketen, met uitzondering van AI-modellen die worden gebruikt voor onderzoek, ontwikkeling of prototypingactiviteiten alvorens zij in de handel worden gebracht. | +| AI-systeem | een op een machine gebaseerd systeem dat is ontworpen om met verschillende niveaus van autonomie te werken en dat na het inzetten ervan aanpassingsvermogen kan vertonen, en dat, voor expliciete of impliciete doelstellingen, uit de ontvangen input afleidt hoe output te genereren zoals voorspellingen, inhoud, aanbevelingen of beslissingen die van invloed kunnen zijn op fysieke of virtuele omgevingen; | +| AI-systeem voor algemene doeleinden | Een AI-systeem dat is gebaseerd op een AI-model voor algemene doeleinden en dat verschillende doeleinden kan dienen, zowel voor direct gebruik als voor integratie in andere AI-systemen | +| AI-testomgeving voor regelgeving | Een door een bevoegde autoriteit opgezet gecontroleerd kader dat aanbieders of toekomstige aanbieders van AI-systemen de mogelijkheid biedt een innovatief AI-systeem te ontwikkelen, trainen, valideren en testen, zo nodig onder reële omstandigheden, volgens een testomgevingsplan, voor een beperkte periode en onder begeleiding van een toezichthouder. | +| algoritme | Een set van regels en instructies die een computer geautomatiseerd volgt bij het maken van berekeningen om een probleem op te lossen of een vraag te beantwoorden | +| auteursrecht | Het auteursrecht is het uitsluitend recht van den maker van een werk van letterkunde, wetenschap of kunst, of van diens rechtverkrijgenden, om dit openbaar te maken en te verveelvoudigen, behoudens de beperkingen, bij de wet gesteld. | +| beoogd doel | Het gebruik waarvoor een AI-systeem door de aanbieder is bedoeld, met inbegrip van de specifieke context en voorwaarden van het gebruik, zoals gespecificeerd in de informatie die door de aanbieder in de gebruiksinstructies, reclame- of verkoopmaterialen en verklaringen, alsook in de technische documentatie is verstrekt | +| bijzondere categorieën persoonsgegevens | De categorieën persoonsgegevens als bedoeld in artikel 9, lid 1, van Verordening (EU) 2016/679, artikel 10 van Richtlijn (EU) 2016/680 en artikel 10, lid 1, van Verordening (EU) 2018/1725 | +| biometrische gegevens | Persoonsgegevens die het resultaat zijn van een specifieke technische verwerking met betrekking tot de fysieke, fysiologische of gedragsgerelateerde kenmerken van een natuurlijk persoon, zoals gezichtsafbeeldingen of vingerafdrukgegevens | +| biometrische identificatie | De geautomatiseerde herkenning van fysieke, fysiologische, gedragsgerelateerde of psychologische menselijke kenmerken om de identiteit van een natuurlijk persoon vast te stellen door biometrische gegevens van die persoon te vergelijken met in een databank opgeslagen biometrische gegevens van personen | +| biometrische verificatie | De geautomatiseerde één-op-éénverificatie, met inbegrip van de authenticatie, van de identiteit van natuurlijke personen door hun biometrische gegevens te vergelijken met eerder verstrekte biometrische gegevens | +| capaciteiten met een grote impact | Capaciteiten die overeenkomen met of groter zijn dan de capaciteiten die worden opgetekend bij de meest geavanceerde AI-modellen voor algemene doeleinden. | +| CE-markering | Een markering waarmee een aanbieder aangeeft dat een AI-systeem in overeenstemming is met de voorschriften van hoofdstuk III, afdeling 2, van de AI-Verordening en andere toepasselijke harmonisatiewetgeving van de Unie, die in het aanbrengen ervan voorzien | +| conformiteitsbeoordeling | Het proces waarbij de naleving wordt aangetoond van de voorschriften van hoofdstuk III, afdeling 2 van de AI-Verordening in verband met een AI-systeem met een hoog risico | +| deepfake | Door AI gegenereerd of gemanipuleerd beeld-, audio- of videomateriaal dat een gelijkenis vertoont met bestaande personen, voorwerpen, plaatsen, entiteiten of gebeurtenissen, en door een persoon ten onrechte voor authentiek of waarheidsgetrouw zou worden aangezien | +| direct onderscheid | Indien een persoon op een andere wijze wordt behandeld dan een ander in een vergelijkbare situatie wordt, is of zou worden behandeld, op grond van godsdienst, levensovertuiging, politieke gezindheid, ras, geslacht, nationaliteit, hetero- of homoseksuele gerichtheid of burgerlijke staat; | +| directe discriminatie | De ongelijke behandeling van een persoon of groep personen ten opzichte van andere personen in een vergelijkbare situatie, op grond van een beschermd persoonskenmerk (discriminatiegrond). | +| discriminatiegrond | Beschermde persoonskenmerken op basis waarvan het maken van onderscheid tussen personen verboden is. Bijvoorbeeld: ras, nationaliteit, religie, geslacht, seksuele gerichtheid, handicap of chronische ziekte. | +| distributeur | Een andere natuurlijke persoon of rechtspersoon in de toeleveringsketen dan de aanbieder of de importeur, die een AI-systeem in de Unie op de markt aanbiedt | +| downstreamaanbieder | Een aanbieder van een AI-systeem, met inbegrip van een AI-systeem voor algemene doeleinden, waarin een AI-model is geïntegreerd, ongeacht of het model door hemzelf wordt verstrekt en verticaal geïntegreerd is of door een andere entiteit wordt aangeboden op basis van contractuele betrekkingen | +| etnisch profileren | Het gebruik door overheidsinstanties van selectiecriteria als ras, huidskleur, taal, religie, nationaliteit of nationale of etnische afkomst bij de uitoefening van toezichts-, handhavings- en opsporingsbevoegdheden, zonder dat daarvoor een objectieve en redelijke rechtvaardiging bestaat | +| geharmoniseerde norm | Een geharmoniseerde norm zoals gedefinieerd in artikel 2, lid 1,punt c), van Verordening (EU) nr. 1025/2012 | +| gemeenschappelijke specificatie | een reeks technische specificaties zoals gedefinieerd in artikel 2, punt 4, van Verordening (EU) nr. 1025/2012, om te voldoen aan bepaalde voorschriften zoals vastgelegd in de AI-verordening | +| gebruiksinstructies | de door de aanbieder verstrekte informatie om de gebruiksverantwoordelijke te informeren over met name het beoogde doel en juiste gebruik van een AI-systeem | +| gebruiksverantwoordelijke | Een natuurlijke of rechtspersoon, overheidsinstantie, agentschap of ander orgaan die/dat een AI-systeem onder eigen verantwoordelijkheid gebruikt, tenzij het AI-systeem wordt gebruikt in het kader van een persoonlijke niet- beroepsactiviteit. | +| geharmoniseerde norm | Een Europese norm die op verzoek van de Commissie is vastgesteld met het oog op de toepassing van harmonisatiewetgeving van de Unie | +| geïnformeerde toestemming | De vrijelijk gegeven, specifieke, ondubbelzinnige en vrijwillige uiting door een proefpersoon van zijn of haar bereidheid deel te nemen aan een bepaalde test onder reële omstandigheden, na geïnformeerd te zijn over alle aspecten van de test die van belang zijn voor zijn of haar beslissing om deel te nemen | +| gemachtigde | Een natuurlijke of rechtspersoon die zich bevindt of gevestigd is in de Unie die een schriftelijke machtiging heeft gekregen en aanvaard van een aanbieder van een AI-systeem of een AI-model voor algemene doeleinden om namens die aanbieder de verplichtingen en procedures van deze verordening respectievelijk na te komen en uit te voeren; | +| gemeenschappelijke specificatie | Een reeks technische specificaties zoals gedefinieerd in artikel 2, punt 4, van Verordening (EU) nr. 1025/2012, om te voldoen aan bepaalde voorschriften zoals vastgelegd in deze verordening | +| gevoelige operationele gegevens | Operationele gegevens met betrekking tot activiteiten op het gebied van preventie, opsporing, onderzoek of vervolging van strafbare feiten waarvan de openbaarmaking de integriteit van strafprocedures in het gedrang zou kunnen brengen | +| importeur | Een natuurlijke of rechtspersoon die zich bevindt of gevestigd is in de Unie die een AI-systeem in de handel brengt dat de naam of merknaam van een in een derde land gevestigde natuurlijke of rechtspersoon draagt | +| in de handel brengen | Het voor het eerst in de Unie op de markt aanbieden van een AI-systeem of een AI-model voor algemene doeleinden | +| in gebruik stellen | De directe levering van een AI-systeem door de aanbieder aan de gebruiksverantwoordelijke voor het eerste gebruik of voor eigen gebruik in de Unie voor het beoogde doel | +| indirect onderscheid | Indien een ogenschijnlijk neutrale bepaling, maatstaf of handelwijze personen met een bepaalde godsdienst, levensovertuiging, politieke gezindheid, ras, geslacht, nationaliteit, hetero- of homoseksuele gerichtheid of burgerlijke staat in vergelijking met andere personen bijzonder treft. | +| indirecte discriminatie | Wanneer een ogenschijnlijk neutrale bepaling, maatstaf of handelwijze personen met een bepaald beschermd persoonskenmerk (discriminatiegrond) in vergelijking met andere personen in het bijzonder benadeelt, tenzij hiervoor een objectieve rechtvaardiging bestaat. | +| inputdata | Data die in een AI-systeem worden ingevoerd of direct door een AI-systeem worden verworven en op basis waarvan het systeem een output genereert | +| kritieke infrastructuur | Kritieke infrastructuur zoals gedefinieerd in artikel 2, punt 4, van Richtlijn (EU) 2022/2557 | +| legaliteitsbeginsel | Het legaliteitsbeginsel houdt in dat alle overheidsoptreden moet berusten op een overeenstemmen met - kenbare en voldoende specifieke - algemene regels. | +| markttoezichtautoriteit | De nationale autoriteit die de activiteiten verricht en maatregelen neemt als bedoeld in Verordening (EU) 2019/1020 | +| nationale bevoegde autoriteit | Een aanmeldende autoriteit of een de markttoezichtautoriteit; wat betreft AI-systemen die door instellingen, organen en instanties van de EU in gebruik worden gesteld of worden gebruikt, worden verwijzingen naar nationale bevoegde autoriteiten of markttoezichtautoriteiten in deze verordening begrepen als verwijzingen naar de Europese Toezichthouder voor gegevensbescherming | +| norm | Een norm is een vrijwillige afspraak tussen partijen over een product, dienst of proces. Normen zijn geen wetten, maar ’best practices’. Iedereen kan - op vrijwillige basis - hier zijn voordeel mee doen. In zakelijke overeenkomsten hebben normen een belangrijke functie. Ze bieden marktpartijen duidelijkheid over en vertrouwen in producten, diensten of organisaties en dagen de maatschappij uit te innoveren. NEN-normen worden ontwikkeld door inhoudsexperts en specialisten op het gebied van normontwikkeling. | +| normalisatie | Normalisatie is het proces om te komen tot een norm. Dit proces is open, transparant en gericht op consensus en vindt plaats in normcommissies die bestaan uit vertegenwoordigers van alle betrokken partijen. Dit gebeurt niet alleen op nationaal niveau, maar ook in Europees en mondiaal verband. | +| objectieve rechtvaardiging | Van een objectieve rechtvaardiging voor onderscheid is sprake wanneer onderscheid een legitiem doel nastreeft en er een redelijke relatie van evenredigheid bestaat tussen het gemaakte onderscheid en het nagestreefde doel. | +| op de markt aanbieden | Het in het kader van een handelsactiviteit, al dan niet tegen betaling, verstrekken van een AI-systeem of een AI-model voor algemene doeleinden met het oog op distributie of gebruik op de markt van de Unie | +| operator | Een aanbieder, productfabrikant, gebruiksverantwoordelijke, gemachtigde, importeur of distributeur | +| prestaties van een AI-systeem | Het vermogen van een AI-systeem om het beoogde doel te verwezenlijken | +| plan voor testen onder reële omstandigheden | Een document waarin de doelstellingen, methode, geografische reikwijdte, betrokken personen, duur, monitoring, organisatie en wijze van uitvoering van een test onder reële omstandigheden worden omschreven | +| proceseigenaar | De proceseigenaar is verantwoordelijk voor de kwaliteit van het proces en de vastlegging daarvan in een processchema | +| proefpersoon | In het kader van tests onder reële omstandigheden: een natuurlijk persoon die deelneemt aan een test onder reële omstandigheden | +| publieke inkoop | De verwerving van werken, leveringen of diensten door een overheid of publieke organisatie, van de markt of een andere externe instantie, terwijl zij tegelijkertijd publieke waarde creëren en waarborgen vanuit het perspectief van de eigen organisatie. | +| redelijkerwijs te voorzien misbruik | Het gebruik van een AI-systeem op een wijze die niet in overeenstemming is met het beoogde doel, maar die kan voortvloeien uit redelijkerwijs te voorzien menselijk gedrag of redelijkerwijs te voorziene interactie met andere systemen, waaronder andere AI-systemen | +| risico | De combinatie van de kans op schade en de ernst van die schade; | +| substantiële wijziging | Een verandering van een AI-systeem nadat dit in de handel is gebracht of in gebruik is gesteld, die door de aanbieder niet is voorzien of gepland in de initiële conformiteitsbeoordeling en als gevolg waarvan de overeenstemming van het AI-systeem met de voorschriften van hoofdstuk III, afdeling 2, AI-Verordening wordt beïnvloed, of die leidt tot een wijziging van het beoogde doel waarvoor het AI-systeem is beoordeeld | +| systeem voor monitoring na het in de handel brengen | Alle door aanbieders van AI-systemen verrichte activiteiten voor het verzamelen en evalueren van ervaringen met door hen in de handel gebrachte of in gebruik gestelde AI-systemen, teneinde te kunnen vaststellen of er onmiddellijk corrigerende dan wel preventieve maatregelen nodig zijn | +| systeem voor het herkennen van emoties | Een AI-systeem dat is bedoeld voor het vaststellen of afleiden van de emoties of intenties van natuurlijke personen op basis van hun biometrische gegevens | +| systeem voor biometrische categorisering | Een AI-systeem dat is bedoeld voor het indelen van natuurlijke personen in specifieke categorieën op basis van hun biometrische gegevens, tenzij dit een aanvulling vormt op een andere commerciële dienst en om objectieve technische redenen strikt noodzakelijk is | +| systeem voor biometrische identificatie op afstand | Een AI-systeem dat is bedoeld voor het identificeren van natuurlijke personen, zonder dat zij daar actief bij betrokken zijn en doorgaans van een afstand, door middel van vergelijking van de biometrische gegevens van een persoon met de biometrische gegevens die zijn opgenomen in een referentiedatabank | +| systeem voor biometrische identificatie op afstand in real time | Een systeem voor biometrische identificatie op afstand, waarbij het vastleggen van biometrische gegevens, de vergelijking en de identificatie zonder significante vertraging plaatsvinden, zowel wanneer de identificatie niet enkel onmiddellijk plaatsvindt, maar ook wanneer de identificatie met beperkte korte vertragingen plaatsvindt, om omzeiling te voorkomen | +| systeem voor biometrische identificatie op afstand achteraf | Een ander biometrisch systeem voor de identificatie op afstand dan een systeem voor biometrische identificatie op afstand in real time | +| systeemrisico | Een risico dat specifiek is voor de capaciteiten met een grote impact van AI-modellen voor algemene doeleinden, die aanzienlijke gevolgen hebben voor de markt van de Unie vanwege hun bereik, of vanwege feitelijke of redelijkerwijs te voorziene negatieve gevolgen voor de gezondheid, de veiligheid, de openbare veiligheid, de grondrechten of de samenleving als geheel, en dat op grote schaal in de hele waardeketen kan worden verspreid | +| terugroepen van een AI-systeem | Een maatregel gericht op het retourneren aan de aanbieder, het buiten gebruik stellen of het onbruikbaar maken van een AI-systeem dat aan gebruiksverantwoordelijken ter beschikking is gesteld | +| testdata | Data die worden gebruikt voor het verrichten van een onafhankelijke evaluatie van het AI-systeem om de verwachte prestaties van dat systeem te bevestigen voordat het in de handel wordt gebracht of in gebruik wordt gesteld | +| testomgevingsplan | Tussen de deelnemende aanbieder en de bevoegde autoriteit overeengekomen document waarin de doelstellingen, de voorwaarden, het tijdschema, de methode en de vereisten voor de in de testomgeving uitgevoerde activiteiten worden beschreven | +| testen onder reële omstandigheden | Het tijdelijk testen van een AI-systeem voor zijn beoogde doel onder reële omstandigheden buiten een laboratorium of anderszins gesimuleerde omgeving teneinde betrouwbare en robuuste gegevens te verkrijgen, en te beoordelen en te verifiëren of het AI-systeem overeenstemt met de voorschriften van de AI-verordening en het wordt niet aangemerkt als het in de handel brengen of in gebruik stellen van het AI-systeem in de zin van de AI-verordening, mits aan alle in artikel 57 of 60 vastgestelde voorwaarden is voldaan | +| toestemming met kennis van zaken | De vrijelijk gegeven, specifieke, ondubbelzinnige en vrijwillige uiting door een proefpersoon van zijn of haar bereidheid deel te nemen aan een bepaalde test onder reële omstandigheden, na geïnformeerd te zijn over alle aspecten van de test die van belang zijn voor zijn of haar beslissing deel te nemen | +| trainingsdata | Data die worden gebruikt voor het trainen van een AI-systeem door de leerbare parameters hiervan aan te passen | +| uit de handel nemen van een AI-systeem | Een maatregel waarmee wordt beoogd te voorkomen dat een AI-systeem dat zich in de toeleveringsketen bevindt, op de markt wordt aangeboden | +| validatiedata | Data die worden gebruikt voor het verrichten van een evaluatie van het getrainde AI-systeem en voor het afstemmen van onder andere de niet-leerbare parameters en het leerproces ervan, om underfitting of overfitting te voorkomen | +| validatiedataset | Een afzonderlijke dataset of deel van de trainingsdataset, als vaste of variabele opdeling. | +| veiligheidscomponent | Een component van een product of systeem die een veiligheidsfunctie voor dat product of systeem vervult of waarvan het falen of gebrekkig functioneren de gezondheid en veiligheid van personen of eigendom in gevaar brengt | +| verwerker | Een .. rechtspersoon, een overheidsinstantie, een dienst of een ander orgaan die/dat ten behoeve van de verwerkingsverantwoordelijke persoonsgegevens verwerkt. | +| verwerkersverantwoordelijke | Een rechtspersoon of overheidsinstantie die, alleen of samen met anderen, het doel van en de middelen voor de verwerking van persoonsgegevens vaststelt | +| zwevendekommabewerking of “floating-point operation (FLOP) | Elke wiskundige bewerking of toewijzing met zwevendekommagetallen, die een subset vormen van de reële getallen die gewoonlijk op computers worden gerepresenteerd door een geheel getal met een vaste precisie, geschaald door een gehele exponent van een vaste basis | + + !!! info "Disclaimer" Het Algoritmekader is nog volop in ontwikkeling. Op deze plek willen we vooral aan de slag gaan op een open en transparante wijze. Het is dus niet definitief. Dat betekent dat er dingen opstaan die niet af zijn en soms zelfs fout. Mocht er iets niet kloppen, laat het ons weten via [GitHub](https://github.com/MinBZK/Algoritmekader). diff --git a/docs/overhetalgoritmekader/index.md b/docs/overhetalgoritmekader/index.md index 202d212e3d..be7df31b35 100644 --- a/docs/overhetalgoritmekader/index.md +++ b/docs/overhetalgoritmekader/index.md @@ -7,7 +7,7 @@ Dit betekent dat er aandacht moet zijn voor zaken als: 1. rollen en verantwoordelijkheden (governance); 2. risico’s op bias/discriminatie vroegtijdig detecteren; -3. de uitvoering van mensenrechtentoetsen (zoals IAMA’s); +3. de uitvoering van mensenrechtentoetsen (zoals [IAMA’s](../instrumenten/IAMA.md)); 4. adequate inkoopvoorwaarden afspreken voor algoritmes die de overheid inkoopt bij derden. Maar hoe doe je dat dan? Hier helpt het Algoritmekader je bij: een interactieve kennisbank waarin je kunt zoeken naar informatie op basis van een onderwerp, een fase uit de levenscyclus of jouw rol. diff --git a/docs/rollen/beleidsmedewerker.md b/docs/rollen/beleidsmedewerker.md new file mode 100644 index 0000000000..e461f9b13a --- /dev/null +++ b/docs/rollen/beleidsmedewerker.md @@ -0,0 +1,15 @@ +--- +title: Beleidsmedewerker +--- + +## Vereisten + + + +## Maatregelen + + + +!!! info "Disclaimer" + + Het Algoritmekader is nog volop in ontwikkeling. Op deze plek willen we vooral aan de slag gaan op een open en transparante wijze. Het is dus niet definitief. Dat betekent dat er dingen opstaan die niet af zijn en soms zelfs fout. Mocht er iets niet kloppen, laat het ons weten via [GitHub](https://github.com/MinBZK/Algoritmekader). diff --git a/docs/rollen/index.md b/docs/rollen/index.md index 17a7617b9e..ab99de5eab 100644 --- a/docs/rollen/index.md +++ b/docs/rollen/index.md @@ -22,7 +22,7 @@ Het laat daarnaast zien dat het rand voorwaardelijk is dat er voldoende ruimte i Als een rol wordt opgenomen in het Algoritmekader, dan wordt geprobeerd om dit aan te laten sluiten bij wat doorgaans wordt gehanteerd binnen (omvangrijkere) organisaties. Er wordt een beknopte omschrijving gegeven bij deze rol en geen functieprofiel. Vooralsnog wordt de rol gekoppeld aan vereisten en maatregelen en niet de verantwoordelijke afdeling, directie etc. (bijvoorbeeld CIO of CDO). -Hier wordt wel al verwezen naar het nog te ontwikkelen gedeelte [Governance](../bouwblokken/governance/index.md) van het Algoritmekader. +Hier wordt wel al verwezen naar het nog te ontwikkelen gedeelte [Governance](../governance/index.md) van het Algoritmekader. Aan dit bouwblok wordt onmiddels gewerkt. !!! note "Opmerking" diff --git a/docs/rollen/informatie-analist.md b/docs/rollen/informatie-analist.md new file mode 100644 index 0000000000..6b982b6102 --- /dev/null +++ b/docs/rollen/informatie-analist.md @@ -0,0 +1,15 @@ +--- +title: Informatie analist +--- + +## Vereisten + + + +## Maatregelen + + + +!!! info "Disclaimer" + + Het Algoritmekader is nog volop in ontwikkeling. Op deze plek willen we vooral aan de slag gaan op een open en transparante wijze. Het is dus niet definitief. Dat betekent dat er dingen opstaan die niet af zijn en soms zelfs fout. Mocht er iets niet kloppen, laat het ons weten via [GitHub](https://github.com/MinBZK/Algoritmekader). diff --git a/docs/rollen/opdrachtgever.md b/docs/rollen/opdrachtgever.md new file mode 100644 index 0000000000..8a130117de --- /dev/null +++ b/docs/rollen/opdrachtgever.md @@ -0,0 +1,15 @@ +--- +title: Opdrachtgever +--- + +## Vereisten + + + +## Maatregelen + + + +!!! info "Disclaimer" + + Het Algoritmekader is nog volop in ontwikkeling. Op deze plek willen we vooral aan de slag gaan op een open en transparante wijze. Het is dus niet definitief. Dat betekent dat er dingen opstaan die niet af zijn en soms zelfs fout. Mocht er iets niet kloppen, laat het ons weten via [GitHub](https://github.com/MinBZK/Algoritmekader). \ No newline at end of file diff --git a/docs/rollen/opdrachtnemer.md b/docs/rollen/opdrachtnemer.md new file mode 100644 index 0000000000..7f5bfeef4c --- /dev/null +++ b/docs/rollen/opdrachtnemer.md @@ -0,0 +1,15 @@ +--- +title: Opdrachtnemer +--- + +## Vereisten + + + +## Maatregelen + + + +!!! info "Disclaimer" + + Het Algoritmekader is nog volop in ontwikkeling. Op deze plek willen we vooral aan de slag gaan op een open en transparante wijze. Het is dus niet definitief. Dat betekent dat er dingen opstaan die niet af zijn en soms zelfs fout. Mocht er iets niet kloppen, laat het ons weten via [GitHub](https://github.com/MinBZK/Algoritmekader). diff --git a/docs/stylesheets/extra.css b/docs/stylesheets/extra.css index 282fc3d59d..d08b502915 100644 --- a/docs/stylesheets/extra.css +++ b/docs/stylesheets/extra.css @@ -25,5 +25,23 @@ } .md-typeset .grid { - grid-template-columns: repeat(auto-fit, minmax(12rem, 1fr)) + grid-template-columns: repeat(auto-fit, minmax(16rem, 1fr)) + } + +:root { + --md-admonition-icon--simple: url('data:image/svg+xml;charset=utf-8,') + } + .md-typeset .admonition.simple, + .md-typeset details.simple { + border-color: rgb(5, 80, 141); + } + .md-typeset .simple > .admonition-title, + .md-typeset .simple > summary { + background-color: rgba(185, 185, 185, 0.1); + } + .md-typeset .simple > .admonition-title::before, + .md-typeset .simple > summary::before { + background-color: rgb(5, 80, 141); + -webkit-mask-image: var(--md-admonition-icon--simple); + mask-image: var(--md-admonition-icon--simple); } \ No newline at end of file diff --git a/docs/vereisten/CE_markering_hoog_risico.md b/docs/vereisten/CE_markering_hoog_risico.md index 387125c4c6..4d3ef7bc31 100644 --- a/docs/vereisten/CE_markering_hoog_risico.md +++ b/docs/vereisten/CE_markering_hoog_risico.md @@ -9,6 +9,8 @@ levenscyclus: - implementatie bouwblok: - governance +hide: +- navigation --- diff --git a/docs/vereisten/EU_conformiteitsverklaring_hoog_risico.md b/docs/vereisten/EU_conformiteitsverklaring_hoog_risico.md index bf55a03dc2..7e8db0ad4f 100644 --- a/docs/vereisten/EU_conformiteitsverklaring_hoog_risico.md +++ b/docs/vereisten/EU_conformiteitsverklaring_hoog_risico.md @@ -8,6 +8,8 @@ levenscyclus: - implementatie bouwblok: - governance +hide: +- navigation --- diff --git a/docs/vereisten/Recht_of_uitleg_AI-besluiten.md b/docs/vereisten/Recht_of_uitleg_AI-besluiten.md index 2ca89c04bf..c9065cade7 100644 --- a/docs/vereisten/Recht_of_uitleg_AI-besluiten.md +++ b/docs/vereisten/Recht_of_uitleg_AI-besluiten.md @@ -11,6 +11,8 @@ levenscyclus: bouwblok: - governance - fundamentele-rechten +hide: +- navigation --- diff --git a/docs/vereisten/Verplichtingen_van_aanbieders_van_ai_modellen_voor_algemene_doeleinden_.md b/docs/vereisten/Verplichtingen_van_aanbieders_van_ai_modellen_voor_algemene_doeleinden_.md index b5940cab51..f6bcb05490 100644 --- a/docs/vereisten/Verplichtingen_van_aanbieders_van_ai_modellen_voor_algemene_doeleinden_.md +++ b/docs/vereisten/Verplichtingen_van_aanbieders_van_ai_modellen_voor_algemene_doeleinden_.md @@ -14,6 +14,8 @@ levenscyclus: - uitfaseren bouwblok: - governance +hide: +- navigation --- @@ -56,3 +58,4 @@ Het niet voldoen aan deze verplichtingen kan leiden tot juridische en ethische c === "Publieke inkoop" + diff --git a/docs/vereisten/aantoonbaarheid_vereisten_hoog_risico.md b/docs/vereisten/aantoonbaarheid_vereisten_hoog_risico.md index dda1d29dab..e453a8ebd5 100644 --- a/docs/vereisten/aantoonbaarheid_vereisten_hoog_risico.md +++ b/docs/vereisten/aantoonbaarheid_vereisten_hoog_risico.md @@ -11,6 +11,8 @@ levenscyclus: - uitfaseren bouwblok: - governance +hide: +- navigation --- diff --git a/docs/vereisten/ai_modellen_algemene_doeleinden_syteemrisico_cyberbeveiliging.md b/docs/vereisten/ai_modellen_algemene_doeleinden_syteemrisico_cyberbeveiliging.md index f7e5daab47..d35161b5cf 100644 --- a/docs/vereisten/ai_modellen_algemene_doeleinden_syteemrisico_cyberbeveiliging.md +++ b/docs/vereisten/ai_modellen_algemene_doeleinden_syteemrisico_cyberbeveiliging.md @@ -12,6 +12,8 @@ levenscyclus: bouwblok: - governance - technische-robuustheid-en-veiligheid +hide: +- navigation --- diff --git a/docs/vereisten/ai_modellen_algemene_doeleinden_syteemrisico_informatie_ernstige_incidenten.md b/docs/vereisten/ai_modellen_algemene_doeleinden_syteemrisico_informatie_ernstige_incidenten.md index 802847cf95..4f7c741821 100644 --- a/docs/vereisten/ai_modellen_algemene_doeleinden_syteemrisico_informatie_ernstige_incidenten.md +++ b/docs/vereisten/ai_modellen_algemene_doeleinden_syteemrisico_informatie_ernstige_incidenten.md @@ -9,6 +9,8 @@ levenscyclus: - monitoring-en-beheer bouwblok: - governance +hide: +- navigation --- diff --git a/docs/vereisten/algoritmeregister.md b/docs/vereisten/algoritmeregister.md index 4f2779d4c0..3bafdff078 100644 --- a/docs/vereisten/algoritmeregister.md +++ b/docs/vereisten/algoritmeregister.md @@ -21,6 +21,8 @@ generatieve-ai: - niet-impactvol: Nee - impactvol: Ja - hoog-risico: Ja +hide: +- navigation --- diff --git a/docs/vereisten/archiefwet.md b/docs/vereisten/archiefwet.md index 4c92bd1fe8..4e00acd02e 100644 --- a/docs/vereisten/archiefwet.md +++ b/docs/vereisten/archiefwet.md @@ -23,6 +23,8 @@ generatieve-ai: - niet-impactvol: Ja - impactvol: Ja - hoog-risico: Ja +hide: +- navigation --- diff --git a/docs/vereisten/auteursrechten.md b/docs/vereisten/auteursrechten.md index 2a0e41c25c..b9860d07ae 100644 --- a/docs/vereisten/auteursrechten.md +++ b/docs/vereisten/auteursrechten.md @@ -20,6 +20,8 @@ generatieve-ai: - niet-impactvol: Ja - impactvol: Ja - hoog-risico: Ja +hide: +- navigation --- diff --git a/docs/vereisten/automatische_logregistratie.md b/docs/vereisten/automatische_logregistratie.md index f904e45821..0d9eb41ad6 100644 --- a/docs/vereisten/automatische_logregistratie.md +++ b/docs/vereisten/automatische_logregistratie.md @@ -12,12 +12,15 @@ levenscyclus: bouwblok: - governance - technische-robuustheid-en-veiligheid +hide: +- navigation --- ## Vereiste -AI-systemen met een hoog risico zijn dusdanig technisch vormgegeven dat gebeurtenissen gedurende hun levenscyclus automatisch worden geregistreerd (“logs”). +Algoritmes en AI-systemen zijn dusdanig technisch vormgegeven dat gebeurtenissen gedurende hun levenscyclus automatisch worden geregistreerd (“logs”). + ## Toelichting @@ -28,12 +31,21 @@ Het doel van deze registratie is om de transparantie en verantwoordingsplicht va Voor AI-systemen met een hoog-risico voorziet de loggingcapaciteit ten minste in: a) de registratie van de duur van elk gebruik van het systeem; b) de referentiedatabank aan de hand waarvan de inputdata zijn gecontroleerd door het systeem; c) de inputdata ten aanzien waarvan de zoekopdracht een match heeft opgeleverd; d) de identificatie van natuurlijke personen die betrokken zijn bij de verificatie van de resultaten. +Voor AI-systemen die door bestuursorganen worden gebruikt of AI-systmen die persoonsgegevens verwerken leveren de BIO en AVG vergelijkbare verplichingen op die ook van toepassing zijn op AI-systmen die niet gezien worden als een AI-systeem met hoog risico. Daarbij komen nog verplichtingen om de logs doorlopend of periodiek te monitoren op incidenten. ## Bronnen | Bron | |-----------------------------| |Artikel 12 Registratie- AI verordening| +|Baseline Informatiebeveiliging Overheid hoofdstuk 12.4| +|Artikel 5 en 32 AVG| + +## Wanneer van toepassing? + +## Risico + +Ontbreken van automatische logregistratie kan leiden tot een gebrek aan transparantie en traceerbaarheid van het AI-systeem, wat het vermogen om verantwoordelijkheid te nemen en eventuele problemen aan te pakken belemmert en betrokkenen wiens persoonsgegevens worden verwerkt of geraakt worden door beslissingen van het AI-systeem in hun rechten kunnen worden beperkt. ## Wanneer van toepassing? diff --git a/docs/vereisten/beginsel_van_proportionaliteit_en_subsidiariteit.md b/docs/vereisten/beginsel_van_proportionaliteit_en_subsidiariteit.md index 386eac11d2..99f17a1d27 100644 --- a/docs/vereisten/beginsel_van_proportionaliteit_en_subsidiariteit.md +++ b/docs/vereisten/beginsel_van_proportionaliteit_en_subsidiariteit.md @@ -26,6 +26,8 @@ generatieve-ai: - niet-impactvol: Nee - impactvol: Ja - hoog-risico: Ja +hide: +- navigation --- diff --git a/docs/vereisten/beoordelen_gevolgen_voor_grondrechten.md b/docs/vereisten/beoordelen_gevolgen_voor_grondrechten.md index 43287883c8..e66c17adc8 100644 --- a/docs/vereisten/beoordelen_gevolgen_voor_grondrechten.md +++ b/docs/vereisten/beoordelen_gevolgen_voor_grondrechten.md @@ -11,6 +11,8 @@ levenscyclus: - monitoring-en-beheer bouwblok: - fundamentele-rechten +hide: +- navigation --- @@ -48,3 +50,8 @@ Het niet uitvoeren van deze beoordeling kan leiden tot schendingen van de grondr === "Publieke inkoop" + + +## Instrumenten + + diff --git a/docs/vereisten/beperkte_bewaartermijn_van_persoonsgegevens.md b/docs/vereisten/beperkte_bewaartermijn_van_persoonsgegevens.md new file mode 100644 index 0000000000..d8ff222e48 --- /dev/null +++ b/docs/vereisten/beperkte_bewaartermijn_van_persoonsgegevens.md @@ -0,0 +1,54 @@ +--- +title: Beperkte bewaartermijn van persoonsgegevens +toelichting: Persoonsgegevens moeten worden bewaard in een vorm die het mogelijk maakt om de betrokkenen niet langer te identificeren dan nodig is voor de realisering van de doeleinden waarvoor de persoonsgegevens initieel worden verwerkt. +status_vereiste: +- geldend +levenscyclus: +- ontwerp +- dataverkenning-en-datapreparatie +- ontwikkelen +bouwblok: +- privacy-en-gegevensbescherming +hide: +- navigation +--- + + +## Vereiste + +Persoonsgegevens moeten worden bewaard in een vorm die het mogelijk maakt om de betrokkenen niet langer te identificeren dan nodig is voor de realisering van de doeleinden waarvoor de persoonsgegevens initieel worden verwerkt. + +## Toelichting + +Persoonsgegevens dienen toereikend en ter zake dienend te zijn en beperkt te blijven tot wat noodzakelijk is voor de doeleinden waarvoor zij worden verwerkt. +Dit vereist dat ervoor wordt gezorgd dat de opslagperiode van de persoonsgegevens tot een strikt minimum wordt beperkt. +Het beginsel van opslagbeperking betekent dat persoonsgegevens moeten worden bewaard in een vorm die het mogelijk maakt om de betrokkenen niet langer te identificeren dan voor de realisering van de doeleinden waarvoor de persoonsgegevens worden verwerkt. + +In de context van algoritmes en AI is het belangrijk dat, wanneer persoonsgegevens worden verwerkt, er onderzocht wordt op welke manieren identificatie van betrokkenen tegen kan worden gegaan. +Hierbij kan worden gedacht aan maatregelen als pseudonomisering en anonimisering. + + +## Bronnen + +| Bron | +|-----------------------------| +|Artikel 5 lid 1 onder de AVG| + +## Wanneer van toepassing? + + +## Risico + +Het onnodig lang bewaren van persoonsgegevens levert een onrechtmatige situatie op. +De privacyrechten van betrokken worden hierdoor aangetast. +Er ontstaan aanvullende risico's bij bijvoorbeeld een datalek. + + +## Maatregelen + +=== "Allen" + +=== "Governance" + +=== "Publieke inkoop" + diff --git a/docs/vereisten/beschrijven_en_toewijzen_van_verantwoordelijkheden_bij_verwerking_persoonsgegevens.md b/docs/vereisten/beschrijven_en_toewijzen_van_verantwoordelijkheden_bij_verwerking_persoonsgegevens.md index d5c219b068..82fc452932 100644 --- a/docs/vereisten/beschrijven_en_toewijzen_van_verantwoordelijkheden_bij_verwerking_persoonsgegevens.md +++ b/docs/vereisten/beschrijven_en_toewijzen_van_verantwoordelijkheden_bij_verwerking_persoonsgegevens.md @@ -23,6 +23,8 @@ generatieve-ai: - niet-impactvol: ja - impactvol: Ja - hoog-risico: Ja +hide: +- navigation --- diff --git a/docs/vereisten/beveiliging_informatie_en_informatiesystemen.md b/docs/vereisten/beveiliging_informatie_en_informatiesystemen.md index 8f5c01291b..ba5ec01882 100644 --- a/docs/vereisten/beveiliging_informatie_en_informatiesystemen.md +++ b/docs/vereisten/beveiliging_informatie_en_informatiesystemen.md @@ -23,6 +23,8 @@ generatieve-ai: - niet-impactvol: Ja - impactvol: Ja - hoog-risico: Ja +hide: +- navigation --- diff --git a/docs/vereisten/beveiliging_van_verwerking.md b/docs/vereisten/beveiliging_van_verwerking.md index eaefe37b71..1c9f22f7e6 100644 --- a/docs/vereisten/beveiliging_van_verwerking.md +++ b/docs/vereisten/beveiliging_van_verwerking.md @@ -23,6 +23,8 @@ generatieve-ai: - niet-impactvol: ja - impactvol: Ja - hoog-risico: Ja +hide: +- navigation --- diff --git a/docs/vereisten/bevorder_ai_geletterdheid_personeel.md b/docs/vereisten/bevorder_ai_geletterdheid_personeel.md index 3f375937e8..caf89c459d 100644 --- a/docs/vereisten/bevorder_ai_geletterdheid_personeel.md +++ b/docs/vereisten/bevorder_ai_geletterdheid_personeel.md @@ -22,6 +22,8 @@ generatieve-ai: - niet-impactvol: Ja - impactvol: Ja - hoog-risico: Ja +hide: +- navigation --- diff --git a/docs/vereisten/bewaartermijn_voor_documentatie.md b/docs/vereisten/bewaartermijn_voor_documentatie.md index 29845ea48c..34c33be162 100644 --- a/docs/vereisten/bewaartermijn_voor_documentatie.md +++ b/docs/vereisten/bewaartermijn_voor_documentatie.md @@ -22,6 +22,8 @@ generatieve-ai: - niet-impactvol: Nee - impactvol: Nee - hoog-risico: Ja +hide: +- navigation --- diff --git a/docs/vereisten/bewaartermijn_voor_gegenereerde_logs.md b/docs/vereisten/bewaartermijn_voor_gegenereerde_logs.md index dc249d30a5..5d5bd3255a 100644 --- a/docs/vereisten/bewaartermijn_voor_gegenereerde_logs.md +++ b/docs/vereisten/bewaartermijn_voor_gegenereerde_logs.md @@ -12,6 +12,8 @@ levenscyclus: bouwblok: - governance - technische-robuustheid-en-veiligheid +hide: +- navigation --- diff --git a/docs/vereisten/conformiteitsbeoordelingsprocedure_hoog_risico.md b/docs/vereisten/conformiteitsbeoordelingsprocedure_hoog_risico.md index fbc5b98f18..10a0494f23 100644 --- a/docs/vereisten/conformiteitsbeoordelingsprocedure_hoog_risico.md +++ b/docs/vereisten/conformiteitsbeoordelingsprocedure_hoog_risico.md @@ -8,6 +8,8 @@ levenscyclus: - implementatie bouwblok: - governance +hide: +- navigation --- diff --git a/docs/vereisten/corrigerende_maatregelen_voor_non_conforme_ai.md b/docs/vereisten/corrigerende_maatregelen_voor_non_conforme_ai.md index bd6f25e088..16fa751d8f 100644 --- a/docs/vereisten/corrigerende_maatregelen_voor_non_conforme_ai.md +++ b/docs/vereisten/corrigerende_maatregelen_voor_non_conforme_ai.md @@ -9,6 +9,8 @@ levenscyclus: - implementatie bouwblok: - governance +hide: +- navigation --- diff --git a/docs/vereisten/databankenwet.md b/docs/vereisten/databankenwet.md new file mode 100644 index 0000000000..1f111397f2 --- /dev/null +++ b/docs/vereisten/databankenwet.md @@ -0,0 +1,57 @@ +--- +title: Verbod op schenden databankenrechten +toelichting: Het is verboden om zonder goedkeuring van de producent een databanken op te vragen en/of te hergebruiken. +status_vereiste: +- geldend +levenscyclus: +- ontwerp +- dataverkenning-en-datapreparatie +bouwblok: +- data +hide: +- navigation +--- + + +## Vereiste + +Het is verboden om zonder goedkeuring van de producent een databank op te vragen en/of te hergebruiken. + +## Toelichting + +De Databankrichtlijn en Databankenwet beschermt de producten/fabrikanten van databanken tegen onrechtmatige toe-eigening van een databank. +Degene die een substantiële financiële en professionele investering heeft verricht om de inhoud van de databank te verkijgen en te verzamelen, krijgt een verbodsrecht en kan zo anderen verbieden de databank te gebruiken. +Bij verkrijgen gaat het om "het verzamelen van de werken, gegevens of andere zelfstandige elementen die tezamen de inhoud van de databank vormen". +Dit recht bestaat naast het recht op bescherming van de originele keuze of rangschikking van de inhoud van databanken (auteurswet). + + +Voor het ontwikkelen van algoritme en AI is data nodig. +De data die hiervoor wordt gebruikt mag niet ongeoorloofd zijn verkregen uit een databank. + + +## Bronnen + +| Bron | +|-----------------------------| +|Artikel 1 en 2 Databankenwet| +|Artikel 5a en 5b Databankenwet| +|Artikel 7 Databankrichtlijn| +|Overwegingen 39 - 41 Databankrichtlijn| + +## Wanneer van toepassing? + + +## Risico + +Als een ontwikkelaar onbevoegd gebruik heeft gemaakt van data uit een databank bij de ontwikkeling van algoritmes en AI, wordt het databankenrecht geschonden van de eigenaar. + De eigenaar van de databank kan bijvoorbeeld ontrekking van de data uit het handelsverkeer, vernietiging en onbruikbaarmaking eisen, wat vergaande gevolgen kan hebben voor het gebruik kunnen maken van de algoritmische toepassing of AI-systeem. + + +## Maatregelen + +=== "Allen" + +=== "Governance" + +=== "Publieke inkoop" + diff --git a/docs/vereisten/documentatie_beoordeling_niet_hoog_risico_ai.md b/docs/vereisten/documentatie_beoordeling_niet_hoog_risico_ai.md index 34ac26dc55..24be45d28f 100644 --- a/docs/vereisten/documentatie_beoordeling_niet_hoog_risico_ai.md +++ b/docs/vereisten/documentatie_beoordeling_niet_hoog_risico_ai.md @@ -8,6 +8,8 @@ levenscyclus: - verificatie-en-validatie bouwblok: - governance +hide: +- navigation --- diff --git a/docs/vereisten/dpia_verplicht_bij_hoog_risico.md b/docs/vereisten/dpia_verplicht_bij_hoog_risico.md index eb3b808d51..00477af985 100644 --- a/docs/vereisten/dpia_verplicht_bij_hoog_risico.md +++ b/docs/vereisten/dpia_verplicht_bij_hoog_risico.md @@ -23,6 +23,8 @@ generatieve-ai: - niet-impactvol: Nee - impactvol: Ja - hoog-risico: Ja +hide: +- navigation --- @@ -37,6 +39,19 @@ Een Gegevensbeschermingseffectbeoordeling (GEB) of Data Protection Impact Assess Deze beoordeling identificeert en beperkt potentiële risico's en zorgt ervoor dat passende maatregelen worden genomen om de privacy van individuen te beschermen. Deze verplichting draagt bij aan een zorgvuldige en verantwoorde omgang met persoonsgegevens in AI-systemen en algoritmes, waardoor de privacy van individuen wordt gewaarborgd. +Let op: de DPIA verplichting is niet gebaseerd op de hoog-risico criteria uit de AI-act. Volgens [Besluit lijst verwerkingen persoonsgegevens waarvoor een gegevensbeschermingseffectbeoordeling (DPIA) verplicht is, Autoriteit Persoonsgegevens](https://wetten.overheid.nl/BWBR0042812/2019-11-27) moet voor het uitvoeren van een DPIA in ieder geval uitgegaan worden van een hoog risico als er sprake is van één van de volgende voorwaarden: + 1. Evaluatie of scoretoekenning + 2. Geautomatiseerde besluitvorming met rechtsgevolg of vergelijkbaar wezenlijk gevolg + 3. Stelselmatige monitoring + 4. Gevoelige gegevens of gegevens van zeer persoonlijke aard + 5. Op grote schaal verwerkte gegevens + 6. Matching of samenvoeging van datasets + 7. Gegevens met betrekking tot kwetsbare betrokkenen + 8. Innovatief gebruik of innovatieve toepassing van nieuwe technologische of organisatorische oplossingen + 9. de situatie waarin als gevolg van de verwerking zelf "betrokkenen [...] een recht niet kunnen uitoefenen of geen beroep kunnen doen op een dienst of een overeenkomst"; + +Het is mogelijk dat algoritmes die niet aan één of meer van deze eigenschappen voldoen toch voor een potentieel hoog risico zorgen. + Gebruiksverantwoordelijken van AI-systemen met een hoog risico gebruiken die informatie op grond van artikel 13 AI Verordening om hun verplichting na te komen om een gegevensbeschermingseffectbeoordeling uit te voeren. ## Bronnen @@ -45,6 +60,7 @@ Gebruiksverantwoordelijken van AI-systemen met een hoog risico gebruiken die inf |-----------------------------| |[Artikel 35 Algemene Verordening Gegevensbescherming](https://eur-lex.europa.eu/legal-content/NL/TXT/HTML/?uri=CELEX:32016R0679) | |[Artikel 26(9) Verordening Artificiële Intelligentie](https://www.europarl.europa.eu/doceo/document/TA-9-2024-0138-FNL-COR01_NL.pdf) | +|[Besluit lijst verwerkingen persoonsgegevens waarvoor een gegevensbeschermingseffectbeoordeling (DPIA) verplicht is, Autoriteit Persoonsgegevens](https://wetten.overheid.nl/BWBR0042812/2019-11-27) | ## Wanneer van toepassing? @@ -69,7 +85,7 @@ Gebruiksverantwoordelijken van AI-systemen met een hoog risico gebruiken die inf ## Risico Het niet evalueren van de impact van het verwerking van persoonsgegevens in AI-systemen en algoritmes kan resulteren in het niet onderkennen van de bijbehorende risico's en het niet op tijd te mitigieren van deze risico's. -Dit kan leiden tot potentiële schendingen van de rechten en vrijheden van betrokkenen. +Dit kan leiden tot potentiële schendingen van de rechten en vrijheden van betrokkenen en een onrechtmatige verwerking. ## Maatregelen diff --git a/docs/vereisten/fundamentele_rechten.md b/docs/vereisten/fundamentele_rechten.md new file mode 100644 index 0000000000..5e98bf39dd --- /dev/null +++ b/docs/vereisten/fundamentele_rechten.md @@ -0,0 +1,66 @@ +--- +title: Beschermen van fundamentele rechten en vrijheden +toelichting: Fundamentele vrijheden, mensenrechten en grondrechten worden beschermd bij de inzet van algoritmes en AI. +status_vereiste: +- geldend +levenscyclus: +- probleemanalyse +- ontwerp +- verificatie-en-validatie +- monitoring-en-beheer +bouwblok: +- fundamentele-rechten +hide: +- navigation +--- + + +## Vereiste + +Fundamentele vrijheden, mensenrechten en grondrechten worden beschermd bij de inzet van algoritmes en AI. + +## Toelichting + +Mensenrechten gelden voor alle mensen op de wereld. +De mensenrechten in Nederland zijn beschermd door nationale wetten en internationale verdragen. +In Nederland staan veel mensenrechten in hoofdstuk 1 van de Grondwet. +Deze rechten heten ook wel ’grondrechten’. +Een bekend voorbeeld is artikel 1 van de Grondwet. +Om mensenrechten te beschermen zijn ze op Europees en internationaal niveau in verschillende verklaringen en verdragen vastgelegd. + + +Mensenrechten kunnen soms onder druk komen te staan. +De inzet van algoritmes en AI-systemen kan bijvoorbeeld een bedreiging vormen voor de privacy van burgers, voor het recht op gelijke behandeling en voor het recht op behoorlijk bestuur. +Het is daarom belangrijk om tijdig te onderzoeken of er sprake is of kan zijn van een eventuele inbreuk op fundamentele rechten en vrijheden van burgers. Het is van belang dat maatregelen worden getroffen om een eventuele inbreuk te voorkomen. + +## Bronnen + +| Bron | +|-----------------------------| +|Grondwet| +|Europees Verdragvoor de Rechten van de Mens (EVRM)| +|Handvest van de grondrechten van de Europese Unie| +|Universele Verklaring van de Rechten van de Mens (UVRM)| +|Internationaal Statuut van de Rechten van de Mens| +|Internationale Verdrag inzake burgerrechten en politieke rechten (IVBPR)| +|Internationale Verdrag inzake economische, sociale en culturele rechten (IVESCR)| +|Internationaal Verdrag inzake de uitbanning van alle vormen van rassendiscriminatie (CERD)| +|Internationaal Verdrag voor de rechten van het kind (CRC)| +|Internationaal Verdrag voor de Rechten van Mensen met een Handicap (VN-verdrag Handicap)| +|Artikel 27 AI-verordening| + +## Wanneer van toepassing? + + +## Risico + +Grondrechten kunnen worden aangetast door de inzet van algoritmes + +## Maatregelen + +=== "Allen" + +=== "Governance" + +=== "Publieke inkoop" + diff --git a/docs/vereisten/gebruiksverantwoordelijken_bewaren_automatisch_gegenereerde_logs .md b/docs/vereisten/gebruiksverantwoordelijken_bewaren_automatisch_gegenereerde_logs .md index 817c5b9491..4f362fd269 100644 --- a/docs/vereisten/gebruiksverantwoordelijken_bewaren_automatisch_gegenereerde_logs .md +++ b/docs/vereisten/gebruiksverantwoordelijken_bewaren_automatisch_gegenereerde_logs .md @@ -9,6 +9,8 @@ levenscyclus: bouwblok: - governance - technische-robuustheid-en-veiligheid +hide: +- navigation --- diff --git a/docs/vereisten/gebruiksverantwoordelijken_leven_registratieverplichting_na.md b/docs/vereisten/gebruiksverantwoordelijken_leven_registratieverplichting_na.md index 0848f449de..f3a99e950c 100644 --- a/docs/vereisten/gebruiksverantwoordelijken_leven_registratieverplichting_na.md +++ b/docs/vereisten/gebruiksverantwoordelijken_leven_registratieverplichting_na.md @@ -9,6 +9,8 @@ levenscyclus: bouwblok: - transparantie - governance +hide: +- navigation --- diff --git a/docs/vereisten/gebruiksverantwoordelijken_menselijk_toezicht_natuurlijke_personen.md b/docs/vereisten/gebruiksverantwoordelijken_menselijk_toezicht_natuurlijke_personen.md index 91fe36ac3a..39574da7ea 100644 --- a/docs/vereisten/gebruiksverantwoordelijken_menselijk_toezicht_natuurlijke_personen.md +++ b/docs/vereisten/gebruiksverantwoordelijken_menselijk_toezicht_natuurlijke_personen.md @@ -9,6 +9,8 @@ levenscyclus: bouwblok: - governance - menselijke-controle +hide: +- navigation --- diff --git a/docs/vereisten/gebruiksverantwoordelijken_monitoren_werking_ hoog_risico_AI-systeem.md b/docs/vereisten/gebruiksverantwoordelijken_monitoren_werking_ hoog_risico_AI-systeem.md index 6d9a569268..ad7f29d726 100644 --- a/docs/vereisten/gebruiksverantwoordelijken_monitoren_werking_ hoog_risico_AI-systeem.md +++ b/docs/vereisten/gebruiksverantwoordelijken_monitoren_werking_ hoog_risico_AI-systeem.md @@ -8,6 +8,8 @@ levenscyclus: bouwblok: - governance - menselijke-controle +hide: +- navigation --- diff --git a/docs/vereisten/index.md b/docs/vereisten/index.md index 3a17d8ae9e..eb9f7556ff 100644 --- a/docs/vereisten/index.md +++ b/docs/vereisten/index.md @@ -1,5 +1,7 @@ --- title: Vereisten +hide: +- navigation --- Een kernelement van het Algoritmekader is het beschrijven van de vereisten waar overheidsorganisaties aan moeten voldoen als zij algoritmes en AI (laten) ontwikkelen en gebruiken. @@ -23,9 +25,45 @@ Dit moet gebruikers helpen om te duiden welke vereisten in welke situaties moete Aan deze functionaliteit wordt nog gewerkt. Meer hierover zal volgen in een volgende versie. ### Voorbeeld -Ter illustratie, ongeacht het type technologie, zijn discriminerende algoritmes en AI verboden en het vereisten van non-discriminatie moet in alle gevallen worden toegepast. +Ter illustratie, ongeacht het type technologie, zijn discriminerende algoritmes en AI verboden en het vereiste van non-discriminatie moet in alle gevallen worden toegepast. De mate waarin dit speelt kan verschillen en het aantal te treffen maatregelen ook. Organisaties zullen hier hoe dan ook aandacht aan moeten besteden. -Dit is anders als het gaat om bijvoorbeeld het vereiste van het opnemen van algoritmes en AI in het Algoritmeregister. +Dit is anders als het gaat om bijvoorbeeld het vereiste om algoritmes en AI op te nemen in het Algoritmeregister. Dit is van belang bij impactvolle algoritmische toepassingen en hoog-risico AI-systemen. -Voor de niet-impactvolle rekenregels is dit niet noodzakelijk en kan daardoor achterwege blijven. \ No newline at end of file +Voor de niet-impactvolle rekenregels is dit niet noodzakelijk en kan daardoor achterwege blijven. + +## Overzicht van vereisten + +Onderstaand volgt een overzicht van vereisten per fase van de levenscyclus. + +??? simple "Probleemanalyse" + + + +??? simple "Ontwerp" + + + +??? simple "Dataverkenning en datapreparatie" + + + +??? simple "Ontwikkelen" + + + +??? simple "Verificatie en validatie" + + + +??? simple "Implementatie" + + + +??? simple "Monitoring en beheer" + + + +??? simple "Uitfaseren" + + diff --git a/docs/vereisten/inroepen_privacyrecht_bij_verwerking_persoonsgegevens.md b/docs/vereisten/inroepen_privacyrecht_bij_verwerking_persoonsgegevens.md new file mode 100644 index 0000000000..795359eda4 --- /dev/null +++ b/docs/vereisten/inroepen_privacyrecht_bij_verwerking_persoonsgegevens.md @@ -0,0 +1,48 @@ +--- +title: Privacyrechten +toelichting: Betrokkenen kunnen een beroep doen op hun privacyrechten. +status_vereiste: +- geldend +levenscyclus: +- ontwerp +- dataverkenning-en-datapreparatie +- ontwikkelen +bouwblok: +- privacy-en-gegevensbescherming +hide: +- navigation +--- + + +## Vereiste + +Betrokkenen kunnen een beroep doen op hun privacyrechten. + +## Toelichting + +Mensen hebben het recht om hun privacyrechten uit te oefenen door een beroep te doen op verschillende wettelijke bepalingen, zoals het recht op inzage, correctie, verwijdering en bezwaar tegen de verwerking van hun persoonsgegevens. +Dit betekent dat individuen controle hebben over hoe hun gegevens worden gebruikt en kunnen verzoeken om toegang te krijgen tot hun gegevens of om wijzigingen aan te brengen indien nodig. +Het kunnen uitoefenen van privacyrechten is essentieel voor het beschermen van de privacy van individuen, het waarborgen van transparantie en controle uitvoeren over persoonsgegevens. +Als persoonsgegevens worden verwerkt voor het ontwikkelen en gebruiken van algoritmes en AI, is het van belang dat maatregelen worden getroffen om deze rechten te eerbiedigen. + +## Bronnen + +| Bron | +|-----------------------------| +|Artikel 15 - 21 AVG| + +## Wanneer van toepassing? + + +## Risico + +Betrokkenen hebben geen controle over hun persoonsgegevens wanneer ze geen beroep kunnen doen op hun privacyrechten. + +## Maatregelen + +=== "Allen" + +=== "Governance" + +=== "Publieke inkoop" + diff --git a/docs/vereisten/juistheid_en_actualiteit_van_persoonsgegevens.md b/docs/vereisten/juistheid_en_actualiteit_van_persoonsgegevens.md new file mode 100644 index 0000000000..29992805cb --- /dev/null +++ b/docs/vereisten/juistheid_en_actualiteit_van_persoonsgegevens.md @@ -0,0 +1,52 @@ +--- +title: Juistheid en actualiteit van gegevens +toelichting: De te verwerken persoonsgegevens zijn juist, nauwkeurig en worden zo nodig geactualiseerd of gewist. +status_vereiste: +- geldend +levenscyclus: +- probleemanalyse +- ontwerp +- dataverkenning-en-datapreparatie +- ontwikkelen +bouwblok: +- privacy-en-gegevensbescherming +- data +hide: +- navigation +--- + + +## Vereiste + +De te verwerken persoonsgegevens zijn juist, nauwkeurig en worden zo nodig geactualiseerd of gewist. + +## Toelichting + +De te verwerken persoonsgegevens moeten nauwkeurig, juist en zo nodig actueel zijn. +Dit betekent dat alle maatregelen moeten worden genomen om ervoor te zorgen dat onjuiste persoonsgegevens worden gerectificeerd of gewist. +Dat kan betekenen dat persoonsgegevens moeten worden geactualiseerd of verbeterd. +In de context van algoritmes en AI is het van belang dat ook daar wordt onderzocht welke maatregelen nodig zijn om die juistheid toe te passen. + + + +## Bronnen + +| Bron | +|-----------------------------| +|Artikel 5 lid 1 sub d AVG| + +## Wanneer van toepassing? + + +## Risico + +Als er geen rekening wordt gehouden met de juistheid, nauwkeurigheid en volledigheid van persoonsgegevens, kunnen kwaliteit en integriteit van data niet voldoende worden gewaarborgd. + +## Maatregelen + +=== "Allen" + +=== "Governance" + +=== "Publieke inkoop" + diff --git a/docs/vereisten/kwaliteitsbeheersysteem_voor_hoog_risico_ai.md b/docs/vereisten/kwaliteitsbeheersysteem_voor_hoog_risico_ai.md index 6ff67f92a3..8ebadb09bd 100644 --- a/docs/vereisten/kwaliteitsbeheersysteem_voor_hoog_risico_ai.md +++ b/docs/vereisten/kwaliteitsbeheersysteem_voor_hoog_risico_ai.md @@ -8,6 +8,8 @@ levenscyclus: - ontwerp bouwblok: - governance +hide: +- navigation --- diff --git a/docs/vereisten/kwaliteitscriteria_voor_data.md b/docs/vereisten/kwaliteitscriteria_voor_data.md index c9f3d649c8..320618e728 100644 --- a/docs/vereisten/kwaliteitscriteria_voor_data.md +++ b/docs/vereisten/kwaliteitscriteria_voor_data.md @@ -21,6 +21,8 @@ generatieve-ai: - niet-impactvol: Nee - impactvol: Nee - hoog-risico: Ja +hide: +- navigation --- diff --git a/docs/vereisten/maatregelen_van_gebruiksverantwoordelijken_voor_gebruik.md b/docs/vereisten/maatregelen_van_gebruiksverantwoordelijken_voor_gebruik.md index 73483ca815..abff2142f8 100644 --- a/docs/vereisten/maatregelen_van_gebruiksverantwoordelijken_voor_gebruik.md +++ b/docs/vereisten/maatregelen_van_gebruiksverantwoordelijken_voor_gebruik.md @@ -7,6 +7,8 @@ levenscyclus: - implementatie bouwblok: - governance +hide: +- navigation --- diff --git a/docs/vereisten/melding_ernstige_incidenten.md b/docs/vereisten/melding_ernstige_incidenten.md index eab73c8cc0..5b3d1a9505 100644 --- a/docs/vereisten/melding_ernstige_incidenten.md +++ b/docs/vereisten/melding_ernstige_incidenten.md @@ -8,6 +8,8 @@ levenscyclus: - monitoring-en-beheer bouwblok: - governance +hide: +- navigation --- diff --git a/docs/vereisten/minimale_verwerking_van_persoonsgegevens.md b/docs/vereisten/minimale_verwerking_van_persoonsgegevens.md new file mode 100644 index 0000000000..41cf3848f0 --- /dev/null +++ b/docs/vereisten/minimale_verwerking_van_persoonsgegevens.md @@ -0,0 +1,48 @@ +--- +title: Persoonsgegevens verzamelen voor specifieke doeleinden +toelichting: De verwerking van persoonsgegevens moet minimaal worden gehouden, dat wil zeggen dat die verwerking toereikend moet zijn, ter zake dienend en beperkt tot wat noodzakelijk is voor de doeleinden waarvoor zij worden verwerkt. +status_vereiste: +- geldend +levenscyclus: +- ontwerp +- dataverkenning-en-datapreparatie +- ontwikkelen +bouwblok: +- privacy-en-gegevensbescherming +hide: +- navigation +--- + + +## Vereiste + +De verwerking van persoonsgegevens moet minimaal worden gehouden, dat wil zeggen dat die verwerking toereikend moet zijn, ter zake dienend en beperkt tot wat noodzakelijk is voor de doeleinden waarvoor zij worden verwerkt. + + +## Toelichting + +Het is van belang dat énkel persoonsgegevens worden verwerkt die noodzakelijk zijn gezien de doeleinden van die vewerking. +Er moet een beoordeling worden gemaakt welke persoonsgegevens dit wel en eventueel niet zijn. +Voor het ontwikkelen en gebruiken van algoritmes of AI-systemen is het van belang om te beoordelen welke persoonsgegevens noodzakelijk zijn om het beoogde doel te bereiken. Afhankelijk van de toepassing vraagt dit om een intensieve toets. Er moet voor worden gezorgd dat persoonsgegevens die niet als noodzakelijk worden beschouwd, buiten de verwerking blijven. + +## Bronnen + +| Bron | +|-----------------------------| +|Artikel 5 lid 1 onder c AVG| + +## Wanneer van toepassing? + + +## Risico + +Het onnodig verwerken van persoonsgegevens kan een inbreuk maken op rechten van betrokkenen, en zou kunnen leiden tot een datalek. + +## Maatregelen + +=== "Allen" + +=== "Governance" + +=== "Publieke inkoop" + diff --git a/docs/vereisten/monitoring_na_het_in_de_handel_brengen.md b/docs/vereisten/monitoring_na_het_in_de_handel_brengen.md index 54ba8aded5..ac3053e5a9 100644 --- a/docs/vereisten/monitoring_na_het_in_de_handel_brengen.md +++ b/docs/vereisten/monitoring_na_het_in_de_handel_brengen.md @@ -1,13 +1,14 @@ --- title: Monitoring na het in handel brengen toelichting: Aanbieders moeten een systeem voor monitoring na het in de handel brengen vaststellen en documenteren op een manier die evenredig is aan de aard van de AI-technologieën en de risico’s van het AI-systeem met een hoog risico. - status_vereiste: - nog-niet-geldend levenscyclus: - monitoring-en-beheer bouwblok: - privacy-en-gegevensbescherming +hide: +- navigation --- diff --git a/docs/vereisten/motiveringsbeginsel.md b/docs/vereisten/motiveringsbeginsel.md new file mode 100644 index 0000000000..3ff818e893 --- /dev/null +++ b/docs/vereisten/motiveringsbeginsel.md @@ -0,0 +1,54 @@ +--- +title: Een besluit berust op een deugdelijke motivering +toelichting: Een besluit dat tot stand is gekomen door of met behulp van een algoritme of AI-systeem, dient te berusten op een deugdelijke motivering. +status_vereiste: +- geldend +levenscyclus: +- ontwerp +- dataverkenning-en-datapreparatie +- ontwikkelen +- verificatie-en-validatie +- implementatie +- monitoring-en-beheer +bouwblok: +- governance +--- + + +## Vereiste + +Een besluit berust op een deugdelijke motivering + + +## Toelichting + +Een bestuursorgaan moet inzichtelijk maken: +1. dat een besluit tot stand is gekomen met behulp van een algoritme; +2. van welke feiten het is uitgegaan en welke gegevens van de burger gebruikt c.q. verwerkt zijn; +3. welke relevante belangen tegen elkaar zijn afgewogen en hoe die afweging is verlopen (bijvoorbeeld het gewicht dat wordt toegekend aan elk afgewogen kenmerk; welke analytische technieken gebruikt zijn; welke specifieke voorspellende data; wat de belangrijkste policy-keuzes waren; een uitleg van het voorspellende algoritme); +4. hoe het algoritme werkt (niet de techniek, maar hoe de uitkomsten van het algoritme tot stand komen). +De keuzes en aannames die zijn gemaakt en gedaan moeten worden beschreven en toegelicht. + +## Bronnen + +| Bron | +|-----------------------------| +| Artikel 3:46 - 3:50 Awb | +|Jurisprudentie over AERIUS (ABRvS 18 juli 2018, ECLI:NL:RVS:2018:2454), Hof van Justitie C-274/18| + +## Wanneer van toepassing? + + +## Risico + +Het is onduidelijk op wat voor manier het algoritmes of AI-systeem heeft bijgedragen aan de totstandkoming van een besluit. + + +## Maatregelen + +=== "Allen" + +=== "Governance" + +=== "Publieke inkoop" + diff --git a/docs/vereisten/non_discriminatie.md b/docs/vereisten/non_discriminatie.md index d33312ed19..ac82943f13 100644 --- a/docs/vereisten/non_discriminatie.md +++ b/docs/vereisten/non_discriminatie.md @@ -23,6 +23,8 @@ generatieve-ai: - niet-impactvol: Ja - impactvol: Ja - hoog-risico: Ja +hide: +- navigation --- diff --git a/docs/vereisten/ontwerp_voor_nauwkeurigheid_robuustheid_en_cyberbeveiliging.md b/docs/vereisten/ontwerp_voor_nauwkeurigheid_robuustheid_en_cyberbeveiliging.md index 2916fd378b..21a7a98824 100644 --- a/docs/vereisten/ontwerp_voor_nauwkeurigheid_robuustheid_en_cyberbeveiliging.md +++ b/docs/vereisten/ontwerp_voor_nauwkeurigheid_robuustheid_en_cyberbeveiliging.md @@ -9,6 +9,8 @@ levenscyclus: - ontwikkelen bouwblok: - technische-robuustheid-en-veiligheid +hide: +- navigation --- diff --git a/docs/vereisten/persoonsgegevens_worden_rechtmatig_verwerkt.md b/docs/vereisten/persoonsgegevens_worden_rechtmatig_verwerkt.md new file mode 100644 index 0000000000..c99b4b50b2 --- /dev/null +++ b/docs/vereisten/persoonsgegevens_worden_rechtmatig_verwerkt.md @@ -0,0 +1,56 @@ +--- +title: Verwerking van persoonsgegevens moet rechtmatig plaatsvinden +toelichting: De verwerking van persoonsgegevens moet rechtmatig plaatsvinden. De verwerking (inclusief het verzamelen) moet worden gebaseerd op een van de wettelijke grondslagen die zijn genoemd in de AVG. +status_vereiste: +- geldend +levenscyclus: +- probleemanalyse +- ontwerp +- dataverkenning-en-datapreparatie +bouwblok: +- privacy-en-gegevensbescherming +hide: +- navigation +--- + + +## Vereiste + +De verwerking van persoonsgegevens moet rechtmatig plaatsvinden. + +## Toelichting + +De verwerking van persoonsgegevens moet rechtmatig plaatsvinden, wat betekent dat de verwerking gebaseerd moet zijn op één van de wettelijke grondslagen die zijn geformuleerd in artikel 6 Algemene Verordening Gegevensbescherming. +Persoonsgegevens mogen alleen worden verzameld voor specifieke, duidelijk omschreven en gerechtvaardigde doeleinden. +Het is niet toegestaan om deze gegevens verder te verwerken op een manier die niet verenigbaar is met deze oorspronkelijke doeleinden. + +Bij het verwerken van persoonsgegevens ten behoeve van de ontwikkeling en gebruik van algoritmes en AI moet worden onderzocht of dit kan worden gebaseerd op één van de verwerkingsgrondslagen. +Het is van belang dat wordt uitgewerkt welke persoonsgegevens waarvoor worden verwerkt en op basis van welke grondslag. +Hierbij kan worden gedacht aan persoonsgegevens ten behoeve van trainingsdata, voor het genereren van output of, indien (juridisch) mogelijk, voor het uitvoeren van een onderzoek naar onbewuste vooringenomenheid. + +## Bronnen + +| Bron | +|-----------------------------| +|Artikel 5 lid 1 onder a en b AVG| +|Artikel 6 lid 1 onder b AVG| +|Artikel 6 AVG| +|Overweging 39 en 45 AVG| + +## Wanneer van toepassing? + + +## Risico + +Het risico wanneer persoonsgegevens niet op een rechtmatige manier worden verwerkt (verzamelen van gegevens valt hier ook onder), is dat er niet aan de AVG wordt voldaan. +Er worden dan onrechtmatig persoonsgegevens verwerkt, waarmee privacy van personen in het geding komt. +Ook kan het leiden tot hoge boetes voor organisaties, en kan een datalek plaatsvinden. + +## Maatregelen + +=== "Allen" + +=== "Governance" + +=== "Publieke inkoop" + diff --git a/docs/vereisten/privacy_bij_ontwerp_bij_verwerking_van_persoonsgegevens.md b/docs/vereisten/privacy_bij_ontwerp_bij_verwerking_van_persoonsgegevens.md new file mode 100644 index 0000000000..0952369ff3 --- /dev/null +++ b/docs/vereisten/privacy_bij_ontwerp_bij_verwerking_van_persoonsgegevens.md @@ -0,0 +1,53 @@ +--- +title: Privacy door ontwerp +toelichting: Pas privacy en gegevensbescherming toe door goed ontwerp en door standaardinstellingen +status_vereiste: +- geldend +levenscyclus: +- ontwerp +- dataverkenning-en-datapreparatie +- ontwikkelen +- implementatie +bouwblok: +- privacy-en-gegevensbescherming +- data +hide: +- navigation +--- + + +## Vereiste + +Privacy en gegevensbescherming door goed ontwerp en door standaardinstellingen + +## Toelichting + +Gegevensbescherming door ontwerp en standaardinstellingen houdt in dat privacy- en gegevensbescherming vanaf het begin worden geïntegreerd in de ontwikkeling van systemen en processen (ook wel privacy-by-design genoemd). +Door al bij het ontwerp rekening te houden met privacyaspecten en door standaardinstellingen die privacy bevorderen, wordt de bescherming van persoonsgegevens versterkt. +Hierbij kan worden gedacht een het pseudonimiseren van persoonsgegevens of dataminimalisatie. +Deze aanpak zorgt ervoor dat privacy-overwegingen een integraal onderdeel zijn van alle aspecten van gegevensverwerking en draagt bij aan het vertrouwen van individuen in de veilige omgang met hun gegevens. +Dit is eveneens van toepassing als persoonsgegevens worden verwerkt bij het ontwikkelen en gebruiken van algoritmes en AI. + + +## Bronnen + +| Bron | +|-----------------------------| +|Artikel 25 AVG| + +## Wanneer van toepassing? + + +## Risico + +Door privacy en gegevensbescherming door ontwerp en standaardinstellingen niet toe te passen, kan een inbreuk op rechten van betrokkenen ontstaan. + + +## Maatregelen + +=== "Allen" + +=== "Governance" + +=== "Publieke inkoop" + diff --git a/docs/vereisten/recht_klacht_indienen_bij_ai_bureau.md b/docs/vereisten/recht_klacht_indienen_bij_ai_bureau.md index ce6f889563..362b946360 100644 --- a/docs/vereisten/recht_klacht_indienen_bij_ai_bureau.md +++ b/docs/vereisten/recht_klacht_indienen_bij_ai_bureau.md @@ -8,6 +8,8 @@ levenscyclus: bouwblok: - governance - fundamentele-rechten +hide: +- navigation --- diff --git a/docs/vereisten/recht_op_niet_geautomatiseerd_besluitvorming.md b/docs/vereisten/recht_op_niet_geautomatiseerd_besluitvorming.md index 0119896c98..9e340ac9a3 100644 --- a/docs/vereisten/recht_op_niet_geautomatiseerd_besluitvorming.md +++ b/docs/vereisten/recht_op_niet_geautomatiseerd_besluitvorming.md @@ -20,6 +20,8 @@ generatieve-ai: - niet-impactvol: Nee - impactvol: Ja - hoog-risico: Ja +hide: +- navigation --- diff --git a/docs/vereisten/recht_op_toegang_tot_publieke_informatie.md b/docs/vereisten/recht_op_toegang_tot_publieke_informatie.md new file mode 100644 index 0000000000..e831a6e7fb --- /dev/null +++ b/docs/vereisten/recht_op_toegang_tot_publieke_informatie.md @@ -0,0 +1,59 @@ +--- +title: Eenieder heeft recht op toegang tot publieke informatie +toelichting: Een bestuursorgaan draagt er zorg voor dat de documenten die het ontvangt, vervaardigt of anderszins onder zich heeft, zich in goede, geordende en toegankelijke staat bevinden. Een bestuursorgaan draagt er zoveel mogelijk zorg voor dat de informatie die het overeenkomstig deze wet verstrekt, actueel, nauwkeurig en vergelijkbaar is. +status_vereiste: +- geldend +levenscyclus: +- ontwerp +- dataverkenning-en-datapreparatie +- ontwikkelen +- verificatie-en-validatie +- implementatie +- monitoring-en-beheer +bouwblok: +- transparantie +hide: +- navigation +--- + + +## Vereiste + +Een bestuursorgaan draagt er zorg voor dat de documenten die het ontvangt, vervaardigt of anderszins onder zich heeft, zich in goede, geordende en toegankelijke staat bevinden. +Een bestuursorgaan draagt er zoveel mogelijk zorg voor dat de informatie die het overeenkomstig deze wet verstrekt, actueel, nauwkeurig en vergelijkbaar is. + +## Toelichting + +Bij het ontwikkelen en gebruiken van algoritmes en AI kunnen documenten en publieke informatie ontstaan die (op verzoek) in aanmerking komen voor openbaarmaking. +Het kunnen openbaren van publieke informatie is in het belang van een democratische rechtstaat. +De Wet open overheid gaat uit van een recht op openbaarheid van publieke informatie. +Iedereenkan een verzoek tot openbaarmaking van publieke informatie doen bij een bestuursorgaan zonder daarbij een belang te stellen (artikel 4.1 Woo). +De aan een verzoeker verstrekte informatie wordt openbaar voor iedereen. +De Woo is niet van toepassing op informatie die al openbaar is (uitspraken van de Afdeling bestuursrechtspraak van de Raad van State van 1 december 2010 (ECLI:NL:RVS:2010:BNS6990) en 20 oktober 2010 (ECLI:NL:RVS:2010:BO1165)). +Er kunnen uitsluitingsgronden bestaan voor het openbaarmaken van documenten (artikel 5.1 Woo). + +In de context van het ontwikkelen en gebruiken van algoritmes en AI-systemen is het van belang dat tijdig wordt vastgesteld welke documenten in aanmerking komen voor openbaarmaking. +Dit moet worden bekeken in het licht van wat 'actief' moet worden geopenbaard, dus proactief vanuit overheidsinstanties zelf, of wat op 'verzoek' van iemand moet worden geopenbaard. + +## Bronnen + +| Bron | +|-----------------------------| +|Artikel 1.1, 2.5, 4.1, 5 Woo| + +## Wanneer van toepassing? + + +## Risico + +Zonder het openbaren van overheidsinformatie kan de overheid niet effectief worden gecontroleerd bij het uitvoeren van wettelijke taken. + + +## Maatregelen + +=== "Allen" + +=== "Governance" + +=== "Publieke inkoop" + diff --git a/docs/vereisten/recht_op_uitleg_ai_besluiten.md b/docs/vereisten/recht_op_uitleg_ai_besluiten.md index 3873ca7461..5888cf2b51 100644 --- a/docs/vereisten/recht_op_uitleg_ai_besluiten.md +++ b/docs/vereisten/recht_op_uitleg_ai_besluiten.md @@ -1,7 +1,6 @@ --- title: Veilig melden van inbreuk op AI verordening toelichting: Inbreuken op de AI verordening moeten gemeld kunnen worden en melders moeten dit op een veilige en vertrouwelijke manier kunnen doen, zoals beschreven in Richtlijn (EU) 2019/1937. - status_vereiste: - nog-niet-geldend levenscyclus: @@ -11,6 +10,8 @@ levenscyclus: bouwblok: - governance - fundamentele-rechten +hide: +- navigation --- diff --git a/docs/vereisten/registratieverplichtingen_hoog_risico.md b/docs/vereisten/registratieverplichtingen_hoog_risico.md index 67d0054937..4e4f0c27c8 100644 --- a/docs/vereisten/registratieverplichtingen_hoog_risico.md +++ b/docs/vereisten/registratieverplichtingen_hoog_risico.md @@ -10,6 +10,8 @@ levenscyclus: bouwblok: - governance - transparantie +hide: +- navigation --- diff --git a/docs/vereisten/risicobeoordeling_voor_jongeren_en_kwetsbaren.md b/docs/vereisten/risicobeoordeling_voor_jongeren_en_kwetsbaren.md new file mode 100644 index 0000000000..9b2f9786c7 --- /dev/null +++ b/docs/vereisten/risicobeoordeling_voor_jongeren_en_kwetsbaren.md @@ -0,0 +1,47 @@ +--- +title: Risicobeoordeling voor jongeren en kwetsbaren +toelichting: Bij het doorlopen, periodieke systematische toetsing en actualisatie van het risicosysteem nemen aanbieders in overweging of het beoogde doel van het AI-systeem negatieve effecten zal hebben op personen jonger dan 18 jaar of andere kwetsbare groepen. +status_vereiste: +- nog-niet-geldend +levenscyclus: +- probleemanalyse +- ontwerp +- ontwikkelen +bouwblok: +- fundamentele-rechten +hide: +- navigation +--- + + +## Vereiste + +Bij het doorlopen, periodieke systematische toetsing en actualisatie van het risicosysteem nemen aanbieders in overweging of het beoogde doel van het AI-systeem negatieve effecten zal hebben op personen jonger dan 18 jaar of andere kwetsbare groepen. + +## Toelichting + +Bij de uitvoering van het in de leden 1 tot en met 7 van art. +9 AI-Verordening bedoelde systeem voor risicobeheer houden aanbieders rekening met de vraag of het beoogde doel van het AI-systeem met een hoog risico waarschijnlijk negatieve gevolgen zal hebben voor personen jonger dan 18 jaar en, in voorkomend geval, voor andere groepen kwetsbare personen. Er moet een grondige risicoanalyse plaatsvinden en worden vertaald naar mitigerende maatregelen om het risico te elimineren of te mitigeren. + +## Bronnen + +| Bron | +|-----------------------------| +|Artikel 9(9) Systeem voor risicobeheer - AI verordening| + +## Wanneer van toepassing? + + +## Risico + +Niet adequaat adresseren van risico's voor jongeren en kwetsbare groepen kan leiden tot ernstige ethische en maatschappelijke schade. + + +## Maatregelen + +=== "Allen" + +=== "Governance" + +=== "Publieke inkoop" + diff --git a/docs/vereisten/technische_documentatie_voor_hoog_risico_ai.md b/docs/vereisten/technische_documentatie_voor_hoog_risico_ai.md index 33be54b14c..ef39a55efe 100644 --- a/docs/vereisten/technische_documentatie_voor_hoog_risico_ai.md +++ b/docs/vereisten/technische_documentatie_voor_hoog_risico_ai.md @@ -24,6 +24,8 @@ generatieve-ai: - niet-impactvol: Nee - impactvol: Nee - hoog-risico: Ja +hide: +- navigation --- diff --git a/docs/vereisten/toegankelijkheidseisen_hoog_risico.md b/docs/vereisten/toegankelijkheidseisen_hoog_risico.md index 194031cdf5..f1a15d84fe 100644 --- a/docs/vereisten/toegankelijkheidseisen_hoog_risico.md +++ b/docs/vereisten/toegankelijkheidseisen_hoog_risico.md @@ -10,6 +10,8 @@ levenscyclus: - monitoring-en-beheer bouwblok: - governance +hide: +- navigation --- diff --git a/docs/vereisten/toezichtmogelijkheden_voor_gebruikers.md b/docs/vereisten/toezichtmogelijkheden_voor_gebruikers.md index 4a35e57e86..12b4ecc38a 100644 --- a/docs/vereisten/toezichtmogelijkheden_voor_gebruikers.md +++ b/docs/vereisten/toezichtmogelijkheden_voor_gebruikers.md @@ -12,6 +12,8 @@ levenscyclus: - monitoring-en-beheer bouwblok: - menselijke-controle +hide: +- navigation --- diff --git a/docs/vereisten/transparantie.md b/docs/vereisten/transparantie.md index ca24bd54d2..dbf4afa168 100644 --- a/docs/vereisten/transparantie.md +++ b/docs/vereisten/transparantie.md @@ -22,6 +22,8 @@ generatieve-ai: - niet-impactvol: Nee - impactvol: Nee - hoog-risico: Ja +hide: +- navigation --- diff --git a/docs/vereisten/transparantie_bij_verwerken_persoonsgegevens.md b/docs/vereisten/transparantie_bij_verwerken_persoonsgegevens.md new file mode 100644 index 0000000000..6409ca76ef --- /dev/null +++ b/docs/vereisten/transparantie_bij_verwerken_persoonsgegevens.md @@ -0,0 +1,58 @@ +--- +title: Transparantie bij verwerking persoonsgegevens + + +toelichting: De verwerking van persoonsgegevens moet transparant zijn. + + +status_vereiste: +- geldend +levenscyclus: +- ontwerp +- dataverkenning-en-datapreparatie +- ontwikkelen +- verificatie-en-validatie +- implementatie +- monitoring-en-beheer +bouwblok: +- privacy-en-gegevensbescherming +- transparantie +hide: +- navigation +--- + + +## Vereiste + +De verwerking van persoonsgegevens moet transparant zijn. +## Toelichting + +Een betrokkene moet op de hoogte worden gesteld van het feit dat er verwerking plaatsvindt van diens persoonsgegevens en van de doeleinden daarvan (zoals ook is verwoord in het beginsel van transparante verwerking, artikel 5 AVG). +Hierbij moeten de specifieke omstandigheden en de context waarin de persoonsgegevens worden verwerkt, worden meegenomen. +In artikel 13 en 14 AVG wordt toegelicht welke informatie in welke gevallen moet worden verstrekt door de verwerkersverantwoordelijke. +Als persoonsgegevens worden verwerkt ten behoeve van het ontwikkelen of gebruiken van algoritmes en AI-systemen, zal deze informatie moeten worden verstrekt. + +## Bronnen + +| Bron | +|-----------------------------| +|Artikel 5 lid 1 AVG| +|Artikel 12, 13 en 14 AVG| +|Overweging 58 AVG| + +## Wanneer van toepassing? + + +## Risico + +Rechten van betrokken worden geschonden als er geen sprake is van transparantie over de verwerkingen van de persoonsgegevens. + + +## Maatregelen + +=== "Allen" + +=== "Governance" + +=== "Publieke inkoop" + diff --git a/docs/vereisten/verantwoordingsplicht_rechtmatigheid.md b/docs/vereisten/verantwoordingsplicht_rechtmatigheid.md new file mode 100644 index 0000000000..f713e794b4 --- /dev/null +++ b/docs/vereisten/verantwoordingsplicht_rechtmatigheid.md @@ -0,0 +1,60 @@ +--- +title: Verantwoordingsplicht voor de rechtmatigheid van de verwerking +toelichting: Bij het verwerken van persoonsgegevens voor algoritmes en AI-systemen moeten de verantwoordelijken kunnen aantonen dat de verwerking rechtmatig is. +status_vereiste: + - Geldend +levenscyclus: +- ontwerp +- dataverkenning-en-datapreparatie +- ontwikkelen +- verificatie-en-validatie +- monitoring-en-beheer +- uitfaseren +bouwblok: +- governance +- privacy-en-gegevensbescherming +--- + + +## Vereiste + +De verantwoordelijken moeten bij de verwerking van persoonsgegevens door algoritmes en AI-systemen kunnen aantonen dat de verwerkingen rechtmatig plaatsvinden. +Dit betekent concreet dat de volgende punten aangetoond kunnen worden: + + - Rechtmatigheid, behoorlijkheid en transparantie + - Doelbinding + - Minimale gegevensverwerking + - Juistheid + - Opslagbeperking + - Integriteit en vertrouwelijkheid +Een aandachtpunt daarbij is dat de rechtmatigheid van de verwerking ten opzichte van andere gerelateerde wetgeving zoals de AI Act en de Algemene wet gelijke behandeling ook moeten kunnen worden aangetoond voor zover de rechtmatigheid van de verwerking onder de AVG daarvan afhankelijk is. + +## Toelichting + +Bij het verwerken van persoonsgegevens voor algoritmes en AI-systemen moeten de verantwoordelijkheden duidelijk beschreven en toegewezen zijn. +De verwerkingsverantwoordelijke is degene die ervoor zorgt dat deze verantwoordelijkheden worden nageleefd en kan dit aantonen, wat bekend staat als de verantwoordingsplicht. +Deze maatregelen zijn essentieel om de naleving van regelgeving met betrekking tot gegevensbescherming te waarborgen en het vertrouwen van gebruikers in de verwerking van hun gegevens te vergroten. + +## Bronnen + +| Bron | +|-------------| +|Artikel 5 AVG| +| [Verantwoordingsplicht](https://www.autoriteitpersoonsgegevens.nl/themas/basis-avg/avg-algemeen/verantwoordingsplicht)] | + +## Wanneer van toepassing? +Deze vereiste is van toepassing op alle algoritmen die persoonsgegevens verwerken. + + +## Risico + +Het niet naleven van deze norm moet worden gekwalificeerd als een onrechtmatigheid, niet als een risico voor de rechten en vrijheden van betrokkenen onder de AVG. Maar het niet voldoen aan artikel 5 betekent in de praktijk vaak wel dat er onvoldoende zicht is op risico's voor de rechten en vrijheden van betrokkenen of dat er te grote risico's worden genomen. Deze gevolgen zijn echter indirect een gevolg van het niet naleven van artikel 5 AVG. Het moeten voldoen aan het aantoonbaarheidsvereiste kan wel risico's hebben voor de organisatie die een algortime inzet. Enkele risico's zijn: + +- Aantoonbaarheidsvereisten vragen in de praktijk veel documentatie. Deze documentatie kan via de Woo opgevraagd worden. Het ontbreken van documentatie kan door externen vaak relatief makkelijk in verband worden gebracht met een overtreding van deze vereisten. +- Algoritmen die van nature slecht inzichtelijk en uitlegbaar zijn (zoals deep-learning) hebben een zeer hoge drempel om aan deze vereiste te voldoen. Aantonen van rechtmatigheid is voor een belangrijk deel afhankelijk van inzicht in de werking van het algoritme. De inzet van een algortime kan dus mogelijk tegengehouden worden door deze vereisten. +- Bij leveranciers die niet of gedeeltelijke transparant zijn over hun product of dienstverlening ontstaat een vergelijkbaar risico. Waar de Woo uitzonderingen heeft voor bedrijfsgeheimen heeft de AVG daar maar beperkte ruimte voor. Het is dus mogelijk dat leveranciers terughoudend zullen zijn met het delen van informatie die onder de AVG ook aan betrokkenen gecommuniceerd moeten worden. +- Samenwerkingsverbanden en externe leveranciers kunnen niet als argumenten worden gebruikt om de aantoonbaarheidsvereisten op af te schuiven. Onafhankelijk van de onderlinge afspraken daarover hebben alle verwerkingsverantwoordelijken de verplichting om aan deze vereisten te kunnen voldoen. + +## Maatregelen + + diff --git a/docs/vereisten/verboden_toepassingen_evaluatie_of_classificatie_natuurlijke_personen_of_groepen_personen.md b/docs/vereisten/verboden_toepassingen_evaluatie_of_classificatie_natuurlijke_personen_of_groepen_personen.md index 8c578a7883..c43622be97 100644 --- a/docs/vereisten/verboden_toepassingen_evaluatie_of_classificatie_natuurlijke_personen_of_groepen_personen.md +++ b/docs/vereisten/verboden_toepassingen_evaluatie_of_classificatie_natuurlijke_personen_of_groepen_personen.md @@ -15,6 +15,8 @@ levenscyclus: bouwblok: - governance - fundamentele-rechten +hide: +- navigation --- diff --git a/docs/vereisten/verdere_verwerking_van_persoonsgegevens_in_ai_testomgevingen.md b/docs/vereisten/verdere_verwerking_van_persoonsgegevens_in_ai_testomgevingen.md new file mode 100644 index 0000000000..42d90a3351 --- /dev/null +++ b/docs/vereisten/verdere_verwerking_van_persoonsgegevens_in_ai_testomgevingen.md @@ -0,0 +1,49 @@ +--- +title: Verdere verwerking van persoonsgegevens in AI-testomgevingen +toelichting: Rechtmatig voor andere doeleinden verzamelde persoonsgegevens mogen uitsluitend in de AI-testomgeving voor regelgeving worden verwerkt ten behoeve van het ontwikkelen, trainen en testen van bepaalde AI-systemen en indien aan alle voorwaarden van art. 57 is voldaan. +status_vereiste: +- nog-niet-geldend +levenscyclus: +- ontwikkelen +- dataverkenning-en-datapreparatie +bouwblok: +- privacy-en-gegevensbescherming +- data +hide: +- navigation +--- + + +## Vereiste + +Rechtmatig voor andere doeleinden verzamelde persoonsgegevens mogen uitsluitend in de AI-testomgeving voor regelgeving worden verwerkt ten behoeve van het ontwikkelen, trainen en testen van bepaalde AI-systemen en indien aan alle voorwaarden van art. +57 is voldaan. + +## Toelichting + +De verwerking van persoonsgegevens voor AI-testdoeleinden is mogelijk maar het moet voldoen aan strikte voorwaarden die zijn opgenomen in artikel 57 AI-Verordening. +Hierbij kan worden gedacht aan voorwaarden als het beschermen van persoonsgevens met passende technische en organisatorische maatregelen, persoonsgegevens die in de testomgeving worden aangemaakt mogen niet buiten de testomgeving worden gedeeld en logbestanden worden bijgehouden voor de duur van de deelname aan de testomgeving. +Voor toepassingen voor het verder verwerken van gegevens kan worden gedacht aan het ontwikkelen van een AI-systeem zodat een overheidsinstantie of een andere natuurlijke of rechtspersoon een aanzienlijk openbaar belang kan waarborgen, bijvoorbeeld op het gebied van kwaliteit van milieu, duurzaamheid, openbare veiligheid en gezondheid. + +## Bronnen + +| Bron | +|-----------------------------| +|Artikel 57(1) Verdere verwerking van persoonsgegevens voor het ontwikkelen van bepaalde AI-systemen| + +## Wanneer van toepassing? + + +## Risico + +Verdere verwerking van persoonsgegevens buiten een AI-testomgeving vergroot de kans op bijvoorbeeld het lekken van de persoonsgegevens, wat kan leiden tot een inbreuk op de privacyrechten van betrokken. + + +## Maatregelen + +=== "Allen" + +=== "Governance" + +=== "Publieke inkoop" + diff --git a/docs/vereisten/verplicht_risicobeheersysteem_voor_hoog_risico_ai.md b/docs/vereisten/verplicht_risicobeheersysteem_voor_hoog_risico_ai.md index 9c11a47741..caa101b82f 100644 --- a/docs/vereisten/verplicht_risicobeheersysteem_voor_hoog_risico_ai.md +++ b/docs/vereisten/verplicht_risicobeheersysteem_voor_hoog_risico_ai.md @@ -14,6 +14,8 @@ levenscyclus: - uitfaseren bouwblok: - governance +hide: +- navigation --- diff --git a/docs/vereisten/verplichtingen_van_aanbieders_van_ai_modellen_voor_algemene_doeleinden.md b/docs/vereisten/verplichtingen_van_aanbieders_van_ai_modellen_voor_algemene_doeleinden.md new file mode 100644 index 0000000000..3973f984ff --- /dev/null +++ b/docs/vereisten/verplichtingen_van_aanbieders_van_ai_modellen_voor_algemene_doeleinden.md @@ -0,0 +1,62 @@ +--- +title: Verplichtingen van aanbieders van AI-modellen voor algemene doeleinden +toelichting: Aanbieders van AI-modellen voor algemene doeleinden moeten (technische) informatie en documentatie opstellen, up-to-date houden en beschikbaar stellen voor aanbieders van AI-systemen die het AI-model voor algemene doeleinden in hun AI-systemen willen integreren. +status_vereiste: +- nog-niet-geldend +levenscyclus: +- ontwerp +- dataverkenning-en-datapreparatie +- ontwikkelen +- verificatie-en-validatie +- implementatie +- monitoring-en-beheer +- uitfaseren +bouwblok: +- transparantie +hide: +- navigation +--- + + +## Vereiste + +Aanbieders van AI-modellen voor algemene doeleinden moeten (technische) informatie en documentatie opstellen, up-to-date houden en beschikbaar stellen voor aanbieders van AI-systemen die het AI-model voor algemene doeleinden in hun AI-systemen willen integreren. + + +## Toelichting + +Aanbieders van AI-modellen voor algemene doeleinden hebben een bijzondere rol en verantwoordelijkheid. +Zij leveren modellen die de basis kunnen vormen voor weer andere systemen en algoritmen, die vaak weer door andere partijen worden aangeboden dan de ontwikkelaar van het algemene systeem. +Dit vraagt om een goed inzicht in de modellen en hun capaciteiten, zowel qua integratie van de modellen in producten als qua naleving van verplichtingen. + + +Er zijn daarom evenredige transparantiemaatregelen nodig, zoals het opstellen en bijwerken van documentatie en verstrekken van informatie over het AI-model voor algemeen gebruik door de aanbieders van systemen die de algemene modellen gebruiken in hun product. +De aanbieder van het AI-model voor algemene doeleinden dient technische documentatie op te stellen en bij te werken om deze op verzoek te kunnen overleggen aan het AI-bureau en de nationale bevoegde autoriteiten. +De minimaal in de documentatie op te nemen elementen moeten worden vastgelegd volgens bijlage XII van de AI-Verordening. +Hierbij is het ook van belang dat de aanbieder van AI-modellen voor algemene doelstelling beleid opstellen voor naleving van auteursrechten en naburige rechten (artikel 4, lid 3 Richtlijn (EU) 2019/790). + +In art. +53 lid 2 wordt een uitzondering gemaakt op deze vereisten. + +## Bronnen + +| Bron | +|-----------------------------| +|Artikel 53 AI-Verordening| + +## Wanneer van toepassing? + + +## Risico + +Het niet voldoen aan deze verplichtingen kan leiden tot juridische en ethische complicaties, inclusief schendingen van auteursrechten en gebrek aan transparantie in het gebruik van AI-modellen. + + +## Maatregelen + +=== "Allen" + +=== "Governance" + +=== "Publieke inkoop" + diff --git a/docs/vereisten/verplichtingen_van_aanbieders_van_ai_modellen_voor_algemene_doeleinden_met_systeemrisico.md b/docs/vereisten/verplichtingen_van_aanbieders_van_ai_modellen_voor_algemene_doeleinden_met_systeemrisico.md new file mode 100644 index 0000000000..179eef109e --- /dev/null +++ b/docs/vereisten/verplichtingen_van_aanbieders_van_ai_modellen_voor_algemene_doeleinden_met_systeemrisico.md @@ -0,0 +1,54 @@ +--- +title: Aanvullende verplichtingen voor aanbieders van AI-modellen met systeemrisico +toelichting: Aanbieders van AI-modellen voor algemene doeleinden met een potentieel systeemrisico moeten modelevaluatie uitvoeren overeenkomstig gestandaardiseerde protocollen en instrumenten die de stand van de techniek weerspiegelen, met inbegrip van het uitvoeren en documenteren van tests gericht op het ontdekken van kwetsbaarheden van het model om systeemrisico’s in kaart te brengen en te beperken +status_vereiste: +- nog-niet-geldend +levenscyclus: +- ontwikkelen +- verificatie-en-validatie +- implementatie +- monitoring-en-beheer +bouwblok: +- governance +hide: +- navigation +--- + + +## Vereiste + +Aanbieders van AI-modellen voor algemene doeleinden met een potentieel systeemrisico moeten modelevaluatie uitvoeren overeenkomstig gestandaardiseerde protocollen en instrumenten die de stand van de techniek weerspiegelen, met inbegrip van het uitvoeren en documenteren van tests gericht op het ontdekken van kwetsbaarheden van het model om systeemrisico’s in kaart te brengen en te beperken. + +## Toelichting + +De aanbieders van AI-modellen voor algemene doeleinden die systeemrisico’s inhouden, moeten, naast de verplichtingen voor aanbieders van AI-modellen voor algemene doeleinden, onderworpen worden aan verplichtingen die gericht zijn op het identificeren en beperken van die risico’s en op waarborging van een passend niveau van cyberbeveiliging, ongeacht of het model een op zichzelf staand model is of ingebed in een AI-systeem of in een product. +Aanbieders van AI-modellen voor algemene doeleinden met een potentieel systeemrisico moeten modelevaluaties uitvoeren. Dit omvat het testen en documenteren van het model volgens de stand van de techniek, met specifieke aandacht voor het identificeren en beperken van kwetsbaarheden. Deze maatregelen zijn bedoeld om systematische risico's te adresseren en te verminderen. Deze vereiste is een aanvulling op de genoemde verplichtingen in artikel 53 van de AI-verordening. + + +Systeemrisico betekent: een risico dat specifiek is voor de capaciteiten met een grote impact van AI-modellen voor algemene doeleienden, die aanzienlijke gevolgen hebben voor de markt van de Uniek vanwege hun bereik, of vanwege feitelijke of redelijkerwijs te voorziene negatieve gevolgen voor de gezondheid, de veiligheid, de openbare veiligheid, de grondrechten of de samenleving als geheel, en dat op grote schaal in de hele waardeketen kan worden verspreid. + + +Systeemrisico’s nemen logischerwijs toe naargelang de capaciteiten en het bereik van een model groter zijn, kunnen zich voordoen gedurende de gehele levenscyclus van het model en worden beïnvloed door elementen als misbruik van het model, de betrouwbaarheid, billijkheid, beveiliging en mate van autonomie ervan. Ook worden ze beïnvloed door de toegang van het model tot instrumenten, nieuwe of gecombineerde modaliteiten, introductie- en distributiestrategieën, en door het potentieel om waarborgen te omzeilen en andere factoren. + +## Bronnen + +| Bron | +|-----------------------------| +|Artikel 55 AI-Verordening | +|Overweging 110 AI-Verordening| + +## Wanneer van toepassing? + + +## Risico + +Niet voldoen aan deze verplichtingen kan leiden tot negatieve gevolgen voor de gezondheid, veiligheid, de openbare veiligheid, de grondrechten of de samenleving als geheel. + +## Maatregelen + +=== "Allen" + +=== "Governance" + +=== "Publieke inkoop" + diff --git a/docs/vereisten/verstrekking_van_informatie_op_verzoek.md b/docs/vereisten/verstrekking_van_informatie_op_verzoek.md index 4c5bee21b9..8e99d4e17e 100644 --- a/docs/vereisten/verstrekking_van_informatie_op_verzoek.md +++ b/docs/vereisten/verstrekking_van_informatie_op_verzoek.md @@ -14,6 +14,8 @@ levenscyclus: - uitfaseren bouwblok: - governance +hide: +- navigation --- diff --git "a/docs/vereisten/werknemersvertegenwoordigers_en_betrokken_werknemers_worden_ge\303\257nformeerd_inzet_hoog_risico_AI.md" "b/docs/vereisten/werknemersvertegenwoordigers_en_betrokken_werknemers_worden_ge\303\257nformeerd_inzet_hoog_risico_AI.md" index 515936825d..451b5123bb 100644 --- "a/docs/vereisten/werknemersvertegenwoordigers_en_betrokken_werknemers_worden_ge\303\257nformeerd_inzet_hoog_risico_AI.md" +++ "b/docs/vereisten/werknemersvertegenwoordigers_en_betrokken_werknemers_worden_ge\303\257nformeerd_inzet_hoog_risico_AI.md" @@ -8,6 +8,8 @@ levenscyclus: - ontwerp bouwblok: - governance +hide: +- navigation --- diff --git a/docs/vereisten/wettelijke_verwerking_van_gevoelige_gegevens.md b/docs/vereisten/wettelijke_verwerking_van_gevoelige_gegevens.md new file mode 100644 index 0000000000..7184380be2 --- /dev/null +++ b/docs/vereisten/wettelijke_verwerking_van_gevoelige_gegevens.md @@ -0,0 +1,57 @@ +--- +title: Wettelijke uitzondering nodig voor verwerken bijzondere categorieën persoonsgegevens +toelichting: Bijzondere categorieën van persoonsgegevens mogen alleen worden verwerkt op basis van een wettelijke uitzondering. +status_vereiste: +- geldend +levenscyclus: +- ontwerp +- dataverkenning-en-datapreparatie +bouwblok: +- privacy-en-gegevensbescherming +- fundamentele-rechten +hide: +- navigation +--- + + +## Vereiste + +Bijzondere categorieën van persoonsgegevens mogen alleen worden verwerkt op basis van een wettelijke uitzondering. + +## Toelichting + +Persoonsgegevens die door hun aard bijzonder gevoelig zijn wat betreft de grondrechten en fundamentele vrijheden, verdienen specifieke bescherming. +Dit komt doordat de context van de verwerking ervan significante risico's kan meebrengen voor de grondrechten en de fundamentele vrijheden. +Denk hierbij aan persoonsgegevens als ras, ethnische afkomst, politieke opvattingen of religieuze of levenschouwelijke overtuigingen. + + +Bijzondere categorieën persoonsgegevens mogen alleen worden verwerkt als er hier een wettelijke uitzondering voor is (art. +9 AVG en art. +30 UAVG). +Deze vereiste is ook van toepassing bij het ontwikkelen en gebruiken van algoritmes of AI-systemen en stelt daarmee beperkingen aan het mogen verwerken van deze categorieën persoonsgegevens, bv. +ten behoeve van trainingsdata of het genereren van de beoogde output. + +## Bronnen + +| Bron | +|-----------------------------| +|Artikel 9 AVG| +|Overweging 51 - 54 AVG| +|Hoofdstuk 22 - 30 UAVG| + +## Wanneer van toepassing? + + +## Risico + +Het (onrechtmatige) verwerken van bijzondere categorieën persoonsgegevens brengt risico's met zich mee op het gebied van respecteren van de persoonlijke levenssfeer en discriminatie. + + +## Maatregelen + +=== "Allen" + +=== "Governance" + +=== "Publieke inkoop" + diff --git a/docs/vereisten/zorgvuldigheidsbeginsel.md b/docs/vereisten/zorgvuldigheidsbeginsel.md index 9930a6cd31..ee9c1c1463 100644 --- a/docs/vereisten/zorgvuldigheidsbeginsel.md +++ b/docs/vereisten/zorgvuldigheidsbeginsel.md @@ -25,6 +25,8 @@ generatieve-ai: - niet-impactvol: Ja - impactvol: Ja - hoog-risico: Ja +hide: +- navigation --- @@ -38,6 +40,8 @@ De ontwikkeling en het gebruik van algoritmes en AI-systemen komt zorgvuldig tot Dit beginsel vereist dat een besluit met de nodige zorgvuldigheid wordt voorbereid en genomen. Dit vraagt onder meer om een zorgvuldig onderzoek naar feiten, een zorgvuldige beslissingsprocedure en een deugdelijke besluitvorming. Dit betekent dat algoritmes en AI zodanig moet worden ontwikkeld en gebruikt, dat dit passend is ter ondersteuning van de wettelijke taak en de bijbehorende beslissing of besluitvorming. + +Het doel en eventuele subdoelen van het algoritme of AI-systeem moet helder zijn gedefinieerd, ook in relatie tot het maatschappelijke resultaat (outcome), en wordt gedeeld door de eigenaar, ontwikkelaar en gebruiker van het algoritme. Een bewuste afweging of het algoritme het juiste middel is om het probleem op doelmatige en doeltreffende wijze op te lossen is gemaakt en vastgelegd. ## Bronnen @@ -79,4 +83,4 @@ Hierdoor kunnen ongewenste gevolgen ontstaan zoals een onjuist of onzorgvuldig g === "Governance" === "Publieke inkoop" - \ No newline at end of file + diff --git a/includes/begrippenlijst.md b/includes/begrippenlijst.md index d09a4428a3..eb4db3816f 100644 --- a/includes/begrippenlijst.md +++ b/includes/begrippenlijst.md @@ -1,3 +1,81 @@ - - -*[algoritme]: Een set van regels en instructies die een computer geautomatiseerd volgt bij het maken van berekeningen om een probleem op te lossen of een vraag te beantwoorden. +*[aanbieder]: Een natuurlijke of rechtspersoon, overheidsinstantie, agentschap of ander orgaan die/dat een AI-systeem of een AI-model voor algemene doeleinden ontwikkelt of laat ontwikkelen en dat systeem of model in de handel brengt of het AI-systeem in gebruik stelt onder de eigen naam of merk, al dan niet tegen betaling. +*[aanbieders]: Een natuurlijke of rechtspersoon, overheidsinstantie, agentschap of ander orgaan die/dat een AI-systeem of een AI-model voor algemene doeleinden ontwikkelt of laat ontwikkelen en dat systeem of model in de handel brengt of het AI-systeem in gebruik stelt onder de eigen naam of merknaam, al dan niet tegen betaling. +*[aanbieder verder in de AI-waardeketen]: Een aanbieder van een AI-systeem, met inbegrip van een AI-systeem voor algemene doeleinden, waarin een AI-model is geïntegreerd, ongeacht of het AI-model door hemzelf wordt verstrekt en verticaal geïntegreerd is of door een andere entiteit wordt aangeboden op basis van contractuele betrekkingen +*[aangemelde instantie]: Een conformiteitsbeoordelingsinstantie die overeenkomstig de AI-verordening en andere relevante harmonisatiewetgeving van de Unie is aangemeld +*[aanmeldende autoriteit]: De nationale autoriteit die verantwoordelijk is voor het opzetten en uitvoeren van de noodzakelijke procedures voor de beoordeling, aanwijzing en kennisgeving van de conformiteitsbeoordelingsinstanties en de monitoring hiervan +*[AI-bureau]: De taak van de Commissie waarbij zij bijdraagt aan de uitvoering van, de monitoring van en het toezicht op AI-systemen en AI-modellen voor algemene doeleinden, en AI-governance, als bepaald in het besluit van de Commissie van 24 januari 2024; verwijzingen in deze verordening naar het AI-bureau worden begrepen als verwijzingen naar de Commissie +*[AI-geletterheid]: vaardigheden, kennis en begrip die aanbieders, gebruiksverantwoordelijken en betrokken personen, rekening houdend met hun respectieve rechten en plichten in het kader van de de AI-verordening, in staat stellen met kennis van zaken AI-systemen in te zetten en zich bewuster te worden van de kansen en risico’s van AI en de mogelijke schade die zij kan veroorzaken +*[AI-model voor algemene doeleinden]: Een AI-model, ook wanneer het is getraind met een grote hoeveelheid data met behulp van self-supervision op grote schaal, dat een aanzienlijk algemeen karakter vertoont en in staat is op competente wijze een breed scala aan verschillende taken uit te voeren, ongeacht de wijze waarop het model in de handel wordt gebracht, en dat kan worden geïntegreerd in een verscheidenheid aan systemen verder in de AI-waardeketen of toepassingen verder in de AI-waardeketen, met uitzondering van AI-modellen die worden gebruikt voor onderzoek, ontwikkeling of prototypingactiviteiten alvorens zij in de handel worden gebracht. +*[AI-modellen voor algemene doeleinden]: Een AI-model, ook wanneer het is getraind met een grote hoeveelheid data met behulp van self-supervision op grote schaal, dat een aanzienlijk algemeen karakter vertoont en in staat is op competente wijze een breed scala aan verschillende taken uit te voeren, ongeacht de wijze waarop het model in de handel wordt gebracht, en dat kan worden geïntegreerd in een verscheidenheid aan systemen verder in de AI-waardeketen of toepassingen verder in de AI-waardeketen, met uitzondering van AI-modellen die worden gebruikt voor onderzoek, ontwikkeling of prototypingactiviteiten alvorens zij in de handel worden gebracht. +*[AI-systeem]: een op een machine gebaseerd systeem dat is ontworpen om met verschillende niveaus van autonomie te werken en dat na het inzetten ervan aanpassingsvermogen kan vertonen, en dat, voor expliciete of impliciete doelstellingen, uit de ontvangen input afleidt hoe output te genereren zoals voorspellingen, inhoud, aanbevelingen of beslissingen die van invloed kunnen zijn op fysieke of virtuele omgevingen; +*[AI-systeem voor algemene doeleinden]: Een AI-systeem dat is gebaseerd op een AI- model voor algemene doeleinden en dat verschillende doeleinden kan dienen, zowel voor direct gebruik als voor integratie in andere AI-systemen +*[AI-testomgeving voor regelgeving]: een door een bevoegde autoriteit opgezet gecontroleerd kader dat aanbieders of toekomstige aanbieders van AI-systemen de mogelijkheid biedt een innovatief AI-systeem te ontwikkelen, trainen, valideren en testen, zo nodig onder reële omstandigheden, volgens een testomgevingsplan, voor een beperkte periode en onder begeleiding van een toezichthouder. +*[algoritme]: Een set van regels en instructies die een computer geautomatiseerd volgt bij het maken van berekeningen om een probleem op te lossen of een vraag te beantwoorden +*[auteursrecht]: Het auteursrecht is het uitsluitend recht van den maker van een werk van letterkunde, wetenschap of kunst, of van diens rechtverkrijgenden, om dit openbaar te maken en te verveelvoudigen, behoudens de beperkingen, bij de wet gesteld. +*[beoogd doel]: Het gebruik waarvoor een AI-systeem door de aanbieder is bedoeld, met inbegrip van de specifieke context en voorwaarden van het gebruik, zoals gespecificeerd in de informatie die door de aanbieder in de gebruiksinstructies, reclame- of verkoopmaterialen en verklaringen, alsook in de technische documentatie is verstrekt +*[bijzondere categorieën persoonsgegevens]: de categorieën persoonsgegevens als bedoeld in artikel 9, lid 1, van Verordening (EU) 2016/679, artikel 10 van Richtlijn (EU) 2016/680 en artikel 10, lid 1, van Verordening (EU) 2018/1725 +*[biometrische gegevens]: persoonsgegevens die het resultaat zijn van een specifieke technische verwerking met betrekking tot de fysieke, fysiologische of gedragsgerelateerde kenmerken van een natuurlijk persoon, zoals gezichtsafbeeldingen of vingerafdrukgegevens +*[biometrische identificatie]: de geautomatiseerde herkenning van fysieke, fysiologische, gedragsgerelateerde of psychologische menselijke kenmerken om de identiteit van een natuurlijk persoon vast te stellen door biometrische gegevens van die persoon te vergelijken met in een databank opgeslagen biometrische gegevens van personen +*[biometrische verificatie]: de geautomatiseerde één-op-éénverificatie, met inbegrip van de authenticatie, van de identiteit van natuurlijke personen door hun biometrische gegevens te vergelijken met eerder verstrekte biometrische gegevens +*[capaciteiten met een grote impact]: capaciteiten die overeenkomen met of groter zijn dan de capaciteiten die worden opgetekend bij de meest geavanceerde AI-modellen voor algemene doeleinden. +*[CE-markering]: Een markering waarmee een aanbieder aangeeft dat een AI-systeem in overeenstemming is met de voorschriften van hoofdstuk III, afdeling 2, en andere toepasselijke harmonisatiewetgeving van de Unie, die in het aanbrengen ervan voorzien +*[conformiteitsbeoordeling]: Het proces waarbij de naleving wordt aangetoond van de voorschriften van hoofdstuk III, afdeling 2 van de AI-Verordening in verband met een AI-systeem met een hoog risico +*[deepfake]: door AI gegenereerd of gemanipuleerd beeld-, audio- of videomateriaal dat een gelijkenis vertoont met bestaande personen, voorwerpen, plaatsen, entiteiten of gebeurtenissen, en door een persoon ten onrechte voor authentiek of waarheidsgetrouw zou worden aangezien +*[direct onderscheid]: Indien een persoon op een andere wijze wordt behandeld dan een ander in een vergelijkbare situatie wordt, is of zou worden behandeld, op grond van godsdienst, levensovertuiging, politieke gezindheid, ras, geslacht, nationaliteit, hetero- of homoseksuele gerichtheid of burgerlijke staat; +*[directe discriminatie]: De ongelijke behandeling van een persoon of groep personen ten opzichte van andere personen in een vergelijkbare situatie, op grond van een beschermd persoonskenmerk (discriminatiegrond). +*[discriminatiegrond]: Beschermde persoonskenmerken op basis waarvan het maken van onderscheid tussen personen verboden is. Bijvoorbeeld: ras, nationaliteit, religie, geslacht, seksuele gerichtheid, handicap of chronische ziekte. +*[distributeur]: Een andere natuurlijke persoon of rechtspersoon in de toeleveringsketen dan de aanbieder of de importeur, die een AI-systeem in de Unie op de markt aanbiedt +*[downstreamaanbieder]: Een aanbieder van een AI-systeem, met inbegrip van een AI-systeem voor algemene doeleinden, waarin een AI-model is geïntegreerd, ongeacht of het model door hemzelf wordt verstrekt en verticaal geïntegreerd is of door een andere entiteit wordt aangeboden op basis van contractuele betrekkingen +*[etnisch profileren]: Het gebruik door overheidsinstanties van selectiecriteria als ras, huidskleur, taal, religie, nationaliteit of nationale of etnische afkomst bij de uitoefening van toezichts-, handhavings- en opsporingsbevoegdheden, zonder dat daarvoor een objectieve en redelijke rechtvaardiging bestaat +*[geharmoniseerde norm]: een geharmoniseerde norm zoals gedefinieerd in artikel 2, lid 1,punt c), van Verordening (EU) nr. 1025/2012 +*[gemeenschappelijke specificatie]: een reeks technische specificaties zoals gedefinieerd in artikel 2, punt 4, van Verordening (EU) nr. 1025/2012, om te voldoen aan bepaalde voorschriften zoals vastgelegd in de AI-verordening +*[gebruiksinstructies]: de door de aanbieder verstrekte informatie om de gebruiksverantwoordelijke te informeren over met name het beoogde doel en juiste gebruik van een AI-systeem +*[gebruiksverantwoordelijke]: Een natuurlijke of rechtspersoon, overheidsinstantie, agentschap of ander orgaan die/dat een AI-systeem onder eigen verantwoordelijkheid gebruikt, tenzij het AI-systeem wordt gebruikt in het kader van een persoonlijke niet- beroepsactiviteit. +*[geharmoniseerde norm]: Een Europese norm die op verzoek van de Commissie is vastgesteld met het oog op de toepassing van harmonisatiewetgeving van de Unie +*[geïnformeerde toestemming]: de vrijelijk gegeven, specifieke, ondubbelzinnige en vrijwillige uiting door een proefpersoon van zijn of haar bereidheid deel te nemen aan een bepaalde test onder reële omstandigheden, na geïnformeerd te zijn over alle aspecten van de test die van belang zijn voor zijn of haar beslissing om deel te nemen +*[gemachtigde]: een natuurlijke of rechtspersoon die zich bevindt of gevestigd is in de Unie die een schriftelijke machtiging heeft gekregen en aanvaard van een aanbieder van een AI-systeem of een AI-model voor algemene doeleinden om namens die aanbieder de verplichtingen en procedures van deze verordening respectievelijk na te komen en uit te voeren; +*[gemeenschappelijke specificatie]: een reeks technische specificaties zoals gedefinieerd in artikel 2, punt 4, van Verordening (EU) nr. 1025/2012, om te voldoen aan bepaalde voorschriften zoals vastgelegd in deze verordening +*[gevoelige operationele gegevens]: operationele gegevens met betrekking tot activiteiten op het gebied van preventie, opsporing, onderzoek of vervolging van strafbare feiten waarvan de openbaarmaking de integriteit van strafprocedures in het gedrang zou kunnen brengen +*[importeur]: Een natuurlijke of rechtspersoon die zich bevindt of gevestigd is in de Unie die een AI-systeem in de handel brengt dat de naam of merknaam van een in een derde land gevestigde natuurlijke of rechtspersoon draagt +*[in de handel brengen]: Het voor het eerst in de Unie op de markt aanbieden van een AI-systeem of een AI-model voor algemene doeleinden +*[in gebruik stellen]: De directe levering van een AI-systeem door de aanbieder aan de gebruiksverantwoordelijke voor het eerste gebruik of voor eigen gebruik in de Unie voor het beoogde doel +*[indirect onderscheid]: Indien een ogenschijnlijk neutrale bepaling, maatstaf of handelwijze personen met een bepaalde godsdienst, levensovertuiging, politieke gezindheid, ras, geslacht, nationaliteit, hetero- of homoseksuele gerichtheid of burgerlijke staat in vergelijking met andere personen bijzonder treft. +*[indirecte discriminatie]: Wanneer een ogenschijnlijk neutrale bepaling, maatstaf of handelwijze personen met een bepaald beschermd persoonskenmerk (discriminatiegrond) in vergelijking met andere personen in het bijzonder benadeelt, tenzij hiervoor een objectieve rechtvaardiging bestaat. +*[inputdata]: data die in een AI-systeem worden ingevoerd of direct door een AI-systeem worden verworven en op basis waarvan het systeem een output genereert +*[kritieke infrastructuur]: kritieke infrastructuur zoals gedefinieerd in artikel 2, punt 4, van Richtlijn (EU) 2022/2557 +*[legaliteitsbeginsel]: Het legaliteitsbeginsel houdt in dat alle overheidsoptreden moet berusten op een overeenstemmen met - kenbare en voldoende specifieke - algemene regels. +*[markttoezichtautoriteit]: de nationale autoriteit die de activiteiten verricht en maatregelen neemt als bedoeld in Verordening (EU) 2019/1020 +*[nationale bevoegde autoriteit]: een aanmeldende autoriteit of een de markttoezichtautoriteit; wat betreft AI-systemen die door instellingen, organen en instanties van de EU in gebruik worden gesteld of worden gebruikt, worden verwijzingen naar nationale bevoegde autoriteiten of markttoezichtautoriteiten in deze verordening begrepen als verwijzingen naar de Europese Toezichthouder voor gegevensbescherming +*[norm]: een norm is een vrijwillige afspraak tussen partijen over een product, dienst of proces. Normen zijn geen wetten, maar ’best practices’. Iedereen kan - op vrijwillige basis - hier zijn voordeel mee doen. In zakelijke overeenkomsten hebben normen een belangrijke functie. Ze bieden marktpartijen duidelijkheid over en vertrouwen in producten, diensten of organisaties en dagen de maatschappij uit te innoveren. NEN-normen worden ontwikkeld door inhoudsexperts en specialisten op het gebied van normontwikkeling. +*[normalisatie]: Normalisatie is het proces om te komen tot een norm. Dit proces is open, transparant en gericht op consensus en vindt plaats in normcommissies die bestaan uit vertegenwoordigers van alle betrokken partijen. Dit gebeurt niet alleen op nationaal niveau, maar ook in Europees en mondiaal verband. +*[objectieve rechtvaardiging]: Van een objectieve rechtvaardiging voor onderscheid is sprake wanneer onderscheid een legitiem doel nastreeft en er een redelijke relatie van evenredigheid bestaat tussen het gemaakte onderscheid en het nagestreefde doel. +*[op de markt aanbieden]: Het in het kader van een handelsactiviteit, al dan niet tegen betaling, verstrekken van een AI-systeem of een AI-model voor algemene doeleinden met het oog op distributie of gebruik op de markt van de Unie +*[operator]: een aanbieder, productfabrikant, gebruiksverantwoordelijke, gemachtigde, importeur of distributeur +*[prestaties van een AI-systeem]: het vermogen van een AI-systeem om het beoogde doel te verwezenlijken +*[plan voor testen onder reële omstandigheden]: een document waarin de doelstellingen, methode, geografische reikwijdte, betrokken personen, duur, monitoring, organisatie en wijze van uitvoering van een test onder reële omstandigheden worden omschreven +*[proceseigenaar]: De proceseigenaar is verantwoordelijk voor de kwaliteit van het proces en de vastlegging daarvan in een processchema +*[proefpersoon]: In het kader van tests onder reële omstandigheden: een natuurlijk persoon die deelneemt aan een test onder reële omstandigheden +*[publieke inkoop]: De verwerving van werken, leveringen of diensten door een overheid of publieke organisatie, van de markt of een andere externe instantie, terwijl zij tegelijkertijd publieke waarde creëren en waarborgen vanuit het perspectief van de eigen organisatie. +*[redelijkerwijs te voorzien misbruik]: Het gebruik van een AI-systeem op een wijze die niet in overeenstemming is met het beoogde doel, maar die kan voortvloeien uit redelijkerwijs te voorzien menselijk gedrag of redelijkerwijs te voorziene interactie met andere systemen, waaronder andere AI-systemen +*[risico]: De combinatie van de kans op schade en de ernst van die schade; +*[substantiële wijziging]: Een verandering van een AI-systeem nadat dit in de handel is gebracht of in gebruik is gesteld, die door de aanbieder niet is voorzien of gepland in de initiële conformiteitsbeoordeling en als gevolg waarvan de overeenstemming van het AI-systeem met de voorschriften van hoofdstuk III, afdeling 2, wordt beïnvloed, of die leidt tot een wijziging van het beoogde doel waarvoor het AI-systeem is beoordeeld +*[systeem voor monitoring na het in de handel brengen]: alle door aanbieders van AI-systemen verrichte activiteiten voor het verzamelen en evalueren van ervaringen met door hen in de handel gebrachte of in gebruik gestelde AI-systemen, teneinde te kunnen vaststellen of er onmiddellijk corrigerende dan wel preventieve maatregelen nodig zijn +*[systeem voor het herkennen van emoties]: een AI-systeem dat is bedoeld voor het vaststellen of afleiden van de emoties of intenties van natuurlijke personen op basis van hun biometrische gegevens +*[systeem voor biometrische categorisering]: een AI-systeem dat is bedoeld voor het indelen van natuurlijke personen in specifieke categorieën op basis van hun biometrische gegevens, tenzij dit een aanvulling vormt op een andere commerciële dienst en om objectieve technische redenen strikt noodzakelijk is +*[systeem voor biometrische identificatie op afstand]: een AI-systeem dat is bedoeld voor het identificeren van natuurlijke personen, zonder dat zij daar actief bij betrokken zijn en doorgaans van een afstand, door middel van vergelijking van de biometrische gegevens van een persoon met de biometrische gegevens die zijn opgenomen in een referentiedatabank +*[systeem voor biometrische identificatie op afstand in real time]: een systeem voor biometrische identificatie op afstand, waarbij het vastleggen van biometrische gegevens, de vergelijking en de identificatie zonder significante vertraging plaatsvinden, zowel wanneer de identificatie niet enkel onmiddellijk plaatsvindt, maar ook wanneer de identificatie met beperkte korte vertragingen plaatsvindt, om omzeiling te voorkomen +*[systeem voor biometrische identificatie op afstand achteraf]: een ander biometrisch systeem voor de identificatie op afstand dan een systeem voor biometrische identificatie op afstand in real time +*[systeemrisico]: een risico dat specifiek is voor de capaciteiten met een grote impact van AI-modellen voor algemene doeleinden, die aanzienlijke gevolgen hebben voor de markt van de Unie vanwege hun bereik, of vanwege feitelijke of redelijkerwijs te voorziene negatieve gevolgen voor de gezondheid, de veiligheid, de openbare veiligheid, de grondrechten of de samenleving als geheel, en dat op grote schaal in de hele waardeketen kan worden verspreid +*[terugroepen van een AI-systeem]: een maatregel gericht op het retourneren aan de aanbieder, het buiten gebruik stellen of het onbruikbaar maken van een AI-systeem dat aan gebruiksverantwoordelijken ter beschikking is gesteld +*[testdata]: data die worden gebruikt voor het verrichten van een onafhankelijke evaluatie van het AI-systeem om de verwachte prestaties van dat systeem te bevestigen voordat het in de handel wordt gebracht of in gebruik wordt gesteld +*[testomgevingsplan]: tussen de deelnemende aanbieder en de bevoegde autoriteit overeengekomen document waarin de doelstellingen, de voorwaarden, het tijdschema, de methode en de vereisten voor de in de testomgeving uitgevoerde activiteiten worden beschreven +*[testen onder reële omstandigheden]: het tijdelijk testen van een AI-systeem voor zijn beoogde doel onder reële omstandigheden buiten een laboratorium of anderszins gesimuleerde omgeving teneinde betrouwbare en robuuste gegevens te verkrijgen, en te beoordelen en te verifiëren of het AI-systeem overeenstemt met de voorschriften van de AI-verordening en het wordt niet aangemerkt als het in de handel brengen of in gebruik stellen van het AI-systeem in de zin van de AI-verordening, mits aan alle in artikel 57 of 60 vastgestelde voorwaarden is voldaan +*[toestemming met kennis van zaken]: de vrijelijk gegeven, specifieke, ondubbelzinnige en vrijwillige uiting door een proefpersoon van zijn of haar bereidheid deel te nemen aan een bepaalde test onder reële omstandigheden, na geïnformeerd te zijn over alle aspecten van de test die van belang zijn voor zijn of haar beslissing deel te nemen +*[trainingsdata]: data die worden gebruikt voor het trainen van een AI-systeem door de leerbare parameters hiervan aan te passen +*[uit de handel nemen van een AI-systeem]: een maatregel waarmee wordt beoogd te voorkomen dat een AI-systeem dat zich in de toeleveringsketen bevindt, op de markt wordt aangeboden +*[validatiedata]: data die worden gebruikt voor het verrichten van een evaluatie van het getrainde AI-systeem en voor het afstemmen van onder andere de niet-leerbare parameters en het leerproces ervan, om underfitting of overfitting te voorkomen +*[validatiedataset]: een afzonderlijke dataset of deel van de trainingsdataset, als vaste of variabele opdeling. +*[veiligheidscomponent]: Een component van een product of systeem die een veiligheidsfunctie voor dat product of systeem vervult of waarvan het falen of gebrekkig functioneren de gezondheid en veiligheid van personen of eigendom in gevaar brengt +*[verwerker]: Een .. rechtspersoon, een overheidsinstantie, een dienst of een ander orgaan die/dat ten behoeve van de verwerkingsverantwoordelijke persoonsgegevens verwerkt. +*[verwerkersverantwoordelijke]: Een rechtspersoon of overheidsinstantie die, alleen of samen met anderen, het doel van en de middelen voor de verwerking van persoonsgegevens vaststelt +*[zwevendekommabewerking of “floating-point operation (FLOP)]: elke wiskundige bewerking of toewijzing met zwevendekommagetallen, die een subset vormen van de reële getallen die gewoonlijk op computers worden gerepresenteerd door een geheel getal met een vaste precisie, geschaald door een gehele exponent van een vaste basi \ No newline at end of file diff --git a/mkdocs.yml b/mkdocs.yml index ff52337d50..c4fa72b1ec 100644 --- a/mkdocs.yml +++ b/mkdocs.yml @@ -19,6 +19,7 @@ theme: - navigation.tracking - navigation.instant - navigation.footer + - navigation.prune - search.highlight - search.suggest - content.action.edit @@ -36,6 +37,15 @@ nav: - overhetalgoritmekader/index.md - overhetalgoritmekader/definities.md - overhetalgoritmekader/CONTRIBUTING.md + - Governance: + - governance/index.md + - governance/governance-structuur.md + - governance/politiek-bestuurlijk-kader.md + - governance/interactie-burgers-en-omgeving.md + - governance/volwassenheidsniveau.md + - governance/levenscyclus.md + - governance/rollen_en_verantwoordelijkheden.md + - governance/type_algoritme.md - Levenscyclus: - levenscyclus/index.md - levenscyclus/probleemanalyse.md @@ -55,13 +65,18 @@ nav: - ... | vereisten/*.md - Maatregelen: - ... | maatregelen/*.md - - Instrumenten: instrumenten/index.md + - Instrumenten: + - ... | instrumenten/*.md # Extra opties markdown_extensions: - pymdownx.tabbed: alternate_style: true - - pymdownx.superfences + - pymdownx.superfences: + custom_fences: + - name: mermaid + class: mermaid + format: !!python/name:pymdownx.superfences.fence_code_format - pymdownx.details - admonition - attr_list @@ -70,8 +85,10 @@ markdown_extensions: - footnotes - toc: permalink: true + toc_depth: 3 - pymdownx.tasklist: custom_checkbox: true + clickable_checkbox: true - pymdownx.emoji: emoji_index: !!python/name:material.extensions.emoji.twemoji emoji_generator: !!python/name:material.extensions.emoji.to_svg @@ -97,7 +114,8 @@ plugins: - search - git-revision-date-localized: enable_creation_date: true - - awesome-pages + - awesome-pages: + collapse_single_pages: true hooks: - src/overrides/hooks/tags.py diff --git a/src/overrides/hooks/lists.py b/src/overrides/hooks/lists.py index e26a711002..1c63f4efb5 100644 --- a/src/overrides/hooks/lists.py +++ b/src/overrides/hooks/lists.py @@ -91,6 +91,43 @@ def replace_maatregelen(match: Match): ] ) + # function to create list of instrumenten + def replace_instrumenten(match: Match): + type = match.groups()[0] + types = re.split(r"\s+", type) + type_value_bundle = [y.split("/") for y in types] + + list: List[File] = [] + for file in files: + if not file.src_path.startswith("instrumenten/"): + continue + + if not file.src_path.endswith(".md"): + continue + + if all( + value in file.page.meta.get(type, []) + for type, value in type_value_bundle + ): + + list.append(file) + + return "".join( + [ + "", + "", + "", + '', + '', + "", + "", + "", + *([_create_table_row(item) for item in list]), + "", + "
InstrumentUitleg
", + ] + ) + # function to create list of vereisten on maatregelen page def replace_vereisten_on_maatregelen_page(match: Match): @@ -137,6 +174,11 @@ def replace_vereisten_on_maatregelen_page(match: Match): r"", replace_maatregelen, file.page.content, flags=re.I | re.M ) + # Find and replace all strings in current page to list of instrumenten + file.page.content = re.sub( + r"", replace_instrumenten, file.page.content, flags=re.I | re.M + ) + # Find and replace all strings in current page to list of vereisten on maatregelen page file.page.content = re.sub( r"", replace_vereisten_on_maatregelen_page, file.page.content, flags=re.I | re.M @@ -148,7 +190,7 @@ def _create_table_row(file: File): [ "", f'{file.page.title}', - f"{file.page.meta.get('toelichting', '')}", + f"{file.page.meta.get('toelichting', '')}" "", ] ) @@ -156,5 +198,4 @@ def _create_table_row(file: File): def _resolve(dest_path: str): path = posixpath.relpath(dest_path) - return "/" + posixpath.sep.join(path.split(posixpath.sep)[:-1]) - + return "/" + posixpath.sep.join(path.split(posixpath.sep)[:-1]) \ No newline at end of file diff --git a/src/overrides/hooks/tags.py b/src/overrides/hooks/tags.py index 7404301422..46ed24a0d8 100644 --- a/src/overrides/hooks/tags.py +++ b/src/overrides/hooks/tags.py @@ -119,8 +119,12 @@ def _badge_rollen(page: Page, files: Files, rol: str): # Create badge for bouwblok def _badge_bouwblok(page: Page, files: Files, blok: str): icon = "material-cube" - href_bouwblok = _resolve_path("bouwblokken/index.md", page, files) - href_fase = _resolve_path(f"bouwblokken/{blok}/index.md", page, files) + if blok == 'governance': + href_bouwblok = _resolve_path("governance/index.md", page, files) + href_fase = _resolve_path(f"governance/index.md", page, files) + else: + href_bouwblok = _resolve_path("bouwblokken/index.md", page, files) + href_fase = _resolve_path(f"bouwblokken/{blok}/index.md", page, files) return _badge( icon=f"[:{icon}:]({href_bouwblok} 'Bouwblok')", text=f"[{blok.capitalize().replace('-', ' ')}]({href_fase})",