← Retour vers "Arrêté royal portant création d'un Comité Consultatif d'Ethique des Données et de l'Intelligence Artificielle de l'administration fédérale "
| Arrêté royal portant création d'un Comité Consultatif d'Ethique des Données et de l'Intelligence Artificielle de l'administration fédérale | Koninklijk besluit houdende de oprichting van een Raadgevend Comité Ethiek inzake Data en Artificiële Intelligentie voor de federale overheid |
|---|---|
| SERVICE PUBLIC FEDERAL STRATEGIE ET APPUI 4 OCTOBRE 2023. - Arrêté royal portant création d'un Comité Consultatif d'Ethique des Données et de l'Intelligence Artificielle de l'administration fédérale RAPPORT AU ROI | FEDERALE OVERHEIDSDIENST BELEID EN ONDERSTEUNING 4 OKTOBER 2023. - Koninklijk besluit houdende de oprichting van een Raadgevend Comité Ethiek inzake Data en Artificiële Intelligentie voor de federale overheid VERSLAG AAN DE KONING |
| Sire, | Sire, |
| A. But de l'arrêté Le projet d'arrêté que j'ai l'honneur de soumettre à l'approbation de Votre Majesté a pour objectif de renforcer la confiance dans les technologies "basées sur les données" telles que les systèmes d'IA, la robotique, les systèmes algorithmiques et les technologies connexes, et de veiller à ce que celles-ci soient développées et utilisées de manière légale, éthique et techniquement solide. Un cadre éthique solide doit traiter de l'impact des nouvelles technologies "basées sur les données", et en particulier des systèmes d'IA pour certains droits fondamentaux des citoyens et des travailleurs, tels que la vie privée, la dignité et la non-discrimination. Ces dernières années, un certain nombre de cadres éthiques ont été développés, entre autres, pour encourager les concepteurs, développeurs, implémenteurs et utilisateurs de l'IA à | A. Doel van het besluit Het ontwerp van besluit dat ik de eer heb ter goedkeuring aan Uwe Majesteit voor te leggen heeft als doel om het vertrouwen te versterken in `data-gedreven' technologieën zoals AI-systemen, robotica, algoritmische systemen en aanverwante technologieën, en dat deze op een juridisch, ethisch en technisch verantwoorde wijze worden ontwikkeld en gebruikt. Een degelijk ethisch kader moet betrekking hebben op de gevolgen van `datagedreven' nieuwe technologieën en in het bijzonder AI-systemen voor bepaalde grondrechten van burgers en werknemers, zoals privacy, waardigheid en non-discriminatie. De voorbije jaren werden er o.a. een aantal ethische kaders uitgewerkt om AI- ontwerpers, ontwikkelaars, uitvoerders en -gebruikers aan te moedigen om vanaf de ontwerpfase |
| prendre en compte l'éthique dès la phase de conception ("ethics by | ("ethics by design") en doorheen de hele levenscyclus van AI-systemen |
| design") et tout au long du cycle de vie des systèmes d'IA. | rekening te houden met ethiek. |
| Des avis éthiques à propos du développement et de l'utilisation des | Ethisch advies rond de ontwikkeling en het gebruik van nieuwe |
| nouvelles technologies et en particulier de l'IA et des systèmes | technologieën en in het bijzonder AI en algoritmische systemen is van |
| algorithmiques revêtent une importance particulière lorsqu'ils sont | bijzonder belang wanneer ze worden ingezet binnen de overheid en die |
| déployés au sein de l'Administration et peuvent avoir un impact | een belangrijke impact kunnen hebben op de individuele, collectieve of |
| important sur les intérêts individuels, collectifs ou sociétaux. Après | |
| tout, l'équilibre des pouvoirs entre l'Administration d'une part et | maatschappelijke belangen. De machtsverhouding tussen de overheid |
| les personnes physiques et morales d'autre part est asymétrique, en | enerzijds en natuurlijke personen en rechtspersonen anderzijds, is |
| particulier pour les personnes qui se trouvent dans une position plus | immers asymmetrisch, zeker voor personen die zich sowieso al in een |
| vulnérable. | meer kwetsbare positie bevinden. |
| La mise en place d'un Comité Consultatif d'Ethique des Données répond | De oprichting van een Raadgevend Comité Data en AI-ethiek voldoet in |
| dans ce cadre à plusieurs objectifs : | dit kader aan een aantal doelstellingen: |
| - responsabiliser les fonctionnaires dans l'utilisation des données et | - ambtenaren sterken bij het gebruik van data en AI, onzekerheden |
| de l'IA, lever les incertitudes au sein des services publics pour | binnen overheidsdiensten om de technologie te implementeren wegnemen, |
| mettre en oeuvre la technologie et préserver la surveillance humaine | en het menselijk toezicht en de expertise van ambtenaren bij |
| et l'expertise des fonctionnaires dans les applications de l'IA ; | AI-toepassingen behouden; |
| - sensibiliser les fonctionnaires aux aspects éthiques associés à | - het vergroten van het bewustzijn van ambtenaren over de ethische |
| l'utilisation des données, y compris l'impact des données sur certains | aspecten die samenhangen met het gebruik van data, waaronder de |
| droits fondamentaux des citoyens et des travailleurs (tels que la vie | gevolgen van data voor bepaalde grondrechten van burgers en werknemers |
| privée, la dignité et la non-discrimination), assurer l'inclusion et | (zoals privacy, waardigheid en non-discriminatie), het continue |
| la transparence continues, et le respect pour des valeurs telles que | waarborgen van inclusie en transparantie, en het respect voor waarden |
| les droits de l'homme, la démocratie et l'Etat de droit; | als mensenrechten, democratie en de rechtstaat; |
| - envoyer un signal aux citoyens que le l'Administration fédérale | - een signaal geven naar de burger dat de federale overheid een |
| donne l'exemple et traite la technologie numérique de manière éthique | voorbeeldfunctie vervult en op ethische en innovatieve wijze omgaat |
| et innovante, dans laquelle les personnes restent toujours au centre | met digitale technologie, waarbij mensen steeds centraal blijven staan |
| et la technologie n'est qu'un moyen d'améliorer le bien-être des | en technologie slechts een middel is om het welzijn van burgers te |
| citoyens. De cette manière, la confiance des citoyens dans la | verbeteren. Zo wordt het vertrouwen van de burger in de |
| technologie des données est maintenue et renforcée. | data-technologie behouden en versterkt. |
| Cet arrêté royal concerne divers instruments numériques européens et | Dit Koninklijk besluit staat in relatie tot verschillende Europese |
| d'autres initiatives. | digitale instrumenten en andere initiatieven. |
| Depuis 2019, suite à la mise en oeuvre de l'agenda numérique européen | Sinds 2019, na de implementatie van de Europese Digitale Agenda (via |
| (via diverses initiatives législatives de la Commission européenne), | verschillende wetgevingsinitiatieven van de Europese Commissie), is er |
| une vague de nouvelles directives et réglementations émerge, ce qui entraînera un important travail de traduction au niveau national. Par exemple: - Le règlement sur les services numériques (DSA) est un règlement qui vise à améliorer la protection des consommateurs en ligne, à obliger les plateformes en ligne à agir de manière plus responsable et transparente et à encourager l'innovation, la croissance et la concurrence. - La loi sur les marchés numériques (DMA) est un règlement qui vise à renforcer la concurrence sur les marchés numériques européens et à prévenir les abus de pouvoir des très grandes plateformes (gatekeepers). - La loi sur la gouvernance des données (DGA) est une proposition de règlement qui vise à promouvoir la disponibilité des données à utiliser en augmentant la confiance dans les intermédiaires de données et en renforçant les mécanismes de partage de données dans l'UE. | een golf van nieuwe richtlijnen en verordeningen op komst, die veel vertaalwerk op nationaal niveau met zich mee zullen brengen. Bijvoorbeeld: - De Digital Services Act (DSA) is een verordening die tot doel heeft de online consumentenbescherming te verbeteren, van online platforms te eisen dat ze verantwoordelijker en transparanter handelen en innovatie, groei en concurrentie te stimuleren. - De Wet Digitale Markten (DMA) is een verordening die tot doel heeft meer concurrentie op Europese digitale markten te bewerkstelligen en machtsmisbruik door zeer grote platforms (gatekeepers) te voorkomen. - De Data Governance Act (DGA) is een voorstel voor een verordening die tot doel heeft de beschikbaarheid van gegevens voor gebruik te bevorderen door het vertrouwen in gegevenstussenpersonen te vergroten en mechanismen voor het delen van gegevens in de hele EU te versterken. |
| - La loi sur l'intelligence artificielle (AIA) est une proposition de | - De Wet Kunstmatige Intelligentie (AIA) is een voorstel voor een |
| règlement établissant des règles harmonisées dans le domaine de | verordening tot vaststelling van geharmoniseerde regels op het gebied |
| l'intelligence artificielle. | van kunstmatige intelligentie. |
| Compte tenu des diverses initiatives réglementaires au niveau européen | Gelet op de verschillende regelgevende initiatieven op Europees niveau |
| dont l'impact sur les compétences des autorités nationales de surveillance est encore flou, il est important d'éviter la fragmentation ou le morcellement des compétences. La création de ce Comité n'a donc aucune portée réglementaire, ses avis sont non contraignants et son statut peut être adapté au futur cadre réglementaire fédéral de la politique numérique. Le Comité consultatif pourrait soit continuer à exister aux côtés des futures autorités, soit y être intégré. Le fait que la future loi IA prévoie une autorité nationale IA n'est pas un obstacle à la mise en place à court terme d'un comité consultatif. | waarvan de impact op de bevoegdheden van de nationale toezichthoudende autoriteiten nog onduidelijk is, is het belangrijk om fragmentatie of versnippering van bevoegdheden te voorkomen. De oprichting van dit Comité heeft daarom geen reglementaire implicaties, zijn adviezen zijn niet-bindend, en zijn statuut kan worden aangepast aan het toekomstige federale reglementaire kader rond digitaal beleid. Het Raadgevend Comité zou ofwel kunnen blijven bestaan naast toekomstige autoriteiten of hierin geïntegreerd worden. Het feit dat de toekomstige AI Act voorziet in een nationale AI autoriteit is geen obstakel om op kortere termijn alvast een Raadgevend Comité op te zetten. |
| B. Analyse du dispositif | B. Bespreking van het dispositief |
| CHAPITRE I. - Dispositions générales | HOOFDSTUK I. - Algemene bepalingen |
| Article 1er | Artikel 1 |
| L'article 1er énumère plusieurs définitions ou renvoie à des abréviations. | Artikel 1 somt meerdere definities op of verwijst naar afkortingen. |
| Un service fédéral est ainsi défini et permet de mesurer l'étendue du | Zo wordt een federale dienst gedefinieerd en kan de reikwijdte van dit |
| champ d'application du présent arrêté. Chaque organisme de la fonction | besluit worden gemeten. Alle organisaties van het federaal |
| publique administrative fédérale peut demander un avis au Comité | administratief openbaar ambt kunnen dus een advies vragen aan het |
| consultatif d'éthique des données et de l'IA. Le Comité peut également | Raadgevend Comité Data en AI-ethiek Het Raadgevend Comité kan ook op |
| émettre un avis de sa propre initiative à un service fédéral ou à un | eigen initiatief een advies geven gericht aan een federale dienst of |
| membre du gouvernement fédéral. | aan een lid van de federale regering. |
| CHAPITRE 2. - Le Comité | HOOFDSTUK 2. - Het Comité |
| Article 2 | Artikel 2 |
| Cet article détermine que le Comité est institué au sein du SPF BOSA | Dit artikel bepaalt dat het Comité is ondergebracht in de FOD BOSA |
| dès lors que ce service fédéral assure avant tout un service | aangezien deze federale dienst bij uitstek voorziet in een |
| transversal vis-à-vis des autres services fédéraux. | transversale dienstverlening naar de andere federale diensten toe. |
| Les tâches du secrétariat consistent notamment à assurer la continuité | De secretariaat-taken bestaan onder andere uit het zorgen voor de |
| des activités du Comité, assurer le suivi des dossiers et des demandes | continuïteit van de werkzaamheden van het Comité, het zorgen voor de |
| d'avis, être un point de contact permanent pour tous les | opvolging van de dossiers en de adviesaanvragen, een permanent |
| interlocuteurs du Comité, centraliser et archiver la documentation | contactpunt zijn voor alle gesprekspartners van het Comité, en het |
| centraliseren en archiveren van de documentatie die aan het Comité | |
| communiquée au Comité et produite par le Comité. | wordt meegedeeld en die door het Comité wordt geproduceerd. |
| Article 3 | Artikel 3 |
| Les paragraphes 1 à 3 de l'article 3 disposent que le Comité est | Paragrafen 1 tot 3 van artikel 3 bepalen dat het Comité bestaat uit |
| composé de cinq membres, dont au moins deux membres sont | vijf leden, waarvan minstens twee leden Nederlandstalig zijn en |
| néerlandophones et au moins deux membres sont francophones, et dont | minstens twee leden Franstalig zijn, en waarvan nooit meer dan twee |
| jamais plus des deux tiers des membres ne sont du même sexe. | derde van de leden van hetzelfde geslacht zijn. |
| Le SPF BOSA est chargé de lancer un appel à candidatures, à publier au | FOD BOSA is verantwoordelijk om een oproep voor kandidaten te |
| moins au Moniteur belge. Le SPF BOSA peut donner une visibilité | lanceren, die ten minste wordt gepubliceerd in het Belgisch |
| supplémentaire à cet appel via d'autres canaux. | Staatsblad. FOD BOSA kan extra zichtbaarheid geven aan deze oproep via |
| Sur la base de cet appel, le SPF BOSA propose une liste motivée de | andere kanalen. Op basis van deze oproep draagt FOD BOSA een omklede lijst met |
| candidats au ministre chargé de la Fonction publique et au ministre | kandidaten voor aan de minister die bevoegd is voor Ambtenarenzaken en |
| chargé de la Digitalisation. Ce faisant, le SPF BOSA veille à ce que | de minister die bevoegd is voor Digitalisering. Daarbij waakt FOD BOSA |
| les compétences, telles que définies au § 4 de l'article 3, soient | erover dat de competenties, zoals bepaald in § 4 van artikel 3 |
| suffisamment représentées au sein du Comité. Sur la base de cette | voldoende worden vertegenwoordigd in het Comité. Op basis van deze |
| liste, le ministre chargé de la Fonction publique et le ministre | lijst wijzen de minister die bevoegd is voor Ambtenarenzaken en de |
| minister die bevoegd is voor Digitalisering per ministerieel besluit | |
| chargé de la Digitalisation nomment les membres du Comité par arrêté | de leden van het Comité aan voor een eenmalig hernieuwbare periode van |
| ministériel pour une durée de cinq ans renouvelable une fois. Cette | vijf jaar. Deze hernieuwbare periode van vijf jaar maakt het mogelijk |
| durée de cinq ans renouvelable permet d'éviter d'avoir des mandats | om te lange mandaten te vermijden en om de mogelijkheid te creëren om |
| trop longs et de créer la possibilité d'attirer de nouveaux experts et | nieuwe deskundigen aan te trekken en te garanderen dat de |
| de garantir de couvrir les domaines d'expertise requis pour la composition du Comité. Si le mandat d'un membre prend fin avant la date de fin de mandat prévue, en cas de décès ou de démission par exemple, son remplaçant est désigné dans un nouveau mandat d'une période de cinq ans. L'article 3, § 4, précise que les membres du Comité doivent avoir collectivement une connaissance suffisante de l'intelligence artificielle et des algorithmes en relation avec l'éthique, le droit (notamment les droits fondamentaux et la vie privée) et la durabilité (environnementale, économique et sociale). Cette composition multidisciplinaire permettra de réunir au sein du Comité les effectifs, les compétences et l'expertise actuellement éparpillées dans des secteurs très divers et diversifiés. | expertisegebieden die nodig zijn voor de samenstelling van het Comité worden gedekt. Indien het mandaat van een lid eindigt vóór de geplande einddatum, bijvoorbeeld in geval van overlijden of ontslag, wordt zijn plaatsvervanger benoemd voor een nieuw mandaat voor een periode van vijf jaar. Artikel 3, § 4 bepaalt dat de leden van het Comité gezamenlijk over voldoende kennis moeten beschikken artificiële intelligentie en algoritmes in relatie tot ethiek, recht (in het bijzonder grondrechten en privacy), en duurzaamheid (milieudimensies, economisch en sociaal). Deze multidisciplinaire samenstelling zal het mogelijk maken om de mankracht, vaardigheden en expertise, die momenteel verspreid zijn in zeer diverse en uiteenlopende sectoren, samen te brengen in het Comité. |
| Afin de garantir le haut degré d'expertise attendu des membres du | Om de hoge mate van deskundigheid te waarborgen die van de leden van |
| Comité sans pour autant fermer la porte aux experts formés au gré de | het Comité wordt verwacht, zonder echter de deur te sluiten voor |
| bijvoorbeeld deskundigen die zijn opgeleid volgens hun | |
| leur expérience professionnelle par exemple, le paragraphe 4 ajoute | beroepservaring, wordt in paragraaf 4 toegevoegd dat ten minste één |
| qu'au moins un des membres doit disposer d'un master ou équivalent et | van de leden een masterdiploma of een gelijkwaardig diploma moet |
| chaque membre doit justifier d'une expérience professionnelle de sept | hebben en dat elk lid een beroepservaring van ten minste zeven jaar |
| ans minimum. De cette manière, le haut degré de compétence est mis en | moet hebben. Op deze manier wordt de hoge graad van bekwaamheid naar |
| avant tout en garantissant un maximum de chance de trouver les profils | voren gebracht terwijl een maximale kans wordt gegarandeerd om |
| offrant la pluridisciplinarité voulue pour le Comité de manière à | profielen te vinden die de gewenste multidisciplinariteit bieden voor |
| couvrir tous les domaines d'expertise recherchés. | het Comité om alle gezochte expertisegebieden te dekken. |
| Compte tenu des normes internationales en la matière, une expertise | Gezien de internationale standaarden op dit gebied is internationale |
| internationale constitue un atout dans la sélection. | expertise een troef bij de selectie. |
| Toute publication académique, visibilité dans la presse nationale ou | Elke academische publicatie, zichtbaarheid in de nationale pers of |
| formation dans un ou plusieurs des domaines identifiés, sera prise en | training in een of meer van de geïdentificeerde gebieden, wordt in |
| considération dans le cadre de la sélection. | overweging genomen in het kader van de selectie. |
| Article 4 | Artikel 4 |
| L'article 4 dispose que le Comité ne peut rendre d'avis qu'à la | Artikel 4 bepaalt dat het Comité enkel adviezen kan geven ofwel op |
| demande d'un service fédéral ou d'un membre du gouvernement fédéral, | vraag van een federale dienst of van een lid van de federale regering, |
| ou de sa propre initiative mais uniquement au profit d'un service | ofwel op eigen initiatief doch enkel ten behoeve van een federale |
| fédéral ou d'un membre du gouvernement fédéral. | dienst of van een lid van de federale regering. |
| Autrement dit, les avis sont donnés dans le cadre des compétences | Adviezen worden met andere woorden gegeven binnen het kader van de |
| fédérales liées à l'intelligence artificielle, à la robotique, aux | federale bevoegdheden gerelateerd aan artificiële intelligentie, |
| algorithmes et aux technologies connexes, y compris dans le cadre de l'application de ces technologies à diverses bases de données gouvernementales. Le fait de demander l'avis par un service fédéral ou un membre du gouvernement fédéral ne constitue pas une obligation. Dans le cadre d'une demande d'avis, aucune donnée personnelle et aucune donnée de nature confidentielle n'est mise à disposition du Comité. Pour la formulation de ses avis, le comité peut coopérer avec : - la Direction Générale Simplification & Digitalisation du SPF BOSA ; - le Comité de Pilotage mis en place pour superviser la mise en oeuvre du Plan National de Convergence pour le Développement de l'Intelligence Artificielle approuvé par le Conseil des Ministres du | robotica, en algoritmes en aanverwante technologieën, inclusief in de context van de toepassing van deze technologieën op verschillende databanken van de overheid. Het inwinnen van advies door een federale dienst of een lid van de federale regering vormt geen verplichting. In het kader van een adviesvraag worden aan het Comité nooit persoonsgegevens en gegevens die van vertrouwelijke aard zijn ter beschikking gesteld. Voor het formuleren van zijn adviezen kan het Comité samenwerken met : - het directoraat-generaal Vereenvoudiging & Digitalisering van de FOD BOSA; - het Sturingscomité dat wordt opgericht om de uitvoering van het op |
| 28 octobre 2022 ; | de Ministerraad van 28 oktober 2022 goedgekeurde Nationaal |
| convergentieplan voor de ontwikkeling van artificiële intelligentie te begeleiden; | |
| - les régulateurs (par exemple dans les secteurs des télécoms, de | - de regulatoren (bijvoorbeeld in de telecom-, energiesectoren) en |
| l'énergie) et les autorités fédérales spécifiquement compétentes dans | federale instanties die specifiek bevoegd zijn op het gebied van |
| le domaine de la cybersécurité, de la médecine et de la sécurité de la | cyberbeveiliging, medicijnen en de veiligheid van de voedselketen; |
| chaîne alimentaire ; | |
| - l'Autorité de protection des données ; | - de Gegevensbeschermingautoriteit; |
| - le monde académique. | - de academische wereld. |
| Le mandat du Comité va au-delà de la simple analyse des implications | Het mandaat van het Comité reikt verder dan het louter analyseren van |
| éthiques des systèmes « axés sur les données ». Les systèmes | de ethische implicaties van `datagedreven' systemen. Ook meer |
| algorithmiques plus traditionnels (« pilotés par les modèles ») et les | traditionele algoritmische systemen (`modelgedreven') en aanverwante |
| technologies associées entrent également dans le champ d'application. | technologieën vallen onder het toepassingsgebied. Het Comité kan ook |
| Le comité peut également rendre des avis sur les environnements de | |
| test de l'IA (appelés bacs à sable réglementaires de l'IA) qui peuvent | advies geven over AI-testomgevingen (zgn. `AI regulatory sandboxes') |
| stimuler les applications innovantes de l'IA de manière éthiquement et | die innovatieve toepassingen van AI kunnen stimuleren op een ethisch |
| juridiquement responsable. | en juridisch verantwoorde manier. |
| Article 5 | Artikel 5 |
| L'article 4 dispose que le Comité établit un règlement intérieur lors | Artikel 4 bepaalt dat het Comité tijdens zijn eerste bijeenkomst een |
| de sa première réunion et élit un président parmi ses membres. | huishoudelijk reglement opstelt en een voorzitter uit diens midden |
| D'autres modalités peuvent être déterminées par le Comité lui-même | verkiest. Verdere modaliteiten kan het Comité zelf bepalen in zijn huishoudelijk |
| dans son règlement intérieur. Toutefois, le Comité doit se réunir au | reglement. Wel moet het Comité minstens een maal per jaar, en maximum |
| moins une fois par an et au maximum quatre fois par an. Le comité peut | vier maal per jaar samenkomen. Het Comité kan ook samenkomen op vraag |
| également se réunir à la demande du ministre chargé de la fonction | van de minister die bevoegd is voor Ambtenarenzaken en de Minister |
| publique et du ministre chargé de la Digitalisation. Une réunion du | bevoegd voor Digitalisering. Een vergadering van het Comité duurt |
| Comité dure au maximum six heures. | maximum zes uur. |
| Le règlement intérieur doit également déterminer le mode de vote des | Tevens moet het huishoudelijk reglement bepalen hoe wordt gestemd over |
| avis et le délai de réponse à l'émission des avis. | adviezen, en welke de antwoordtermijn is voor het uitbrengen van een advies. |
| Le Comité communique ses avis au service fédéral ou au membre du | Het comité deelt zijn adviezen mee aan de federale dienst of aan het |
| gouvernement fédéral auquel ils sont destinés. | lid van de federale regering voor wie ze bestemd zijn. |
| Article 6 | Artikel 6 |
| L'article 6 prévoit les frais de fonctionnement et les jetons de | Artikel 6 voorziet in de nodige werkingskosten en presentiegelden voor |
| présence nécessaires au Comité. Il est prévu que les membres du Comité qui ne sont pas membres du personnel de l'Etat ou d'un quelconque service public (fédéral, entités fédérées ou niveau local) perçoivent une rémunération de 61,98 euros par heure de réunion ; ce montant est lié à l'indice pivot 138.01. Chaque fraction d'heure de participation au Comité égale ou supérieure à trente minutes est considérée comme une heure. Elle est négligée si elle n'atteint pas cette durée. L'exclusion des membres du personnel du secteur public du bénéfice des jetons de présence rencontre l'usage en la matière dès lors qu'il est considéré que leur présence relève de leur fonction. Les membres peuvent prétendre au remboursement des frais de parcours, dans les conditions prévues pour les agents de l'Etat par l'arrêté | het Comité. Er wordt verwacht dat de leden van het Comité die geen lid zijn van het personeelslid van de Staat of van een openbare dienst (federaal, gefedereerd of lokaal niveau) een beloning ontvangen van 61,98 euro per vergaderuur; dit bedrag is gekoppeld aan spilindex 138,01. Elk deel van een deelname uur dat gelijk is aan of langer duurt dan dertig minuten wordt beschouwd als een uur prestatie. Het wordt weggelaten als het deze duur niet bereikt. De uitsluiting van personeelsleden uit de publieke sector van het voordeel van presentiegelden beantwoordt aan de praktijk op dit gebied wanneer men ervan uitgaat dat hun aanwezigheid binnen hun functie valt. De leden kunnen aanspraak maken op de terugbetaling van hun reiskosten, onder de voorwaarden voorzien voor de rijksambtenaren door |
| royal du 13 juillet 2017 fixant les allocations et indemnités des | het koninklijk besluit van 13 juli 2017 tot vaststelling van de |
| membres du personnel de la fonction publique fédérale. | toelagen en vergoedingen van de personeelsleden van het federaal |
| openbaar ambt. | |
| Article 7 | Artikel 7 |
| L'article 7 dispose que le Comité fait rapport annuellement au | Artikel 7 bepaalt dat het Comité jaarlijks verslag uitbrengt aan de |
| ministre de la Fonction publique et au ministre chargé de la | Minister van Ambtenarenzaken en aan de Minister bevoegd voor |
| Digitalisation, ainsi qu'aux Collèges des présidents de | Digitalisering, en aan het Colleges van de voorzitters van de Federale |
| l'Administration fédérale. Dans ce rapport, le Comité donne au moins | Overheid. In dat verslag geeft het Comité minstens een overzicht van |
| un aperçu de ses activités, des demandes d'avis, des avis donnés et | zijn activiteiten, vragen tot advies, gegeven adviezen, en uitgaven. |
| des dépenses. Ce rapport est publié sur le site Internet du SPF BOSA. | Dit verslag wordt gepubliceerd op de website van FOD BOSA. |
| CHAPITRE 3. - Dispositions finales | HOOFDSTUK 3. - Slotbepalingen |
| Article 8 | Artikel 8 |
| Cet article n'appelle pas de commentaire. | Dit artikel behoeft geen commentaar. |
| J'ai l'honneur d'être, | Ik heb de eer te zijn, |
| Sire, | Sire, |
| de Votre Majesté | Van Uwe Majesteit, |
| le très respectueux et très fidèle serviteur, | de zeer eerbiedige en zeer getrouwe dienaar, |
| A. DE CROO, | A. DE CROO, |
| Le Premier Ministre | De Eerste Minister |
| P. DE SUTTER, | P. DE SUTTER, |
| La Ministre de la Fonction publique | De Minister van Ambtenarenzaken |
| M. MICHEL, | M. MICHEL, |
| Le Secrétaire d'Etat à la Digitalisation | De Staatssecretaris voor Digitalisering |
| A. BERTRAND, | A. BERTRAND, |
| La Secrétaire d'Etat au Budget | De Staatsecretaris voor Begroting |
| Conseil d'Etat, section de législation | Raad van State, afdeling Wetgeving |
| Avis 74.097/2/V du 23 aout 2023 sur un projet d'arrêté royal `portant | Advies 74.097/2/V van 23 augustus 2023 over een ontwerp van koninklijk |
| création d'un Comité Consultatif d'Ethique des Données et de | besluit `houdende de oprichting van een Raadgevend Comité Ethiek |
| l'Intelligence Artificielle de l'administration fédérale' | inzake Data en Artificiële Intelligentie voor de federale overheid' |
| Le 12 juillet 2023, le Conseil d'Etat, section de législation, a été | Op 12 juli 2023 is de Raad van State, afdeling Wetgeving, door de |
| invité par la Vice-Première Ministre et Ministre de la Fonction | Vice-eersteminister en Minister van Ambtenarenzaken, |
| publique, des Entreprises publiques, des Télécommunications et de la | Overheidsbedrijven, Telecommunicatie en Post verzocht binnen een |
| Poste à communiquer un avis dans un délai de trente jours prorogé de | termijn van dertig dagen van rechtswege* verlengd tot 28 augustus 2023 |
| plein droit * jusqu'au 28 aout 2023, sur un projet d'arrêté royal | een advies te verstrekken over een ontwerp van koninklijk besluit |
| `portant création d'un Comité Consultatif d'Ethique des Données et de | `houdende de oprichting van een Raadgevend Comité Ethiek inzake Data |
| l'Intelligence Artificielle de l'administration fédérale'. | en Artificiële Intelligentie voor de federale overheid'. |
| Le projet a été examiné par la deuxième chambre des vacations le 23 | Het ontwerp is door de tweede vakantiekamer onderzocht op 23 augustus |
| aout 2023. La chambre était composée de Martine BAGUET, président de | 2023. De kamer was samengesteld uit Martine BAGUET, kamervoorzitter, |
| chambre, Bernard BLERO et Christine HOREVOETS, conseillers d'Etat, | Bernard BLERO en Christine HOREVOETS, staatsraden, Marianne DONY, |
| Marianne DONY, assesseur, et Anne-Catherine VAN GEERSDAELE, greffier. | assessor, en Anne-Catherine VAN GEERSDAELE, griffier. |
| Le rapport a été présenté par Ambre VASSART, auditeur adjoint. | Het verslag is uitgebracht door Ambre VASSART, adjunct-auditeur. |
| L'avis, dont le texte suit, a été donné le 23 aout 2023. | Het advies, waarvan de tekst hierna volgt, is gegeven op 23 augustus 2023. |
| Le projet d'arrêté tend à régler l'organisation d'un Comité | Le projet d'arrêté tend à régler l'organisation d'un Comité |
| Consultatif d'Ethique des Données et de l'Intelligence Artificielle de | Consultatif d'Ethique des Données et de l'Intelligence Artificielle de |
| l'administration fédérale. | l'administration fédérale. |
| Ce comité est un organe dont aucune disposition n'impose de recueillir | Ce comité est un organe dont aucune disposition n'impose de recueillir |
| l'avis. En outre, les avis qu'il donne ne sont revêtus d'aucun | l'avis. En outre, les avis qu'il donne ne sont revêtus d'aucun |
| caractère contraignant. En conséquence, le projet d'arrêté ne présente | caractère contraignant. En conséquence, le projet d'arrêté ne présente |
| pas de caractère réglementaire au sens de l'article 3, § 1er, des lois | pas de caractère réglementaire au sens de l'article 3, § 1er, des lois |
| coordonnées `sur le Conseil d'Etat', et n'est donc pas de ceux qui | coordonnées `sur le Conseil d'Etat', et n'est donc pas de ceux qui |
| doivent être soumis à l'avis de la section de législation 1. | doivent être soumis à l'avis de la section de législation 1. |
| Le greffier, Le président | De griffier, De voorzitter |
| A. - C. VAN GEERSDAELE M. BAGUET | A. - C. VAN GEERSDAELE M. BAGUET |
| _______ | _______ |
| Notes | Nota's |
| * Ce délai résulte de l'article 84, § 1er, alinéa 1er, 2°, in fine, | * Deze verlenging vloeit voort uit artikel 84, § 1, eerste lid, 2°, in |
| des lois `sur le Conseil d'Etat', coordonnées le 12 janvier 1973 qui | fine, van de wetten op de Raad van State, gecoördineerd op 12 januari |
| précise que ce délai est prolongé de plein droit de quinze jours | 1973, waarin wordt bepaald dat deze termijn van rechtswege verlengd |
| lorsqu'il prend cours du 15 juillet au 31 juillet ou lorsqu'il expire | wordt met vijftien dagen wanneer hij begint te lopen tussen 15 juli en |
| entre le 15 juillet et le 15 aout. | 31 juli of wanneer hij verstrijkt tussen 15 juli en 15 augustus. |
| 1 Voir en ce sens l'avis n° 66.848/4 donné le 16 janvier 2020 sur un | 1 Voir en ce sens l'avis n° 66.848/4 donné le 16 janvier 2020 sur un |
| projet devenu l'arrêté du Gouvernement wallon du 30 janvier 2020 | projet devenu l'arrêté du Gouvernement wallon du 30 janvier 2020 |
| `portant fonctionnement et composition de la Commission d'avis sur les | `portant fonctionnement et composition de la Commission d'avis sur les |
| licences d'exportations d'armes'. | licences d'exportations d'armes'. |
| 4 OCTOBRE 2023. - Arrêté royal portant création d'un Comité | 4 OKTOBER 2023. - Koninklijk besluit houdende de oprichting van een |
| Consultatif d'Ethique des Données et de l'Intelligence Artificielle de | Raadgevend Comité Ethiek inzake Data en Artificiële Intelligentie voor |
| l'administration fédérale | de federale overheid |
| PHILIPPE, Roi des Belges, | FILIP, Koning der Belgen, |
| A tous, présents et à venir, Salut. | Aan allen die nu zijn en hierna wezen zullen, Onze Groet. |
| Vu la Constitution, les articles 37 et 107, alinéa 2 ; | Gelet op de Grondwet, artikelen 37 en 107, tweede lid; |
| Vu l'avis de l'inspecteur des Finances du 6 juin 2023 ; | Gelet op het advies van de inspecteur van Financiën van 6 juni 2023; |
| Vu l'accord de la Secrétaire d'Etat au Budget, donné le 27 juin 2023 ; | Gelet op de akkoordbevinding van de Staatssecretaris voor Begroting, |
| gegeven op 27 juni 2023; | |
| Vu la dispense d'analyse d'impact sur la base de l'article 8, § 1er, | Gelet op de vrijstelling van een impactanalyse op basis van artikel 8, |
| 4°, de la loi du 15 décembre 2013 portant des dispositions diverses | § 1, 4°, van de wet van 15 december 2013 houdende diverse bepalingen |
| concernant la simplification administrative ; | inzake administratieve vereenvoudiging; |
| Gelet op het advies nr. 74.097/2/V van de Raad van State, gegeven op | |
| Vu l'avis n° 74.097/2/V du Conseil d'état, donné le 23 août 2023 en | 23 augustus 2023 in toepassing van artikel 84, § 1, eerste lid, 2°, |
| application de l'article 84, § 1er, alinéa 1er, 2°, des lois sur le Conseil d'état, coordonnées le 12 janvier 1973 ; | van de wetten op de Raad van State, gecoördineerd op 12 januari 1973; |
| Considérant l'approbation par le Conseil des ministres du 28 octobre | Overwegende de goedkeuring door de Ministerraad van 28 oktober 2020 |
| 2020 du Plan national de convergence pour le développement de | van het nationaal convergentieplan voor de ontwikkeling van |
| l'intelligence artificielle, ci-après dénommée IA ; | artificiële intelligentie, hierna AI genoemd; |
| Considérant les négociations en cours au sein du Conseil de l'Europe | Overwegende de lopende onderhandelingen binnen de Raad van Europa voor |
| pour un instrument juridiquement contraignant de nature transversale | een juridisch bindend instrument van transversale aard |
| (« convention »/« convention-cadre ») sur l'intelligence artificielle | (`verdrag'/`kaderverdrag') inzake kunstmatige intelligentie op basis |
| fondé sur les normes du Conseil de l'Europe relatives aux droits de | van de normen van de Raad van Europa inzake mensenrechten, democratie |
| l'homme, à la démocratie et à l'Etat de droit ; | en de rechtsstaat; |
| Considérant la recommandation de l'UNESCO sur l'éthique de | Overwegende de aanbeveling van UNESCO voor de ethiek van kunstmatige |
| l'intelligence artificielle, adopté le 23 novembre 2021 ; | intelligentie, aangenomen op 23 november 2021; |
| Considérant l'intérêt public à s'appuyer sur des systèmes d'IA qui | Overwegende het algemeen belang om te kunnen vertrouwen op AI-systemen |
| sont développés et exploités de manière juridiquement, éthiquement et | die op een juridisch, ethisch en technisch verantwoorde wijze worden |
| techniquement solide, dans un cadre éthique solide qui traite de | ontwikkeld en gebruikt, binnen een degelijk ethisch kader dat |
| l'impact de l'IA sur certains droits fondamentaux des citoyens et des | betrekking heeft op de gevolgen van AI voor bepaalde grondrechten van |
| travailleurs, tels que la vie privée, la dignité et | burgers en werknemers, zoals privacy, waardigheid en |
| non-discrimination; | non-discriminatie; |
| Considérant les cadres éthiques qui ont été développés ces dernières | Overwegende de ethische kaders die de voorbije jaren werden uitgewerkt |
| années pour encourager les concepteurs, développeurs, implémenteurs et | om AI- ontwerpers, ontwikkelaars, uitvoerders en -gebruikers aan te |
| utilisateurs de l'IA à prendre en compte l'éthique dès la phase de | moedigen om vanaf de ontwerpfase ("ethics by design") en doorheen de |
| conception ("ethics by design") et tout au long du cycle de vie des systèmes d'IA ; | hele levenscyclus van AI-systemen rekening te houden met ethiek; |
| Considérant la nécessité de traduire ces cadres dans le contexte des | Overwegende de nood aan een vertaalslag van deze kaders naar de |
| services publics, afin de s'assurer qu'il existe des lignes | context van de overheidsdiensten, om ervoor te zorgen dat er |
| directrices claires dans l'utilisation de l'IA par l'administration à | duidelijke richtlijnen zijn bij het gebruik van AI door de overheid in |
| la lumière des sensibilités éthiques spécifiques ; | het licht van specifieke ethische gevoeligheden; |
| Sur la proposition de la Ministre de la Fonction publique, du | Op de voordracht van de Minister van Ambtenarenzaken, van de |
| Secrétaire d'Etat à la Digitalisation et de la Secrétaire d'Etat au | Staatssecretaris voor Digitalisering en van de Staatssecretaris voor |
| Budget, et de l'avis des Ministres qui en ont délibéré en Conseil, | Begroting, en op het advies van de in Raad vergaderde Ministers, |
| Nous avons arrêté et arrêtons : | Hebben Wij besloten en besluiten Wij : |
| CHAPITRE 1er. - Dispositions générales | HOOFDSTUK 1. - Algemene bepalingen |
Article 1er.Pour l'application du présent arrêté, il y a lieu d'entendre par : |
Artikel 1.Voor de toepassing van dit besluit, wordt verstaan onder: |
| 1° service fédéral : un service public fédéral ou un service public | 1° federale dienst: een federale overheidsdienst of een |
| fédéral de programmation, ainsi que les services qui en dépendent, le | programmatorische federale overheidsdienst, alsook de diensten die |
| ministère de la Défense ainsi que les services qui en dépendent, ou | ervan afhangen, het Ministerie van Landsverdediging alsook de diensten |
| une des personnes morales visées à l'article 1er, 3°, de la loi du 22 | die ervan afhangen, of een van de rechtspersonen bedoeld in artikel 1, |
| juillet 1993 portant certaines mesures en matière de fonction publique | 3°, van de wet van 22 juli 1993 houdende bepaalde maatregelen inzake |
| ; | ambtenarenzaken; |
| 2° SPF BOSA : le Service public fédéral Stratégie et Appui créé par | 2° FOD BOSA: de federale overheidsdienst beleid en ondersteuning |
| l'arrêté royal du 22 février 2017 portant création du service public | opgericht bij het koninklijk besluit van 22 februari 2017 houdende |
| fédéral politique et appui ; | oprichting van de Federale Overheidsdienst Beleid en Ondersteuning; |
| 3° Comité : le Comité consultatif d'Ethique des données et de | 3° Comité: het Raadgevend Comité Ethiek inzake Data en Artificiële |
| l'Intelligence Artificielle institué par le présent arrêté. | Intelligentie opgericht door dit besluit. |
| CHAPITRE 2. - Le Comité | HOOFDSTUK 2. - Het Comité |
Art. 2.Le Comité est institué auprès du SPF BOSA . |
Art. 2.Het Comité wordt opgericht bij de FOD BOSA. |
| Le secrétariat du Comité est assuré par le SPF BOSA. | Het secretariaat van het Comité wordt verzekerd door de FOD BOSA. |
Art. 3.§ 1. Le Comité est composé de cinq membres, dont au moins deux |
Art. 3.§ 1. Het Comité is samengesteld uit vijf leden, waarvan |
| néerlandophones et au moins deux francophones, proposés par le SPF | minstens twee Nederlandstalige en minstens twee Franstalige |
| BOSA à la suite d'un appel à candidatures publié au moins au Moniteur | deskundigen, voorgedragen door de FOD BOSA na een oproep tot |
| kandidaten die minstens bekendgemaakt wordt in het Belgisch Staatsblad | |
| belge et sur le site internet du SPF BOSA. | en op de website van de FOD BOSA. |
| § 2. Les membres du Comité sont désignés pour une durée de cinq ans, | § 2. De leden van het Comité worden aangewezen voor een eenmalig |
| renouvelable une fois, par le ministre chargé de la Fonction publique | hernieuwbare periode van vijf jaar, door de minister bevoegd voor |
| et le ministre chargé de la Digitalisation. | Ambtenarenzaken en de minister bevoegd voor Digitalisering. |
| Si le mandat d'un membre prend fin avant le terme de cinq ans visé à | Indien het mandaat van een lid eindigt vóór de termijn van vijf jaar |
| l'alinéa 1er, son remplaçant est désigné dans un nouveau mandat d'une | bedoeld in het eerste lid, wordt zijn plaatsvervanger benoemd voor een |
| période de cinq ans. | nieuw mandaat voor een periode van vijf jaar. |
| § 3. Aucune désignation ne peut avoir pour effet que plus de deux | § 3. Geen enkele aanwijzing kan als gevolg hebben dat meer dan twee |
| tiers des membres du Comité appartiennent au même sexe. | derden van de leden van hetzelfde geslacht zijn. |
| § 4. Le Comité est composé de telle manière qu'il dispose des | § 4. Het Comité is zo samengesteld dat in zijn schoot de competenties |
| compétences dans le domaine de l'intelligence artificielle et des | aanwezig zijn op het gebied van artificiële intelligentie en |
| algorithmes, et la relation de ces domaines avec : | algoritmes in relatie tot : |
| - éthique ; | - ethiek; |
| - droit, en particulier droits fondamentaux et vie privée ; | - recht, in het bijzonder grondrechten en privacy; |
| - durabilité, comprenant les dimensions économique, sociale et environnementale. Au moins un membre du Comité dispose d'un master ou équivalent. Chaque membre dispose d'une expérience professionnelle de sept ans minimum. Art. 4.Le Comité formule des avis scientifiques sur les questions éthiques, juridiques, économiques, sociales et environnementales concernant l'intelligence artificielle, la robotique et les technologies connexes qui sont utilisées au sein de l'administration et qui peuvent avoir un impact significatif sur les intérêts individuels ou sociétaux. |
duurzaamheid, omvattende de economische, sociale en milieudimensies. Ten minste één lid van het Comité heeft een masterdiploma of gelijkwaardig. Elk lid heeft een beroepservaring van minstens zeven jaar. Art. 4.Het Comité formuleert wetenschappelijk adviezen over ethische, juridische, economische, sociale en milieuvraagstukken inzake artificiële intelligentie, robotica, algoritmes, en aanverwante technologieën die worden ingezet binnen de overheid en die een belangrijke impact kunnen hebben op individuele of maatschappelijke belangen. |
| Le Comité formule ses avis soit à la demande d'un service fédéral ou | Het Comité formuleert deze adviezen hetzij op vraag van een federale |
| d'un membre du gouvernement fédéral, soit de sa propre initiative pour | dienst of van een lid van de federale regering, hetzij of op eigen |
| le compte d'un service fédéral ou d'un membre du gouvernement fédéral. Art. 5.§ 1. Lors de la première réunion, le Comité établit un règlement d'ordre intérieur et élit parmi ses membres un président à la majorité des voix. A minima, le règlement d'ordre intérieur fixe les modalités et la fréquence des réunions, comment les avis sont votés, ainsi que le délai maximum de réponse pour rendre les avis sollicités. Le règlement d'ordre intérieur détermine également les mesures nécessaires à prendre en cas de conflit d'intérêt ou d'incompatibilité. Le Comité communique ses avis au service fédéral ou au membre du gouvernement fédéral auquel ils sont destinés, à la ministre de la Fonction publique et au ministre à la Digitalisation. |
initiatief ten behoeve van een federale dienst of lid van de federale regering. Art. 5.§ 1. Op de eerste bijeenkomst stelt het Comité een huishoudelijk reglement op en verkiest het bij meerderheid van stemmen een voorzitter onder zijn leden. In het huishoudelijk reglement worden ten minste de modaliteiten en de frequentie van de vergaderingen vastgelegd, hoe wordt gestemd over adviezen, alsook de maximale antwoordtermijn voor het uitbrengen van de gevraagde adviezen. Het huishoudelijk reglement bepaalt ook de maatregelen die moeten worden genomen in geval van belangenconflict of onverenigbaarheid. Het comité deelt zijn adviezen mee aan de federale dienst of het lid van de federale regering voor wie ze bestemd zijn, aan de minister van Ambtenarenzaken en aan de minister voor Digitalisering. |
| § 2. Sans préjudice du paragraphe 1er, alinéa 2, le comité se réunit | § 2. Onverminderd paragraaf 1, tweede lid, komt het Comité minstens |
| au moins une fois par an et maximum quatre fois par an. | een keer per jaar en maximum vier keer per jaar samen. |
Art. 6.Le Comité dispose des crédits nécessaires à son |
Art. 6.§ 1. Het Comité beschikt over de nodige kredieten voor haar |
| fonctionnement, qui sont inclus dans le budget du SPF BOSA. Ces | werking die worden opgenomen in de begroting van de FOD BOSA. Deze |
| crédits couvrent les frais de fonctionnement du Comité et les jetons | kredieten dekken de werkingskosten van het Comité en de |
| de présence de ses membres. | presentiegelden van zijn leden. |
| § 2. Les membres du Comité, qui ne sont pas membres du personnel de | § 2. De leden van het Comité, die geen lid zijn van het Rijkspersoneel |
| l'Etat ou qui ne relèvent pas du secteur public, à l'exception des | of die niet onder de publieke sector vallen, met uitzondering van |
| membres issus du monde académique, perçoivent un jeton de présence de | leden uit de academische wereld, ontvangen een presentiegeld van 61,98 |
| 61,98 euros par heure de réunion, pour un maximum de six heures par | euro per vergaderuur, voor maximaal zes uur per bijeenkomst. Dit |
| réunion. Ce montant est lié à l'indice-pivot 138,01. | bedrag is gekoppeld aan spilindex 138,01. |
| Chaque fraction d'heure de participation au Comité égale ou supérieure | Elk deel van een vergaderuur dat gelijk is aan of langer duurt dan |
| à trente minutes est considérée comme une heure. Elle est négligée si | dertig minuten wordt beschouwd als een uur prestatie. Het wordt |
| elle n'atteint pas cette durée. | weggelaten als het deze duur niet bereikt. |
| Les membres du Comité peuvent prétendre au remboursement des frais de | De leden van het Comité kunnen aanspraak maken op de terugbetaling van |
| parcours, dans les conditions prévues pour les agents de l'Etat par | hun reiskosten, onder de voorwaarden voorzien voor de rijksambtenaren |
| l'arrêté royal du 13 juillet 2017 fixant les allocations et indemnités | door het koninklijk besluit van 13 juli 2017 tot vaststelling van de |
| des membres du personnel de la fonction publique fédérale. | toelagen en vergoedingen van de personeelsleden van het federaal |
| openbaar ambt. | |
Art. 7.Le Comité rend compte annuellement de ses activités à |
Art. 7.Het Comité brengt jaarlijks verslag uit over zijn activiteiten |
| l'attention des ministre de la Fonction publique et ministre chargé de | ter attentie van de minister van Ambtenarenzaken en van de minister |
| la Digitalisation, et des collèges des présidents et des | bevoegd voor Digitalisering, en van de Colleges van voorzitters en |
| administrateurs-généraux. Ce rapport est publié sur le site internet | administrateurs-generaal. Dit verslag wordt gepubliceerd op de website |
| du SPF BOSA. | van de FOD BOSA. |
| CHAPITRE 3. - Dispositions finales | HOOFDSTUK 3. - Slotbepalingen |
Art. 8.Les ministres sont chargés, chacun en ce qui le concerne, de |
Art. 8.De ministers zijn, ieder wat hem betreft, belast met de |
| l'exécution du présent arrêté. | uitvoering van dit besluit. |
| Donné à Bruxelles, le 4 octobre 2023. | Gegeven te Brussel, 4 oktober 2023. |
| PHILIPPE | FILIP |
| Par le Roi : | Van Koningswege : |
| A. DE CROO, | B. DE CROO, |
| Le Premier Ministre | De Eerste Minister |
| P. DE SUTTER, | P. DE SUTTER, |
| La Ministre de la Fonction publique | De Minister van Ambtenarenzaken |
| M. MICHEL, | M. MICHEL, |
| Le Secrétaire d'Etat à la Digitalisation | De Staatssecretaris voor Digitalisering |
| B. BERTRAND, | B. BERTRAND, |
| La Secrétaire d'Etat au Budget | De Staatsecretaris voor Begroting |