La réglementation de l’intelligence artificielle (IA) est l’une des principales questions à l’ordre du jour des gouvernements, des parlements, des organisations internationales, des entreprises de conception et de développement informatique, ainsi que des mouvements sociaux du monde entier.

Dans le contexte d’une interaction croissante entre humains et algorithmes qu’offrent les outils numériques et face à la nécessité de répondre aux défis posés par leurs impacts sociétaux, les ministres des Droits humains des pays du Marché commun du Sud (Mercosur) se sont réunis la semaine dernière à Brasilia (Brésil) et ont approuvé une Déclaration de principes dans le domaine des intelligences artificielles.

Le document, rédigé et consolidé par les délégations nationales avec le soutien technique de l’Institut pour les politiques publiques en matière de droits humains du Mercosur, établit de nouveaux droits et redéfinit d’autres droits déjà connus afin de relever les défis et les complexités de l’ère numérique.

La réunion des hautes autorités des Droits humains du Mercosur, dirigée par le ministre brésilien Sílvio Almeida, a constitué une étape importante dans la définition de concepts tels que le racisme algorithmique pratiqué dans l’application de systèmes de reconnaissance faciale et d’outils d’intelligence artificielle générative.

En parallèle, la déclaration des ministres des Droits humains du Mercosur innove sur le plan conceptuel en adoptant une perspective « décoloniale », reconnaissant l’importance qu’il y a à préserver et à promouvoir les cultures, les connaissances et les langues des communautés autochtones et traditionnelles, contribuant ainsi à une approche plus équitable dans le spectre technologique régional.

Un outil qui consolide et reconnaît les droits

Le document consolide et reconnaît les droits présents dans les récentes réglementations nationales sur la protection des données, comme la confidentialité et la transparence dans le cadre de principes tels que la centralité de l’être humain, tout en soulignant l’engagement des pays du bloc régional dans la lutte contre les biais et la discrimination dans la programmation, l’entraînement et la mise en œuvre des systèmes d’IA, en abordant les questions de genre, de racisme, d’ethnicité, de religion, notamment, y compris les outils de gestion algorithmique appliqués dans les relations de travail.

La subordination algorithmique, c.-à-d. la dépendance croissante des travailleurs vis-à-vis des algorithmes, est un élément présent dans la déclaration, car la prise de décision automatisée a radicalement transformé la nature du monde du travail.

Les travailleurs des plates-formes numériques, tels que les conducteurs de transporteurs ou les livreurs, ont été considérés sur la base de leur vulnérabilité à l’influence des algorithmes appliqués à des aspects clés de leur métier allant de l’attribution des tâches à l’évaluation des performances.

En ce sens, la reconnaissance de droits tels que celui de la transparence algorithmique dans le monde du travail donne aux travailleurs davantage de moyens pour négocier collectivement les aspects des systèmes d’intelligence artificielle et les implications de l’utilisation d’outils de gestion algorithmique.

Les critères de programmation et l’utilisation des données collectées par des systèmes d’intelligence artificielle sont des questions stratégiques pour la lutte pour les droits de la classe ouvrière, non seulement pour les travailleurs des plates-formes numériques, mais aussi pour diverses catégories professionnelles qui sont impactées par la mise en œuvre progressive de ces outils dans leur environnement de travail.

Outre le principe de transparence, l’explicabilité et le contrôle humain sont considérés comme essentiels pour garantir que les décisions prises par les systèmes d’IA soient compréhensibles, supervisées et explicables.

Le document appelle à la création de mécanismes clairs de responsabilisation et d’obligation de rendre des comptes afin que les entreprises qui conçoivent et développent des systèmes d’IA soient tenues responsables de leurs actions et de leurs décisions.

Cette déclaration réaffirme l’accès universel à l’Internet comme droit humain fondamental, engageant les États parties à éliminer la fracture numérique et à promouvoir la pleine participation à l’économie numérique, en garantissant que les citoyens du bloc puissent bénéficier des avantages de l’intelligence artificielle en vue de réduire les inégalités sociales dans la région.

C’est dans cette optique que l’instrument souligne l’importance que revêt la promotion de l’éducation et de la formation numériques en vue d’autonomiser en permanence les travailleurs à l’ère du numérique. À mesure que l’automatisation et l’intelligence artificielle transforment les compétences technologiques requises sur le lieu de travail, il devient essentiel de garantir l’accès à une formation numérique de qualité afin de permettre aux travailleurs de s’adapter à l’évolution des exigences du marché du travail.

L’intégrité des informations sur les plates-formes numériques dans le contexte de la démocratie est une question soulignée par les ministres dans le but de garantir le droit à la liberté d’expression tout en évitant les distorsions qui conduisent à des violations des droits humains.

Le document cherche à dégager un consensus sur l’idée que les plates-formes numériques devraient éviter d’utiliser des algorithmes qui créent des bulles d’information nuisibles tendant à influencer la façon dont leurs utilisateurs perçoivent la réalité.

Enfin, la Déclaration aborde et reconnaît la nécessité d’établir les bases d’une gouvernance internationale de l’intelligence artificielle. Les ministres des Droits humains du Mercosur s’engagent à contribuer et à participer activement aux forums internationaux dédiés à la gouvernance de l’intelligence artificielle. Dans ce contexte, une participation sociale aux politiques publiques en matière d’intelligence artificielle est mise en avant et encourage la collaboration entre parlements, société civile et organisations au sein d’espaces consultatifs multidisciplinaires.

La collaboration multisectorielle pour le développement responsable de l’intelligence artificielle est reconnue comme un élément fondamental tout en attirant l’attention sur l’élargissement du débat réglementaire sur l’intelligence artificielle à des institutions académiques, des laboratoires, des entreprises et des organisations de la société civile afin de garantir une conception éthique et respectueuse des droits humains de ces technologies.

Une coopération étroite entre les parlements du Mercosur et les organisations de la société civile garantit la représentation et la participation sociales à la création, à la mise en œuvre, au suivi et à l’évaluation des politiques et des réglementations en matière d’intelligence artificielle.

En fin de compte, la déclaration du Mercosur établit non seulement des principes éthiques pour l’intelligence artificielle en général, mais fournit également un cadre spécifique qui protège les droits dans un environnement social, culturel, de communication et de travail de plus en plus subordonné aux algorithmes.

En plaidant pour de nouveaux droits humains à l’ère numérique, cet instrument se transforme en guide dans la recherche d’un juste équilibre entre l’innovation technologique et la protection des droits. La mise en application effective de ces principes vise à jeter les bases d’un avenir où la technologie et les droits humains coexistent en harmonie.