La regulación de la inteligencia artificial (IA) es uno de los temas principales en la agenda de gobiernos, parlamentos, organismos internacionales, empresas desarrolladoras y programadoras, así como de movimientos sociales de todo el mundo.

En un contexto de creciente interacción humano-algoritmo proporcionada por las herramientas digitales y frente a la necesidad de responder a los desafíos planteados por sus impactos sociales, los ministros de Derechos Humanos de los países del Mercosur se reunieron la semana pasada en Brasilia (Brasil) y aprobaron una Declaración de Principios en el ámbito de las Inteligencias Artificiales.

El documento, elaborado y consolidado por las delegaciones nacionales con el apoyo técnico del Instituto de Políticas Públicas en Derechos Humanos del Mercosur (IPPDH), establece nuevos derechos y resignifica otros ya conocidos para enfrentar los desafíos y las complejidades de la era digital.

La Reunión de Altas Autoridades en Derechos Humanos del Mercosur (RAADDHH), conducida por el ministro brasileño Sílvio Almeida, marcó un paso significativo en la definición de conceptos como el de racismo algorítmico practicado en la aplicación de sistemas de reconocimiento facial y en herramientas de inteligencia artificial generativa.

Al mismo tiempo, la Declaración de los ministros de Derechos Humanos del Mercosur innova conceptualmente al adoptar una perspectiva decolonial, reconociendo la importancia de preservar y promover las culturas, saberes y lenguas de las comunidades indígenas y tradicionales, contribuyendo a un enfoque más equitativo en el espectro tecnológico regional.

Una herramienta que consolida y reconoce derechos

El documento consolida y reconoce derechos presentes en las recientes regulaciones nacionales de protección de datos, como la privacidad y transparencia en el marco de principios como el de la centralidad humana, destacando el compromiso de los países del bloque regional en la lucha contra los sesgos y discriminaciones en la programación, entrenamiento y aplicación de los sistemas de IA, abordando cuestiones de género, raza, etnia, religión, entre otros, incluyendo las herramientas de gestión algorítmica aplicadas en las relaciones laborales.

La subordinación algorítmica, o la creciente dependencia de los trabajadores respecto a algoritmos es un elemento presente en la Declaración teniendo en cuenta que la toma de decisiones automatizadas ha transformado radicalmente la naturaleza del mundo del trabajo.

Los trabajadores de plataformas digitales, como conductores de servicios de transporte o repartidores, fueron considerados con base a su vulnerabilidad a la influencia de algoritmos aplicados en aspectos clave de sus labores, desde la asignación de tareas hasta la evaluación de su desempeño.

En este sentido, el reconocimiento de derechos como el de la transparencia algorítmica en el mundo del trabajo fortalece la posibilidad de que los trabajadores puedan negociar colectivamente los aspectos de los sistemas de inteligencia artificial y las implicaciones de la utilización de herramientas de gestión algorítmica.

Los criterios de programación y la utilización de los datos recopilados por sistemas de inteligencia artificial son temas estratégicos para la lucha por derechos de la clase trabajadora, no solo de los trabajadores de plataformas digitales, sino también de diversas categorías profesionales que se ven impactadas por la implementación gradual de estas herramientas en su entorno laboral.

Junto al principio de la transparencia, la explicabilidad y el control humano se consideran esenciales para garantizar que las decisiones tomadas por sistemas de IA sean comprensibles, supervisadas y explicables. El documento insta a la creación de mecanismos claros de responsabilidad y rendición de cuentas para garantizar que las empresas programadoras y desarrolladoras de sistemas de IA sean responsabilizadas por sus acciones y decisiones.

Esta Declaración reafirma el acceso universal a Internet como un derecho humano fundamental, comprometiendo a los Estados partes a eliminar la brecha digital y a promover la participación plena en la economía digital, garantizando que los ciudadanos del bloque puedan disfrutar de los beneficios de la inteligencia artificial con miras a reducir la desigualdad social en la región.

Para ello, el instrumento destaca la importancia del fomento de la educación y formación digital para capacitar de forma continuada a los trabajadores en la era digital. A medida que la automatización y la inteligencia artificial transforman las habilidades tecnológicas requeridas en el trabajo, garantizar el acceso y la formación digital de calidad se vuelve esencial para que los trabajadores puedan adaptarse a las demandas cambiantes del mercado laboral.

La integridad de la información en plataformas digitales en el contexto de la democracia es un tema destacado por los ministros para asegurar el derecho a la libertad de expresión evitando, al mismo tiempo, distorsiones que lleven a violaciones de los derechos humanos.
El documento busca consensuar la idea de que las plataformas digitales deben evitar la utilización de algoritmos que creen burbujas informativas perjudiciales tendientes a influir en la percepción de realidad de sus usuarios.

Finalmente, la Declaración aborda y reconoce la necesidad de establecer las bases para una gobernanza internacional en inteligencia artificial. Los ministros de Derechos Humanos del Mercosur se comprometen a contribuir y participar activamente en foros internacionales dedicados a la gobernanza de la inteligencia artificial. En este contexto, se enfatiza la participación social en políticas públicas para la inteligencia artificial, promoviendo la colaboración entre parlamentos, sociedad civil y organizaciones en espacios consultivos multidisciplinarios.

La colaboración multisectorial para el desarrollo responsable de la inteligencia artificial es reconocida como fundamental, llamando la atención sobre la ampliación del debate regulatorio sobre la inteligencia artificial con instituciones académicas, laboratorios, empresas y organizaciones de la sociedad civil para garantizar el diseño ético y respetuoso de los derechos humanos de estas tecnologías.

La cooperación estrecha entre los parlamentos del Mercosur y las organizaciones de la sociedad civil asegura una representación y participación social en la creación, implementación, monitoreo y evaluación de políticas y regulaciones sobre la inteligencia artificial.

En última instancia, la Declaración del Mercosur no sólo establece principios éticos para la inteligencia artificial en general, sino que también proporciona un marco específico que protege los derechos en un entorno social, cultural, comunicacional y laboral cada vez más subordinado a algoritmos.

Al abogar por los nuevos derechos humanos en la era digital, este instrumento se convierte en un faro de orientación en la búsqueda de un equilibrio justo entre la innovación tecnológica y la salvaguarda de derechos. La implementación efectiva de estos principios busca sentar las bases para un futuro donde la tecnología y los derechos humanos coexistan en armonía.