La Sra. Amina Bouayach, presidenta del Consejo Nacional de Derechos Humanos (CNDH), reiteró el llamamiento para que se desarrolle la primera estrategia nacional dedicada a la inteligencia artificial (IA). Esto fue parte de su discurso de apertura pronunciado en su nombre por el Sr. Mohamed El Hachimi, director de estudios, investigación y documentación del CNDH, en la apertura de una conferencia organizada el miércoles 5 de febrero de 2025, en la Universidad Hassan I en Settat, Marruecos.

La Sra. Bouayach enfatizó la necesidad de una estrategia de IA independiente para complementar la estrategia digital de Marruecos, destacando las importantes oportunidades que la digitalización, la tecnología y la IA pueden ofrecer para avanzar en el desarrollo. 

En este contexto, afirmó: “Los derechos humanos no son un obstáculo para la innovación y el progreso”. Por el contrario, añadió, la búsqueda de soluciones respetando los derechos y las libertades puede servir de catalizador para una innovación aún mayor. Subrayó que el compromiso voluntario con los derechos y las libertades, junto con la protección de la dignidad humana, debería ser un factor determinante clave en los enfoques de innovación. Esto, dijo, allanaría el camino para innovaciones más profundas, más significativas y más centradas en el ser humano.

La Sra. Bouayach también destacó que una estrategia nacional de IA debería crear las condiciones necesarias para:

• Fomentar y alentar la innovación;
• Desarrollar sistemas de IA que integren consideraciones de derechos humanos en la recopilación de datos y el diseño de algoritmos;
• Priorizar las evaluaciones periódicas del impacto en los derechos humanos para proteger los derechos y las libertades fundamentales.

En su declaración, también destacó el enorme potencial de la IA para mejorar la protección de los derechos humanos, en particular para fortalecer los servicios de atención de la salud, empoderar a las personas con discapacidad mediante avances tecnológicos, ampliar el acceso a la educación para todos, apoyar el desarrollo sostenible, predecir desastres naturales y reducir las emisiones de carbono para 2030.

Al analizar los desafíos de los derechos humanos en la era digital y de la IA, la Sra. Bouayach advirtió contra la posibilidad de ignorar tres cuestiones fundamentales:

• La desinformación y su impacto en los derechos y las libertades: la necesidad de estrategias eficaces para combatir la desinformación, incluido el fortalecimiento de los medios de comunicación y la educación digital, la mejora de la capacidad de las personas para verificar la información, la garantía de la transparencia en las plataformas digitales, etc.
• La discriminación y la reproducción de estereotipos: la IA y la tecnología pueden reproducir estereotipos sociales si no se diseñan con cuidado y se revisan de forma periódica y exhaustiva.
• El impacto desigual en los grupos vulnerables, en particular las mujeres: la tecnología no es inherentemente neutral y puede exacerbar las desigualdades existentes, en particular para las mujeres y los grupos vulnerables.  
  
  Descargar la alocución de sra. Bouayach