Las tecnologías de inteligencia artificial (IA) apuntan hoy en día como un mecanismo que ayuda a un cambio social, económico y organizacional. Actualmente, se ha demostrado que estas tecnologías tienen el potencial de transformar las empresas, los sectores productivos, los mercados de trabajo y la sociedad en general. No obstante, se encuentran algunos obstáculos para su aplicación, pero se han logrado optimizar los procesos y complementar el conocimiento humano al proporcionar información y soluciones, así como ayudar a las empresas a desarrollar o preservar su ventaja competitiva.

La IA está cambiando nuestra sociedad de maneras profundas al modificar cómo vivimos, trabajamos y nos relacionamos. A medida que esta tecnología avanza, su influencia en los derechos humanos se vuelve más significativa y trae consigo tanto oportunidades como desafíos. Por un lado, los sistemas de IA pueden ayudar a fortalecer la protección y promoción de los derechos humanos, la democracia y el estado de derecho. Por el otro, también presentan riesgos serios, como la discriminación, la desigualdad de género, las amenazas a los procesos democráticos, la violación de la dignidad y autonomía humanas y su uso indebido por los gobiernos con fines represivos, lo que va en contra del Estado de derecho y del reconocimiento de los derechos humanos. Consciente de estas dos caras de la moneda, deben abordarse, de manera sistemática, las implicaciones éticas y legales de la IA y las tecnologías digitales; su objetivo debe ser garantizar su desarrollo y utilización, para que cumpla plenamente con las normas internacionales en materia de derechos humanos y de la convivencia humana natural.

La IA se ha convertido en un concepto que está cada vez más presente en nuestra vida diaria. Se integra tan rápidamente como avanzan sus desarrollos tecnológicos, los cuales siguen sorprendiendo a la humanidad. Esta tecnología ha influido en casi todos los aspectos de nuestra vida, tanto en el ámbito público como en el privado, y lo ha hecho de maneras tanto positivas como negativas. Sectores como los negocios, las relaciones interpersonales, la medicina, la educación, e incluso, las tareas del hogar han sido transformados por sistemas y dispositivos que la utilizan (Penrose, 2019).

A partir de lo que hemos discutido, es crucial asegurar la protección del derecho dentro de cualquier proceso o mecanismo donde se utilizan sistemas de IA, pues esto da pie a que se siga manteniendo y reconociendo la competencia —y la capacidad— de la persona que toma decisiones, misma que debe recaer en un ser humano. Recordemos que este principio se conoce en el derecho como la “reserva de humanidad” (Ponce, 2019); es decir, la participación del ser humano es primordial en toda relación, dirección y organización dentro de la sociedad.

La IA, aunque es fascinante, no está libre de fallos, y esos errores pueden tener un impacto negativo en las personas, especialmente cuando se trata de derechos humanos que ya están reconocidos y protegidos por las leyes. Estas violaciones a menudo surgen por la falta de supervisión y control humano durante el diseño y desarrollo de los sistemas, lo que le otorga a esta tecnología un nivel de autonomía bastante alto. En otras palabras, los desarrolladores pueden usar esta autonomía como una excusa para reducir la intervención humana, y de este modo eludir responsabilidades por cualquier daño que pueda afectar derechos fundamentales. Frente a esta situación, el control humano se presenta como una solución al desafío legal que representa la amenaza a bienes y derechos protegidos.

Hoy en día, el reconocimiento del control humano como un principio y derecho vinculado a la inteligencia artificial es un tema clave en el debate internacional, tanto en naciones con un alto desarrollo tecnológico como entre las empresas líderes del sector (OCDE, 2020). Es decir, como un derecho en el ámbito de la IA, es un terreno que aún está por explorar, pero tiene implicaciones jurídicas e institucionales muy importantes tanto para el Estado como para los actores privados. En este contexto, promover el debate académico y jurídico sobre su reconocimiento es un paso fundamental para que los Estados amplíen la protección de los derechos humanos en entornos donde esta tecnología juega un papel clave. En este esfuerzo, el principio de control humano se presenta como una nueva herramienta legal destinada a asegurar esa protección. Tan es así que, grandes compañías como IBM, Microsoft, Telia Company e IA Latam, así como países como Canadá, Japón, Estados Unidos y regiones como la Unión Europea han apoyado esta perspectiva a través de declaraciones públicas y compromisos institucionales, y han enfatizado la importancia de integrar el principio de control humano en la formulación, implementación y supervisión de tecnologías basadas en IA.

Referencias

OCDE. (2020). Recommendation of the council on artificial intelligence: OECD Legal instruments. https://bit.ly/3j34yTw

Penrose, R. (2019). La nueva mente del emperador. Debolsillo.

Ponce, J. (2019). Inteligencia artificial, derecho administrativo y reserva de humanidad: Algoritmos y procedimiento administrativo debido tecnológico. Revista General de Derecho Administrativo. (50). https://bit.ly/2YK54B6