Introducción

Durante la segunda mitad del siglo XX, existió un auge de obras encaminadas a pensar sobre el futuro de la humanidad, principalmente, en el ámbito literario y televisivo. La idea de la robotización parecía algo extraordinario y, tal vez, imposible; pero los avances científicos de su momento permitían creer que sería posible a inicios del siglo XXI. 

A casi un cuarto del siglo XXI, los avances tecnológicos no son los esperados por obras de ficción como Star Wars o Los Supersonicos (The Jetson en inglés). Sin embargo, han permitido un desarrollo y crecimiento que podría demostrar que, la humanidad, no se encuentra lejos de una robotización casi completa de las tareas cotidianas. 

En su libro El mundo y sus demonios, Carl Sagan muestra cómo, el escepticismo a la ciencia, puede generar temores a la sociedad que pueden no ser comprensibles, a la luz de la propia ciencia y el razonamiento. Si bien la ciencia y los avances no pueden ser catalogados como “buenos” o “malos”, los usos que pueden darle sí generan un efecto en la sociedad y, de esta manera, pueden considerarse éticamente aprobados o no; y al mismo tiempo, desde el ámbito jurídico, como legales e ilegales. 

Es aquí donde el derecho —y en particular, los derechos humanos— juega un rol importante en los avances científicos y tecnológicos, a fin de evitar hechos como los acontecidos durante la primera y segunda guerra mundial. A raíz de estos sucesos, se generaron diversos acuerdos internacionales con el objetivo de prevenir sucesos que pusieran en riesgo a la humanidad, como la creación de la Organización de las Naciones Unidas (ONU), la Declaración Universal de los Derechos Humanos y el auge del Derecho Internacional Humanitario.(1)

Por tal motivo, la creación, el uso y la utilización de la Inteligencia Artificial no puede quedar exenta de una regulación, que debe ser acorde con la protección y defensa de los derechos humanos. Pese a ello, hasta la fecha, su regulación (así como la del mundo digital, las tecnologías de la información y comunicación y tecnologías emergentes), resulta complejo.

Regulación de inteligencia artificial

De acuerdo con la ONU, los conceptos de “automatización digital” e “inteligencia artificial”, hacen referencia a la capacidad de las computadoras de asumir cada vez más tareas relacionadas con el trabajo cognitivo, además del físico. La automatización del trabajo siempre ha tenido repercusiones importantes en las políticas de los gobiernos, en materia de empleo y mercados de trabajo y, en general, en las políticas económicas.(2)

En este sentido, la utilización de tecnologías de la información y comunicación en el gobierno ha sido de manera progresiva. Hoy en día, diversas instituciones cuentan con sistemas automatizados de diversos tipos, que permiten una accesibilidad a la sociedad, así como mejorar los procesos y hacer más eficientes los recursos. 

Entre los mecanismos diseñados, se puede mencionar la posibilidad de presentar juicios en línea. Se implementó, en primer lugar, en el entonces Tribunal Federal de Justicia Fiscal y Administrativa (2009); después, en Tribunal Federal de Justicia Administrativa, y posteriormente, en el Poder Judicial de la Federación, mediante el Juicio de Amparo en línea (2013). De igual manera, es posible hacer referencia a las plataformas de solicitudes de acceso a la información, como la Plataforma Nacional de Transparencia (2016). 

Pese a estos avances, su implementación en México ha sido tardía, en comparación con otros países de la región, como es el caso de Argentina. En este país, desde 2018, existe un reconocimiento del papel que juega la Inteligencia Artificial y su utilización en la administración pública.(3) En el mismo sentido, en 2017 se implementó el sistema Prometea, un sistema que funciona con Inteligencia Artificial, que permite —entre otras cosas— la rectificación de actas de nacimiento más fácil, así como en materia de contrataciones públicas, reduciendo el costo de tiempo y recursos.(4)

Lo anterior es un claro ejemplo de que, las implicaciones de la Inteligencia Artificial, pueden representar una ventaja para la actividad estatal. Sin embargo, su utilización puede poner al mismo tiempo en riesgo a la sociedad desde diversos aspectos.

Riesgos de la inteligencia artificial

Hoy en día, el robo de información personal, a través de medios digitales, es más frecuente; este fenómeno incluye información de cuentas bancarias, datos personales, e incluso, datos biométricos e identidad. Estas acciones ponen en riesgo a la sociedad en general. 

La utilización de sistemas de reconocimiento facial cuenta con ciertas ventajas, como es evitar largas filas en aeropuertos.(5) Sin embargo, su uso en otros casos puede afectar otros derechos, como los siguientes: libertad de expresión, integridad personal y el derecho a defender derechos humanos; ya que, al usarse durante protestas, podría permitir la localización de personas manifestantes y, de esa manera, obtener información y datos, a fin de ejecutar represalias.(6)

Si bien el Estado, principalmente a partir de la regulación normativa, juega un rol importante en la protección de los derechos humanos, no pasa inadvertido que también las empresas juegan un papel significativo en el desarrollo de la Inteligencia Artificial, ya que son estas quienes generan su avance y su implementación de diversas maneras. 

Un caso relevante es el de Tay, un bot(7) para Twitter (hoy X), desarrollado por Microsoft, capaz de interaccionar automáticamente con usuarios y aprender de ellos. En pocas horas, Tay aprendió expresiones racistas, xenofóbicas, misóginas y fascistas y tuvo que ser bloqueado de la red social. Sin un modelo transparente, es muy difícil hacer valer condiciones sociales con estas tecnologías, como el respeto hacia otras personas usuarias.(8)

Una manera en que las empresas pueden generar un manejo eficiente de la Inteligencia Artificial es en la implementación de redes sociales, a fin de reconocer cuando personas pueden compartir contenido inapropiado (existen publicaciones que pueden considerarse discriminatoria), e incluso, detectar cuando se pretende enganchar a personas para trata de personas. Al respecto, debe destacarse que, las niñas, niños y adolescentes, así como otros grupos sociales son más vulnerables a este tipo de situaciones, y la utilización de Inteligencia Artificial podría evitar resultados graves.(9)

Reflexiones finales

Colocar temas como la Inteligencia Artificial dentro de los debates actuales es indispensable; los procesos tecnológicos y económicos, difícilmente, tendrán algún retroceso sobre su implementación en diversas áreas. 

Sin embargo, a la par de hablar sobre estos temas, es necesario reflexionar sobre la brecha digital,(10) existente en países con grandes desigualdades como México. La automatización pone en riesgo acrecentarla y generar, de manera indirecta, una exclusión a quienes no cuentan con los recursos necesarios para acceder a Internet —e incluso a electricidad— como en algunas zonas del país. La solicitud de citas médicas, trámites sobre pasaportes y otros trámites por Internet, aun cuando facilita, de diversas maneras, la prestación de servicios, excluye, principalmente, a personas adultas mayores, así como a ciertos sectores. 

Por tanto, debe pensarse en su implementación y regulación con una perspectiva integral de derechos humanos. El temor que se tiene sobre el remplazo laboral, aunque probable, no es algo a realizarse de manera inmediata, simplemente generará una modificación a las profesiones y oficios existentes, con las cuales será necesario adaptarse. 

Notas al final:

(1) Es un conjunto de normas que, por razones humanitarias, trata de limitar los efectos de los conflictos armados. Entre los aspectos que regula se establece una serie de restricciones sobre armas biológicas o químicas. 

(2) Resolución No 72/257 de la Asamblea General de Naciones Unidas “Ciencia, tecnología e innovación para el desarrollo” A/72/257, 31 de julio de 2017, considerando 19), disponible en: http://undocs.org/es/A/72/257  

(3) Stringhini, Antonella “Administración Pública Inteligente: novedades al ecosistema normativo digital de la República Argentina”, Revista Eurolatinoamericana de Derecho Administrativo, vol. 5, núm. 2, 2018, Julio-Diciembre. 

(4) Idem.

(5) Puede verse el caso de Colombia: https://www.cancilleria.gov.co/newsroom/news/migracion-automatica-usted-puede-hacer-su-proceso-control-migratorio-menos-30 

(6) Puede verse el caso de la Recomendación General 47/2022 de la Comisión Nacional de los Derechos Humanos, sobre: Ausencia de regulación jurídica para la adquisición y uso de tecnologías para la vigilancia, intervención y recolección de datos de personas en territorio nacional: su impacto en la libertad de expresión, el derecho a defender Derechos Humanos y su vinculación al deber de cuidado a cargo del Estado mexicano. 

(7) Un bot es un programa que ejecuta tareas en internet.

(8) Grigore Andrea Elena, “Derechos humanos e inteligencia artificial”, IUS ET SCIENTIA, vol. 8, núm. 1, 2022, pp. 165-175, http://doi.org/10.12795/IESTSCIENTIA.2022.i01.10 

(9) La Comisión Nacional de los Derechos Humanos emitió la Recomendación 28/2023 donde una niña probable víctima de trata de personas fue contactada por medios electrónicos a fin de viajar a otra entidad federativa de México. En el mismo sentido, se puede ver las implicaciones de la empresa Meta en la materia que fueron comentados en el Foro Garantizar a la niñez y adolescencia su Derecho a la seguridad y protección en el entorno digital, organizado por la Comisión Nacional de los Derechos Humanos. https://www.youtube.com/watch?v=bMIG6xC60jg 

(10) La brecha digital entendida como la capacidad de acceso que tienen las personas a las redes sociales. La cual inicia desde la conexión a Internet, así como la calidad y efectividad de la red.