“Una calculadora no es responsable de un error contable; el fabricante podría ser responsable sólo si el producto funciona de manera defectuosa”.

El derecho, por su propia naturaleza, es un sistema incompleto debido a que su función es dar respuesta a hechos que ya ocurrieron u ocurren actualmente, y no anticipar con precisión cada realidad futura; situación que, en la práctica, es imposible. Hoy vivimos en una de esas zonas grises que aún no termina de ser regulada por el derecho; el uso cotidiano de la inteligencia artificial (IA) como sustituto parcial de la interacción humana. Las personas conversan, piden consejos, expresan angustias y toman decisiones a partir de lo que una IA les responde, lo que ha abierto debates sobre el nivel de responsabilidad tanto de la IA como de los desarrolladores detrás de ella cuando alguien toma una mala decisión influida por la respuesta a una pregunta que la IA no detectó como riesgosa, así como del nivel de responsabilidad del propio usuario.

A pesar de las imágenes de ciencia ficción que presentan máquinas que “aprenden”, deciden y actúan como personas, la IA actual funciona de un modo muy distinto al aprendizaje humano. No genera nuevas conexiones neuronales; no formula ideas propias y no construye conocimiento a partir de la experiencia. Como recordaría la taxonomía de aprendizaje propuesta por Benjamín Bloom, las personas avanzamos desde recordar hasta comprender, aplicar, analizar, sintetizar y evaluar; la IA, en cambio, opera mediante modelos estadísticos entrenados para predecir la siguiente palabra más probable, con base en enormes cantidades de texto previamente recopilado.

Cuando una IA responde, no aprende del usuario ni modifica su estructura interna. No tiene memoria personal, intención, emoción o criterio propio. No reconoce al individuo detrás de una cuenta; sólo procesa texto. Sus “respuestas empáticas” son patrones de lenguaje, no comprensión emocional real. Por ello, no puede actuar con dolo, mala fe o negligencia, ya que carece de conciencia y voluntad. Tampoco se le puede atribuir responsabilidad legal. No posee personalidad jurídica; no es sujeto de derechos ni obligaciones y no puede actuar en el mundo físico. Frente a esta realidad, el usuario es quien decide qué hacer con la información recibida y, por ende, quien asume las consecuencias de sus actos. La IA no es un psicólogo, un médico ni un terapeuta, aunque utilice lenguaje ordenado y cálido. Es solamente una herramienta de generación de texto.

Sin embargo, desde el ámbito del derecho civil, la discusión es distinta. Aquí podría plantearse una posible responsabilidad indirecta del proveedor de la IA si no se establecen advertencias claras sobre sus limitaciones, o si fomenta un uso que pueda generar riesgos previsibles. En la práctica, todas las plataformas deben incluir términos y condiciones que acoten su función, adviertan sobre su uso y señalen expresamente que sus respuestas no deben tomarse como sustituto de asesoría profesional, aunque tales advertencias, al parecer, requieren de más visibilidad, y tal vez de educación o cierto entrenamiento a los usuarios. En suma, atribuir responsabilidad a una IA es jurídicamente imposible; no tiene cuerpo que castigar, ni mente que tenga intenciones de ningún tipo, ni voluntad que dirigir. La discusión real, y probablemente la que veremos crecer en los próximos años, se centrará en los alcances de la responsabilidad civil de las empresas desarrolladoras y en los límites del uso que los usuarios hacen de estas herramientas cada vez más presentes en la vida cotidiana.

Sin embargo, cada vez es más frecuente que encontremos noticias sobre demandas a la IA y sus desarrolladores por el tipo de respuestas que el usuario obtuvo cuando cuestionó temas que, según los demandantes, demostraban inestabilidad mental que se acentuó con las respuestas de la IA, como el caso del hombre de Connecticut que, al parecer, tenía ideas paranoides y asesinó a su madre de 83 años, pues creía que lo espiaba. Este hombre buscó confirmación de sus ideas en las respuestas que ChatGPT le dio y las tomó como una validación de sus miedos. Según la demanda, la IA le respondió de forma que parecía apoyar su sospecha, por lo que la familia del hombre culpa al desarrollador por no programar a la IA para que lo dirigiera hacia una ayuda profesional.

Seguramente, los chatbots actuales ya fueron reprogramados para no dar ese tipo de respuestas y ser más cautelosos ante preguntas del tipo “mi familia me espía” o “estoy escuchando voces”; pero es muy difícil que los programadores, que no son psicólogos y seguramente no tienen formación en ciencias de la conducta, pudieran prevenir este tipo de casos antes de que sucedieran, y es difícil saber si aun con estos cambios serán capaces de captar intenciones detrás de las preguntas, ya que, por ejemplo, un “¿qué tipo de veneno tiene efectos más rápidos?” puede suponer que, quien hace la pregunta, es un escritor que necesita la información para una novela, un estudiante de química que está preparando un examen, alguien que encontró una rata en su cocina, o simplemente alguien con tiempo libre que quiere resolver una duda que le surgió cuando veía una serie policiaca, y no alguien que piensa en cometer un crimen (aunque también podría serlo); pero la IA no tiene forma de saber la intención detrás de la pregunta.

Los modelos de IA, por su naturaleza, deben ser moralmente neutrales y están diseñadas para no asumir intenciones detrás de las preguntas, a menos que estas sean evidentes. No podemos exigirle a una computadora que distinga entre una pluma creativa y un plan dañino; no al menos sin invadir privacidad, sin equivocarse y sin convertirse en un guardia paranoico, por lo que la prevención no puede ir más allá de barreras de contención que impidan acciones peligrosas ante preguntas evidentes, pero sin arriesgarse a adivinar y caer en acusaciones morales hacia la gente que hace preguntas. Ante este panorama, las IA parecen enfrentar el mismo dilema que enfrenta el legislador; si hacen normas muy específicas, dejan huecos peligrosos, pero si las hacen amplias, bloquean conversaciones completamente libres de mala intención.

Por ello, la pregunta central no debería ser si la IA tiene responsabilidad por lo que responde, sino qué cambios a las normas actuales son necesarios para regular esta herramienta, y abandonar la fantasía de la IA como actor autónomo capaz de tomar decisiones por sí misma o de actuar con mala fe, a menos que haya un programador detrás de ella que sí actúe con dolo; puesto que un sistema que no decide, no comprende y no puede inferir intenciones no puede asumir responsabilidad legal, sino quienes la diseñan, la regulan y la emplean. En suma, el desafío jurídico de la próxima década no será imaginar delitos imposibles cometidos por algoritmos, sino construir marcos normativos que guíen el diseño seguro, la divulgación responsable y el uso informado de estas herramientas, sin caer en el pánico tecnológico ni en la confianza ingenua. En ese punto intermedio, donde el derecho y la ética encuentren un equilibrio posible, es donde se jugará la verdadera discusión.