La inteligencia artificial ante los tribunales: El desafío de los abogados para determinar quién responde

Las demandas presentadas en Estados Unidos por presuntos daños relacionados con sistemas de inteligencia artificial plantean una pregunta que excede a la tecnología: cuando una herramienta digital contribuye a un resultado perjudicial, ¿quién debe asumir las consecuencias jurídicas?

Durante décadas, la responsabilidad civil se ha construido sobre conceptos relativamente reconocibles: una conducta, un daño, una relación causal y un criterio de atribución de responsabilidad. La inteligencia artificial no elimina estos elementos, pero obliga a examinarlos en escenarios en los que las decisiones humanas y los resultados algorítmicos se encuentran profundamente entrelazados.

Una controversia reciente en Estados Unidos ilustra la dificultad. Según Reuters, una serie de demandas cuestiona la responsabilidad de OpenAI por presuntos daños asociados al uso de ChatGPT, incluidos casos en que los demandantes alegan que las respuestas del sistema contribuyeron a crisis personales o conductas perjudiciales. Entre las cuestiones discutidas figura si la herramienta debe analizarse como un producto defectuoso o como un servicio interactivo. La empresa ha cuestionado las bases de esas reclamaciones.

Es indispensable precisar que una demanda contiene alegaciones que deben probarse. La existencia de un litigio no demuestra por sí sola que una empresa haya causado jurídicamente el daño denunciado. Corresponde a los tribunales examinar los hechos, la evidencia técnica, las condiciones de utilización y los argumentos de cada parte antes de establecer una eventual responsabilidad.

La discusión sobre la clasificación del sistema tampoco es meramente semántica. Las categorías de producto y servicio pueden conducir a regímenes jurídicos distintos, con diferentes exigencias de prueba y defensas disponibles. Sin embargo, la respuesta no debería depender exclusivamente de la forma comercial en que una empresa presenta su tecnología. Importa analizar qué hace el sistema, qué riesgos genera, qué información entrega al usuario y qué controles razonablemente podían implementarse.

Desde mi perspectiva como abogado especialista, el primer paso consiste en determinar el régimen aplicable al caso concreto. La responsabilidad extracontractual regulada en el Código Civil exige examinar los presupuestos de los artículos 2314 y siguientes, incluida la conducta imputable, el daño y la relación causal. Si existe una relación contractual, también será necesario revisar las obligaciones asumidas, el incumplimiento alegado y las reglas pertinentes. Cuando se trate de una relación de consumo, podrían resultar aplicables las normas de la Ley N.º 19.496, según la naturaleza del servicio, la calidad de las partes y las circunstancias de la contratación.

No sería correcto afirmar que toda respuesta errónea de una inteligencia artificial genera automáticamente una obligación de indemnizar. Los usuarios pueden utilizar las herramientas de maneras distintas, los resultados pueden depender de instrucciones específicas y algunos daños pueden tener múltiples causas. El análisis debe evitar tanto la inmunidad tecnológica como una responsabilidad automática desligada de la prueba.

Existe, no obstante, una dificultad probatoria relevante. Una persona afectada puede desconocer cómo se diseñó el sistema, qué pruebas se realizaron o qué advertencias recibió la empresa durante su desarrollo. Esa asimetría de información exige examinar cuidadosamente la disponibilidad de antecedentes, los deberes de información y los mecanismos procesales que permiten obtener evidencia pertinente. La solución no consiste en presumir culpabilidad, sino en asegurar que la parte que reclama tenga una oportunidad efectiva de acreditar sus alegaciones.

Las empresas, por su parte, tienen incentivos jurídicos y comerciales para documentar evaluaciones de seguridad, mantener registros apropiados, informar las limitaciones conocidas y establecer canales para reportar incidentes. Estas medidas no garantizan que nunca exista un daño, pero pueden contribuir a demostrar diligencia y a identificar problemas antes de que se repitan.

El problema se vuelve especialmente sensible cuando los sistemas interactúan con personas vulnerables o producen recomendaciones en ámbitos de alto impacto. En tales escenarios, las advertencias genéricas pueden resultar insuficientes si no explican de forma comprensible los límites relevantes de la herramienta. La información debe servir para orientar decisiones, no simplemente para trasladar todo el riesgo al usuario.

Chile no necesita esperar a que exista una sentencia extranjera definitiva para estudiar estas cuestiones. Puede evaluar si las reglas actuales permiten resolver adecuadamente los conflictos, si las autoridades cuentan con herramientas suficientes y si corresponde desarrollar estándares específicos para determinados usos de alto riesgo.

La innovación no debe convertirse en una zona de irresponsabilidad, pero tampoco puede quedar sometida a una presunción general de culpa. La respuesta jurídica exige algo más difícil: identificar quién tenía capacidad de prevenir el daño, qué deber le correspondía cumplir y qué evidencia permite establecer una conexión causal jurídicamente relevante.

La pregunta decisiva no es si una máquina puede ser culpable como una persona. Es qué personas y organizaciones deben responder por las decisiones de diseño, comercialización y utilización que hacen posible un daño. Esa es la discusión que los tribunales están comenzando a delimitar.