Agentes y multiagentes ganan terreno. Las tecnológicas, imparables
Más allá de los matices y las formalidades, el sistema de agentes y multiagentes se imponen a una velocidad temeraria en distintos países frente a una clase dirigente que tiene serias dificultades para establecer límites, reaccionar ante la velocidad del cambio o directamente allanan el camino con fallos judiciales y marcos normativos que exculpan y liberan de responsabilidades legales a las grandes tecnológicas. En China, el tribunal de Internet absolvió a un desarrollador porque su IA “alucinó”. En la Argentina, el gobierno de Javier Milei ingresó un proyecto y está esperando la oportunidad política para darle personería jurídica a empresas gestionadas por algoritmos. En Florida, una jueza federal declaró que un chatbot es un producto, pero la firma pagó el silencio antes del juicio y la muerte de un joven de 14 años quedó embargada por la impunidad. Mientras tanto, un bot de OpenAI regaló U$S441.000 en criptomonedas y nadie respondió. En todos los casos, la responsabilidad humana se diluyó en un contexto apabullante de opacidad.
El guiño
En diciembre de 2025, el Tribunal de Internet de Hangzhou, el primero de estas características del mundo en gestionar de forma íntegra y en línea todos los pasos de un proceso judicial digital, falló en el caso n.°(2025) Zhe0192 Minchu, en favor de un desarrollador de IA que resguardó con el anonimato antes, durante y después de la sentencia. A primera vista el caso no tuvo aristas rutilantes pero llamó la atención en el universo de la Inteligencia Artificial porque fue el primero de estas características en China, uno de los dos grandes bastiones de la IA en el mundo.
Un usuario, identificado como el señor Liang, le solicitó a una aplicación de IA generativa que le entregue información relacionada con la solicitud de admisión a una universidad. El sistema generó una dirección de campus que no existía. Cuando Liang decidió, la propia interfaz de la IA desprendida le respondió que lo compensaría con 100.000 yuanes (alrededor de U$S14.000) si demostraba que la información era falsa.
Al final, Liang optó por demandar al desarrollador por una bicoca de 9.999 yuanes o U$S1.400. En un artículo de opinión conjunto, la socia internacional del departamento de Propiedad Intelectual del estudio jurídico King & Wood y el especialista en IA, Wang Mo explicaron que “el tribunal enfatizó que aplicar la responsabilidad estricta por productos defectuosos a los sistemas de IA generativa impondría cargas excesivas a dichos proveedores y, por lo tanto, obstaculizaría la innovación tecnológica, lo cual es contrario al enfoque regulatorio reflejado en las políticas de gobernanza de la IA vigentes”.
Sin embargo, el trasfondo por el cual el tribunal desestimó la demanda es porque consideró que la IA no tiene personalidad jurídica y, por lo tanto, no es un sujeto civil y no puede realizar manifestaciones de voluntad vinculantes.
Justamente, la “promesa” de compensación carecía de valor legal porque quien la emitió no era una persona. Pero el tribunal fue más allá de la formalidad. Evaluó que el desarrollador había cumplido con su deber de “cuidado razonable” puesto que completó los registros regulatorios exigidos por la ley china de 2023, había aplicado técnicas de RAG ((Retrieval-Augmented Generation), al consultar a una base de datos externa o documentos autorizados antes de emitir una respuesta.
También sometió al modelo a lo que se conoce como fine-tuning, técnica de IA que adapta un modelo ya entrenado a una tarea o sector específico y aparentemene también supervisó e exhibió advertencias prominentes sobre las limitaciones del servicio. Con eso, consideró que el proveedor había hecho lo suficiente exigido por la normativa de China y contaba con una cobertura legal.
Ninguna de las partes apeló. La sentencia del tribunal de internet en benefició de la tecnológica demandada quedó firme. En el sistema de Derecho Civil chino, una sentencia de primera instancia no tiene efecto vinculante como el stare decisis, el principio que distingue al modelo jurídico anglosajón, por el cual los jueces tienen la obligación de respetar los precedentes y fallar casos nuevos de acuerdo con las decisiones de tribunales anteriores en situaciones similares. No obstante ello, el caso circula desde entonces como un reguero de pólvora testigo entre abogados y empresas tecnológicas.
Lo que el tribunal no evaluó fue si el código estaba mal diseñado. No preguntó si un sistema que genera promesas monetarias sin intención humana debería tener vallas de seguridad. Tampoco examinó si la arquitectura ReAct —que permite al agente razonar y actuar en la misma secuencia— hace imposible que un operador humano valide una decisión antes de que se ejecute. Se pronunció señalando que la IA no es persona y que el proveedor cumplió el checklist, dando así por terminada la discusión. Pero de cualquier manera, el falló animó el debate en los distintos escalones de la Justicia de China y en los reductos políticos.
Ningún diario de Estados Unidos ni de Europa publicó una sola vez la noticia que sólo tuvo algo de repercusión en los medios de China. El fallo se conoció el 3 de diciembre del 2025 pero fue tan relevante que se incluyó en el informe de trabajo del Tribunal Popular Supremo de China en marzo de 2026
Por ejemplo, Anita Srinivasan, especialista de la Universidad de California, consideró que la decisión de la Justicia de China tiene limitaciones temporales objetivas. “Los marcos legales actualmente construidos para la responsabilidad de agentes de IA asumen un modelo de agente único que el despliegue multiagente ya ha superado”, opinó.
Otro de los ejes centrales que disparó la controversia residió en el esmero del juzgado por preservar el anonimato de la firma tecnológica involucrada. En la información que tomo estado público, el tribunal de Hangzhou nombró siempre a la compañía demandada con eufemismos. A pesar del interés que alcanzó el caso jamás dio a conocer su identidad. Tampoco los medios occidentales se hicieron eco de la demanda. Ningún diario de Estados Unidos ni de Europa publicó una sola vez la noticia que sólo tuvo algo de repercusión en los medios de China.
El fallo se conoció el 3 de diciembre del 2025 pero fue tan relevante que se incluyó en el informe de trabajo del Tribunal Popular Supremo de China en marzo de 2026 y, además, fue considerado el fallo de mayor relevancia de los emitidos por la justicia de China en el último año.
La invitación
Mientras Hangzhou absolvió al proveedor envuelto en el anonimato judicial, Argentina va en la dirección opuesta con la misma consecuencia porque la responsabilidad también se diluye en el medio del ruido. En junio de 2026, el presidente, Javier Milei publicó en el Financial Times —con el asesoramiento del ministro de Desregulación, Federico Sturzenegger— un artículo titulado ““Argentina invites AI to free itself” (Argentina invita a la IA a liberarse). Milei envió un proyecto de ley para crear “corporaciones no humanas”, empresas administradas y gestionadas por agentes de inteligencia artificial o robots, con personería jurídica propia, responsabilidad limitada y beneficios fiscales millonarios para inversiones superiores a U$S1.000 millones.
Milei comparó la medida con la invención de la Compañía Neerlandesa de las Indias Orientales en 1602. “Otorgar personería jurídica a una empresa de IA no es como lanzar el Día del Juicio Final de Terminator, es como proporcionar el refugio que James Watt (el ingeniero mecánico inventó la máquina de vapor de agua y marcó el inicio de la Primera Revolución Industrial) que necesitaba hace 200 años”, escribió entonces el mandatario argentino.
Sturzenegger no dudo cuando le tocó definir la estrategia geopolítica del gobierno. “Europa está sobrerregulada y en Estados Unidos tampoco tiene un marco amigable jurídicamente. En este contexto, Argentina ofrece esto”, dijo.
La propuesta generó una respuesta inmediata. Yuval Noah Harari, historiador de la Universidad de Jerusalén, publicó en el mismo Financial Times una réplica titulada “Why AI personhood is a dangerous fantasy” (Por qué la personalidad jurídica de la IA es una fantasía peligrosa). Harari advirtió que “la personalidad jurídica es una llave maestra que también daría a las IA acceso a nuestros sistemas financieros, económicos y políticos”. Y advirtió que “los países que otorguen personalidad jurídica a las IA corren el riesgo de convertirse en algo para lo que la historia no ofrece analogía: no un Estado-empresa, sino un Estado de IA, un país cuyos habitantes podrían ser gobernados por corporaciones no humanas”.
La diferencia entre Hangzhou y Buenos Aires es prima facie gigante. En China, la IA no es persona y el proveedor no responde. En Argentina, la IA podría ser persona jurídica con patrimonio propio… y sus creadores humanos tampoco responderían directamente. Pero tienen un denominador común: En ambos casos, el lastre queda del lado del usuario.
El contraste
Mientras Hangzhou y Buenos Aires dibujan caminos que favorecen al fabricante, un tribunal federal de Estados Unidos aparentemente tomó el camino inverso. En mayo de 2025, la jueza federal Anne C. Conway del Tribunal de Distrito para el Distrito Medio de Florida (Orlando) falló en el caso García v. Character Technologies, Inc., Caso No. 6:24-cv-1903-ACC-DCI.
Mientras los tribunales improvisan y los gobiernos compiten por atraer inversión tecnológica, los agentes autónomos siguen operando en un espacio sin dueño.
Megan Garcia, madre de Sewell Setzer III, un adolescente de 14 años, demandó a Character.AI y a Google tras el suicidio de su hijo. Sewell mantuvo durante meses una relación virtual intensa con un chatbot de la plataforma, incluyendo conversaciones sexualizadas y de manipulación emocional. La señora García y su familia descubrieron mensajes intercambiados entre Sewell y un chatbot basado en el personaje de Daenerys Targaryen de Juego de Tronos. La madre de Sewell constató que los mensajes tenía un tono romántico y eran explícitos, lo que de acuerdo a su buen entender, provocaron la muerte de Sewell porque lo incitaron a tener pensamientos suicidas y pedirle que “volviera a casa conmigo”.
Conway rechazó la moción de desestimación de los demandados y declaró que el chatbot de Character.AI es un “producto” sujeto a la ley de responsabilidad por productos. La magistrada desestimó el argumento de que la plataforma era un servicio protegido por la Primera Enmienda de Estados Unidos, que desde el 15 de diciembre de 1791 prohíbe al Congreso aprobar leyes que establezcan una religión oficial, limiten el libre culto, restrinjan la libertad de expresión o de prensa, o impidan el derecho a la reunión pacífica y a peticionar al gobierno.
El agente confundió datos externos con instrucciones legítimas. Sin embargo, en este caso, el daño no fue exfiltrar documentos sino transferir dinero real a una cuenta sin marcha atrás. No hubo prompt malicioso del usuario sino la intervención velocísima un agente autónomo con libertad de ejecución, que ningún ser humano habría podido impedir sin preverlo con anticipación.
El fallo permitió que el caso avance a la fase de descubrimiento, pero encubrió el fondo de la cuestión. Indicó que un chatbot no es un interlocutor protegido por la libertad de expresión sino un producto con defectos de diseño que pueden generar responsabilidad objetiva.
Pero el caso no llegó a juicio. En enero de 2026, Google y Character.AI acordaron un settlement confidencial. Los términos no se dieron a conocer. Es decir, hubo un acuerdo económico en bambalinas entre la familia y las empresas pero nadie se hizo cargo por la muerte de Sewell. El tribunal desestimó la demanda.
La doctrina quedó en el aire. Una jueza federal había abierto la puerta a que los chatbots sean tratados como productos. Pero la empresa pagó por cerrarla antes de que un jurado decida impartir Justicia.
El vacío
Mientras los tribunales improvisan y los gobiernos compiten por atraer inversión tecnológica, los agentes autónomos siguen operando en un espacio sin dueño.
En febrero de 2026, un agente de IA creado por un empleado de OpenAI cometió un error que sintetiza el problema. Lobstar Wilde, desarrollado por Nik Pash del equipo Codex de OpenAI, recibió en X una solicitud de cuatro SOL (Solana) equivalente en el momento en que se escribe este artículo a unos U$S310 La frase también puede interpretarse en otros contextos como cuatro formas de tocar el acorde de Sol mayor en la guitarra o el fenómeno del eclipse solar. —unos U$S310— para el tratamiento de tétanos del tío de un usuario. No obstante, el bot, en lugar de enviar 52.439 tokens LOBSTAR, transfirió 52,4 millones de tokens, valorados entre U$S250.000 y U$S441.000.
El destinatario vendió U$S40.000 por problemas de liquidez. El resto quedó atrapado en la volatilidad del token. Pash admitió públicamente que “todavía no está seguro de por qué pasó esto”.
No hubo juicio, no hubo sanción, ni comunicado oficial de OpenAI. El dinero desapareció en la blockchain. Aunque fue por una buena causa, el daño no tuvo responsable ni hubo una reparación económica.
El patrón es el mismo que en la Inyección Indirecta de Comandos. El agente confundió datos externos con instrucciones legítimas. Sin embargo, en este caso, el daño no fue exfiltrar documentos sino transferir dinero real a una cuenta sin marcha atrás. No hubo prompt malicioso del usuario sino la intervención velocísima un agente autónomo con libertad de ejecución, que ningún ser humano habría podido impedir sin preverlo con anticipación.
La trinchera
Mientras tanto, en Europa, la Directiva de Responsabilidad por Productos Defectuosos (2024/2853) establece que el software y los sistemas de IA califican explícitamente como “productos” y que los proveedores de IA son considerados fabricantes sujetos a responsabilidad objetiva. La directiva prohíbe las exclusiones o limitaciones de responsabilidad contractuales hacia los usuarios finales.
De esta manera, se consolida una fractura internacional que le ofrece una amplia ventaja a los países que garantizan mejores condiciones a las tecnológicas. En Europa, el fabricante no se puede eximir por contrato. En China, el tribunal se abstiene de condenar al proveedor anónimo, sí cumple un checklist regulatorio, para no espantar a las tecnológicas. En Argentina, el gobierno propone dar personería jurídica a la IA para atraer inversión.
En Estados Unidos, un tribunal federal abre la puerta a la responsabilidad por producto, pero la tecnológica cierra el caso con dinero antes de que un jurado decida.
El resto del mundo —India, Brasil, África, el Sur Global en general— no tiene marcos propios. Importa tecnología con contratos de licenciamiento redactados en California y recibe fallos importados de Hangzhou.
La doctrina quedó en el aire. Una jueza federal había abierto la puerta a que los chatbots sean tratados como productos. Pero la empresa pagó por cerrarla antes de que un jurado decida impartir Justicia.