Nuestro amo juega al esclavo / de esta tierra que es una herida… / Patricio Rey y sus Redonditos de Ricota, ¡Bang! ¡Bang!… Estás liquidado (1989)
El Poder Judicial es la anomalía mejor custodiada de la arquitectura republicana. Un poder que nadie vota, que no administra ejércitos ni recauda impuestos y que, sin embargo, tiene la última palabra sobre la libertad, el patrimonio y a veces la vida de quienes sí votan. La Constitución le confía —artículo 116— el conocimiento y decisión de todas las causas que versen sobre puntos regidos por ella y por las leyes de la Nación. Conviene detenerse en el verbo, porque ahí está todo. Le confía. La jurisdicción, esa potestad de decir el derecho con autoridad de cosa juzgada, no es un atributo propio del órgano sino una porción de soberanía entregada en custodia. Y el título por el cual se retiene ese depósito enorme y contramayoritario no es la toga, ni el edificio, ni la solemnidad de las fórmulas. Es el trabajo de juzgar. Deliberar y fundar. Nada más, pero tampoco nada menos.
Los poderes judiciales argentinos están incorporando sistemas de inteligencia artificial con un entusiasmo que no registra precedentes para ninguna otra reforma, y lo hacen en la lengua de la modernización. Eficiencia, celeridad, productividad, futuro. En esa operación, el titular de la potestad delegada adopta voluntariamente una posición servil frente al sistema que cree estar usando como herramienta, y vive esa servidumbre como un perfeccionamiento. Cree que se moderniza. Se está vaciando. Y como lo que se vacía no es un patrimonio propio sino un depósito ajeno, la abdicación es algo peor que una imprudencia corporativa. Es una infidelidad al mandato. El amo que juega al esclavo no arriesga lo suyo. Arriesga lo nuestro.
El caso paradigmático nació con Prometea en 2017 en la Fiscalía General Adjunta en lo Contencioso Administrativo y Tributario porteña, bajo una pregunta que sus creadores formularon con orgullo, si una máquina podía anticipar en dos minutos el resultado de un expediente. Fue descripta como diseñada para predecir la solución de expedientes jurídicos simples y probada sobre 161 causas. Dos años después, mientras funcionarias del Ministerio de Justicia español se despedían de una visita declarando haber visto el futuro de la Justicia, su principal impulsor aclaraba que el programa asiste a los humanos y solo automatiza tareas que no requieren razonamiento ni sensibilidad.
Ahí está la contradicción, y no está escondida. El mismo dispositivo se presenta, simultáneamente, como capaz de predecir la solución del caso y como confinado a tareas que no exigen razonar. Los dos enunciados no pueden ser verdaderos al mismo tiempo sin que algo se rompa en el medio. O bien la solución del caso no requería razonamiento, y entonces lo que se degradó es el concepto mismo de caso, o bien lo requería, y la máquina hace, sin decirlo, aquello que se juró que no haría. La oscilación no es un descuido retórico. Es el síntoma de una redefinición silenciosa de qué cuenta como juzgar. El informe del Banco Interamericano de Desarrollo que documentó la experiencia lo dice con una precisión que conviene retener, el sistema piensa la solución desde el dato y desde lo macro, la generalidad de los casos, por oposición al abordaje individual del expediente.
El salto de escala llegó en 2024, cuando el Programa Nacional Integral de Inteligencia Artificial en la Justicia puso en marcha planes piloto para automatizar primeros despachos en distintos procesos judiciales, y a esa iniciativa nacional se sumó una ola de protocolos provinciales que alcanzó incluso a los poderes judiciales patagónicos. Más de 4.500 funcionarios judiciales adhirieron, y la comunicación oficial celebró una mejora del 77% en tareas complejas. Leamos de nuevo la cifra. Nadie explica mejorar qué, medido cómo, contra qué patrón de calidad jurídica, y sin embargo la cifra funciona, circula, legitima. No hace falta que informe. Alcanza con que tranquilice. Ahí está, en estado de pureza casi química, la lengua en la que esta transformación se narra a sí misma, la del management, donde el expediente es una unidad de producción, la sentencia un output y el valor un porcentaje. Y nótese el detalle que vuelve la operación verdaderamente sofisticada. El mismo discurso oficial promete que la modernización llega con eficacia y transparencia, con pleno respeto por los derechos. El solucionismo en esta oportunidad avanza hablando el lenguaje de los derechos.
Conviene desarmar el malentendido de la novedad. El gerencialismo no entró al Poder Judicial con la inteligencia artificial. Entró cuarenta años antes, con planilla de cálculo y vocabulario de consultora. En 1982 Judith Resnik documentó en la Harvard Law Review la mutación del juez árbitro en gestor activo de casos, medido por su capacidad de acelerar procesos, y dejó apuntada una observación que hoy produce escalofrío retrospectivo, nadie había evaluado si esa transformación era buena, mala o neutral. La pregunta por el valor no se respondió. Se asumió que gestionar mejor era juzgar mejor.
Eso desactiva la objeción más previsible, la de que quien critica es un nostálgico reaccionando ante una novedad técnica. Es al revés. Lo que se analiza no es una tecnología de 2017 sino una racionalidad de los años ochenta que esa tecnología viene a consumar. Cuando la IA llegó al tribunal encontró terreno fértil, porque halló un poder judicial que ya llamaba gestión a lo que antes llamaba jurisdicción, que ya vivía la mora como su pecado capital y la estadística como su confesionario. Las puertas estaban abiertas desde antes, y del lado de adentro había funcionarios aplaudiendo, con los ojos cubiertos por la misma venda que la iconografía le pintó a la Justicia. La venda que estaba puesta para no ver a las partes servía ahora para no ver lo que estaba entrando.
La categoría que la teoría crítica argentina dejó mejor afilada para este problema es la de opacidad, y su formulación pertenece a Carlos María Cárcova. En La opacidad del derecho mostró que el desconocimiento del derecho por parte de sus destinatarios no es una falla contingente que se corrija con más difusión normativa, sino una imposibilidad cognitiva estructural que cumple funciones ideológicas precisas en la reproducción del poder. La opacidad, escribe, lejos de ser un accidente, se perfila como una demanda objetiva de funcionamiento del sistema. Esa inversión separa a la crítica de la queja. Ningún plan de lenguaje claro la disuelve, porque el sistema la necesita.
Cárcova pensó la opacidad mirando al derecho hacia sus destinatarios legos. Mi hipótesis es que la incorporación de sistemas de IA invierte la dirección de esa mirada, porque la opacidad deja de separar al derecho de los gobernados y se instala adentro del propio tribunal. El juez o la jueza que recibe el proyecto de resolución generado por un sistema, el borrador estadísticamente probable, la clasificación automática del caso, está frente a ese insumo en la posición que Cárcova reservaba para el lego, inmerso en un orden que lo determina y cuya lógica de producción no puede comprender. No porque le falte capacitación —ese es justamente el malentendido que conviene bloquear— sino porque la inescrutabilidad es constitutiva de la técnica empleada. La puerta la dejó entreabierta el propio Cárcova al registrar que el desconocimiento del ordenamiento complejo puede afectar incluso a un operador jurídico cualificado. Lo que entonces era el caso límite es hoy la condición normal del tribunal asistido.
Hay en Cárcova otra observación que anticipa la consecuencia política de esa segunda capa. El poder de los juristas se asienta no solo en el conocimiento técnico que poseen sino también en el desconocimiento correlativo del lego. El poder habita en la asimetría, está siempre del lado del que conoce el modo de operar. Trasládese esa gramática al tribunal asistido por sistemas cuya lógica nadie en el edificio puede reconstruir y la conclusión cae sola. El poder migró. Quien conoce hoy el modo de operar no es el juez ni el secretario. Es quien entrenó el modelo, quien etiquetó los datos, quien fijó los umbrales de la clasificación. El nuevo jurista tiene título de ingeniero y contrato de proveedor.
Se dirá, con razón, que estos sistemas son trazables. Pero la trazabilidad resuelve la opacidad procedimental, la de quién hizo qué y cuándo, y no toca la que importa. Puedo auditar cada línea del registro y seguir sin comprender por qué el modelo correlacionó lo que correlacionó. Peor todavía, funciona como coartada de la opacidad del criterio. El sistema exhibe sus registros como el ilusionista exhibe las mangas vacías, y la exhibición misma es parte del truco.
Se podría pensar, ante este rediseño del Poder Judicial por empresas tecnológicas, que toda opacidad es enemiga. No lo es. Evgeny Morozov mostró que la apertura total también lastima, y que no hay buena razón para sacrificar la calidad de la deliberación en nombre de volverla transparente. Lo dice de la deliberación política; el traslado a la judicial corre por mi cuenta. El momento en que se duda, se sopesa, se deja decantar, se cambia de opinión ante un buen argumento, es estructuralmente no computable, y no por atraso técnico sino por naturaleza. Es el intervalo donde el juicio se forma antes de poder dar cuenta de sí. Hay entonces dos opacidades que la lengua gerencial confunde. Una excluye, y es la del derecho ininteligible para el ciudadano. La otra protege, y es la del juicio formándose. La justicia predictiva promete eliminar la primera y en el mismo movimiento aniquila la segunda.
Esa opacidad protectora es insumo de la legitimidad. Un poder que no fue elegido no vive de legitimidad de origen. Vive de legitimidad de ejercicio, y la gana trabajando. El circuito es la teoría constitucional entera del Poder Judicial comprimida en tres pasos. Deliberación, opaca y no computable. Fundamentación, pública y controlable. Control, ciudadano, recursivo, académico. El juez delibera en secreto y funda en público, y la fundamentación es el puente, el acto por el cual el depositario rinde cuentas. El dispositivo gerencial-algorítmico invierte ese circuito término a término. Ofrece transparencia procedimental donde había secreto fecundo, instala opacidad cognitiva donde había razones controlables, y produce en serie textos que tienen toda la forma de la fundamentación y nada del trabajo que la fundamentación certificaba.
El derecho argentino ya tiene una categoría para ese producto. La Corte Suprema exige desde hace más de medio siglo que las sentencias constituyan una derivación razonada del derecho vigente con aplicación a las circunstancias comprobadas de la causa, y descalifica por arbitrariedad los pronunciamientos de fundamentación aparente, los que satisfacen solo en la superficie la exigencia de dar razones. Un output estadístico no es derivación razonada de nada. Es regularidad extraída del pasado con sintaxis de razonamiento. Lo que la inteligencia artificial le agrega al problema es la escala. La sentencia-output no incumple el estándar por accidente, como el fallo ocasionalmente mal fundado, sino como método, en serie y con certificado de calidad. Cuando la fundamentación aparente deja de ser la patología que la Corte corrige caso por caso y pasa a ser el diseño del sistema, merece nombre propio. Fundamentación simulada.
Falta un segundo concepto, qué es exactamente eso que la máquina no puede hacer cuando predice la solución de un caso. La tentación sería responder con una teoría edificante del diálogo racional. Prefiero la respuesta que dieron los Critical Legal Studies.
En Freedom and Constraint in Adjudication, de 1986, Duncan Kennedy hizo algo inusual para la teoría del derecho. En lugar de prescribir cómo debería decidir un juez, describió desde adentro cómo se siente decidir. Su punto de partida es un juez enfrentado a un caso que se le presenta como un conflicto entre la ley y cómo-quiero-que-salga. El juez siente la resistencia de los materiales —normas, precedentes, doctrina—, la negocia, a veces cede ante ella y a veces la vence reformulando el campo. La decisión que emerge de ese forcejeo es una elección. Pudo ser otra, alguien la hizo, y ese alguien queda comprometido por ella. El juez o la jueza de Kennedy no es un ungido de la razón pública. Es una persona que quiere algo y trabaja los materiales para conseguirlo, sabiendo que pueden derrotarlo. Es responsable precisamente porque eligió donde podía haber elegido distinto.
Póngase esa descripción frente al dispositivo que piensa la solución desde el dato y desde lo macro. No experimenta ningún conflicto entre la ley y cómo-quiere-que-salga, por la sencilla razón de que no quiere nada. Calcula la regularidad de las decisiones pasadas y devuelve el punto más probable. Donde Kennedy describía un forcejeo hay una función; donde había un sujeto que se compromete, una distribución estadística. Y la consecuencia sobre el objeto del juicio es inmediata. Para la lógica de lo macro el expediente deja de ser un conflicto singular entre personas concretas y pasa a ser una instancia de una clase. La predicción disuelve el caso en su género.
Durante medio siglo los CLS se dedicaron a desarmar el sueño formalista, esa fantasía según la cual la sentencia se deduce de los materiales sin que nadie elija, sin política y sin responsable. El método fue siempre el mismo. Se levantaba la fórmula —la ley me obliga— y abajo aparecía alguien que había querido ese resultado y había trabajado los materiales hasta que su elección pareciera obligada. Kennedy no negaba la coacción de las normas. Mostraba que la necesidad era el efecto final de un trabajo y no su punto de partida.
Ese es exactamente el sueño que la inteligencia artificial predictiva viene a cumplir, y lo cumple por la vía que al formalismo siempre le faltó. Donde la ideología solo podía simular la ausencia de sujeto, la técnica la produce. La decisión sin sujeto deja de ser una coartada y pasa a ser un hecho de ingeniería.
Conviene medir lo que cuesta ese cumplimiento, porque acá la crítica descubre que el problema la incluye. Toda la potencia del desenmascaramiento dependía de que hubiera una máscara y, detrás, alguien. Un sujeto detrás de la necesidad aparente, una elección detrás de la derivación, una persona a quien imputar. Levantar el velo era devolverle a esa persona la responsabilidad que el formalismo le había escamoteado. Pero cuando la decisión se produce efectivamente sin sujeto no hay velo que levantar ni responsabilidad que devolver, porque la elección no ocurrió en ninguna conciencia. La necesidad dejó de ser el disfraz de la decisión. Ahora es su diseño.
Conviene ser preciso, porque acá se cierra el círculo con la opacidad. No es que la decisión algorítmica carezca de autor. Tiene autor, y ya vimos quién es. Lo que ocurre es que ese autor está fuera del circuito de responsabilidad, no integra el Poder Judicial, no rinde cuentas ante nadie y no figura en el orden constitucional. La crítica no queda sin objeto porque el objeto se haya evaporado, sino porque se mudó a un lugar donde la crítica jurídica no tiene autoridad. Contra eso, la teoría crítica gira en el vacío. No es refutada, destino que al menos sería digno. Es dejada sin objeto.
Sería una mala lectura de todo lo anterior concluir que la inteligencia artificial no debe entrar al tribunal. Debe entrar, y conviene decirlo sin tibieza. Hay en la vida judicial un continente entero de tareas que no comprometen el núcleo de la jurisdicción, y automatizarlas es necesario, porque cada hora que un tribunal gasta en lo mecánico es una hora robada a lo jurisdiccional, y porque la mora es tiempo de vida de gente concreta. La línea no pasa entre aceptar la inteligencia artificial y rechazarla. Pasa entre las tareas que pueden migrar sin pérdida y aquellas que pierden su esencia al migrar.
Se dirá que para eso están los recaudos éticos, y es cierto que los protocolos de uso responsable de la IA ya vienen con su ética incorporada. Control de sesgos, transparencia, supervisión humana. Es la ética del checklist, y cumple una función real que no conviene despreciar. Pero repárese en lo que hace y en lo que deja intacto. Toma la incorporación como un hecho ya decidido y se ocupa de sus modales, del cómo usar bien aquello que nadie sometió a discusión. Regula la conducta del operador y no toca la pregunta por quién dispuso el operativo. Es una ética que llega después del reparto y lo administra.
La ética que se debería reclamar es otra, y empieza por el poder que el protocolo presupone. Quién decide qué se automatiza, quién define qué cuenta como caso rutinario, quién entrena el modelo consagrando qué regularidades, quién audita al auditor. Esas preguntas son la política de la jurisdicción, y el efecto más profundo de la lengua gerencial es hacerlas sonar ingenuas.
Lo que está en disputa, entonces, no es si habrá ética sino cuál. El gerencialismo trae la suya y es perfectamente consistente. Una ética de la conformidad, donde obrar bien es cumplir el protocolo y donde el sujeto correcto es el que no se desvía. Silvia Bleichmar desde el psicoanálisis argentino pensó la ética en diálogo con Lévinas. En un seminario de 2006, publicado después de su muerte, contrapuso dos figuras. De un lado el sujeto disciplinado, ideal de las sociedades de consumo, que ajusta la conducta a la norma por cálculo o por temor a la sanción y cuya corrección se agota ahí. Del otro el sujeto ético, que responde, que se deja arrancar del propio solipsismo por la presencia inquietante del otro y carga con responsabilidades que ninguna norma enumera.
El dispositivo algorítmico es el sujeto disciplinado perfecto. Cumple todas las reglas, todo el tiempo, con trazabilidad completa, y no puede responder por nadie. Ahí está el límite que ningún protocolo va a corregir, porque no es una falla de implementación sino la definición de aquello que se incorporó. Un protocolo de uso responsable garantiza, a lo sumo, una máquina que obedece. Y la jurisdicción no debe obediencia frente a una persona que sufre. Le debe una respuesta. Toda respuesta se da ante alguien, y responder ante alguien era el nombre del acto de juzgar desde mucho antes de que hubiera técnica.
Hay además una razón de fondo por la cual estas preguntas no pueden quedar sin hacerse. El derecho necesita poder revisar críticamente sus propias estructuras porque esas estructuras son poder, y todo poder sustraído a la observación crítica deriva, tarde o temprano, en desviación. La crítica no es un lujo académico que los tribunales toleran. Es el mecanismo inmunitario de la república. Si la decisión algorítmica se presenta como carente de autor imputable, no puede ser criticada en el único sentido que importa, y un poder que no puede ser criticado es un poder sin control.
Hegel contó el final de esta historia hace más de dos siglos. En la dialéctica del señorío y la servidumbre, el amo gana todo y por eso pierde. Se queda con el goce del producto sin tocar nunca la materia y, en ese mismo gesto, entrega sin saberlo lo único que no se puede delegar, que es la formación. Quien no trabaja no se forma; quien no se forma se vacía, y termina dependiendo de la conciencia del que sí trabaja. Trasladado a un tribunal, el juez o la jueza que delega el trabajo de juzgar —el forcejeo con los materiales, la elección responsable, la fundamentación que rinde cuentas— queda en la posición exacta del amo hegeliano. Goza del producto terminado y firma sentencias sobre conflictos con los que nunca tomó contacto. Si la cosa se da así, nuestro amo juega al esclavo, y pierde como pierde el amo, quedándose con todo menos con lo que importaba.
La inversión contemporánea es más árida que la original, porque a esta dialéctica le falta el porvenir. La inteligencia artificial no es el nuevo siervo que un día, formado por el trabajo, se emancipará. Trabaja sin conciencia, no se forma trabajando, no puede reconocer ni ser reconocida. Del otro lado del amo vaciado no hay nadie madurando. Hay corporaciones privadas que rediseñan, sin mandato y sin voto, un modelo institucional que no les pertenece, y que fijan desde afuera los términos en que el mecanismo aprendió a decidir. Quedan entonces dos figuras estériles. Una autoridad que conserva la firma, pero ya no el trabajo que la sostenía. Y un mecanismo que produce sentencias sin poder producir su verdad, porque la verdad jurídica no se extrae de los datos, se construye socialmente, entre partes que alegan, jueces y juezas que escuchan, y una comunidad que acepta la decisión como cierre del conflicto o la resiste.
Esta revista sostiene, en su declaración de principios, que el derecho no es una ecuación de ponderación que se carga en un algoritmo. Hasta hace poco eso era una metáfora sobre cómo no conviene pensar el derecho. Conviene registrar que dejó de serlo.
Escribo en el amanecer del proceso, cuando la incorporación de inteligencia artificial a los poderes judiciales todavía se llama piloto, pero cada vez parece menos experimental y menos reversible. Escribo precisamente por eso. Las prácticas judiciales solo se dejan discutir antes de sedimentar, y la crítica que llega después del fraguado ya no es teoría sino arqueología. Se sabe cómo sigue si nadie dice nada. Que quede dicho.