Cuando el algoritmo decide sin explicar: la justicia en juego
El Mtro. Rodolfo Guerrero Martínez, de la Universidad Panamericana (México), recorrió en un encuentro online de la Facultad de Derecho UP los desafíos de regular la inteligencia artificial.
La Facultad de Derecho de la UP realizó el jueves 8 de octubre, de forma online, el encuentro “Poder algorítmico y la lucha por el derecho en la era de los agentes de IA”. La exposición estuvo a cargo del Mtro. Rodolfo Guerrero Martínez, profesor de la Universidad Panamericana (México), y la moderación fue de Eduardo Magoja, profesor de la Facultad de Derecho UP.
Guerrero Martínez es abogado y Maestro en Derecho por la Benemérita Universidad de Guadalajara, doctorando en Criminología, socio fundador de Coffee Law y titular de la Comisión de Legaltech del Capítulo Occidente del Ilustre y Nacional Colegio de Abogados de México. Dicta además seminarios sobre finanzas tecnológicas, criptoactivos e ingeniería jurídica en la UP, Campus Guadalajara.
Un poder concentrado
El expositor comenzó describiendo el escenario actual: grandes empresas tecnológicas como Meta y OpenAI desarrollan servicios cada vez más personalizados, y el índice de inteligencia artificial que presentó muestra a Claude, de Anthropic, como el modelo más capaz en la actualidad. Subrayó la brecha económica entre esos modelos propietarios, potentes pero cerrados, y los modelos abiertos, más transparentes pero menos potentes, con consecuencias directas para la regulación y la gobernanza.
Recordó además las advertencias del Alto Comisionado de la ONU para los Derechos Humanos sobre la necesidad de garantías sólidas en torno a la seguridad de la IA. Mencionó la fabricación de superordenadores de IA en México por parte de Nvidia como un ejemplo de por qué el marco jurídico debe discutirse antes de que la infraestructura esté completamente instalada. Comparó también la prohibición de la IA en escuelas públicas de Nueva York con las acciones de México para delimitar el uso de redes sociales en la educación básica.
Normar la IA es una “lucha” por la dignidad
La referencia al jurista alemán Rudolph von Jhering, autor de La lucha por el derecho, retomó el hilo del título del encuentro: así como el derecho se conquista mediante el esfuerzo y la defensa activa, también hoy hay que defenderlo frente a sistemas que vulneran derechos sin explicar cómo tomaron su decisión. Cuando eso ocurre, subrayó, la justicia comienza a desaparecer. De ahí la necesidad de algoritmos transparentes y responsables.
Sostuvo que la opacidad algorítmica reproduce el viejo peligro del formalismo que ocultaba injusticias, y mencionó a referentes del campo como Yann LeCun, entre otros expertos. Planteó la necesidad de criterios éticos que acompañen a la lógica pura, de trazabilidad y de control democrático, especialmente en los poderes judiciales. También abordó el problema de la discriminación automatizada.
Hacia un “Estado de Derecho algorítmico”
Al hablar de la IA en la función pública, el expositor planteó la necesidad de superar la “arbitrariedad digital” y construir un “Estado de Derecho algorítmico” con supervisión humana efectiva. Propuso marcos regulatorios flexibles pero no antagónicos a las protecciones existentes, como el Reglamento General de Protección de Datos de la Unión Europea, y advirtió contra la “automatización ciega” y el exceso de confianza en las herramientas. El juicio profesional y humano, insistió, debe mantenerse en la toma de decisiones.
Supervisión humana, alfabetización digital y privacidad
En el bloque de supervisión humana y alfabetización digital, destacó la trazabilidad, la transparencia y los mecanismos de impugnación. Explicó la diferencia entre modelos cerrados y abiertos: estos últimos permiten mayor personalización y control por parte de los usuarios.
Para reducir el poder algorítmico sin frenar la innovación, mencionó el marco europeo sobre productos defectuosos y el artículo 25 del RGPD, que exige el mayor nivel de privacidad por defecto. Señaló que México perdió una oportunidad de aclarar las responsabilidades de las empresas de servicios tecnológicos a través del caso de amparo directo 6/2025, y se refirió a la reforma de la Ley Federal del Trabajo mexicana, que impone obligaciones a los patrones respecto de los sistemas algorítmicos, como ejemplo de la importancia de la soberanía democrática frente a las grandes plataformas.
Preguntas del público
El intercambio con los participantes aportó varios momentos destacados:
• Impugnar decisiones tecnológicas. Ante la consulta de Camila sobre si es realmente posible impugnarlas, Guerrero Martínez reconoció que, más allá de los términos y condiciones, los usuarios tienen opciones limitadas para proteger su privacidad. Sugirió tres inversiones: en el propio usuario, en infraestructura tecnológica y en servicios complementarios.
• IA y conciencia. Eugenio preguntó por la idea, impulsada por ciertos grupos, de que la IA puede reemplazar al ser humano en términos de teoría de la mente. El expositor citó un artículo de The Economist que aclara que los modelos algorítmicos no poseen conciencia real.
• Responsabilidad civil. Sobre la vulneración de derechos fundamentales por sistemas de IA, explicó que no hace falta inventar nuevas responsabilidades sino reordenar las cargas de la prueba, y mencionó ejemplos de daños algorítmicos como la discriminación y la afectación psicológica.
• Administración pública. Reconoció que muchos hospitales carecen de recursos básicos, pero advirtió que la tecnología no se detendrá y que por eso se necesitan estándares claros para su uso adecuado.
Un cierre geopolítico
La charla concluyó con una mirada geopolítica: al analizar la dinámica entre China y Estados Unidos en la regulación de la IA, Guerrero Martínez sugirió que las potencias establecen marcos legales que las benefician, a expensas de los países latinoamericanos.
Ideas para llevarse
1. Regular la IA es una cuestión de derechos y dignidad, no solo de técnica.
2. La transparencia y la trazabilidad son condiciones de la justicia en la era algorítmica.
3. La supervisión humana efectiva es indispensable, sobre todo en la función pública y en el ámbito judicial.
4. La brecha entre modelos cerrados y abiertos plantea desafíos de gobernanza y de soberanía.
5. Más que crear responsabilidades nuevas, hay que redistribuir las cargas probatorias.
Desde la Facultad de Derecho UP agradecemos al Profesor Eduardo Magoja, a Mtro. Rodolfo Guerrero Martínez y a todas las personas que participaron de este encuentro.
Guerrero Martínez es abogado y Maestro en Derecho por la Benemérita Universidad de Guadalajara, doctorando en Criminología, socio fundador de Coffee Law y titular de la Comisión de Legaltech del Capítulo Occidente del Ilustre y Nacional Colegio de Abogados de México. Dicta además seminarios sobre finanzas tecnológicas, criptoactivos e ingeniería jurídica en la UP, Campus Guadalajara.
Un poder concentrado
El expositor comenzó describiendo el escenario actual: grandes empresas tecnológicas como Meta y OpenAI desarrollan servicios cada vez más personalizados, y el índice de inteligencia artificial que presentó muestra a Claude, de Anthropic, como el modelo más capaz en la actualidad. Subrayó la brecha económica entre esos modelos propietarios, potentes pero cerrados, y los modelos abiertos, más transparentes pero menos potentes, con consecuencias directas para la regulación y la gobernanza.
Recordó además las advertencias del Alto Comisionado de la ONU para los Derechos Humanos sobre la necesidad de garantías sólidas en torno a la seguridad de la IA. Mencionó la fabricación de superordenadores de IA en México por parte de Nvidia como un ejemplo de por qué el marco jurídico debe discutirse antes de que la infraestructura esté completamente instalada. Comparó también la prohibición de la IA en escuelas públicas de Nueva York con las acciones de México para delimitar el uso de redes sociales en la educación básica.
Normar la IA es una “lucha” por la dignidad
La referencia al jurista alemán Rudolph von Jhering, autor de La lucha por el derecho, retomó el hilo del título del encuentro: así como el derecho se conquista mediante el esfuerzo y la defensa activa, también hoy hay que defenderlo frente a sistemas que vulneran derechos sin explicar cómo tomaron su decisión. Cuando eso ocurre, subrayó, la justicia comienza a desaparecer. De ahí la necesidad de algoritmos transparentes y responsables.
Sostuvo que la opacidad algorítmica reproduce el viejo peligro del formalismo que ocultaba injusticias, y mencionó a referentes del campo como Yann LeCun, entre otros expertos. Planteó la necesidad de criterios éticos que acompañen a la lógica pura, de trazabilidad y de control democrático, especialmente en los poderes judiciales. También abordó el problema de la discriminación automatizada.
Hacia un “Estado de Derecho algorítmico”
Al hablar de la IA en la función pública, el expositor planteó la necesidad de superar la “arbitrariedad digital” y construir un “Estado de Derecho algorítmico” con supervisión humana efectiva. Propuso marcos regulatorios flexibles pero no antagónicos a las protecciones existentes, como el Reglamento General de Protección de Datos de la Unión Europea, y advirtió contra la “automatización ciega” y el exceso de confianza en las herramientas. El juicio profesional y humano, insistió, debe mantenerse en la toma de decisiones.
Supervisión humana, alfabetización digital y privacidad
En el bloque de supervisión humana y alfabetización digital, destacó la trazabilidad, la transparencia y los mecanismos de impugnación. Explicó la diferencia entre modelos cerrados y abiertos: estos últimos permiten mayor personalización y control por parte de los usuarios.
Para reducir el poder algorítmico sin frenar la innovación, mencionó el marco europeo sobre productos defectuosos y el artículo 25 del RGPD, que exige el mayor nivel de privacidad por defecto. Señaló que México perdió una oportunidad de aclarar las responsabilidades de las empresas de servicios tecnológicos a través del caso de amparo directo 6/2025, y se refirió a la reforma de la Ley Federal del Trabajo mexicana, que impone obligaciones a los patrones respecto de los sistemas algorítmicos, como ejemplo de la importancia de la soberanía democrática frente a las grandes plataformas.
Preguntas del público
El intercambio con los participantes aportó varios momentos destacados:
• Impugnar decisiones tecnológicas. Ante la consulta de Camila sobre si es realmente posible impugnarlas, Guerrero Martínez reconoció que, más allá de los términos y condiciones, los usuarios tienen opciones limitadas para proteger su privacidad. Sugirió tres inversiones: en el propio usuario, en infraestructura tecnológica y en servicios complementarios.
• IA y conciencia. Eugenio preguntó por la idea, impulsada por ciertos grupos, de que la IA puede reemplazar al ser humano en términos de teoría de la mente. El expositor citó un artículo de The Economist que aclara que los modelos algorítmicos no poseen conciencia real.
• Responsabilidad civil. Sobre la vulneración de derechos fundamentales por sistemas de IA, explicó que no hace falta inventar nuevas responsabilidades sino reordenar las cargas de la prueba, y mencionó ejemplos de daños algorítmicos como la discriminación y la afectación psicológica.
• Administración pública. Reconoció que muchos hospitales carecen de recursos básicos, pero advirtió que la tecnología no se detendrá y que por eso se necesitan estándares claros para su uso adecuado.
Un cierre geopolítico
La charla concluyó con una mirada geopolítica: al analizar la dinámica entre China y Estados Unidos en la regulación de la IA, Guerrero Martínez sugirió que las potencias establecen marcos legales que las benefician, a expensas de los países latinoamericanos.
Ideas para llevarse
1. Regular la IA es una cuestión de derechos y dignidad, no solo de técnica.
2. La transparencia y la trazabilidad son condiciones de la justicia en la era algorítmica.
3. La supervisión humana efectiva es indispensable, sobre todo en la función pública y en el ámbito judicial.
4. La brecha entre modelos cerrados y abiertos plantea desafíos de gobernanza y de soberanía.
5. Más que crear responsabilidades nuevas, hay que redistribuir las cargas probatorias.
Desde la Facultad de Derecho UP agradecemos al Profesor Eduardo Magoja, a Mtro. Rodolfo Guerrero Martínez y a todas las personas que participaron de este encuentro.
