Deepfakes y derecho penal: desafíos para la práctica jurídica en la era digital
Francisco Morell Otamendi, Defensor Oficial en el fuero criminal y correccional de Zárate-Campana y referente en innovación judicial, analizó las complejidades que los contenidos manipulados y las nuevas tecnologías plantean al derecho penal..jpg "Deepfakes y derecho penal: desafíos para la práctica jurídica en la era digital")
En en el marco del nuevo ciclo de charlas del Centro de Estudios de Derecho Digital UP Palermo E-Law,el encuentro contó con las palabras de bienvenida del Decano Fulvio Santarelli y la moderación de Hernán Quadri, director de Palermo E-Law.
La actividad se centró en la intersección entre derecho penal y transformaciones tecnológicas, con especial atención a los riesgos que generan los deepfakes y el contenido digital manipulado. El Dr. Francisco Morell Otamendi expuso sobre las consecuencias jurídicas y sociales de estas prácticas, destacando su impacto en áreas sensibles como la privacidad, la integridad personal, la política y los procesos electorales afectados por campañas malintencionadas y difamaciones, mediante la aplicación de herramientas de inteligencia artificial. En este sentido, subrayó la urgencia de marcos normativos que permitan una investigación rápida y eficaz, así como la aplicación adecuada de las leyes vigentes.
Francisco Morell Otamendi, ocupó una parte central de su exposición para hablar sobre el fallo “Paz, Damián Oscar s/ publicación y reproducción de imágenes pornográficas” – Causa N° 27.969 – Cámara de Apelación y Garantías en lo Penal del Departamento Judicial Zárate-Campana.
La sentencia fue significativa, ya que la Cámara Penal de Zárate–Campana sostuvo que el artículo 128 del Código Penal actual es plenamente aplicable a “representaciones” generadas mediante inteligencia artificial, lo que implica que el reproche penal sigue vigente aun cuando los contenidos sean ficticios. Este criterio marca un precedente relevante: no se exime de responsabilidad penal por el solo hecho de que el material en cuestión no provenga de un actor humano real, sino que haya sido generado artificialmente.
Además, la decisión reafirma el compromiso del derecho penal con la protección jurídica frente a los daños que pueden derivarse de contenidos falsos o manipulados digitalmente, tal como ocurre en casos de deepfakes y otras formas de desinformación. Se destaca que esta postura no solo evita vacíos normativos, sino que también envía un claro mensaje sobre la necesidad de adaptar la perspectiva jurídica a los desafíos que impone la inteligencia artificial sin dejar impune su potencial uso perjudicial.
Morell Otamendi compartió otros ejemplos de casos locales e internacionales relacionados con difamación, campañas de desinformación, pornografía no consentida y delitos vinculados al abuso de menores en entornos digitales. Hizo hincapié en cómo la inteligencia artificial complica la determinación de la existencia de víctimas reales y planteó la necesidad de definir con mayor precisión la tipificación penal de estos hechos. Asimismo, analizó la legislación comparada en países como China (Estafas por deepfakes en Hong Kong), Estados Unidos y España, y resaltó la urgencia de que Argentina avance hacia una regulación específica en la materia.
El especialista también abordó los aspectos técnicos y jurídicos de la verificación de archivos digitales, explicando el rol de los metadatos, algoritmos hash y sistemas de rastreo en la investigación criminal. A la vez, señaló los desafíos que enfrentan los abogados defensores ante la sobrecarga de casos y la complejidad de litigar en un contexto donde la prueba digital resulta cada vez más determinante.
El encuentro contó con un dinamismo y diálogo constante de los participantes, abogados, profesionales en el área legal, estudiantes de Derecho y los oradores. Palermo E-Law próximamente anunciará nuevos encuentros del ciclo de charlas para continuar profundizando el debate académico.
La actividad se centró en la intersección entre derecho penal y transformaciones tecnológicas, con especial atención a los riesgos que generan los deepfakes y el contenido digital manipulado. El Dr. Francisco Morell Otamendi expuso sobre las consecuencias jurídicas y sociales de estas prácticas, destacando su impacto en áreas sensibles como la privacidad, la integridad personal, la política y los procesos electorales afectados por campañas malintencionadas y difamaciones, mediante la aplicación de herramientas de inteligencia artificial. En este sentido, subrayó la urgencia de marcos normativos que permitan una investigación rápida y eficaz, así como la aplicación adecuada de las leyes vigentes.
Francisco Morell Otamendi, ocupó una parte central de su exposición para hablar sobre el fallo “Paz, Damián Oscar s/ publicación y reproducción de imágenes pornográficas” – Causa N° 27.969 – Cámara de Apelación y Garantías en lo Penal del Departamento Judicial Zárate-Campana.
La sentencia fue significativa, ya que la Cámara Penal de Zárate–Campana sostuvo que el artículo 128 del Código Penal actual es plenamente aplicable a “representaciones” generadas mediante inteligencia artificial, lo que implica que el reproche penal sigue vigente aun cuando los contenidos sean ficticios. Este criterio marca un precedente relevante: no se exime de responsabilidad penal por el solo hecho de que el material en cuestión no provenga de un actor humano real, sino que haya sido generado artificialmente.
Además, la decisión reafirma el compromiso del derecho penal con la protección jurídica frente a los daños que pueden derivarse de contenidos falsos o manipulados digitalmente, tal como ocurre en casos de deepfakes y otras formas de desinformación. Se destaca que esta postura no solo evita vacíos normativos, sino que también envía un claro mensaje sobre la necesidad de adaptar la perspectiva jurídica a los desafíos que impone la inteligencia artificial sin dejar impune su potencial uso perjudicial.
Morell Otamendi compartió otros ejemplos de casos locales e internacionales relacionados con difamación, campañas de desinformación, pornografía no consentida y delitos vinculados al abuso de menores en entornos digitales. Hizo hincapié en cómo la inteligencia artificial complica la determinación de la existencia de víctimas reales y planteó la necesidad de definir con mayor precisión la tipificación penal de estos hechos. Asimismo, analizó la legislación comparada en países como China (Estafas por deepfakes en Hong Kong), Estados Unidos y España, y resaltó la urgencia de que Argentina avance hacia una regulación específica en la materia.
El especialista también abordó los aspectos técnicos y jurídicos de la verificación de archivos digitales, explicando el rol de los metadatos, algoritmos hash y sistemas de rastreo en la investigación criminal. A la vez, señaló los desafíos que enfrentan los abogados defensores ante la sobrecarga de casos y la complejidad de litigar en un contexto donde la prueba digital resulta cada vez más determinante.
El encuentro contó con un dinamismo y diálogo constante de los participantes, abogados, profesionales en el área legal, estudiantes de Derecho y los oradores. Palermo E-Law próximamente anunciará nuevos encuentros del ciclo de charlas para continuar profundizando el debate académico.
