Inteligencia Artificial, deepfake y pornografía infantil

I.- Nuestra realidad: efectos no deseados del mal uso de Inteligencia Artificial

Hay un caso que viene acaparando atención a nivel internacional, por lo novedoso y problemática de la situación, que no hace más que visualizar una nueva realidad que ya  se encuentra entre nosotros. 

Me refiero a la denuncia realizada en Almendralejo (Badajoz, España) por un grupo de  madres por la manipulación y difusión de imágenes falsas de sus hijas menores en las  que se las presenta desnudas, habiendo sido viralizadas en escuelas secundarias. 

Conforme lo han informado medios periodísticos las niñas se han enterado de la  situación a través de Instagram y WhatsApp, poniendo en conocimiento a sus padres²:  “La niña me enseñó la foto de ella misma desnuda. “Me dio un vuelco el corazón” … “Si  yo no conozco el cuerpo de mi hija, esta foto parece real”; surge de las investigaciones  que dichas imágenes han sido editadas mediante el uso de aplicaciones con  Inteligencia Artificial (IA), presuntamente por otros menores, compañeros de  secundaria de las víctimas. 

La investigación está en marcha, inclusive la Agencia de Protección de Datos española  de oficio decidió abrir una investigación³, todos por posible violación a derechos y  delitos de secretos revelados, integridad moral, derecho a la imagen, al honor, la libertad, mediante injurias o extorsión. Especialmente si el caso puede ser tratado  como un delito de pornografía infantil, independientemente de que no sean imágenes  reales y hayan sido generadas por tecnología.

II.-Inteligencia Artificial (IA): deepfake

La relación entre las tecnologías abarcadas por la Inteligencia Artificial y el concepto de  deepfake, deviene por el nombre de un subcampo de la IA llamado deep learning, el cual  está conformado por redes neuronales que intentan emular el comportamiento del  cerebro humano a partir de grandes cantidades de datos⁴, integrando lo que se llama  machine learning o aprendizaje automático, que se centra en el uso de datos y  algoritmos para imitar la forma en que los humanos aprenden, mejorando  gradualmente su precisión.⁵ A lo cual se le adiciona la palabra fake (falso en inglés). 

Un deepfake se refiere a un tipo específico de medio sintético en el que una persona  en una imagen o video es intercambiada con la imagen de otra persona, el término fue  usado por primera vez a finales de 2017 por un usuario de un sitio web de marcadores  sociales y agregador de noticias donde los usuarios pueden añadir textos, imágenes o videos, llamado Reddit⁶. Dicho usuario creó un espacio en el sitio de agregación y  noticias en línea, donde compartía videos pornográficos que utilizaban tecnología de  intercambio de rostros de código abierto.⁷

Si bien el término conlleva per se una connotación negativa en la mayoría de los casos,  está siendo suplantado por “medios sintéticos generados por inteligencia artificial”,  para abarcar también casos de uso lícito.⁸

III.- ¿Problemas de tipicidad con el deepfake?

Continuando con el caso español traído en análisis, los operadores jurídicos discuten si  efectivamente la conducta de creación de material sexual no consentido a través de esta  tecnología está penada por la Ley de España. 

Sobre todo, si lo “sintético” de las imágenes no lo aparta del tipo penal de pornografía  infantil del art. 189 del Código Penal de dicho país⁹, el que expresa: 

“A los efectos de este Título se considera pornografía infantil… a) Todo material que  represente de manera visual a un menor o una persona con discapacidad necesitada de  especial protección participando en una conducta sexualmente explícita, real o  simulada.(…) c) Todo material que represente de forma visual a una persona que  parezca ser un menor participando en una conducta sexualmente explícita, real o  simulada, o cualquier representación de los órganos sexuales de una persona que  parezca ser un menor, con fines principalmente sexuales, salvo que la persona que  parezca ser un menor resulte tener en realidad dieciocho años o más en el momento de  obtenerse las imágenes.(…) d) Imágenes realistas de un menor participando en una  conducta sexualmente explícita o imágenes realistas de los órganos sexuales de un  menor, con fines principalmente sexuales.”¹⁰

En principio, de la sola lectura de la estructura del tipo penal en cuestión, podríamos concluir que la conducta está abarcada (objetivamente) inclusive en su faz de  simulación sintética.

Además, también lo entendió así la Fiscalía General del Estado español en su Doctrina  Circular 2/2015¹¹ donde introduce lo que denomina “Pornografía virtual”: “La  denominada pornografía virtual es aquella en la que la imagen del menor es una  creación artificial pero realista, elaborada por ordenador u otro medio (…) “imágenes  realistas” serán imágenes cercanas a la realidad, a la que tratan de imitar. Dicho de otro  modo, serían imágenes que no son reales pero lo parecen. Podrían abarcar imágenes  alteradas de personas existentes e incluso las imágenes generadas mediante  ordenadores.¹²

Y hace una aclaración muy interesante: “…solo serán “imágenes realistas”  potencialmente subsumibles en el concepto de pornografía infantil aquéllas que se  aproximan en alto grado a la representación gráfica de un auténtico menor, o de sus  órganos sexuales. Por ello, no deberán los Sres. Fiscales entender incluidos dibujos  animados, manga o representaciones similares, pues no serían propiamente “imágenes  realistas”, en tanto no perseguirían ese acercamiento a la realidad.”

IV.-¿Y nuestra legislación? ¿Lo contempla? 

La figura está prevista en el art. 128 de nuestro Código Penal¹³: “Será reprimido con  prisión de tres (3) a seis (6) años el que produjere, financiare, ofreciere, comerciare,  publicare, facilitare, divulgare o distribuyere, por cualquier medio, toda representación de un menor de dieciocho (18) años dedicado a actividades sexuales explícitas o toda  representación de sus partes genitales con fines predominantemente sexuales, al igual  que el que organizare espectáculos en vivo de representaciones sexuales explícitas en  que participaren dichos menores. …”¹⁴

Juega un papel muy importante el Protocolo Facultativo de la Convención de los  Derechos del Niño relativo a la venta, la prostitución y la pornografía infantil¹⁵ de las  Naciones Unidas ratificado por Argentina mediante Ley 25.763¹⁶, el que fue  especialmente tenido en cuenta por nuestro país para realizar modificaciones al texto  de este tipo penal y dice: “Por pornografía infantil se entiende toda representación, por  cualquier medio, de un niño dedicado a actividades sexuales explícitas, reales o  simuladas, o toda representación de las partes genitales de un niño con fines  primordialmente sexuales.”¹⁷

También el Convenio de Budapest¹⁸ estando en vigor en nuestro país ya desde 2018¹⁹,  el que aclara: “…la pornografía infantil comprende cualquier material pornográfico que  represente de manera visual: … unas imágenes realistas que representen un menor  adoptando un comportamiento sexualmente explícito…”. ²⁰

Si bien a diferencia de España, nuestro Código no receptó las palabras “real o  simulada”, entiendo que, de una correcta hermenéutica, en su anclaje constitucional  y convencional, también este deepfake eventualmente podría ser penado en Argentina.

También te puede interesar:

• El desafío de legislar la inteligencia artificial en Argentina

• La inteligencia artificial y la responsabilidad por daños en la Argentina

¹ https://www.linkedin.com/in/santiagorubin/

² Ver MANUEL VIEJO, Madrid - 18 sept 2023, “Decenas de menores de Extremadura denuncian que  circulan fotos de falsos desnudos suyos creadas por inteligencia artificial: “Me dio un vuelco el corazón”,  El País, https://elpais.com/espana/2023-09-18/la-policia-investiga-el-desnudo-integral-de-varias menores-en-extremadura-con-inteligencia-artificial-me-dio-un-vuelco-el-corazon.html

³ https://www.20minutos.es/noticia/5174156/0/agencia-proteccion-datos-abre-una-investigacion sobre-las-fotos-desnudos-menores-almendralejo-creadas-con-ia/

⁴ “¿Qué es Deep Learning?”, IBM, https://www.ibm.com/es-es/topics/deep-learning

⁵ Cfr. “What is machine learning?”, IBM, https://www.ibm.com/topics/machine-learning

⁶ https://www.reddit.com/?rdt=52527

⁷ Ver más en: MEREDITH SOMERS, Jul 21 2020, “Deepfakes, explained”, MIT Management Sloan School,  https://mitsloan.mit.edu/ideas-made-to-matter/deepfakes-explained

⁸ Profundizar en: PABLO RODRÍGUEZ CANFRANC, “Los medios sintéticos más allá del deep fake”, Telos,  https://telos.fundaciontelefonica.com/la-cofa/los-medios-sinteticos-mas-alla-del-deep-fake/

⁹ https://www.boe.es/buscar/act.php?id=BOE-A-1995- 25444#:~:text=1.%20Será%20castigado%20con%20la%20pena%20de%20prisión%20de%20uno%20a%2 0cinco%20años%3A

¹⁰ El resaltado es propio

¹¹ https://www.boe.es/buscar/abrir_fiscalia.php?id=FIS-C-2015-00002.pdf

¹² El resaltado es propio

¹³ https://servicios.infoleg.gob.ar/infolegInternet/anexos/15000-19999/16546/texact.htm#17

¹⁴ Resaltado me pertenece

¹⁵ https://www.ohchr.org/es/instruments-mechanisms/instruments/optional-protocol-convention rights-child-sale-children-child

¹⁶ http://servicios.infoleg.gob.ar/infolegInternet/anexos/85000-89999/87860/norma.htm

¹⁷ Ver art. 2 inc. C, del Protocolo facultativo de la Convención sobre los Derechos del Niño relativo a la  venta de niños, la prostitución infantil y la utilización de niños en la pornografía. 

¹⁸ https://www.oas.org/juridico/english/cyb_pry_convenio.pdf

¹⁹ Por Ley 27411: https://servicios.infoleg.gob.ar/infolegInternet/anexos/300000- 304999/304798/norma.htm

²⁰ Resaltado propio