Los Deep Fakes y las tendencias psicópatas

¿Qué es un Deepfake?

Deepfake, un acrónimo de las palabras inglesas "profundo" y "falsificación", describe imágenes, audio y videos realistas falsos generados con software de inteligencia artificial. Un video falso del expresidente Barack Obama usando una mala palabra para describir al presidente Donald Trump se volvió viral en 2018. Lo que es más preocupante, la tecnología se ha utilizado para crear pornografía falsa que involucra a personas reales sin su consentimiento.

Beeping, aplicando la innovación al cuidado de los mayores

Un nuevo estudio sobre la psicología y el Deep Fake

"Aunque los profesionales y los legisladores en el Reino Unido han logrado recientemente grandes avances para hacer que el comportamiento asociado con el abuso sexual basado en imágenes sea ilegal (por ejemplo, 'pornografía de venganza' y upskirting), todavía queda un largo camino por recorrer para comportamientos igualmente impactantes y dañinos. , como la producción de medios sexuales falsos”, explicó el autor del estudio. Dean Fido Profesor de Psicología Forense en la Universidad de Derby.

“Deepfaking, en este caso, se refiere a la producción de imágenes sexualmente explícitas utilizando inteligencia artificial para transponer una imagen a una fuente secundaria para que parezca que alguien está teniendo un comportamiento sexual. La investigación en esta área es esencial debido tanto a la frecuencia con la que se crean tales imágenes y videos como a las consecuencias sociales (p. ej., reputación), profesionales (p. ej., terminación del empleo) y físicas y mentales (p. ej., mala salud mental). -ser y potencialmente suicida y autolesionarse) de convertirse en víctima de deepfake.

Para su estudio, los investigadores asignaron al azar a 290 participantes del Reino Unido para que leyeran una de las cuatro viñetas que describían un incidente falso en el que un individuo había creado y compartido una imagen sexualizada falsa de otra persona después de no poder entablar una relación física. La víctima fue descrita como hombre o mujer y como una celebridad o un individuo común.

Los investigadores encontraron que los participantes que obtuvieron puntajes más altos en una medida de psicopatía tenían más probabilidades de creer que la víctima tenía la culpa del incidente, menos probabilidades de ver la situación como dañina y menos probabilidades de creer que el incidente era un asunto criminal. Más individuos psicópatas también estaban más dispuestos a crear y difundir deepfakes ellos mismos. Aquellos que obtuvieron una puntuación más alta en una medida de creencia en un mundo justo también tenían más probabilidades de culpar a la víctima y difundir falsificaciones profundas.

"Los rasgos de personalidad asociados con el apoyo al comportamiento desviado en línea y la ofensa sexual en general, por ejemplo, la psicopatía, predijeron juicios de ofensa más indulgentes, así como una mayor propensión a crear y compartir imágenes, lo que sugiere que con más investigación, podemos ser capaces de predecir mejor quién es más probable que se involucre en tal comportamiento e intervenga en consecuencia”, explicó Fido.

Los investigadores también encontraron que la pornografía deepfake que representaba a víctimas femeninas estaba asociada con un mayor daño y criminalidad percibidos que los casos con víctimas masculinas. Las mujeres tendían a ver los incidentes deepfake como más peligrosos y criminales que los hombres. Los hombres tendían a ver los incidentes de pornografía falsa que involucraban a víctimas famosas como menos dañinos y menos criminales que los incidentes que involucraban a víctimas no famosas. Las mujeres, por otro lado, no diferenciaron entre víctimas famosas y no famosas.

La noción del daño creado con el Deep Fake

En un segundo estudio, los investigadores replicaron sus hallazgos en una muestra de 364 participantes británicos. También buscaron examinar si las imágenes falsas generadas únicamente para uso personal se verían de manera diferente a las imágenes compartidas. Tanto para las víctimas famosas como para las no famosas, los participantes percibieron un mayor daño cuando se compartían imágenes en comparación con cuando las imágenes se creaban únicamente para uso personal.

“Observamos constantemente que los juicios más indulgentes de los escenarios que utilizan deepfake involucraban a víctimas que eran celebridades y hombres, y cuando las imágenes se crearon para la gratificación sexual en lugar de compartirse, lo que sugiere que los elementos situacionales y los datos demográficos de las víctimas afectan la forma en que serán percibidos por la población en general. ”, dijo Fido.

Los investigadores también encontraron que los participantes atraídos por mujeres (una muestra que incluía en su mayoría hombres heterosexuales pero también mujeres queer) informaron estar menos dispuestos a compartir imágenes falsas.

"Lo que también es interesante es la tendencia de los hombres a no expresar su voluntad de compartir material falso", explicó el coautor, Craig harper, profesor titular de la Universidad de Nottingham Trent. “Para nosotros, esto parece indicar que los hombres que estarían dispuestos a crear pornografía ultrafalsa no lo harían para avergonzar o humillar a una posible víctima, sino que utilizarían dicho material principalmente para su propia gratificación sexual. Con este uso privado en mente, es muy posible que algunas víctimas de falsificación profunda nunca sepan que sus imágenes se han utilizado de esta manera.

Como con cualquier estudio, la nueva investigación tiene algunas limitaciones.

“Hay dos advertencias importantes en esta investigación”, explicó Fido. "La primera es que tomó muestras de participantes completamente del Reino Unido. Si bien esto fue diseñado para garantizar la coherencia del contexto, los valores más amplios y la legislación, es importante replicar estos resultados a nivel internacional y explorar elementos culturales potenciales que podrían atribuirse a la variación en los resultados.

“En segundo lugar, si bien confiamos en la precisión contextual de las historias que presentamos a nuestros participantes, estas no fueron contadas por personas con experiencias vividas de perpetración o víctimas de falsificación profunda. La investigación futura se beneficiaría de este consejo para informar mejor nuestras estrategias de investigación.

Los deepfakes son un fenómeno relativamente nuevo, y los investigadores notaron que todavía queda mucho por aprender sobre las variables psicológicas involucradas.

“Hasta la fecha, la investigación sobre los predictores de participación en la producción y difusión de medios falsos profundos es extremadamente limitada”, dijo Fido. “Si bien pudimos generar datos relacionados con la generación hipotética de tales imágenes, aún no entendemos exactamente por qué alguien querría generar y/o distribuir dichos medios. Desarrollar este conocimiento es un paso futuro importante, que también se incorporará a la información de asesoramiento y a los programas de intervención para evitar la falsificación profunda. Como tal, agradecemos los contactos de víctimas, legisladores y colaboradores académicos/industriales para mejorar nuestra comprensión en esta área.

"Todavía hay mucho que no sabemos sobre este tipo de comportamiento", agregó Harper. "En particular, no pudimos capturar la voz de la víctima en este trabajo, y esto es algo que estamos ansiosos por hacer en el trabajo futuro, tanto para mejorar la calidad de nuestra capacidad para detectar personas en riesgo de participar en deepfake, como también para contar las historias de aquellos que han experimentado el uso de sus imágenes sin su consentimiento.

El estudio, "El estatus de celebridad, el género y la variación en la psicopatía predicen los juicios y la propensión a generar y distribuir pornografía falsa“, fue escrito por Dean Fido, Jaya Rao y Craig A. Harper.