mayo 18, 2024

Esta mujer fue acusada de crear deepfakes de deportistas y compartirlos…sin saber qué es esta tecnología ni cómo se hace

Esta mujer fue acusada de crear deepfakes de deportistas y compartirlos...sin saber qué es esta tecnología ni cómo se hace

La historia de esta mujer tiene mucha “tela”. Ya sabemos de problemas que han arrastrado vídeos hechos con depfakes. Pero en este caso, el problema es que la protagonista de la historia fue incluso arrestada por un vídeo al que calificaron de deepfake y resultó ser real.

Ahora la mujer, Raffaella Spone ha hablado con The Guardian. Todo comenzó con un vídeo donde una joven de 16 años aparece fumando, en un clip que se ve tembloroso, como si lo hubiera grabado con poca luz alguien que hubiera hecho zoom en el rostro de la chica del vídeo, Madi.

Madi era animadora de los Victory Vipers, un equipo de animadoras y deportistas con sede en una localidad de Pensilvania en Estados Unidos. Las integrantes tenían un estricto código de conducta y la fiesta y fumar estaban prohibidos. En julio de 2020, una persona anónima envió el vídeo directamente a los entrenadores de Madi. Más vídeos de menores se compartieron en los meses siguientes.

Ocho meses después, esas imágenes fueron objeto de una conferencia de prensa de la policía, donde las autoridades decían haber descubierto que eran un deepfake, un montaje falso aunque muy realista. Se creía que alguien estaba implementando tecnología para empañar la reputación de la animadora. Pasó algo similar con otra joven. Sus padres recibieron imágenes de su hija de 17 años en bikini con leyendas sobre “venganza, salir con chicos y fumar”. Estos también fueron “todos alterados y mostrados como deepfakes”, según la policía.

Conclusiones policiales

Finalmente, dijeron públicamente haber descubierto que el remitente anónimo había utilizado un software de “suplantación de identidad” para ocultar su identidad detrás de un número desconocido. La policía logró rastrearlo hasta la dirección IP de Raffaella Spone, una mujer de 50 años sin antecedentes penales.

La policía supo que “su hija anima –o animaba– con las víctimas en el gimnasio Victory Vipers”. Según la información que se hizo pública, Spone se había encargado de difamar a compañeras de su hija en un intento de expulsarlas del equipo. El representante de la policía afirmaba en ruedas de prensa que “esta tecnología ahora está disponible para cualquiera que tenga un teléfono inteligente” y decía que en su ciudad había “una adulta con una intención específica, aprovechándose de jóvenes mediante el uso de tecnología deepfake”.

“Se necesitan minutos para hacer un vídeo deepfake, pero nos lleva meses investigarlo”, fueron otras de las frases dichas en ruedas de prensa por los portavoces policiales. E incluso se llegó a explicar cómo desde la policía llegaron a esa conclusión.

Esta mujer no sabe qué es un deepfake

Ahora la mujer cuenta que nunca había escuchado el término deepfake en su vida. En 2021, comenzaron a ser tendencia y a crear miedo en algunos casos. En la historia de Spone acabó siendo cierto que ella nunca había escuchado de deepfakes ni hecho uno.

Diversos protagonistas de la historia del deepfake de las animadoras no han querido responder a The Guardian. Pero Raffaella Spone ha aceptado contar su versión. Según ella, todo comenzó porque su hija Allie, una joven deportista, decidió que quería ser animadora y se presentó a la prueba para los Victory Vipers, el equipo de animadoras local y dice que crearon un grupo de mucha amistad y confianza.

En 2020, Spone miró las redes sociales de las amigas animadoras de su hija y se preocupó por lo que vio: a las jóvenes bebiendo alcohol y fumando en fiestas. Dice que en un equipo de animadoras, si las deportistas no se cuidan físicamente, pueden sufrir graves problemas físicos. No solo ellas, sino sus compañeras ya que muchas pruebas son de acrobacias en grupo.

A finales de 2020 la policía entró en su casa, la registró y la acusaron de crear deepfakes. Se enfrentó a varios cargos de acoso, incluidos tres cargos de acoso cibernético a menores. La historia se hizo pública y se convirtió en una especie de enemiga pública del pueblo y de su vecindario. Su abogado siempre defendió que era imposible que esta madre hubiera hecho esos vídeos siendo claramente aficionada en cualquier tecnología.

Una de las afirmaciones más difundidas en las conferencias de prensa policiales fue que Spone había tomado una foto de las redes sociales de Madi y la había alterado. Hay que decir que a esto se une que al abogado no le mostraron pruebas de su clienta hasta un año después para poder analizar mejor.

Con el tiempo se ha descubierto que ella sí envió mensajes a los padres y madres de las jóvenes de forma anónima diciendo que tuvieran cuidado con lo que sus hijas hacían, tras ver las redes sociales, pero parece ser que nada más es cierto.

Usaron el miedo a los deepfakes para difamarla

Se conoce que, por ejemplo, cuando The Daily Dot, un sitio web de noticias de tecnología, investigó las afirmaciones de deepfake en mayo de 2021 y le preguntó a las autoridades policiales sobre los métodos que había utilizado para establecer que los videos habían sido alterados digitalmente, admitieron que había confiado en su intuición y que esperaban que durante el juicio la mujer confesara sus fuentes.

Se cree que las jóvenes que aparecen en los vídeos hayan dicho a los policías que material fue manipulado y Reiss y Bell simplemente tomaron la palabra de como cierta sin investigar realmente la tecnología.

Todo se complicó más aún cuando Matthew Reiss, uno de los policías del caso, fue detenido bajo sospecha de posesión de imágenes de abuso sexual infantil. Parece que el oficial de policía que dirigía la investigación tenía mucho que ocultar y usó este escándalo para distraer la atención de la ciudadanía de su municipio. Al mismo tiempo, la mujer acusada de realizar deepfakes dice que hasta recibió amenazas de muerte de sus vecinos y toda la información que apunta a que ella hacía vídeos falsos para dañar la reputación de las jóvenes sigue presente en internet.

Al final fue condenada por los mensajes anónimos, según su abogado, acusándola de acoso por ello. Los números anónimos utilizados para enviar los mensajes se enviaron desde una dirección IP perteneciente a Spone, para la que luego usaron las acusaciones de los deepfakes. Según el abogado de la mujer, los jurados populares tenían tan mala imagen de ella que era difícil librarla de la condena.  Ella niega incluso el envío de mensajes, como publica The Guardian.

Vía | The Guardian

Imagen | Foto de Rajiv Perera en Unsplash

En Genbeta | OpenAI lo tiene claro: el software que detecta contenido generado por IA no funciona. No se libra ni el que han creado ellos

(function() { window._JS_MODULES = window._JS_MODULES || {}; var headElement = document.getElementsByTagName(‘head’)[0]; if (_JS_MODULES.instagram) { var instagramScript = document.createElement(‘script’); instagramScript.src = ‘https://platform.instagram.com/en_US/embeds.js’; instagramScript.async = true; instagramScript.defer = true; headElement.appendChild(instagramScript); } })();


La noticia Esta mujer fue acusada de crear deepfakes de deportistas y compartirlos…sin saber qué es esta tecnología ni cómo se hace fue publicada originalmente en Genbeta por Bárbara Bécares .