En las últimas semanas, un caso de acoso digital ha sacudido la opinión pública. Una joven de 17 años, tras rechazar a un chico con el que había tenido un par de encuentros, comenzó a ser víctima de ataques a través de deepfakes. Este individuo, molesto por el rechazo, creó perfiles falsos en redes sociales y empezó a difundir información falsa sobre ella, incluyendo anuncios de prostitución y afirmaciones sobre su vida sexual. A pesar de haber buscado ayuda en la policía, su situación no fue tomada en cuenta, lo que evidencia la falta de protocolos y protección para las víctimas de estas nuevas formas de violencia.
Este caso se suma a la creciente preocupación por el uso abusivo de la inteligencia artificial en la creación de deepfakes, que son vídeos manipulados que simulan acciones o declaraciones que nunca ocurrieron. La difusión de estos contenidos puede tener consecuencias devastadoras, especialmente para mujeres, que son las principales víctimas. De hecho, un estudio reciente indicó que el 99% de los deepfakes pornográficos están dirigidos a mujeres.
Ante esta problemática, el Gobierno ha tomado medidas, como la reciente aprobación de un anteproyecto de ley para incluir los deepfakes en el marco de los delitos contra el honor. Esta legislativa busca abordar y sancionar la creciente presencia de este tipo de contenidos en las redes sociales, reconociendo su impacto destructivo sobre la reputación de las personas, especialmente de las mujeres.
Te interesa
No obstante, la implementación de esta ley presenta desafíos. Muchos deepfakes se crean con la intención de dañar, pero hay excepciones contempladas para el contenido artístico, satírico o de ficción. Sin embargo, la delgada línea entre el uso legítimo y el abuso es difícil de trazar, lo que puede complicar la aplicación efectiva de la ley.
El caso de la joven afectada no es aislado. Existen reiterados testimonios que reflejan el sufrimiento psicológico provocado por estos ataques. Muchas víctimas, como lo expresó otra joven que también sufrió acoso digital, mencionan que la situación ha afectado drásticamente su bienestar mental. En algunos casos, las víctimas quedan tan devastadas que consideran opciones extremas como el suicidio.
Recientemente, también se reveló un escándalo que involucró a un grupo de 15 menores que manipularon imágenes de sus compañeras en un colegio, un claro ejemplo de cómo el bullying y la violencia digital se entrelazan con la explotación sexual y la pornografía infantil. Este tipo de situaciones demuestra que el problema no solo afecta a adultos, sino que también se ha convertido en un fenómeno alarmantemente común entre la juventud.
Adicionalmente, la regulación sobre deepfakes enfrenta otro obstáculo: la responsabilidad de las plataformas digitales. Las empresas que operan en el ámbito de las redes sociales a menudo se benefician de la viralidad de estos contenidos, independientemente del daño que puedan causar. La estadística muestra que generalmente, los propietarios de plataformas obtienen más ganancias a medida que el contenido se vuelve más controvertido y viral.
Desde la Asociación STOP Violencia de Género Digital enfatizan la necesidad de endurecer las penas para quienes incurren en delitos relacionados con deepfakes, señalando que los daños causados son difíciles de cuantificar. La divulgación masiva de contenido de este tipo puede arruinar la reputación de una persona en un instante, y su efecto en la salud mental de las víctimas puede ser irreversible.
