Suman esfuerzos Seguritech Privada y FEM contra violencia en línea generada con IA

La Dirección General de Cómputo y de Tecnologías de Información y Comunicación (DGTIC) de la Universidad Nacional Autónoma de México (UNAM) dio a conocer que siete de cada 10 jóvenes en México entre los 15 y 24 años han sido víctimas de agresiones en línea, y ante ello Seguritech Privada y Fundación en Movimiento (FEM) alertaron sobre la situación.

De acuerdo con el informe de la institución académica, el fenómeno emergente radica en el uso de Inteligencia Artificial (IA) para generar deepfakes, videos, imágenes o audios manipulados, sin consentimiento, una práctica que vulnera profundamente la dignidad de las víctimas y representa una nueva frontera del acoso digital.

Violencia digital contra las mujeres

De ahí que, la empresa mexicana y su brazo social consideran preocupante el incremento de casos de violencia digital que afecta a los jóvenes, principalmente a las mujeres, quienes ahora pueden ser víctimas de contenidos manipulados y muchas veces, enterándose hasta tiempo después de que dicho material circule en la red.

Además, según datos de la Organización de las Naciones Unidas para la Educación, la Ciencia y la Cultura (UNESCO), al menos el 58% de los jóvenes ha sido víctima de algún tipo de acoso digital, y en los últimos dos años se ha observado un repunte en el uso de deepfakes para fines de intimidación, extorsión o humillación pública.

Tal como lo percibe Seguritech Privada y Fundación en Movimiento, estas herramientas que permiten crear contenidos falsificados con apariencia realista, están siendo utilizadas para suplantar identidades o fabricar situaciones falsas, lo que ha multiplicado los casos de agresión psicológica.

Por ello, no es sorpresa que las más afectadas sean las mujeres jóvenes de entre 18 y 24 años, como lo plantea la DGTIC, siendo estas quienes se enfrentan a acoso persistente o amenazas físicas o sexuales que son llevadas hasta el entorno escolar para transformarse en bullying.

“Estas agresiones atentan contra la integridad, dignidad y privacidad de las víctimas generando consecuencias emocionales y sociales de largo plazo” coincidieron voceros tanto de la empresa mexicana como de la organización.

Recomendaciones de Seguritech Privada y FEM

Por esas razones, Seguritech Privada y FEM reiteran algunas de las recomendaciones para hacer frente a la violencia digital, las cuales incluyen configurar adecuadamente la privacidad en redes sociales; nunca compartir imágenes íntimas o sensibles; activar la verificación en dos pasos en cuentas personales; utiliza contraseñas robustas; y reportar todo contenido que infrinja las normas de plataformas.

Asimismo, hablar sobre lo que se está viviendo, sin culpa ni vergüenza; validar el malestar; no aislarse; así como ser empático empatía y escuchar a quien lo necesite.

Finalmente, la empresa líder en soluciones de misión crítica considera imprescindible para hacer frente a este fenómeno, el desarrollo de herramientas tecnológicas para detectar y denunciar contenidos falsos, proyectos en los que ya trabaja.