Riesgo. Durante los últimos años, el uso de la inteligencia artificial ha cambiado la forma de crear imágenes y videos.
En la Cámara de Diputados federal se presentó una serie de iniciativas para prevenir y castigar la creación y difusión de contenido sexual falso mediante el uso de inteligencia artificial. La diputada federal Patricia Jiménez dio a conocer que esta iniciativa tiene como principal objetivo proteger la dignidad, seguridad y privacidad de las personas, principalmente de aquellas que son vulnerables a sufrir ataques de violencia digital.
Refirió que, en los últimos años, el uso de inteligencia artificial ha revolucionado diversos ámbitos, incluyendo la capacidad de crear imágenes, audios y videos falsos. Este avance ha permitido la creación de contenido sexual ilícito utilizando imágenes de personas reales, lo que ha generado una nueva forma de violencia digital que afecta a niñas, adolescentes, mujeres y figuras públicas. En este contexto, urgió a implementar medidas legales que permitan erradicar estos actos, castigando a los responsables y protegiendo a las víctimas de tales abusos.
La propuesta incluye tres puntos fundamentales: primero, castigar a quienes alteren o difundan imágenes, audios o videos sexuales falsos sin el consentimiento de las personas involucradas; segundo, reconocer estas conductas como violencia digital y tratarlas con la misma seriedad que otras formas de violencia; y tercero, garantizar el derecho a una vida libre de violencia digital y cibernética, protegiendo la privacidad e integridad de los individuos en plataformas y redes sociales.
Enfatizó que esta violencia no solo afecta a las víctimas directas, sino que pone en riesgo la reputación, la dignidad y la seguridad de las personas en el ámbito digital.
Y dijo que se busca proteger a las familias, especialmente a las mujeres y niñas, frente a los riesgos de la tecnología mal utilizada.