Violencia digital: el lado oscuro de la IA
Esta semana la Inteligencia Artificial (IA) fue noticia relevante en nuestro país. Por un lado, la presidenta Sheinbaum encabezó el lanzamiento del Centro Público de Formación de Inteligencia Artificial. Por otro, a propósito de la suspensión de 13 casinos por lavar dinero, la Unidad de Inteligencia Financiera (UIF) desarrollará mecanismos de detección temprana, basados en IA, para identificar conductas inusuales. Pero también está el caso de una secundaria en Zacatecas, en donde alumnos de ese plantel se apoyaron en la IA para generar un catálogo pornográfico que subieron a redes sociales, mostrando el lado siniestro que puede llegar a tener esta herramienta.
Padres de familia de la Secundaria Técnica Número 1 de Zacatecas se movilizaron, a inicios de esta semana, para demandar un alto a la violencia digital sexual, luego de que tres alumnos de esa misma institución se dieron a la tarea de fotografiar a un gran número de sus compañeras y compañeros para posteriormente alterar y manipular, con IA, esas imágenes con el propósito de generar material pornográfico. Ha trascendido que uno de los jóvenes señalados, un menor de 14 años con antecedentes de haber sido expulsado de otros planteles, fue, además del autor intelectual, el encargado de alojar en la web este material que primero fue difundido en grupos de WhatsApp y, posteriormente lo hizo llegar a perfiles de acceso público en la red social Instagram.
Ante la presión ejercida, la Secretaría de Educación de aquella entidad resolvió separar del plantel al Director y a la trabajadora social ya que los padres de familia los acusan de no darle la importancia al caso; además, por la revictimización de los estudiantes afectados, tras argumentar que solo se trataba de "una broma pesada", además de tratar de borrar las evidencias y, peor aún, por acusar a las niñas por usar "faldas cortitas".
Por su parte, el personal docente de la secundaria en cuestión se inconformó. Suspendieron clases y cerraron los accesos del plantel por considerar "injusta" la decisión de separar al Director y a la trabajadora social. Esto es, sin lugar a dudas, un fuerte llamado de atención para nuestras autoridades. Primero, para generar protocolos para que el personal docente sepa cómo actuar ante una situación similar en cualquier región del territorio nacional. Para que los Congresos locales trabajen para implementar marcos regulatorios que contemplen sanciones para la creación y / o difusión de contenido sexual falso generado con IA.
De igual forma, para que se consideren sanciones ejemplares a menores de edad y el implementar campañas de concientización entre niños y adolescentes sobre la violencia digital. Sin lugar a dudas, la IA está marcando el inicio de la llamada Quinta Revolución Industrial, redefiniendo la manera en que producimos conocimiento, tomamos decisiones y construimos el futuro.
Hace bien el gobierno mexicano en subirse a esa tendencia global, pero de igual forma está obligado a conformar marcos regulatorios para evitar que esta sea utilizada como una herramienta que atente en contra de nuestra sociedad al ser empleada para difamar, engañar, estafar o para ser instrumento de violencia digital.