El lucro de Meta y X a costa de la niñez y las mujeres

Mientras el mercado económico global celebra las valuaciones estratosféricas de Meta o X (antes Twitter), en los juzgados se cuenta otra historia.Mark Zuckerberg hoy enfrenta una embestida legal histórica por la adicción deliberada que sus plataformas generan en menores. Y tras las cifras de usuarios, hay una verdad que el patriarcado ya no puede esconder: el algoritmo no es neutro; es una herramienta que reproduce la violencia machista y que ha convertido a la IA en el arma más sofisticada para nuestra explotación y cosificación.

Lo hemos visto con el descontrol de Grok, la IA de ElonMusk, que, bajo la bandera de supuestas libertades, ha permitido la creación masiva, e impune, de imágenes sexuales explícitas de mujeres sin su consentimiento. Esto no es un error del sistema, sino el diseño de un código que refleja los sesgos de quienes lo programan.

Tomando en cuenta que solo el 22% de los profesionales en IA a nivel global son mujeres y que solo en poquísimos casos ellas llegan a ser tomadoras de decisiones en los monstruos corporativos, vemos que la brecha de género se traduce en una inegable desprotección algorítmica donde, por ejemplo, la moderación en español para mercados como el mexicano es hasta un 40% menos efectiva para detectar acoso sexual que en inglés.

En el caso de Meta, las plataformas concentran hoy más del 85% de los reportes globales de explotación sexual infantil. Según documentos internos que ahora son públicos, Instagram tarda apenas 20 minutos en dirigir la cuenta de una persona menor hacia contenido de sexualización precoz o de trastornos alimenticios. No se trata entonces de un descuido de moderación, sino de un diseño deliberado que prioriza el tiempo de permanencia en las redes sobre la integridad física y mental de quienes han nacido como nativos digitales.

En México, el panorama de riesgo no es menor. Nueve de cada diez niños mayores de 7 años cuentan con algún acceso a internet, de los cuales el 60% de los adolescentes de entre 13 y 17 años están inmersos en Instagram y 90% en youtube. Así, estamos entregando su desarrollo neuronal a lo que la psiquiatra Anna Lembke describe como una “droga de entrada” que genera dependencia química real. Mientras tanto, la violencia digital evoluciona más rápido que nuestras leyes y controles. Los casos de violencia digital en su modalidad de extorsión mediante herramientas de deepnude han crecido un 300% en el último año, con aplicaciones que se consiguen por unos cuantos pesos en el mercado negro, y que la sociedad, en especial los jóvenes, parecen normalizar.

Hoy, que las Big Tech destinan menos de 10 centavos en protegernos de los deepfakes por cada dólar que invierten en volvernos adictas a su IA, el supuesto discurso de la libertad de expresión queda expuesto como una mera decisión financiera, donde la fidelización forzada vende y la seguridad cuesta.

Como se ha venido impulsando desde la Ley Olimpia, ya no basta con castigar la producción y difusión; hay que reconocer y sancionar la responsabilidad de las grandes empresas que participan de la violencia digital en todas sus modalidades, y buscar mecanismos de detección y rstreo eficacez antes que los montajes degradantes o que las suplantaciones de identidad sean indistinguibles de la realidad.

La pregunta para el Estado y para nuestra sociedad no es si la tecnología es buena o mala, sino: ¿A qué costo permitimos que se monetice la vulnerabilidad de las niñas y niños, y se lucre con la cosificación e hipersexualización de las mujeres de cualquier edad?

Es indispensable provocar el cambio cultural y social que conduzca a sanciones y al rechazo de estas prácticas en el ideario colectivo y que sin moralismos, pero con el ejemplo de países como Australia, Dinamarca y Francia, desde nuestro derecho de acceso a una vida libre de violencia, a la salud mental y a la dignidad humana, exijamos leyes que frenen y castiguen la pornificación de internet. Dejemos de dejar en manos de empresas sin ética, ni escrúpulos, la educación y la integridad de esta generación y de las que vienen.