Maledicencia artificial

El 25 de septiembre de 1983, el teniente coronel Stanislav Petrov, encargado de vigilar el sistema de defensa nuclear de la URSS, recibió una señal de alerta por computadora: Estados Unidos había iniciado una guerra atómica.

Formado como ingeniero, Petrov sabía que la tecnología puede fallar. Contrastó la información de los satélites con la de los radares y juzgó que se trataba de una falsa alarma. Gracias a la aplicación del criterio humano, evitó la tercera guerra mundial.

¿Hasta dónde podemos confiar en las máquinas? En días recientes, el periódico El País se sirvió de Pangram, clasificador digital de textos, para informar que la novela Donde el agua trabaja, del escritor peruano David Silva Rojas, ganadora del premio de editorial Almadía, podía haber sido escrita con inteligencia artificial. Ante una sospecha de este tipo, el periodismo que aún se precia de ser humano debería buscar otras fuentes, empezando por el propio autor. De manera cuestionable, el reportaje otorgó un valor teológico a la IA: consultó una herramienta (Pangram) y transmitió su veredicto como algo infalible.

Los errores informáticos son legión. En 2023, ZeroGPT “descubrió” que la Constitución de Estados Unidos había sido escrita con IA. Ese mismo año, OpenAI suspendió el desarrollo de su instrumento para detectar textos digitales. En México, el psiquiatra y escritor Jesús Ramírez Bermúdez sometió su novela Paramnesia, publicada en 2006, al escrutinio de TextGuard y recibió consejos para “humanizar el texto”.

Pangram ha tenido buenos resultados, pero no deja de presentar fallas, especialmente al analizar idiomas distintos al inglés. El filósofo de la ciencia español Antonio Diéguez posteó recientemente en X: “Me llegan mensajes de personas en las que confío que han puesto en Pangram trabajos suyos de hace 25 años y les ha dado cien por ciento de hechos con IA”.

El jurado que premió la novela entre más de dos mil participantes reunió a tres excepcionales escritoras: Cristina Rivera Garza, Selva Almada y Mónica Ojeda. Por su parte, Almadía tiene una intachable reputación. Durante más de veinte años ha impulsado la literatura con un criterio arriesgadamente cultural. Fiel a su nombre (”almadía” significa “embarcación”), desembarcó en España para promover a autores de ambas orillas del océano.

El premio de veinte mil euros y la gira por ciudades españolas para promover al ganador no representaban otra ganancia para la editorial que situar a una nueva voz en el panorama de las letras. ¿Puede una máquina bloquear todo esto? En efecto, puede hacerlo. Silva Rojas aterrizó en Madrid para enterarse de que sus presentaciones habían sido suspendidas (en lo que aclaraba el caso, Almadía optó por no contribuir al circo mediático).

La IA se alimenta en exclusiva de textos escritos por nuestra especie. ¿En qué medida puede diferenciarlos de las falsificaciones artificiales? Y, más aún: ¿es válido que la definición de lo humano esté en manos de un mecanismo?

La suspicacia de Pangram se activa cuando las palabras se repiten en exceso o siguen un patrón preestablecido. Silva Rojas vivió veinte años en Japón y admira la decantada belleza de esa literatura. Escribe con temple minimalista, otorgando valor al silencio y a la sincopada reiteración del vocabulario. Su técnica podría asociarse con la de Juan Rulfo, que se sirve de maravillosas frases circulares: “jugaba con el aire dándole brillos a las hojas con que jugaba el aire” o “entonces ella no supo de ella”. Es posible que esta peculiar voluntad de estilo desconcierte a la máquina. La estética humana es caprichosa.

Pangram se precia de su baja cuota de errores. El problema es que una sola pifia lesiona de manera fatal. Aunque Almadía ha sufrido un daño económico grave, su reputación no depende de este incidente, sino de su excepcional catálogo.

Más compleja es la situación del periódico más poderoso del idioma, que se precipitó para publicar el dictamen de la IA sin contrastarlo con explicaciones humanas.

El escándalo avanza con mayor rapidez que el fuego y la información tardía no puede apagarlo. Estamos ante un nuevo fenómeno: el de la maledicencia artificial, provocada por las sospechas y las hipótesis no comprobadas que los robots siembran en los inermes seres humanos.

Si en 1983 Stanislav Petrov hubiera creído a ciegas en las computadoras, el planeta estaría en escombros.