Inquisición literaria 2.0
Cada transición tecnológica produce reacciones extremas. La irrupción de la inteligencia artificial representa no solo un cambio de paradigma, sino una mutación ontológica que pone en duda nuestras certezas sobre lo que significa ser humano. En el medio literario, justo aquel que, al transformar el lenguaje en arte, se jacta de tener el monopolio de nuestra esencia, la mutación no podría ser más turbulenta. Entre el pánico y el asombro, apenas ha sabido cómo actuar frente a casos como el de Thélyson Orélien o David Silva Rojas, autores de dos novelas premiadas y elogiadas por los mejores lectores, acusadas de haber sido escritas con IA (no por una IA, como insisten algunos) tras haber sido analizadas por Pangram, una herramienta cada vez más fiable, pero que en cualquier caso solo ofrece indicios, no pruebas concluyentes.
En Francia, sacudida de pronto por esta nueva realidad -que no dejará de repetirse-, esta semana ocurrieron dos hechos que se sitúan en polos opuestos del debate. Por un lado, se lanzó el Premio Pascal, destinado a premiar obras coescritas con IA, convocado por Albin Serviant, de Cortex House, la casa de la IA en Francia, con un jurado presidido por Jacques Attali y con Alexandre Gefen, director científico del CNRS -la mayor institución académica de Francia- como uno de sus miembros. Su misión: “La IA ya está en los talleres de escritura, en los manuscritos, en las librerías, con frecuencia en silencio. El Premio Pascal plantea la pregunta en voz alta: ¿qué sucede con una obra cuando el autor y la máquina colaboran?”.
En el lado contrario, Gallimard, acaso la editorial de referencia en el mundo, ha dado la directriz a sus editores de pasar todos sus manuscritos por detectores de IA. Mientras una iniciativa intenta visibilizar -y normalizar-la colaboración entre el humano y la máquina, la otra tiene la función de señalar a los autores que la utilicen, sin que la directiva indique cuáles serán las consecuencias del hallazgo. En una era de polarización radical, estas dos posiciones son ya compartidas por distintos escritores, editores y agentes: quienes consideran la IA un aliciente creativo, o al menos una realidad inevitable que conviene abordar con honestidad, y quienes ven la IA como un peligro para la literatura o para su modelo de negocio.
El mayor problema que plantea esta última opción es que nos lanza de lleno en un ambiente inquisitorial casi distópico: obligar a los editores y agentes -y, si vamos más allá, a los profesores de todos los niveles- a dedicarse a pasar textos por modelos de IA en busca de marcas de IA implica lo contrario de lo que en teoría se anhela: delegar el juicio humano en el de las máquinas. Y no solo eso: les hace el juego a otras empresas tecnológicas opacas, como Pangram, que no ha hecho públicos todos los datos sobre el entrenamiento de sus modelos con textos humanos cuyo origen y titularidad de derechos de autor no son claros. Por si fuera poco, esta práctica abriría una caja de Pandora que, hasta el momento, los medios que se han concentrado en señalar a escritores como Orélien o Silva Rojas no han querido abordar: el uso de la IA por parte de sus articulistas, redactores y reporteros. Desde un punto de vista ético, no deja de resultar cuando menos incómoda la práctica de usar Pangram para evaluar textos literarios y no los que ellos publican a diario.
Como he escrito en varias ocasiones, más allá de los auténticos peligros sociales, políticos o ambientales que entraña la IA, estoy convencido de que apostar por la prohibición -y, como consecuencia de ella, por la delación- es el peor escenario imaginable. ¿En verdad queremos acentuar así las prácticas del capitalismo de vigilancia, convirtiéndonos todos o bien en sospechosos o bien en policías de la IA, obcecados con defender una idea de lo humano que, para bien o para mal, ya se halla en cuestión? Frente al secretismo y el engaño que alienta este sistema punitivo, resulta mejor apostar por la transparencia con la convicción de que, más allá de cuánta IA use un escritor, al final la responsabilidad legal y artística del texto siempre será solo humana.