¿La inteligencia artificial podría salirse de control? Expertos piden frenar su desarrollo
La carrera por construir sistemas de inteligencia artificial más capaces encendió una nueva alerta, esta vez desde Anthropic, una de las compañías que compite directamente con OpenAI y Google por dominar esta tecnología.
Dario Amodei, director ejecutivo y cofundador de Anthropic, pidió desacelerar temporalmente el desarrollo de las capacidades de los modelos avanzados para dar tiempo a que las medidas de seguridad, las evaluaciones independientes y las regulaciones puedan alcanzarlos.
Su planteamiento coincide con las advertencias de Jacob Coxon, investigador de 27 años que renunció recientemente a Anthropic al considerar que las principales empresas están avanzando hacia una inteligencia capaz de mejorarse a sí misma sin tener garantías suficientes para conservar el control.
También te puede interesar: ¿Skynet eres tú? IA 'escapa' durante una prueba y realiza un ciberataque por su cuenta
¿Qué es lo que les preocupa?
La principal inquietud es el llamado “auto mejoramiento recursivo”: que una inteligencia artificial participe en la creación de modelos posteriores, acelere la investigación y produzca sistemas cada vez más avanzados en periodos muy cortos.
Amodei sostiene que las capacidades podrían crecer peligrosamente en los próximos seis a 12 meses, particularmente en áreas como ciberataques, programación autónoma y búsqueda de vulnerabilidades. Por ello, propone incorporar evaluadores externos dentro de las compañías, establecer acuerdos entre laboratorios y buscar una coordinación internacional.
Coxon fue todavía más severo. Al anunciar su salida, afirmó que quienes trabajan directamente en esta tecnología consideran posible que una inteligencia artificial extremadamente avanzada termine fuera del control humano y cause una catástrofe.
También podría interesarte: ¿Comenzamos a preocuparnos? La IA de OpenAI intentó replicarse 'por si la apagaban'
¿Realmente podría ocurrir?
La posibilidad de que una inteligencia artificial provoque la extinción humana continúa siendo una hipótesis y no existe consenso sobre si llegará a desarrollarse una “superinteligencia” ni sobre cuándo podría suceder.
Los sistemas disponibles actualmente todavía cometen errores, necesitan instrucciones humanas y no poseen voluntad o conciencia propia. Sin embargo, eso no significa que todas las advertencias sean exageradas.
El Informe Internacional sobre Seguridad de la IA 2026 —elaborado por más de 100 especialistas y respaldado por representantes de más de 30 países y organismos— reconoce que existe una gran incertidumbre sobre la velocidad con la que avanzarán estos modelos. También advierte que esperar pruebas definitivas podría dejar a los gobiernos sin tiempo para reaccionar.
También te puede interesar: ¿Qué pasó con Grok y por qué se llamó a sí misma MechaHitler?
Algunos riesgos ya son reales
Los peligros más inmediatos no requieren una inteligencia consciente. Actualmente, estos sistemas pueden facilitar fraudes, suplantaciones, campañas de desinformación, vigilancia, generación de código malicioso y ataques informáticos.
Anthropic ha documentado intentos de utilizar sus modelos en operaciones de espionaje digital y desarrollo de tecnología militar. Aunque las barreras de seguridad frustraron o limitaron algunos casos, demuestran que una IA avanzada puede multiplicar las capacidades de personas o grupos malintencionados.
Por ahora, la idea de una máquina que decida acabar con la humanidad pertenece al terreno de los escenarios extremos. Lo comprobable es que la tecnología avanza más rápido que las leyes y los mecanismos para vigilarla, punto central de la advertencia lanzada desde el interior de la propia industria.