Nuestra inteligencia artificial es peligrosísima: compra nuestras acciones

Recursos Humanos19/11/2026

Ayer se publicó que Anthropic, el pasado 10 de noviembre, había afirmado la activación de su alarma o umbral preventivo de automejora recursiva (recursive self-improvement o RSI), ante la expectativa de aproximarse a un proceso hipotético en el que un sistema de inteligencia artificial es capaz de diseñar iterativamente un sucesor más capaz. Tradicionalmente, se ha afirmado que esto podría ser el desencadenante de una explosión de inteligencia, en la que esas mejoras iterativas podrían dar lugar a sistemas de inteligencia artificial cada vez más capaces, y potencialmente resultar en la creación de una superinteligencia artificial. Un mensaje fascinante viniendo de una compañía que está preparando su salida a bolsa, porque está en realidad advirtiendo de que su tecnología podría resultar extraordinariamente peligrosa. Una forma de decir algo así como “estamos construyendo algo tan, tan peligroso, que imagínese lo que puede llegar a valer”.

Obviamente, es importante leer la letra pequeña: en la documentación que ha presentado ante la SEC, la compañía explica esa afirmación en función de sus expectativas sobre futuros modelos y su trayectoria general, y las diferencia de lo observado en los modelos actuales. Que una previsión active una política preventiva es algo que todavía no constituye una demostración tecnológica.

En cualquier caso, la RSI merece atención. Que un modelo ayude a investigar y desarrollar otro mejor, que después contribuya todavía más eficazmente a construir su sucesor, y así sucesivamente es algo sin duda trascendental. Si reforzamos ese circuito, podríamos estar acelerando la propia capacidad de innovar. Para ese caso, la política de Anthropic contempla observar o esperar aproximadamente el doble del ritmo de progreso, atribuible sustancialmente a la automatización de tareas de investigación y desarrollo.

¿Humo? Según una evaluación externa publicada por METR el pasado 5 de noviembre, Anthropic está mejorando sus modelos en tareas bien especificadas aproximadamente al doble del ritmo que tenían antes, y considera probable que una buena parte de esa aceleración actual provenga del uso de inteligencia artificial. Pero también reconoce mucha incertidumbre sobre la magnitud y las causas de esa aceleración. Además, Anthropic censuró la mayoría de la evidencia que los evaluadores consideraban más informativa, alegando confidencialidad para evitar favorecer a sus competidores. Así que sí, evaluación independiente, pero con una capacidad pública muy limitada para examinar sus fundamentos, lo que tiene realmente detrás. Y dado que lo de Anthropic es una gran afirmación, deberíamos exigir para ella grandes pruebas, no simplemente tener que aceptar conclusiones basadas en información oculta. Los precedentes de Anthropic, anunciando pomposamente que “se le habían escapado agentes” para resaltar “lo potentes que son”, invitan a mantener una confianza limitada.

Mientras tanto, el mercado va haciendo sus cábalas y sus cálculos. Según Reuters, hay una fuerte demanda de acciones, aunque acompañada de dudas sobre la posible sostenibilidad de la ventaja competitiva que Anthropic afirma tener. Básicamente, un contexto en el que las afirmaciones sobre capacidades futuras pueden convertirse también en argumentos de inversión y adquirir un valor económico inmediato. ¿Entra esto dentro de los supuestos de forward-looking statements, es decir, de anunciar logros o previsiones impresionantes para “calentar” el valor de una acción? Formular expectativas no es por sí mismo una infracción, pero eso suele excluir el contexto de una salida a bolsa. Sin duda sería ilegal si se demuestra que existen falsedades u omisiones materiales que hicieran engañosa la comunicación, algo que las fuentes no permiten establecer. ¿Sospecha? Posiblemente, pero homologar esa sospecha con una prueba es, ahora mismo, difícil.

¿Qué deberíamos exigir a Anthropic? Precisamente más de lo que nos permite comprobar: métricas comparables, atribución causal y escrutinio externo adecuado, no a ciegas. Que anticipen sus riesgos merece reconocimiento, pero que conviertan esas anticipaciones en expectativas comerciales para elevar su valor es algo que debería ser sometido a vigilancia. Porque cuando una advertencia como esta también puede ayudar a vender acciones, deberíamos poder discernir cuánto tiene de conocimiento contrastable y cuánto de pura y simple confianza en quien vende. Quizás, y solo digo eso, quizás, lo que deberíamos hacer es plantearnos que si realmente Anthropic es TAN peligrosa, no deberíamos simplemente evitar que siguiese haciendo lo que hace, en lugar de darle mucho más dinero para que pueda seguir haciéndolo…

Nota:https://www.enriquedans.com/

Te puede interesar
Lo más visto
Suscríbete al newsletter para recibir periódicamente las novedades en tu email