Alarma mundial por la inteligencia artificial: investigadores de Anthropic advierten que podría poner en riesgo a la humanidad

Una advertencia que hasta hace pocos años hubiera parecido propia de una película de ciencia ficción acaba de instalarse en el centro del debate tecnológico mundial: investigadores de Anthropic, una de las compañías líderes en inteligencia artificial, alertaron públicamente sobre la posibilidad de que futuros sistemas superinteligentes lleguen a representar una amenaza existencial para la humanidad.

La información fue difundida por Axios y rápidamente tuvo repercusión internacional. El detonante fue Jacob Coxon, investigador que trabajó tanto en Anthropic como anteriormente en OpenAI y que decidió abandonar su puesto en medio de fuertes cuestionamientos sobre la velocidad con la que avanza la carrera por desarrollar sistemas cada vez más poderosos.

Su planteo fue contundente: dentro de las empresas que construyen la inteligencia artificial más avanzada existen investigadores que consideran seriamente la posibilidad de consecuencias catastróficas antes de que termine esta década.

Pero Coxon no quedó solo.

Evan Hubinger, responsable de investigaciones de alineación en Anthropic, respaldó públicamente el planteo y sostuvo que personalmente estima en más de un 10% la posibilidad de que sistemas avanzados de IA provoquen una catástrofe existencial dentro de la próxima década. También reconoció un punto particularmente inquietante: todavía no existe una solución demostrada para garantizar el alineamiento y control de una eventual superinteligencia.

Samuel Marks, otro investigador de Anthropic especializado en supervisión de sistemas avanzados, se sumó al debate y señaló que dentro de la industria existe preocupación por escenarios extremos derivados del desarrollo de estas tecnologías.

¿Por qué los propios creadores están preocupados?

La discusión no gira alrededor de los actuales asistentes digitales que responden preguntas, redactan textos o generan imágenes.

El verdadero interrogante está puesto en lo que podría venir después.

Los especialistas hablan de sistemas capaces de superar ampliamente determinadas capacidades humanas y, eventualmente, de contribuir al desarrollo de versiones todavía más poderosas de sí mismos.

Ese escenario es conocido como “mejora recursiva”: una inteligencia artificial que ayuda a crear una inteligencia artificial superior, que a su vez participa en el desarrollo de otra todavía más avanzada.

Allí aparece uno de los grandes temores de los investigadores: que la velocidad de evolución tecnológica termine superando la capacidad humana para comprender, supervisar y detener esos sistemas.

Axios describió dos grandes caminos teóricos hacia una catástrofe. Uno sería el uso de una IA extremadamente poderosa por parte de seres humanos con fines destructivos, por ejemplo para potenciar ciberataques o facilitar amenazas biológicas o químicas. El otro, mucho más inquietante, sería una pérdida directa de control sobre sistemas autónomos cuyos objetivos no coincidan con los intereses humanos.

Nada de esto significa que exista evidencia de que la inteligencia artificial vaya inevitablemente a exterminar a la humanidad.

No existe actualmente una metodología científica capaz de calcular con precisión semejante probabilidad y hay investigadores de enorme prestigio que consideran exagerados los escenarios apocalípticos.

Pero la dimensión de la noticia está en otro lugar: quienes advierten sobre estos riesgos no observan la revolución de la IA desde afuera. Algunos trabajan —o trabajaron— dentro de las compañías que están construyendo los modelos más avanzados del planeta.

El dilema que inquieta a Silicon Valley

La controversia expone una contradicción difícil de resolver.

Las grandes compañías tecnológicas compiten por alcanzar modelos más inteligentes, autónomos y capaces. Cada avance significa inversiones multimillonarias, liderazgo tecnológico, ventajas económicas y poder geopolítico.

Pero detener unilateralmente esa carrera también supone un riesgo empresarial y estratégico.

Si una compañía desacelera mientras sus competidores continúan, puede quedar rezagada. Y si Estados Unidos decide imponer restricciones mientras China u otras potencias siguen avanzando, aparece inmediatamente el argumento de la seguridad nacional.

El resultado es una carrera en la que prácticamente nadie quiere ser el primero en levantar el pie del acelerador.

Ese es posiblemente el aspecto más profundo de la advertencia: el problema ya no es solamente tecnológico. Es político, económico y geopolítico.

La discusión llegó al poder político

Las declaraciones generaron repercusiones en Estados Unidos y reactivaron pedidos de regulación. Legisladores comenzaron a discutir mecanismos de emergencia, mayores controles sobre los sistemas de frontera y hasta herramientas conocidas popularmente como “kill switches”, destinadas a detener sistemas que presenten comportamientos peligrosos.

La discusión también divide al propio mundo tecnológico.

Mientras algunos especialistas consideran imprescindible establecer límites internacionales antes de avanzar hacia sistemas superinteligentes, otros sostienen que los escenarios de extinción son altamente especulativos y que alimentar un clima de miedo puede distorsionar el debate.

El CEO de Nvidia, Jensen Huang, por ejemplo, rechazó públicamente las predicciones sobre el fin de la humanidad y cuestionó la narrativa apocalíptica que rodea a la inteligencia artificial.

La controversia, por lo tanto, está lejos de estar saldada.

Una pregunta que ya no pertenece a la ciencia ficción

Durante décadas, películas y novelas imaginaron máquinas capaces de superar a sus creadores y escapar del control humano.

La diferencia es que ahora esa discusión abandonó parcialmente la ficción y comenzó a escucharse en laboratorios, universidades, gobiernos y directorios de algunas de las compañías más poderosas del planeta.

La inteligencia artificial promete revolucionar la medicina, la ciencia, la educación, la producción, las comunicaciones y prácticamente todas las actividades humanas. Sus beneficios potenciales son extraordinarios.

Pero precisamente por ese poder aparece una pregunta que el mundo deberá responder mucho antes de lo previsto:

¿hasta dónde estamos dispuestos a avanzar sin tener la certeza de poder controlar aquello que estamos creando?

Las declaraciones surgidas desde Anthropic no demuestran que la humanidad se encuentre ante una extinción inminente. Sí dejan una señal difícil de ignorar: incluso algunos de los especialistas que conocen desde adentro los sistemas de inteligencia artificial más avanzados consideran que los riesgos futuros merecen ser tratados como un asunto de máxima importancia global.

Y quizás allí radique la verdadera dimensión de esta noticia.

La discusión ya no es solamente qué será capaz de hacer la inteligencia artificial. La pregunta que comienza a inquietar al mundo es si los seres humanos serán capaces de seguir teniendo la última palabra.