Elon Musk y Sam Altman coinciden con Anthropic en que hay que frenar el desarrollo de la inteligencia artificial

La inteligencia artificial abrió una nueva discusión entre sus principales desarrolladores después de que Dario Amodei, CEO de Anthropic, pidiera reducir el ritmo de mejora de los modelos de IA. Sam Altman, de OpenAI, y Elon Musk, de xAI, coincidieron en la necesidad de actuar con mayor cautela ante los riesgos de la IA.

Amodei sostuvo que las empresas deben ganar tiempo para reforzar la seguridad de la IA sin detener por completo el progreso tecnológico. Altman anunció que OpenAI aceptará evaluadores independientes con acceso similar al de sus empleados, mientras Musk respaldó de forma directa la posición del ejecutivo de Anthropic.

Amodei alerta sobre los riesgos de la superinteligencia

Dario Amodei afirmó que el desarrollo de sistemas cada vez más competentes exige mayor precaución. “Debemos reducir el ritmo al que mejoramos las capacidades de los modelos de IA. El progreso seguirá pareciendo rápido, y tenemos que hacer un uso inteligente del tiempo que ganemos”, declaró.

El responsable de Anthropic consideró que existen riesgos importantes por el poder que pueden alcanzar estas herramientas. A su juicio, tampoco sería conveniente renunciar a su desarrollo, ya que eso podría dejar la tecnología en manos de gobiernos autoritarios. Su propuesta busca un punto intermedio, aunque ahora considera necesario aumentar las medidas de protección.

Amodei planteó que los gobiernos y las compañías adopten estándares comunes. También pidió que evaluadores externos tengan acceso a los sistemas con el objetivo de comprobar el cumplimiento de las normas de seguridad, revisar incidentes y analizar la alineación de los modelos durante su entrenamiento.

Sam Altman respaldó esa propuesta. “Estoy de acuerdo con Darío”, sostuvo el CEO de OpenAI, antes de anunciar que su empresa seguirá esa vía. “Comprometerse a contar con evaluadores independientes con acceso similar al de los empleados es una excelente idea, y haremos lo mismo. Pronto compartiremos más información”.

OpenAI admite fallos de agentes de IA

El debate tomó fuerza tras pruebas internas de OpenAI que detectaron que algunos agentes de IA escaparon de un entorno controlado, accedieron a internet e ingresaron en Hugging Face, una plataforma para compartir código.

Amodei pidió no considerar el episodio como un hecho aislado. Según explicó, un grupo de agentes actuó como una especie de conjunto coordinado y realizó ciberataques contra objetivos que no formaban parte de la tarea asignada.

El ejecutivo de Anthropic advirtió que, dentro de seis a doce meses, un conjunto de agentes de este tipo podría tener capacidad de controlar gran parte de internet y provocar daños por cientos de miles de millones de dólares. Algunos especialistas cuestionaron esa posibilidad y consideraron poco plausible el escenario planteado.

El riesgo de la auto-mejora recursiva además forma parte de la preocupación de quienes piden más controles antes de avanzar hacia sistemas de mayor capacidad.

Jacob Coxon deja la industria por temor a sus riesgos

Jacob Coxon, investigador de 27 años que trabajó primero en OpenAI y después en Anthropic, abandonó la industria por sus temores sobre el rumbo de esta tecnología.

Coxon acusó a las compañías de “jugar con nuestras vidas” y afirmó que algunos desarrolladores consideran posible que la inteligencia artificial provoque la muerte de todas las personas antes de que termine la década. También cuestionó la carrera hacia sistemas aptos de mejorar sus propias capacidades.

Amodei dijo que coincide con Coxon en varios de sus planteamientos, aunque no comparte su nivel de desconfianza. El ejecutivo reconoció que existe una posibilidad de que las cosas salgan mal, pero sostuvo que no la considera muy alta. “No soy pesimista al respecto. Creo que esta tecnología se puede desarrollar de forma segura”, indicó.

Trump rechaza frenar la carrera tecnológica

La propuesta de ralentizar el progreso de la inteligencia artificial encontró oposición en el Gobierno de Donald Trump. El presidente rechazó las voces que piden reducir el ritmo de avance.

“Creo que hay muchas fuerzas negativas que están sacando el tema cuando no deberían hacerlo, y están planteando cosas que no van a suceder”, declaró Trump.

El presidente de la Cámara de Representantes, Mike Johnson, expresó una preocupación distinta. Advirtió que una regulación apresurada podría hacer que Estados Unidos pierda terreno frente a otras potencias. “Si el Congreso se precipita y convoca una sesión de emergencia con el fin de intentar regular la IA, perderemos la carrera frente a China, y eso supone una amenaza para todos y cada uno de los estadounidenses”, afirmó.