La inteligencia artificial es capaz de cosas maravillosas. Si se cumplen los mejores vaticinios de las empresas de Silicon Valley, en cuestión de años permitirá que grandes empresas sean controladas por una sola persona y de que la mayor parte de la población viva, directamente, de la riqueza que generan las máquinas sin tener que mover un dedo. Otros, los más pesimistas, alertan del peligro de que, por el camino, esta tecnología se vuelva contra sus creadores y acabe convirtiéndose en una amenaza para la supervivencia de la humanidad . Y Jacob Coxon, investigador de inteligencia artificial que, hasta el momento, trabajaba para Anthropic , es uno de ellos. El ingeniero ha tomado la decisión de renunciar a su puesto en la empresa dirigida por los hermanos Amodei. Además, ha realizado una publicación en su cuenta personal de X en la que apunta que ni esta startup, ni OpenAI, para la que trabajó anteriormente, «actúan con responsabilidad»: «Están avanzando a toda velocidad hacia la creación de una superinteligencia artificial capaz de auto mejorarse y jugando con nuestras vidas». Coxon ha alertado de que, dentro de poco, la inteligencia artificial será capaz de «'hackear' cualquier cosa» y «adquirir poder y recursos reales». Espera que el avance vertiginoso de la IA no se frene durante los próximos años: «Quienes desarrollan la IA creen sinceramente que esta podría acabar con todos nosotros para finales de la década». El ingenieros ha remarcado que esta publicación «no responde a una estrategia de marketing». A este respecto, destaca que aunque muchos ejecutivos e investigadores «suavizan sus declaraciones en la prensa para que parecer sensatas», él mismo ha escuchado «a esas mismas personas expresar temor» sobre el futuro de la inteligencia artificial. «¿Si realmente creen esto, por qué siguen construyéndola?», se pregunta Coxon. La respuesta la da él mismo: «En OpenAI, muchos no han interiorizado profundamente lo que está en juego para la civilización. En Anthropic, lo que está en juego se entiende bien, pero están inmersos en una carrera por llegar primero; no creen en nada más». En opinión del experto, participar en la carrera por desarrollar la IA a toda prisa es «una apuesta temeraria» que no debería quedar en manos de una empresa privada. A pesar de estas palabras, el extrabajador de Anthropic se ha mostrado «optimista sobre el potencial que tiene la coordinación» para que diferentes empresas lleguen a acuerdos que permitan que los escenarios más catastróficos se produzcan. A este respecto, hace referencia al resultado del incidente de seguridad sufrido este verano por la plataforma Hugging Face, que fue 'hackeada' por varios agentes autónomos de IA desarrollados por OpenAI: «Advertencias como esta han hecho que los acuerdos sobre el ritmo entre laboratorios estadounidenses sean más viables». El ingeniero ha cerrado su publicación haciendo un llamamiento a sus colegas: «Si eres investigador de laboratorio, te insto a que consideres cómo serán realmente los próximos años. ¿Quieres iniciar una fase de aprendizaje por refuerzo superinteligente sin una comprensión rigurosa? ¿Deberías agachar la cabeza porque »va a suceder de todos modos« o aprovechar este momento?».
