Especialistas en IA advierten sobre graves riesgos de la superinteligencia

El investigador Jacob Coxon presentó su renuncia tras acusar a las firmas tecnológicas de falta de responsabilidad, mientras que líderes de seguridad interna confirman un riesgo superior al 10% de una catástrofe global en la próxima década.

La rápida aceleración en el desarrollo de la inteligencia artificial ha dejado de ser únicamente un avance científico para convertirse en un debate crucial sobre la seguridad global. Las recientes declaraciones y renuncias dentro de las compañías tecnológicas más influyentes del sector revelan tensiones éticas internas: especialistas advierten que la prisa por alcanzar una superinteligencia autorregulada se está priorizando sobre el control de sus riesgos, lo que plantea llamados de alerta hacia la comunidad internacional y los organismos de regulación pública.

El investigador Jacob Coxon formalizó su dimisión tras trabajar durante tres años en los procesos de investigación de preentrenamiento tanto en OpenAI como en Anthropic. En sus declaraciones, Coxon señaló que ninguna de las dos organizaciones está actuando de manera responsable. Según el especialista, las empresas están inmersas en una competencia directa hacia el desarrollo de una superinteligencia que se mejora a sí misma de forma autónoma, lo que implica una apuesta riesgosa para la sociedad.

Asimismo, Coxon aclaró que las posturas moderadas vertidas en los medios de comunicación no siempre reflejan las discusiones a puerta cerrada. De acuerdo con su testimonio, aunque varios directivos mantienen un discurso cauteloso frente a la prensa para sonar sensatos, en privado expresan una preocupación profunda por la velocidad del avance y los peligros inéditos de esta actividad tecnológica.

La advertencia de Coxon contó con el respaldo público de Evan Hubinger, quien se desempeña como líder del equipo de evaluación y alineamiento de seguridad en Anthropic. Hubinger ratificó la gravedad del escenario al estimar que existe una probabilidad superior al 10% de que la tecnología cause la extinción humana en el transcurso de la próxima década. A pesar de los esfuerzos internos de contención, el directivo reconoció que aún no se dispone de un plan concreto para garantizar el alineamiento seguro de la superinteligencia ni se avanza en la dirección requerida para resolverlo a tiempo.

El impacto de estas revelaciones, difundidas por medios internacionales como The Wall Street Journal y Radio Francia Internacional, reaviva la urgencia de establecer regulaciones estrictas, consensos internacionales y marcos éticos rigurosos antes de que los sistemas de IA alcancen capacidades superiores al control humano.