Jacob Coxon: Los trabajadores de la IA ‘estamos aterrados’

Tras su renuncia como investigador de inteligencia artificial (IA) en Anthropic a principios de la semana, el ingeniero británico Jacob Coxon aseguró que las personas que trabajan en esa tecnología estaban “aterradas” ante la velocidad de sus avances y lo que podría significar para la humanidad.

En entrevista para la BBC, Coxon, de 27 años, expresó que las personas que laboran en estas empresas hablan seriamente cuando piden regular la IA “porque se encuentran atrapadas en una carrera y les dan miedo los resultados de esa carrera“.

“Puedo hablar con la gente que trabaja ahí y puedo decir que están realmente asustados. Así que están genuinamente preocupados por el destino de la humanidad en los próximos dos años. Cuando planean sus vidas, cuando piensan qué hacer con ellas, están pensando en las repercusiones de su trabajo.

“Por ejemplo, tal vez estén pensando en comprar un terreno en algún lugar porque tienen mucho miedo de la inestabilidad que provocará el rápido avance de la IA. Lo que puedo decir es que las personas que trabajan en estas empresas hablan con total seriedad cuando piden regulación. Porque se encuentran atrapadas en una carrera y les dan miedo los resultados de esa carrera”.

En su opinión señaló que no es una exageración decir que las personas involucradas tanto en la fundación de estas empresas como en el desarrollo de la tecnología creen que existe la posibilidad de la extinción humana.

“Muchas de las personas que están metidas de lleno en la programación real creen que hay una probabilidad (…) de que la humanidad pueda desaparecer, y todas tienen esto presente a diario mientras trabajan en la tecnología”, dijo Coxon en entrevista con Laura Kuenssberg de la BBC.

Y sentenció: “Creo que, si no reducimos el ritmo, al ritmo actual de progreso, sí, existe una gran probabilidad de que todos podamos morir en un futuro inmediato”.

CEO de Anthropic pide frenar el ritmo del desarrollo de la IA; Altman y Musk coinciden

El director ejecutivo y cofundador de Anthropic, Dario Amodei, hizo un llamado el sábado a que las empresas de inteligencia artificial (IA) avancen de manera más lenta y cautelosa en el desarrollo de esta poderosa tecnología, y afirmó que la prevención de riesgos es primordial.

“Debemos reducir el ritmo al que mejoramos las capacidades de los modelos de IA. El progreso seguirá pareciendo rápido, y debemos hacer un uso inteligente del tiempo que ganemos”, escribió Amodei en una entrada de blog.

Sus comentarios se producen unos días después de que el investigador de IA Jacob Coxon, que dejó OpenAI para incorporarse a Anthropic, decidiera abandonar la industria, acusando a ambas empresas estadounidenses de “jugar con nuestras vidas” en la carrera por desarrollar modelos capaces de automejorarse.

“La IA conlleva riesgos y, dado que es una tecnología tan poderosa, estos riesgos son graves”, indicó.

“No construir la tecnología priva a la humanidad de beneficios o simplemente pone la IA en manos de poderes autoritarios, mientras que construirla demasiado rápido es imprudente. Hemos tratado de buscar una vía intermedia”, dijo Amodei, que cofundó Anthropic junto con su hermana Daniela en 2021.

“Pero en los últimos meses me he convencido de que abordar plenamente los riesgos requiere aún más prudencia“, afirmó.

Altman y Musk coinciden

“Estoy de acuerdo con Darío“, escribió Sam Altman en X, añadiendo que su empresa seguirá el ejemplo de Amodei al aceptar evaluadores externos de seguridad.

“Darío tiene razón“, intervino Elon Musk de su lado.

Obama alerta sobre el peligro de la IA y pide a los demócratas que sea tema central en las campañas

El expresidente estadounidense Barack Obama pidió a los líderes de su partido que regular la inteligencia artificial (IA) sea un tema central en las campañas de los demócratas para las próximas elecciones legislativas y las presidenciales, según reportaron este domingo medios de EE.UU.

Obama alertó del “peligro” de la IA en un evento para recaudar fondos en Nueva York junto al líder de los demócratas en la Cámara de Representantes, Hakeem Jeffries, de acuerdo con una transcripción de su discurso que obtuvieron medios como el New York Times, CNN y Politico.

“Esto es algo que avanza muy rápido en manos privadas y, si no nos ponemos en ello, creo que puede ser peligroso”, expresó Obama en el evento el jueves pasado, según los reportes. “Si tomamos el control de ello, sí creo que es beneficioso”, añadió.

El exmandatario afirmó que quien compita en las elecciones presidenciales de 2028 debería contar con un “plan muy claro” sobre la IA, al reconocer que él consideraba necesaria una “guía” para regular la inteligencia artificial incluso al final de su gobierno hace una década, según CNN.

“Sin duda, si compitiera por la presidencia el próximo año, esta sería una de mis agendas centrales, y tendría un plan muy claro, y hablaría sobre esto, y diría: ‘Este es nuestro plan de seguridad, este es nuestro plan para asegurarnos de que nuestros hijos no se corrompan con esto’”, manifestó.

Trump rechaza pausar la IA

Sus declaraciones contrastan con las del actual presidente de Estados Unidos, Donald Trump, quien tachó de “fuerzas negativas” a quienes piden regular la inteligencia artificial, al considerar que Estados Unidos está “liderando ante China en IA” y él desea “mantenerlo de esa manera”.