Zuckerberg rechaza los llamados a ralentizar el desarrollo de la IA

Mark Zuckerberg, el jefe de Meta, rechazó los crecientes llamados a suspender o ralentizar el desarrollo de la inteligencia artificial (IA), al considerar que los mecanismos de mercado y el riesgo de demandas judiciales constituyen los mejores contrapesos frente a esta tecnología.

La preocupación sobre la IA aumentó en las últimas semanas debido a varios incidentes de seguridad y a la nueva capacidad de los modelos de inteligencia artificial para mejorar por sí mismos, sin intervención humana.

“La gente no querrá utilizar agentes que no estén alineados con sus intereses y que no hagan lo que se les pide. Los laboratorios tienen, por tanto, un fuerte incentivo natural para hacer que sus modelos estén más alineados“, escribió Zuckerberg en X.

Según Zuckerberg, “la confianza y la alineación” se están convirtiendo rápidamente en las capacidades más importantes que diferenciarán a los agentes y modelos de IA.

“Los laboratorios se enfrentan a una responsabilidad significativa si sus modelos causan daño, por lo que también tienen un fuerte incentivo para evitarlo“, dijo en X, donde mantiene que contratar evaluadores y asesores independientes “es la mejor práctica de la industria”.

El debate gira ahora también en torno a la capacidad del sector para autorregularse. Actores como OpenAI, Anthropic y Google estudian la creación de un organismo común encargado de elaborar normas.

Zuckerberg sostuvo, sin embargo, que la amenaza de demandas judiciales ya obliga a los laboratorios a actuar de “manera responsable”.

Citó como ejemplo la decisión de Meta de posponer varios meses el lanzamiento de su sistema Muse AI, dotado de agentes personalizados, con el fin de reforzar sus mecanismos de seguridad y protección.

También se manifestó a favor de evaluaciones independientes de los sistemas de IA, subrayando que Meta Superintelligence Labs, la división de IA del grupo, ya recurre a expertos externos.

Y pidió la creación de un “ecosistema más amplio y más diverso de evaluadores” en el sector.

Meta, que este año invertirá hasta 145.000 millones de dólares en sus infraestructuras de IA, lucha contra cualquier regulación que pudiera frenarla.

Ninguna norma debería retrasar la salida de los modelos estadounidenses, “ni siquiera un mes”, defendió el fempresario a comienzos de agosto.