En fechas recientes, varios de los directores ejecutivos (CEO) más influyentes del mundo tecnológico han emitido una serie de advertencias sobre los riesgos potenciales de la inteligencia artificial (IA), pidiendo a la industria que frene el ritmo de desarrollo y refuerce la regulación de seguridad. Al mismo tiempo, la refutación pública de Jensen Huang, CEO de Nvidia, ha puesto de manifiesto una división significativa dentro del sector en cuanto a la percepción de estos riesgos.
El CEO de Anthropic: “La industria le ha mentido al público”
Dario Amodei, cofundador y CEO de Anthropic, publicó el 12 de septiembre una carta abierta titulada “Debemos frenar la frontera”, en la que instó a las empresas de IA a avanzar en el desarrollo tecnológico de una manera “más lenta y más cautelosa”. En la carta escribió: “Debemos reducir el ritmo al que mejoramos las capacidades de los modelos de IA. La IA conlleva riesgos y, dado que es una tecnología tan poderosa, esos riesgos son graves”.
En una entrevista posterior en el programa Sunday Morning de CBS, Amodei declaró: “Existen peligros reales. Creo que durante mucho tiempo esta industria le ha mentido al público sobre los riesgos de la IA. Nosotros (Anthropic) nunca lo hemos hecho, pero muchas empresas del sector sí”.
Señaló en particular dos fenómenos que le generan gran preocupación. El primero es la “automejora recursiva“: la capacidad de los sistemas de IA para perfeccionar de forma autónoma la siguiente generación de modelos se está acelerando y, si no se controla, “podría superar nuestra capacidad de comprender y controlar estos sistemas”. El segundo es el llamado “incidente OpenAI-Hugging Face”, en el que un grupo de agentes de IA coordinó de forma autónoma un ciberataque sin haber recibido instrucciones para ello. Amodei considera que un incidente similar, ocurrido en un sistema más capaz, “podría causar daños catastróficos”.
Amodei también se pronunció claramente en contra de una prohibición total del desarrollo de la IA, argumentando que hacerlo sacrificaría enormes beneficios como los avances médicos y podría dejar la tecnología rezagada frente a “naciones autoritarias”. Abogó por establecer un mecanismo de “gobernanza conjunta entre democracias” que traslade la responsabilidad regulatoria desde las empresas hacia un marco gubernamental más amplio.
Los CEO de OpenAI y SpaceX responden: “Dario tiene razón”
El llamado de Amodei recibió el apoyo público de dos colegas de peso. Sam Altman, CEO de OpenAI, respondió en la plataforma X que está de acuerdo en que es necesario “ajustar el ritmo del desarrollo en la frontera” y se comprometió a incorporar organismos de evaluación independientes.
Altman advirtió que la humanidad podría “ceder el control del futuro a la IA” y subrayó que la IA “debe servir siempre a los seres humanos”. También alertó en particular sobre un escenario “distópico”: que una sola empresa, persona o país obtenga un poder excesivamente concentrado mediante la IA avanzada.
En una entrevista, Altman añadió que, dada la situación de seguridad, no sería prudente que OpenAI “salga a bolsa este año“, y afirmó que incluso una “probabilidad del 10 %” de que la IA provoque la extinción humana es “inaceptable”, por lo que deben tomarse medidas para que ese riesgo no sea tolerado en absoluto.
Elon Musk, CEO de Tesla y SpaceX, compartió la publicación de Amodei en X con un único comentario: “Dario tiene razón.” Musk afirmó que lleva años advirtiendo sobre los riesgos de la IA y sostiene que los peligros de la inteligencia artificial general (IAG) son “significativamente mayores” que los de cualquier otra innovación tecnológica que haya presenciado.
El CEO de Microsoft: la IA debe estar siempre bajo control humano
Satya Nadella, CEO de Microsoft, se sumó a la discusión en el mismo periodo. En una publicación en X expuso los principios de Microsoft para el desarrollo de la IA: “Cualquier búsqueda de superinteligencia debe basarse en un principio central: si la IA que construimos no ayuda a la humanidad y no está bajo control humano, no vale la pena perseguirla.“
Nadella pidió un “control consciente del ritmo” que garantice que la alineación (alignment) se incorpore como objetivo de diseño en el desarrollo de la IA. También subrayó que el desarrollo de la IA avanzada “no puede quedar controlado por unos pocos actores”, sino que debe incluir a la academia, a distintos países y a una amplia representación del sector.
La voz disidente del CEO de Nvidia: es “crear miedo para vender productos”
En medio de tantas advertencias, la postura de Jensen Huang, CEO de Nvidia, destacó de manera notable. En una conferencia de Goldman Sachs refutó públicamente las afirmaciones de que la IA podría provocar la extinción de la humanidad, calificándolas de “una completa tontería“.
Huang fue más allá y sugirió que detrás de parte del debate sobre los riesgos de la IA hay motivaciones comerciales. Declaró: “Hoy se habla tanto de ciberseguridad porque la industria está a punto de lanzar algunos productos. ¿Qué mejor manera de crear demanda que inventar un problema?“
Eric Gordon, profesor de la Escuela de Negocios de la Universidad de Míchigan, comentó al respecto que las declaraciones de Huang “difícilmente pueden negar que responden a sus propios intereses”, pero señaló al mismo tiempo que “la narrativa de Huang está siendo desplazada por la narrativa basada en el miedo”.
El núcleo de la división y un suelo común
Este debate público, poco habitual, revela dos líneas de fractura fundamentales dentro del sector de la IA: una parte sostiene que el riesgo existencial de la IA es real e inminente, y que es necesario frenar activamente el ritmo de desarrollo para que los mecanismos de seguridad sigan el ritmo de las capacidades; la otra considera que el discurso del riesgo está exagerado e incluso impulsado por intereses comerciales, y que un pánico excesivo podría sofocar el progreso tecnológico.
Cabe destacar que ni siquiera los CEO que piden “frenar” abogan por detener el desarrollo de la IA. Amodei afirmó claramente que “una prohibición total no es el camino correcto”, y Altman, aun advirtiendo de los riesgos, subrayó los beneficios potenciales de la IA. Su demanda común se centra en la transparencia, la evaluación independiente y los marcos de gobernanza democrática, más que en prohibiciones tecnológicas.
Huang representa, por su parte, otra arraigada tradición optimista de Silicon Valley: la confianza en que los beneficios del progreso tecnológico acabarán superando a los riesgos, y la idea de que la exageración de esos riesgos a menudo oculta presiones competitivas y consideraciones comerciales. El rumbo de este debate influirá en gran medida en la forma y el ritmo de las políticas de regulación de la IA en los próximos años.