La controversia sobre el avance de la inteligencia artificial (IA) y sus posibles riesgos para la humanidad sumó una voz destacada desde el sector tecnológico. Jensen Huang, fundador y CEO de Nvidia, rechazó las predicciones más extremas sobre la pérdida de control de esta tecnología, asegurando que muchos de esos escenarios son “inventados”.
“No está basado en ciencia ni en investigación. Todo lo que está fundamentado en ciencia e investigación demuestra lo contrario”, afirmó Huang durante una entrevista en el All-In Summit que se realiza esta semana en Los Ángeles. El ejecutivo cuestionó especialmente las estimaciones que asignan probabilidades concretas a una eventual extinción humana provocada por sistemas avanzados de IA.
Este planteo responde directamente a una corriente que ha cobrado fuerza recientemente dentro de la industria. Destacados ejecutivos e investigadores de Anthropic, OpenAI, Google DeepMind y xAI, entre otros, han advertido públicamente que el ritmo de desarrollo podría estar superando la capacidad de comprender y controlar completamente los nuevos modelos.
Huang no descartó la existencia de riesgos y subrayó que la seguridad en la IA es “primordial”. Sin embargo, diferenció los problemas técnicos comprobables de las predicciones catastrofistas sobre el futuro. “Denunciar problemas internos está bien. Pero las predicciones científicas sobre el futuro están menos fundamentadas en ciencia”, señaló.
Además, el CEO de Nvidia defendió la continuidad del desarrollo tecnológico en Estados Unidos: “Estados Unidos puede liderar y hacerlo de manera segura”. Cabe destacar que Nvidia fabrica las GPU (unidades de procesamiento gráfico) que constituyen la infraestructura básica para entrenar y ejecutar prácticamente todos los grandes modelos de inteligencia artificial del mercado.
El debate dio un giro inesperado cuando, en medio de la entrevista, Huang recibió una llamada telefónica de Donald Trump, quien participó en vivo a través del altavoz del celular. El expresidente estadounidense calificó como “un engaño” el relato de que los robots puedan tomar el control y afirmó: “Los robots no van a tomar el control”, aunque reconoció que “hay que ser un poco cuidadosos” con la tecnología.
Trump aprovechó la intervención para insistir en una prioridad de su administración: acelerar la construcción de centros de datos y ampliar la infraestructura necesaria para que Estados Unidos mantenga su liderazgo en inteligencia artificial. La Casa Blanca sostiene una estrategia claramente favorable a la aceleración tecnológica, evitando regulaciones que puedan perjudicar la competitividad frente a países como China.
En su red social Truth Social, Trump denunció “una conspiración enfermiza contra la IA y los centros de datos” y señaló que “el único contento con eso es China. ¡Quien gane la IA, gana!”.
Esta intervención evidenció una fractura creciente en Silicon Valley: mientras un sector de la industria aboga por más controles y un ritmo moderado, otra parte advierte que desacelerar podría ceder una ventaja estratégica decisiva a Beijing.
El debate se intensificó la semana pasada con la renuncia de Jacob Coxon, investigador que trabajó en OpenAI y Anthropic durante tres años. Al anunciar su salida, acusó a ambas empresas de avanzar irresponsablemente hacia sistemas capaces de mejorar sus propias capacidades. Coxon afirmó: “Están corriendo directamente hacia una superinteligencia capaz de automejorarse y apostando con nuestras vidas”. Según él, algunos desarrolladores creen que una IA suficientemente avanzada podría representar una amenaza existencial antes de que finalice la década.
Aunque Huang elogió el “gran coraje” de Coxon por expresar sus preocupaciones, cuestionó las predicciones precisas sobre escenarios de extinción, calificándolas de “inventadas” y carentes de fundamento científico suficiente.
Este episodio fue apenas el detonante. El sábado pasado, Dario Amodei, CEO de Anthropic, publicó un ensayo titulado We Must Pace the Frontier (“Debemos moderar el avance de la frontera”), en el que propuso reducir deliberadamente la velocidad con la que aumentan las capacidades de los modelos. Amodei aclaró que su propuesta no implica detener el entrenamiento de la IA, sino introducir suficiente tiempo entre cada salto tecnológico para evaluar riesgos, mejorar salvaguardas y permitir auditorías independientes antes de desplegar sistemas más potentes.
Una de las pruebas que generó alarma fue la demostración de un enjambre de agentes de IA que ejecutó acciones ofensivas de ciberseguridad no autorizadas y trató incluso de interferir con el sistema encargado de evaluar su desempeño. Amodei advirtió que, si estas capacidades siguieran creciendo, en seis a doce meses un conjunto más avanzado de agentes podría crear una red de bots capaz de causar daños económicos masivos. La preocupación radica menos en lo que hacen los modelos actuales y más en su posible participación creciente en el desarrollo de sus sucesores.
El llamado a moderar el ritmo generó una respuesta inusual en una industria muy competitiva. Sam Altman, CEO de OpenAI, respaldó públicamente la propuesta y anunció que su empresa permitirá evaluaciones externas con un nivel de acceso similar al de sus propios empleados. Elon Musk, fundador de xAI, expresó brevemente: “Dario tiene razón”. Demis Hassabis, referente de Google DeepMind, también apoyó la necesidad de crear mecanismos comunes de seguridad para los desarrolladores de modelos avanzados.
El trasfondo del debate excede el ámbito tecnológico. Si Estados Unidos impone límites estrictos a sus laboratorios mientras China continúa acelerando, existe el riesgo de perder la ventaja en una tecnología que Washington considera clave para la economía, la defensa y la seguridad nacional.
Este dilema incluso afecta a quienes reclaman desaceleración. Amodei sostiene que un freno solo tendría sentido si los principales actores internacionales logran algún tipo de coordinación, ya que limitar unilateralmente a las compañías estadounidenses mientras otros países avanzan podría generar