“Las empresas de IA no tienen plan de negocio o sustancia real para sostener su valor. Una caída bursátil tendrá efectos enormes para todo el mundo”

Creo que necesitamos pensar que compañías como OpenAI, de Sam Altman, son nuevas formas de imperios.

Quería que la gente, aunque no se leyera el libro, comprendiera que existe un argumento más profundo detrás de esa frase y les despertará curiosidad sobre lo que estas compañías están haciendo realmente.

¿Es que acaso estas empresas quieren que no sepamos cosas?

Lo vuelven todo extremadamente opaco para que la gente no entienda cómo funcionan y entrenan sus sistemas, dónde construyen sus centros de datos, cuánta energía y agua usan, cómo venden sus modelos a diferentes compañías e industrias.

Una de las razones por las que ejercitan esta opacidad es porque cuanto menos sepa la gente, más podrán manipular sus narrativas sobre de qué trata esta tecnología, qué impacto tendrá y cómo nos afectará.

Esas preguntas necesitan transparencia.

Es difícil comparar empresas de IA con imperios. ¿Qué similitudes ves?

Muchas. Primero, reclaman recursos que no son suyos. Recogen datos de gente actual para entrenar sus modelos, así también como la propiedad intelectual de artistas y creadores.

También explotan trabajadores. Los imperios son capaces de extraer mucho valor de trabajadores pobremente remunerados.

La IA hace lo mismo. Paga muy poco a trabajadores del sur global por tareas cruciales para el desarrollo de la IA.

Una vez desarrolla la tecnología, siguen impactando a asalariados y sus empleos, dándoles mayor inseguridad y precariedad.

Los imperios monopolizan la producción del conocimiento y es lo que hacen estas compañías.

En la última década hemos visto cómo los investigadores de IA son financiados por las propias compañías de IA.

Imagina. Si la mayoría de los científicos climáticos fueran financiados por empresas de combustibles fósiles, no tendríamos una perspectiva precisa de la crisis climática.

Es lo mismo con la IA. No tenemos una perspectiva clara porque la gente a la que consultamos sobre esta tecnología está en los bolsillos de estas compañías.

Los imperios siempre, además, se involucran en estas narrativas morales sobre su existencia. Se pintan como buenos con una misión civilizadora de traer progreso.

Prometen acceder al paraíso a través de la IA. Dicen que si no les permitimos el acceso a recursos, trabajo o conocimiento, perderemos ante los imperios malignos que quieren llevar a la humanidad al infierno.

Eso último me recuerda a los argumentos de Donald Trump con respecto a Groenlandia: que sin control de EE.UU., China o Rusia podrían involucrarse.

EE.UU. también es un imperio y se comporta como los imperios de la IA. Es una retórica que EE.UU. ha usado por mucho tiempo en su construcción imperialista.

Es una retórica que la IA también ha usado mucho tiempo. No es nuevo.

Mark Zuckerberg, durante la era de las redes sociales, decía que, si les regulaban, perderían ventaja ante China.

Venden una narrativa de “ellos o nosotros” muy efectiva ante el público de EE.UU. para darles a estas compañías o al gobierno el poder que les permite realizar actividades extremadamente horribles.

Elon Musk solía expresar su preocupación sobre el desarrollo de la IA y lo que podría significar para los humanos. Ahora parece cada vez más en contra de las regulaciones. Lo vimos en la reciente polémica de su herramienta Grok y la posibilidad de crear desnudos falsos con fotografías de personales reales.

Creo que Musk nunca cambió. Su perspectiva de la IA siempre fue la misma.

Todos los miedos que él decía tener en realidad tenían que ver con el hecho de que antes él no era quien controlaba la tecnología.

Eso es algo cierto en todos estos multimillonarios que construyen los sistemas de IA. Todos dicen que ellos son los buenos y que el resto son los malos.

Musk era extremadamente agresivo sobre promover regulaciones a la IA cuando no era parte del juego. Fue una especie de mecanismo para controlar el poder de competidores como Google.

Ahora que es parte del juego, quiere proteger su control y el de su compañía.

¿Cómo se compara la visión de Musk con la de Sam Altman, de quien solía ser aliado y ahora es rival?

El discurso de OpenAI (la compañía de Altman) defendió al comienzo un desarrollo sin fines de lucro.

Yo creía que eran muy sinceros sobre ello y que en algún momento de corrupción perdió el propósito.

Pero me di cuenta de que, como Musk, Altman siempre tuvo la misma posición. Trataba de mantenerse como el centro del poder. OpenAI siempre fue la misma.

Altman miró cómo Google dominaba la IA y buscó cómo crear una organización en la que él podría ser quien controlaba el desarrollo de la tecnología.

Google fue y sigue siendo más rico que OpenAI y el primer obstáculo para Altman fue competir en captación de talento.

Así que la estrategia de Altman fue ofrecer una reducción de salario a cambio de trabajo por un mejor propósito y ser parte de la historia.

Sin embargo, una vez captaron el talento, el desarrollo sin fines de lucro se depreció en valor y OpenAI, institucionalmente, es una compañía completamente enfocada en beneficios.

Altman puede decir lo que quiera sobre sus motivos humanitarios, pero con los años se ha demostrado que juega a lo mismo que Musk.

El secretario de Defensa de EE.UU., Pete Hegseth, anunció recientemente que la herramienta de IA de Musk, Grok, será utilizada por el Pentágono. ¿Cómo valoras eso?

El incremento del uso de la IA en defensa o estructuras militares es extremadamente preocupante.

Esta tecnología es imprecisa, no confiable, sobre toda la IA generativa como Grok.

Entonces hablamos de integrar una tecnología no confiable en sistemas involucrados en situaciones de vida o muerte.

Durante mucho tiempo existió la norma internacional de que no debíamos automatizar la toma de decisiones en la guerra. Debía existir juicio humano siempre.

Pero la invasión rusa en Ucrania y su defensa erosionó estas normas.

Gran parte de Occidente estuvo dispuesta a flexibilizar algunas de estas reglas estrictas del pasado y comenzó a automatizar más y más la infraestructura militar. Es problemático.

Encima, estos sistemas son creados por unas pocas personas que deciden en base a su beneficio y su estado de salud mental cuando se despiertan por la mañana.

Son los responsables de cambiar sistemas de IA que afectan infraestructuras militares fundamentales. Es alarmante.

Tus investigaciones y críticas no deben contentar a estas compañías tan poderosas. ¿Has sufrido presiones, desafíos, obstáculos en tu trabajo?

Cuando empecé el libro, OpenAI se mostró muy interesada en participar. Eso cambió pronto cuando empezaron a recibir escrutinio desde el gobierno.

Luego se volvieron poco cooperativas. Les mandaba solicitudes de comentarios y no respondieron a una sola pregunta. Les daba hasta seis semanas para responder y nada.

Pasa mucho con las investigaciones que hago, aunque algunas compañías han comenzado a darse cuenta de que es mejor que me contacten y aclarifiquen sus posturas. Tomo sus comentarios y perspectivas muy en serio.

Tú y otros analistas han expresado la preocupación de que existe una burbuja de la IA que, si se explota, tendría consecuencias dramáticas. ¿Cuáles?

El impacto podría ser enorme, como el de otras grandes crisis como la de 2008.

Una gran parte del crecimiento del mercado bursátil de EE.UU. está basado en compañías de IA con un valor vacío.

No ha habido un impulso económico generalizado. Estas compañías simplemente han invertido unas en otras para inflar su valor en bolsa.

Hemos visto varias señales de que el gran valor económico que prometen todavía no ha llegado.

Un informe del año pasado mostró que la adopción de herramientas de IA generativa en decenas de compañías ha decrecido.

Las empresas no estaban recibiendo ganancias que justificaran la adquisición de esos servicios.

Las compañías de IA no tienen un plan de negocio. No tienen una sustancia real para sostener su valor y una caída bursátil tendrá efectos enormes para el mundo.

Reportando sobre la IA me he encontrado con optimistas y pesimistas. Tú pareces ser de los segundos. Corrígeme si me equivoco.

Diría que soy, de hecho, bastante optimista. La razón por la que investigo y critico es porque creo que el mundo puede ser mejor. Si no lo creyera, no haría mi trabajo.

Sí soy pesimista sobre la estructura de poder corrupta que existe en el mundo.

No creo que sea sostenible desde una perspectiva financiera, ambiental y de derechos humanos permitir que un grupo pequeño de gente controle la infraestructura mundial desde California.

La infraestructura física que diseñan transforma la tierra, redes eléctricas y suministros de agua.

Luego, su infraestructura intelectual y social da herramientas a la gente a las que se vuelven adictos, erosionando sus relaciones sociales y pensamiento crítico.

Sobre eso soy pesimista. No creo que la tecnología diseñada de esa forma traiga beneficios a largo plazo.

Pienso que en muchas formas, la IA, sin requerir imperios, trae muchos beneficios para mucha gente.

Si podemos articular el problema de ahora y sus raíces, como sociedad podemos encontrar un camino más humano y sostenible para todos.

Suscríbete aquí a nuestro nuevo newsletter para recibir cada viernes una selección de nuestro mejor contenido de la semana.

Y recuerda que puedes recibir notificaciones en nuestra aplicación. Descargue la última versión y actívalas.