Mustafa Suleyman, máximo responsable de inteligencia artificial en Microsoft, es bien conocido por todos por no ser una persona que se anda con rodeos en lo que a inteligencia artificial se refiere.
Sin ir más lejos, ha comentado lo siguiente: “No seguiremos desarrollando un sistema que pueda escaparse de nuestras manos”.
Esta gran figura del sector, que cofundó DeepMind, una de las empresas más top en IA, y también Inflection AI, dirige desde marzo de 2024 toda la estrategia de IA de Microsoft. Está al frente de herramientas tan usadas como Copilot y lo cierto es que estas palabras, viniendo de quien viene, ponen un poco los pelos de punta.
Y no es que ahora mismo estén yendo las cosas precisamente mal. Este habla de posibilidades a futuro y de un sector en el que las previsiones de inversión, beneficios y sí, también grandes desastres en la economía, son enormes.
Mucho dinero, muchas prisas y pocos tienen claro si el camino elegido es el correcto (y seguro)
Dejando a un lado los potenciales peligros para la sociedad, lo cierto es que este sector es un devorador de dinero. Microsoft lleva invertidos millas de millones de dólares en inteligencia artificial.
Todo empezó en 2019, cuando puso sobre la mesa 1.000 millones de dólares en OpenAI. En aquel momento, incluso Bill Gates dudó de la jugada y llegó a anunciar a Satya Nadella de que ese dinero podía acabar desapareciendo.
El tiempo ha dado a Microsoft una posición envidiable en la explosión de la IA generativa, pero también le ha traído bastantes problemas. Los inversores quieren ver beneficios claros y rápidos, y varios informes apuntan a que productos como Azure AI o incluso Copilot no están teniendo el retorno esperado.
“Microsoft necesita ser autosuficiente en IA”, comenta Mustafa Suleyman. “Y para lograrlo, debemos entrenar modelos de vanguardia de todas las escalas con nuestros propios datos y computación de vanguardia”.
Microsoft quiere tener el control. Quiere independencia y Suleyman tiene claro que la compañía también tiene la capacidad y la voluntad de parar si el riesgo es demasiado alto.
Por supuesto, no se está hablando de robots asesinos, pero sí de sistemas que pueden volverse imprevisibles o difíciles de controlar.
Suleyman defiende lo que llama una “superinteligencia humanista”. En pocas palabras, IA muy potente, sí, pero siempre al servicio de las personas. Nada de sistemas que tomen decisiones críticas sin control humano o que evolucionen por su cuenta sin límites claros.
“La puerta a una sociedad distópica se abre de par en par”
“Esta ola de IA puede ampliarnos, multiplicar nuestro poder, pero también crear un estado de vigilancia y control que limite la libertad personal”, comenta. “Estamos hablando de una recopilación masiva de datos, con tecnología que puede controlar cada aspecto de nuestras vidas. Eso puede producir un mundo donde la privacidad sea un lujo y la disidencia, imposible”, añade.
Eso sí, matizar que hasta él mismo reconoce que la idea de controlar cada detalle puede sonar exagerada, pero “solo es cuestión de tiempo hasta que estas ideas marginales se convertirán en políticas aceptadas, sobre todo cuando los riesgos de pandemias o escenarios tecnológicos se usan como justificación”.
Con esto como base, Suleyman insiste en que muchos gobiernos, especialmente los autoritarios, no dudarán en usar la tecnología para su beneficio, aunque eso signifique tirar por tierra libertades y privacidad de las personas..
“Cuando sientan que su autoridad está en juego, cuando el miedo domina, la respuesta será endurecer el control, confinar más, vigilar más. ¿A qué precio? Esa es la gran pregunta”, dice.
El siguiente paso ahora es crear una regulación global que englobe todos los aspectos de esta tecnología, desde la investigación hasta la aplicación final, ya que, la única forma de evitar que algo se escape al control es cerrar todos los huecos.
Con todo esto, se nota que empieza a haber un cierto cansancio con el discurso de “más rápido siempre es mejor”. El problema es que el mercado no suele premiar la prudencia. Sin embargo, en este caso, parece que ir con pies de plomo comienza a ser una urgencia que, al menos Microsoft, parece que ha comprendido.
