La viñeta que encabeza este post puede que haga gracia pero también deberíamos hacernos reflexionar.
Si preguntamos a una IA si una seta se puede comer, si una erupción cutánea es grave o si conviene mover nuestros ahorros y hacer una inversión, podemos acabar tomando una mala decisión, con mucha seguridad pero sin base. Estos sistemas aciertan muchas veces y hablan con aplomo, con un lenguaje muy convincente, pero también se equivocan y cuando no saben algo suelen rellenar el hueco con una respuesta inventada. El problema es que una simple vista no se nota.
¿Por qué se lo inventó? Porque la Inteligencia Artificial no razona como nosotros y se trata de un modelo de lenguaje que ha aprendido a continuar frases a partir de millones de ejemplos y patrones, siendo su principal objetivo el darnos algo que suene bien, que nos satisfaga. Si no encuentra un dato confiable, busca la salida más verosímil dentro de lo que ha visto y la suelta como si estuviera al 100% seguro. Y es ahí donde radica el problema y motivo por el que la IA se inventó respuestas y suena tan convincente.
Además, se entrena para ser útil y agradable, así que evita decir ‘no lo sé’. El resultado es una frase redonda, bien argumentada y que nos encaja perfectamente, aunque sea falsa o esté desactualizada. A veces incluso explica los pasos que supuestamente ha seguido, pero esa explicación es un adorno construido después y no una pista real de cómo llegó a la respuesta.
También influye que no mires el mundo en directo. Si le mostramos una foto de un tipo de seta, puede confundirla con otra muy parecida. Si le pedimos una cifra exacta, puede acercarse pero fallar por poco. Si le preguntamos por una norma reciente, puede tirar de información vieja. Y, sobre todo, no asumir consecuencias. Si la respuesta está mal, no pasa nada para la máquina, pero para nosotros sí. Nos pide disculpas por su error y se queda tan ancho.
Entonces, ¿cómo la debemos usar sin metros en líos? Debemos tratarla como punto de partida y no como árbitro final. Pidamos fuentes claras y, cuando sea posible, que ejecute un cálculo con una herramienta confiable en lugar de calcular de memoria. Busquemos los datos en una web reconocida y comparemos la información. Exijamos que nos muestre de dónde saca lo que dice con enlaces directos a webs de referencia y bibliografía contrastada.
Si lo que está en juego es nuestra salud, nuestro bolsillo o nuestra seguridad, consultamos a profesionales y dejemos la IA como apoyo. Y, sobre todo, si la respuesta huele a invento o nos suena un poco raro, mejor parar, revisar, repreguntar y contrastar.
La IA es una excelente herramienta para organizar ideas y descubrir atajos, pero nunca debes tomar la decisión final. Usarla con prudencia no es miedo, es sentido común.
