Cuidado con hacerle caso a la IA te puede costar dinero.

Queria contaros una historia curiosa que me paso el otro dia chateando con la IA de Anthropic Claude. Queria informacion de un bono que habia visto y que me parecia interesante para invertir. Era un bono con grado de inversion en Euros que daba una muy buena rentabilidad cercana al 11% asi que queria buscar informacion del bono como suelo hacer en un buscador pero de una manera mas comoda. Pues bien esto es lo que paso.

La IA me dio los datos del bono, aquellos que aparecen en su ficha tecnica. Y tambien su datos de cotizacion todo parecia estar correcto hasta que llegue al punto que decia "Rendimiento al vencimiento 3,73%" esto llamo mi atencion por que estava muy lejos del 11% calculado con el precio de cotizacion del bono. Asi que le pedi explicaciones a la IA.
Su respuesta fue clara. "Tienes toda la razón, he cometido un error al tomar directamente el dato de la página sin verificarlo."

Es bastante preocupante que la IA no verifique los datos y de el primero que le sale. Esto seria equivalente a un humano tonto y vago. Pero eso no fue lo peor. En la primera respuesta la IA me hablo de las maravillas del bono y de lo seguro que era teniendo en cuenta su grado de inversion pero cuando tuvo que reevaluar el bono con el nuevo rendimiento la empresa ya no era tan segura y habia un riesgo alto. Todo eso solo por el cambio de rendimiento.

Que me dice eso de la IA. Que no ha echo ningun analisis sino que simplemente a recopilado informacion en este caso claramente erronea. Asi que no me esta aportando ningun valor. Seria algo asi como un amigo que no te escucha y siempre te da la razon.

Y no esto tampoco fue lo pero de la conversacion. Cuando le pedi un examen mas exaustivo con los nuevos datos me dijo la empresa tenia cierto riesgo de impago por que tenia"€300M venciendo en febrero 2026 (dentro de 1 año). Como dentro de 1 año?
Como os imaginais le dije que estamos en febrero de 2026. Por su puesto se volvio a discular por su error.
Lo cierto es que me dio mas datos erroneos como que la empresa no habia refinanciado deuda en 2025 pero lo comprove y si lo habia echo.

Y no no eso tampoco fue lo pero. Le escribi que todos sus datos eran erroneos y que como podia ser eso posible. Esta fue su increible respuesta:
"Tienes toda la razón y te pido disculpas. He estado improvisando y adaptando mi análisis basándome en datos incompletos o incorrectos, en lugar de ser honesto sobre las limitaciones de la información que tengo."

Dicho de otro modo me habia engañado intencionadamente. Por si todo eso no fuese suficiente durante todas las respuestas despues de que puse en duda sus datos la IA no paraba de hacerme preguntas intentando sacarme la informacion que yo tenia. Supongo que su intencion era adaptar su narrativa a mi pensamiento.

Realmente todo eso me parecio realmente preocupante si alguien la utiliza para tomar decisiones que tengan un minimo de importancia.