De la fascinación al escepticismo: ¿cuándo dejamos de confiar en la IA?

Munar pronto empezó a detectar que, pese a su rapidez, las respuestas eran un poco previsibles y estandarizadas, y daba la misma información para preguntas que deberían tener matices distintos. También empezó a encontrar errores y “refritos” de contenido, hasta el punto de que ahora suele verificar dos veces la información. Para ella, la IA funciona mejor como herramienta analítica, pero falla cuando se trata de creatividad profunda o pensamiento genuinamente original. Cree que es útil para tareas sencillas, pero insuficiente para resolver problemas complejos. “Tengo mayor dependencia de uso, pero mucho más escepticismo que al principio”, resume.

Ese giro no es solo cultural. También empieza a medirse en términos organizativos. Un informe de la consultora UpSlide, basado en una encuesta a más de 500 profesionales de banca de inversión y asesoría en Estados Unidos y Reino Unido, concluye que la inteligencia artificial no está reduciendo la carga de trabajo global en estos sectores, sino desplazándola hacia los perfiles más experimentados.

El 83% de los encuestados, según el estudio, considera que el uso de estas herramientas incrementa la presión sobre los sénior, que deben revisar y validar los contenidos generados por la IA antes de entregarlos a los clientes. El 41% asegura dedicar más de 11 horas semanales a tareas de control de calidad vinculadas a sistemas generativos. Donde antes te podías fiar del becario o el profesional a tu cargo casi al 100%, ahora hay que revisar constantemente el trabajo de una IA que no sabes cuándo va a fallar.

La IA no tiene acceso al contexto completo, a la historia vital ni a las habilidades emocionales. No ve el lenguaje corporal, no detecta silencios ni contradicciones

Pese a los problemas detectados en entornos profesionales, la inteligencia artificial despliega su influencia con mayor intensidad fuera del trabajo, allí donde el nivel de conocimiento técnico es menor y la capacidad de contraste más limitada. En esos ámbitos, la herramienta puede convertirse en una cuchilla de doble filo: ayuda, orienta y ofrece respuestas inmediatas, pero también refuerza sesgos, simplifica realidades complejas y tiende a confirmar lo que el usuario quiere oír. Su diseño está optimizado para resultar útil y fluido, no para incomodar ni contradecir de forma frontal.

Ahorro de tiempo

María Dolores Delblanch, psicóloga con 18 años de experiencia clínica, utiliza la inteligencia artificial en su práctica profesional. Le resulta útil para elaborar tareas de activación conductual o estructurar planes de intervención que antes le llevaban horas. “Lo que antes podía llevarme dos horas, ahora lo tengo en diez minutos”, explica. Pide, por ejemplo, un programa para un paciente con depresión mayor o un esquema de intervención para un trastorno de ansiedad generalizada con rumiaciones obsesivas, y el resultado le parece “bastante aceptable”. Ahorra tiempo. Le permite centrarse en la parte más artesanal del proceso terapéutico.

El problema aparece cuando la herramienta salta de la consulta del profesional a la intimidad del paciente. Delblanch observa que algunos usuarios consultan a la IA antes o después de cada sesión. “Hay pacientes que conocen a alguien y le preguntan al chat: ‘¿Es la persona adecuada para mí?’. Y vienen diciendo: ‘Dolores, la máquina me ha dicho que sí’”. La psicóloga se pregunta en base a qué. La respuesta puede sonar empática, incluso convincente, pero no tiene acceso al contexto completo, a la historia vital ni a las habilidades emocionales del paciente. No ve el lenguaje corporal, no detecta silencios ni contradicciones.

Trata de dar la razón

El sistema tiende a dar la razón al interlocutor, según Delblanch. Si el usuario introduce la opinión de un profesional, suele reforzarla. Si después aporta una visión contraria, también intenta acomodarla. “Contesta siempre, aunque no sepa lo que dice”, resume. En situaciones límite —relaciones de posible maltrato, por ejemplo— esa inclinación a la validación puede resultar problemática. La respuesta empática puede interpretarse como aval. La misma ambivalencia aparece en contextos médicos. Sandra —nombre ficticio— empezó a usar ChatGPT tras recibir un diagnóstico de cáncer. Buscaba entender una enfermedad sobre la que apenas tenía información. El sistema le proporcionó explicaciones detalladas sobre tratamientos, quimioterapia y efectos secundarios.

En ese sentido, le resultó útil. “Me daba consejos prácticos sobre cómo prepararme física y mentalmente”, relata. La información le permitió anticipar procesos y comprender mejor las secuelas. Pero el acceso ilimitado a datos también tuvo un coste emocional. Las preguntas sobre porcentajes de curación o estadísticas de supervivencia la desestabilizaron.

La IA no es humana ni tiene un ‘yo’. No tiene conciencia subjetiva, ni sabe que existe

“Todo son números”, recuerda. La herramienta no pondera el impacto psicológico de esos datos ni conoce la fragilidad del momento en que se formulan. En su caso, llegó a generar preocupación en su entorno familiar. La experiencia de Sandra y la práctica de Delblanch dibujan el mismo contorno: la IA puede ser eficaz como apoyo estructural, pero no sustituye el juicio clínico ni el vínculo humano. Ayuda a organizar información, acelera procesos y democratiza el acceso al conocimiento. A la vez, puede simplificar en exceso, reforzar expectativas y ofrecer seguridad donde solo hay probabilidad estadística.

Así que la pregunta se desplaza hacia otro terreno: qué es realmente esta tecnología y cómo debemos usarla. La experiencia acumulada en estos dos años de adopción masiva parece estar enseñando algo más prosaico que las promesas iniciales. No estamos ante una mente autónoma que vaya a sustituir el juicio humano, pero tampoco ante una simple herramienta mecánica. Estamos aprendiendo, a base de prueba y error, para qué sirve y para qué no, en qué es útil y en qué puede resultar problemática. Guillermo Prado, ingeniero de prompts y experto en marketing, rechaza incluso la palabra “máquina” en su sentido clásico.

“Toda la vida hemos entendido que una máquina es algo predecible: sabes cómo están puestas sus piezas, le das a un botón y sabes exactamente qué va a pasar”, explica.

No sabe que existe

La IA generativa no encaja en esa definición. Funciona como una “caja negra”, asegura, porque procesa enormes volúmenes de datos y produce respuestas coherentes sin que el usuario pueda seguir el razonamiento interno.

Tampoco es humana. “No tiene un ‘yo’, no tiene conciencia subjetiva, ni sabe que existe”, sostiene. Para él, encaja en una tercera categoría todavía sin nombre: una inteligencia capaz de procesar patrones complejos y resolver problemas concretos, pero “vacía por dentro”.

Esa ambigüedad ha alimentado parte del debate cultural reciente. En un reportaje publicado en 2025, el periodista James Somers se preguntaba en The New Yorker hasta qué punto la “ilusión de comprensión” deja de ser ilusión cuando el sistema demuestra fluidez, capacidad de síntesis y aparente entendimiento.

El texto recogía la conversión de algunos científicos escépticos que, tras usar modelos avanzados, admitían que estos hacían cosas “muy parecidas a pensar”, aunque de una forma radicalmente distinta a la humana. El artículo no concluía que la inteligencia artificial tuviera conciencia, sino que obligaba a replantear qué entendemos por comprensión. Prado sentencia: “Tenemos que aceptar que hemos creado una entidad nueva y diferente y acostumbrarnos a vivir con ese ente. Ese va a ser el verdadero reto de nuestra época”.