Los sistemas de inteligencia artificial generativa que responden preguntas funcionan sobre un principio más simple de lo que sugiere el resultado: predicen cuál es la continuación más probable de un texto, palabra por palabra, a partir de los patrones que aprendieron durante el entrenamiento.
Esa mecánica explica su mayor limitación. El modelo no consulta una base de datos ni verifica si lo que dice es cierto: produce la continuación que resulta estadísticamente plausible, y una afirmación falsa puede ser perfectamente plausible desde el punto de vista del lenguaje.
Por qué suena tan seguro cuando se equivoca
El tono de certeza es parte del estilo aprendido, no un indicador de confiabilidad. Un dato inventado se presenta con la misma seguridad que uno correcto, y ahí está el riesgo práctico para quien lo usa sin verificar.
Las técnicas que reducen el problema —conectar el modelo a fuentes externas, citar documentos, acotar el dominio— mejoran mucho el resultado pero no lo eliminan.
La recomendación transversal de los especialistas es tratar la salida como un borrador que requiere verificación, no como una fuente.