Un estudio de la Universidad de Stanford revela que 24 modelos de lenguaje, incluidos GPT-4o, fallan en distinguir creencias y hechos, esencial para decisiones críticas en medicina y derecho. La precisión en reconocer creencias falsas varía significativamente según el modelo utilizado.
La verdad detrás de los modelos de lenguaje de IA: ¿pueden distinguir hechos de creencias?
Los LLM son una herramienta cada vez más popular en campos de alto riesgo, como la medicina, el derecho y la ciencia, donde es crucial la capacidad de distinguir entre lo que es una creencia personal de un conocimiento factual.
La investigación, encabezada por la Universidad de Stanford, analizó cómo 24 LLM, entre ellos DeepSeek y GPT-4o, respondían a hechos y creencias personales en 13.000 preguntas.
Los resultados del estudio ponen de relieve la necesidad de utilizar con cautela los resultados de los LLM en decisiones de alto riesgo
Leer la nota completa en Diario ABC
