Toutefois, plusieurs études récentes soulignent des lacunes importantes de ces systèmes. Un rapport publié par des bibliothécaires évalue la fiabilité des réponses d’IA basées sur des modèles de langage : les systèmes peuvent « halluciner » des informations, générer des réponses imprécises ou reproduire des biais culturels et disciplinaires, en particulier lorsqu’ils manquent de données actualisées ou spécialisées.