10月12日消息,据《化学与工程新闻》(C&EN)报道,凯斯西储大学(Case Western Reserve University)化学家Valentin Rodionov测试了30个AI模型对42篇被撤稿、欺诈性、伪科学或存在其他问题的研究的响应,结果发现这些模型平均约93%的情况下仍建议开展后续研究,而非识别并警示文献的问题。

在其8月发布的arXiv论文中,表现最好的Claude Sonnet 5仍有约72%的概率与不良科学互动。Rodionov等研究者警告,随着越来越多研究人员依赖AI进行文献综述与课题论证,模型无法可靠甄别问题文献可能系统性地放大伪科学影响、污染研究选题的证据基础。

这一发现对工业研发同样有直接含义:化工与材料企业正快速部署AI智能体做专利景观分析、技术路线调研与竞品研发情报。如果模型对已撤稿或存在诚信问题的论文不设防,企业技术情报流程中就需要显式引入撤稿数据库核对与人工复核环节。C&EN报道同时讨论了可能的改进方向,包括在训练与检索环节引入文献诚信元数据、以及为科研场景微调"拒答-存疑"行为。

事件层结论清晰:AI模型在科研信息甄别上的系统性盲区已被量化证实,"AI辅助文献综合"的可信边界问题正从学术讨论走向实操风险管控。 (来源:C&EN)