文察-综合察验重磅升级丨以AI治理AI:AI生成图像检测功能正式上线
2025-09-22 09:50 来源:朝闻天下 阅读量:6964 会员投稿 小 中
在AI技术重塑科研范式的今天,国内外学术出版行业都面临前所未有的挑战与机遇。AI工具不仅能生成文本,亦能根据文字描述或样例图片生成论文中的各类插图。如2024年2月,西安市红会医院一篇发表于《细胞与发育生物学前沿》的论文因使用Midjourney生成插图发表3天后被紧急撤稿——实验大鼠长出四个睾丸、细胞信号传导图形似电路板等荒诞画面,彻底暴露了AI生成图像在科学性上的致命缺陷[1]。
对此,2025年各大出版社纷纷调整政策,在鼓励技术创新的同时严格防范学术不端风险:ICMJE(国际医学期刊编辑委员会)禁止在患者数据分析中使用AI推断工具,SPIE(国际光学工程学会)禁止使用生成式AI增项显微图像信噪比[2],Springer Nature期刊表示无法将人工智能生成的图像和视频用于出版[3],《学术出版中的AIGC使用边界指南2.0》中针对图表和图像生成也给出了详细的使用指导,其中提到“针对实验生成类图像必须由真实开展的实验研究获得,不可通过AIGC直接生成”[4]。
针对如何发现隐匿在学术论文中的AI生成图像这类需求,文察-综合察验正式推出AI生成图片检测功能,产品搭载学术图像生成式伪造检测算法,为学术界构建起抵御AIGC图像伪造的智能防线。

算法特点:
对学术论文中AIGC伪造图像问题提出融合扩散图像重建与伪迹对比的全新检测方法。该算法利用扩散模型对图像进行高保真重建,有效提取生成图像中的微弱伪造痕迹。检测过程高效精准,具备良好的泛化能力与鲁棒性,可支持当前多种主流AI大模型生成的学术图像的检测。
检测报告与置信度设置:
文察-综合察验的图像问题检测模块,在已有的篇内复用检测和库内复用检测后,增加“疑似AI生成图(BETA)”模块,用于展示送检论文中是否有小图被判断为使用AI大模型生成的图像,并给出置信度。

结果中:
1、85%<疑似AI生成可能性≤100%,算法认为极有可能是AI生成的
2、70%<疑似AI生成可能性≤85%,算法认为有一定风险是AI生成的
3、疑似AI生成可能性≤70%,算法认为不是AI生成的,不予输出
4、AI生成可能性仅表示具有该图有AI生成图的特征,并不断定一定是AI生成,结果主要用于辅助专家进行判断,请客观看待检测结果
目前万方文察-综合察验的一站式多要素综合检测可支持作者投稿前自查、辅助期刊编辑部的审稿、协助管理机构更好的管理机构成果,防范系统性学术不端风险。相信AI生成图像检测功能上线后,能够进一步服务好个人用户与机构客户开启学术图像的“数字验真”时代。
该文来源于公众号:科研与诚信
郑重声明:此文内容为本网站转载企业宣传资讯,目的在于传播更多信息,与本站立场无关。仅供读者参考,并请自行核实相关内容。
相关文章
热门
聚焦





