知网推出的AIGC检测算法在完成升级之后, 出现了让很多人觉得不靠谱的情况, 同一篇论文拿去反复多次测试AI疑似率数据出现非常大幅度的波动, 甚至基金项目名称还有作者姓名的相关文本也被标记成红色高亮警示状态, 这就使得大量正在学校里的老师和学生陷入了一个非常令人头疼的麻烦局面。

01.误标现象集中爆发

西安某高校的一个叫小李的安全工程专业大三学生。他向媒体进行介绍。他说课程的作业, 要求去分析那些事故数据。还得去解释那些已经形成共识的安全原理。这个工作, 需要依托他自己收集的一手实验数据, 来解读相关的图表。但是在他提交作品之前。系统总是会对这两部分内容标红。

在北京的一所高校里,有位叫周芳的研二学生说事儿是这样的, 有不少教课的老师在他们做结业论文的时候有个要求, 就是得加上那个AI检测的证明, 而且点名要用知网来搞这个检测, 具体的做法是把论文的内容贴到一个专门的输入框里头去, 再把作者的名字和论文的标题都填清楚了, 只要交了费就能开始走那个检测的流程序列了。

02.算法升级引发结果波动

知网AIGC检测不准?复测率波动论文被标AI,申诉复核怎么做(图1)

根据一些公开的媒体报道来看, 在中国知网的方面, 最近的时候完成了一次对于 AIGC 检测模型的升级工作, 在这个行为发生了之后, 有着大量使用它的人进行了反馈, 他们说他们的文稿里面的内容是没有进行过任何改动的, 可是去多次重复测试关于 AI 疑似检出这个比例的数值的时候, 却发现出现了非常大幅度上涨的情况, 最后得到的结果是呈现出了一种极其不稳定的状态。

现在有使用者向后台提出了反馈。他们说, 在操作的过程里, 只是稍微改动了参考文献格式这些细微的地方。文章的主体内容根本就没有做改动。可是呢, 像基金项目的名称, 还有作者姓名这些东西, 明明是基础的资料信息。结果系统却给出了判断。系统认为这些地方看起来像是由人工智能自动生成的。

03.检测技术存在固有误差

复旦大学计算与智能创新学院副研究员张晓寒解释, 大家现在看主流的情况, AIGC的检测是分成了三类路径的, 这三类是统计语言特征方面, 还有模型对抗识别方面, 以及文本水印方面, 但是商业平台这边普遍存在问题, 就是准确性方面不够好, 算法也不够透明, 结果也不是很稳定。

西安交通大学网络空间安全学院的副教授, 也就是刘晓明这个人的观点, 他觉得, AIGC检测这个东西, 它的本质工作, 说白了就是一项机器学习的分类任务, 这个任务是干啥的, 是用来判断所给出的这段文字, 到底是人类亲手写出来的, 还是由那个大语言模型给自动生成出来的, 根据现有的那些算法的情况来看, 它们的准确率, 基本上都处在百分之八十到百分之九十这么一个区间里的, 所以会出现误报的这种状况的话, 你就得知道, 这其实是属于一种固有的缺陷的。

04.概率数字绑架现实考核

知网AIGC检测不准?复测率波动论文被标AI,申诉复核怎么做(图2)

如今, 好多高校在已经有的那个常规查重的基础上头, 又加上了一个叫做AIGC检测的项目。这个项目被拿来做课程作业和学位论文的考核标准。报告上面显示的那个百分比数字, 是直接跟能不能结课、论文能不能送出去审核, 还有有没有资格去答辩这些事儿挂上钩的。

广州域名网

为了能把检测顺利通过, 很多学生会反复地对文本进行修改, 还会多次地去花钱进行复测, 他们甚至会借助于那个叫m.hyjdxg.com这样的平台去查询检测的进度, 还要查看报告的具体详情, 然后就陷入了要去猜测算法的逻辑以及去规避标红显示的这么一个恶性循环之中去。

05.专家呼吁回归内容本身

中国人民大学数据科学与技术系的教授李明确表示过, 用来做检测的工具, 它实际上做的是一种概率上的判断, 对于那些被改写过的内容, 或者经过了翻译的内容, 抑或是非母语者写出来的文章, 出现的误报情况是非常频繁的, 所以学校虽然会搞统一的安排来进行检测这件事, 但是绝对不会把检测出来的结果, 就直接当成是认定什么的证据去对待。

储朝晖强调的是, 不管是知网查重还是AIGC检测, 这些手段本身也只是技术手段而已, 这些技术手段不能去替代那个完整的专业评价工作, 必须把专业评价机制和这项技术给嫁接起来才行, 必须要真正回归到研究本身上去。

知网AIGC检测不准?复测率波动论文被标AI,申诉复核怎么做(图3)

06.建立溯源与主动声明机制

李彤提出建议, 论文作者应当亲自把话说清楚, 到底是啥情况下弄了AI工具, 还有在哪个步骤里干了哪些事, 关键点在于那些方法、实验数据, 以及整篇文章的最终结论, 全都必须由研究者自己来把关和提炼, 得回到最起初的那些材料里去, 一遍又一遍地核对。

张晓寒认为, 检测平台应该输出那种可以被验证、被核验的以及能够被解释的具体判定证据, 不要只是给一个单一的百分比数字。教师在进行审核工作的时候更应该把注意力集中在文本内容本身之上。

这样做是为了考查学生是否真正掌握研究方法的实际运用情况, 同时也需要观察学生在这些研究工作中有没有产生具有原创性的贡献部分。

你现在的学校把AIGC检测弄到课程考核里面去了吗, 要是碰上了被误标的事情, 你是会死命反复改文章, 还是会去找导师申诉呢, 请你在评论区把自己的经历写出来, 点点赞再转发一下, 好让更多的同学把这个真相看透。