AI检测AI:“矛”更利还是“盾”更坚
近年来,人工智能技术推动生产力快速发展,但同时也因技术滥用导致各种问题。
为监督AI技术使用,如今市面上不乏各类用于检测AI生成内容的工具,如普林斯顿大学学生开发的GPTZero、斯坦福大学研究团队推出的DetectGPT等。我国一些研究团队也陆续发布各类检测工具,如西湖大学文本智能实验室研发的Fast-DetectGPT。
人类的创作与AIGC之间存在哪些差异?AI检测工具如何根据差异进行识别?AI检测工具如何应对越来越聪明的大模型?带着这些问题,记者采访了有关专家。
AI创作套路化明显
“虽然大模型在不断发展迭代,但到目前为止,AIGC与人类的创作在用词用语、逻辑语法等方面依旧存在明显区别。”Fast-DetectGPT研发者之一、西湖大学文本智能实验室博士生鲍光胜说。
在用词用语上,AIGC有相对固定的偏好。“不难发现,一些词语会反复在语段中出现。”鲍光胜举例说,有研究发现,大模型应用于英语学术论文写作时,“delve”一词的使用频率大大提高,这是因为大模型习惯用这个词对语句进行润色修改。
在逻辑语法上,AIGC惯常使用的一些语法搭配方式,在人类创作中可能并不常见。“受模型建模的影响,AIGC有相对固定的行文逻辑和表述模式,且这些模式会不断地被重复。人类在行文上则更为灵活,没有固定套路。”鲍光胜说。
北京大学信息管理系师生比较了AI生成与学者撰写的中文论文摘要。研究结果同样显示,AI生成的摘要具有较高同质性和较强写作逻辑性,并惯用归纳总结等学术话语体系;学者撰写的摘要则具有显著个性化差异,使用凸显实际含义的搭配较多,并常用与国家政策密切相关的词语。
哈尔滨工业大学一名研究生向记者讲述了他使用大模型的实际感受:“当我给大模型提供一些材料让它扩写,它每次都用相同的套路——把给定的材料拆解开,分为若干点论述。总体来说感觉它写得比较‘僵’。”
AIGC相对套路化的创作,可能会影响人类的用语习惯。“随着越来越多人用AI创作或润色文字,人类会受到潜移默化的影响,这或将影响整个社会对语言的使用。”鲍光胜说。
三种路径识别文本
如何准确识别AI生成内容?鲍光胜介绍,目前主要有三种技术路径进行检测,分别是模型训练分类器法、零样本分类器法、文本水印法。“三种检测方法本质上都是利用AI检测AI,且各有优劣。”鲍光胜说。
模型训练分类器法,首先要收集大量人类创作内容与AIGC,然后以此为基础训练一个能区分两类内容的分类器。“这是目前被广泛使用的一种方法,但缺点较为明显。”鲍光胜解释,用于训练分类器的数据有限,很难覆盖所有类型和语言的文本。分类器在训练数据覆盖的文本领域或语言上检测准确率较高,反之准确率则较低。而且,模型训练往往需要较高成本,数据规模越大,训练成本越高。
相比之下,零样本分类器法不需要对机器进行训练,也无需收集数据。它利用已训练好的大模型,抽取语言模型生成文本的特征,据此来区别人类与机器。“似然函数是零样本检测法中比较常用的基准之一,它可以简单理解为一段文本在某个模型的建模分布中出现的概率。概率是一种特征,不同的概率体现了人类创作内容与AIGC的差异。”鲍光胜进一步解释,“零样本分类通过综合考虑多种函数特征来区分人类创作内容与AIGC。”
如今,很多大语言模型几乎覆盖了互联网上的全部数据。因此,相比于模型训练分类器,零样本分类器在不同领域、不同语言的文本上表现较为一致。
不过,零样本分类器也存在明显缺点。一方面,现有零样本分类器依赖生成文本的源语言模型进行检测,这意味着如果是未知源模型生成的文本,分类器就无法准确检测。另一方面,为提高检测准确率,零样本分类器往往需要多次调用模型,这增加了模型的使用成本和计算时间。
“文本水印法则是一类‘主动方法’。区别于前两类方法,它不是检测已生成的文本,而是在AI生成文本时加入水印。人类虽然看不出这些水印,但却能通过技术手段检测出来。”鲍光胜说,文本水印法的准确率较高,但缺点在于水印可能被人为弱化甚至移除。此外,对于无法访问模型内部结构的大语言模型,技术人员可能无法在生成内容时成功加入水印。
检测技术需不断改进
“未来,我们要不断更新、完善现有技术,力争实现快速、准确、低成本检测,在大模型这把‘矛’越来越锋利的同时,让检测技术这面‘盾’更为坚固。”鲍光胜说。
记者了解到,为提升检测准确性,目前市面上的商用AI检测软件大多融合了多种技术手段。国内外研究团队也在进一步完善相关技术。
例如,西湖大学文本智能实验室团队在DetectGPT基础上研发的Fast-DetectGPT模型,可提升AI检测准确性,缩短检测时间。“Fast-DetectGPT与其他零样本分类器原理一致。其中一个创新点在于,我们提出通过条件概率曲率指标进行检测。”鲍光胜说,“与DetectGPT相比,Fast-DetectGPT在速度上提升340倍,在检测准确率上相对提升约75%。”
对AI检测AI的前景,有两种截然不同的观点。一种观点认为,未来AIGC将会与人类创作极为相似,以至于检测工具无法判别。还有一种观点认为,随着技术发展,检测技术或将赶超大模型技术,实现对AIGC的有效识别。
郑重声明:此文内容为本网站转载企业宣传资讯,目的在于传播更多信息,与本站立场无关。仅供读者参考,并请自行核实相关内容。
相关
-
看似很贵实则亲民!吉利银河E5同级“纯电三好SUV”最近,被业界誉为“最美A级纯电”的“纯电三好SUV”——吉利银河E5完成首秀。它的到来为自主品牌带来一款强有力产品,这款车不仅满足国内市场的多样化需求,还面向全球市场,是当之无愧的全球品质。新车将定位15-20万价位区间,将对主流A级纯电S...2024-08-16 07:48:08
-
JeepWagoneerSTrailhawk概念车发布今日,Jeep品牌发布JeepWagoneerSTrailhawk概念车,向世人展示越野驾驶艺术的无限可能。这款硬派纯电动概念SUV不仅能在平坦的铺装路面上惬意驰骋,还能轻松驾驭各类复杂越野地形,充分彰显STLALarge平台和JeepWa...2024-08-16 06:25:28
-
途昂X2024出众款降维打击,引领年轻消费新潮流在当今日汽车市场中,消费者对于汽车的需求已不再仅限于基本的代步功能,而是更加注重车辆的舒适性、动力性和智能科技配置。途昂X2024出众款作为一款全尺寸豪华大5座SUV,凭借其大空间、强动力、高智能的卓越性能,成为年轻消费者关注的焦点。 途...2024-08-16 04:48:47
-
星海V9:豪华智电MPV的领航者,重新定义家庭出行!在新能源的大潮中,一款名为星海V9的豪华智电MPV,如同一颗璀璨的星辰,划破了夜空,照亮了豪华车市的新篇章。东风风行,这个有着悠久历史的车企,以其深厚的底蕴,推出了这款集豪华与智慧于一身的旗舰车型,预售价19.99万起,正式宣告其在新能源M...2024-08-16 03:20:26
-
步道贯通、居民共治,浦东为“陆家嘴水环”出了一份管理规定2024年8月15日是第二个全国生态日,当日,上海《浦东新区陆家嘴水环管理若干规定》正式实施。根据这一规定,今年6月全面完工的浦东新区生态领域重大民心工程——陆家嘴水环项目管理将“有法可依”。 澎湃新闻记者了解到,陆家嘴水环全线12.5公...2024-08-16 02:44:48
业内
推荐
头条
- 奇瑞放大招!星纪元ET18.98万起,8
星途星纪元ET,作为奇瑞高端新能源的第二款车型,近日已正式上市。 这款中大型S……
- 北美汽车工厂告急:产能利用率将不足三分之
由于汽车制造商向电动汽车转型的不均衡、纯电动汽车需求的不确定性以及美国汽车工人联……
- 新华全媒+多民族“大家庭”的安居——广西
夜幕降临,在广西壮族自治区靖西市新靖镇的易地搬迁安置区,康城社区“老乡家园”的一……
- 比亚迪皮卡BYDSHARK墨西哥上市,开
墨西哥城璀璨之夜:BYDSHARK全球首发上市 5月14日,墨西哥城星光璀璨,……
- 零百5.7s,2024款影豹焕新升级,加
说起年轻人的第一台性能车,影豹必然是榜上有名。凭借触手可及的价格和表里如一的性能……
- 奥迪与上汽启动智能数字平台合作
奥迪汽车与上汽集团近日正式宣布合作,共同启动了AdvancedDigitized……
- “微光聚炬·铸梦多彩”贵州省第二届社会主
由贵州省委宣传部、贵州省委网信办、贵州省广播电视局主办的贵州省第二届社会主义核心……
- 试驾奕派007:一窥东北豪情的最佳诠释
试驾奕派007,感受东北豪情! 各位老铁,今天咱来唠唠这辆奕派007,试驾过后……