专家研究称「经常如何使用生成式AI工具撰写论文会让人变蠢」,国外这份调研报告说清楚了

以下文章来自于丨新硅经常延毕的同学都知道,写论文最怕的当然是查重。自己辛辛苦苦拼写的论文,一看查重率,直接去翟天临微博下问候十几条评论。不过这问题自去年各种AI

以下文章来自于丨新硅


经常延毕的同学都知道,写论文最怕的当然是查重。自己辛辛苦苦拼写的论文,一看查重率,直接去翟天临微博下问候十几条评论。

图片

不过这问题自去年各种AIGC工具和软件出现以后,似乎就再没引起过讨论,早有知乎大V手把手教学如何使用AI降重。

图片

但AI的能力远不止降重这么简单,小到写一篇论文,大到通过司法考试,它都能做到。

沃顿商学院教授发现,ChatGPT在MBA课程运营管理中的考试成绩超过了不少学生。而能力更强的GPT4.刚发布时,就以平均分75的成绩通过了美国法考,超过了90%的人类考生。

面对拥有超能力的AI,大家也是来者不拒。有些人甚至直接用AI写的内容投稿,改都不改。

今年4月的一篇医学论文《成功治疗4个月大女婴的医源性门静脉及肝动脉损伤:病例报告及文献综述》中,直接出现了“我是一个AI大模型,所以没有真实的病人数据”这样的内容。

图片

但ChatGPT能力再强,其本质也只是对已有的内容进行模仿重复,用它来写论文和考试作弊没什么区别。不少期刊已经开始不鼓励或者拒绝AI生成的学术内容。

我国在学位法(草案)中明确写道,直接将人工智能代写论文定义为学术不端行为。

图片

但无论如何禁止学生使用AI写论文,总有人会冒险,只有让学生自发的,从心底里抗拒用AI作弊才行。

就像疫情期间为了让所有人都戴上口罩,专家跑出来说病毒会影响性功能一样。

图片

巴基斯坦国立计算机与新兴科学大学(2023年QS全球排名421)的学者Muhammad Abbas,另辟蹊径,做了个严谨的实验,试图证明用AI写论文会导致智商下降,让学生拒绝使用AI写作业。

图片

Abbas表示:“在过去一年里,我观察到我的学生们在完成我布置的各项作业和项目时,越来越多地、不加批判地依赖生成式AI工具。这促使我深入探究他们使用这些工具的根本原因和后果”。

该研究分为两个阶段进行。

首先,研究人员开发了一个变量表,用来衡量学生在学习上使用ChatGPT情况。

变量表的类目包括“我使用ChatGPT来完成课程作业”“我依赖ChatGPT来帮助我的学习”“ChatGPT是我校园生活的一部分”等。

这一块是想测量到底有多少学生会使用AI来完成学业,并且是否依赖AI。

图片

此表为了检测变量是否相关,简单来说就是作者在学术上为了证明这张表不是胡编的

第二阶段,研究者调查影响学生使用ChatGPT的原因,包括学术工作量、时间压力、对成绩的担心程度以及对内容质量的感知程度等。

测量后,研究者会评估使用ChatGPT对学生在拖延症、记忆力是否减退和学习成绩等方面的影响,并每隔一至两周进行复查。

图片

作者的研究模型

研究发现,高强度的学术工作量(H1)和时间压力(H2)是ChatGPT使用量增加的主要因素,这意味着在面临高学业负担和时间紧迫的情况下,学生更有可能求助于AI工具。

这很好理解,作业都快做不完了,AI这根救命稻草能抓牢还是要抓一下的,当然,也有可能是因为大学生天然就有拖延症属性。

而更担心成绩的学生则不太愿意使用

这是什么隔壁小孩式的发言?对于老师不允许做的事情,他们不敢越雷池一步。

有趣的是,研究并没有发现质量敏感性与使用ChatGPT之间的显著关系(H4),这表明学生对学术内容质量的重视程度并不一定会影响其使用AI工具。

也就是说,学生其实并不在意AI做出来的东西质量高不高,能交差就行。

图片

此表是呈现什么原因会导致学生使用ChatGPT,以及使用ChatGPT的后果

简单解释一下这张表(同下表),Path列代表路径,比如H1行中,学术工作量(Workload)会导致学生使用ChatGPT。

系数(Coefficient)代表两个因素之间的关系,以H1的0.133为例,代表学生的学术工作量越大,就越会使用ChatGPT。

T和P列,是为了在学术上证明这个研究假设在统计学上成立不成立。

其实!我们直接看最后一列Status就好了,统计量大小对于看乐子的我们没多大影响。

再来看一下,使用ChatGPT会对学生学习表现会造成什么影响(H5、H6、H7)。

一句话,研究发现使用ChatGPT对学生个人能力和学业成绩都会产生显著的不利影响。越依赖ChatGPT的学生,越容易拖延,记忆障碍也更频繁出现,并对学业成绩产生负面影响。

原因也很简单,不论AI给出的回答是好是坏,都让作业变得更简单了,全权交给AI完成,而不用自己的脑子思考,怎么还会有心思规划作业进度、复习知识点呢?

想想也是啊,反正作业考试都有AI帮忙,学生学习的时候也不会认真,课后也缺乏思考。

作者对学生使用ChatGPT的原因,以及对学业表现的影响做了更深度的分析。

图片

上边此表是呈现学生因为各种原因使用ChatGPT后,对学习表现的影响。

作者发现了一个连锁反应:那些被作业和时间紧迫感压得喘不过气来的学生,更容易一头扎进ChatGPT的怀抱,同时也更容易染上拖延的恶习。

这就像是开启了一个恶性循环,记忆力随之每况愈下,学习成绩自然也就一落千丈。

而担心成绩的学生则相反,他们不太使用ChatGPT,因此拖延和记忆力衰退的程度更低,但这种自我约束对学业成绩并没有显著影响。

既然作业多、时间紧,那是不是老师不布置那么多学业任务就好了?(这才是重点)

图片

看完后作者发现,这研究是针对学生的,打工人完全不用担心了?!

当然不是,Abbas表示:“普通人应该认识到过度使用生成式AI的阴暗面。虽然这些工具提供了便利,但它们也可能导致负面后果”。

图片

同月《神经心理学》杂志发表了一篇关于AI可能影响人类认知发展的论文,狠狠打了脸。

该论文的作者同样表达了对学生利用AI工具的担忧,“像ChatGPT这样工具的出现,让我担心学生可能会使用它来完成任务,从而阻止对认知功能的刺激”。

图片

作者提出了一个论点,AI可以充当“认知假体(cognitive prosthesis)。

即AI可以代表人类去执行认知任务,就像假肢替代失去的肢体一样,不仅仅包括计算、安排时间等简单任务,还扩展到了更复杂的认知功能,例如决策、解决问题等人类特有的能力。

短期来看,生成式AI增强决策的功能可以帮助个人更快更好做出选择,更专注于重要任务,但是长期来看可能会带来潜在风险。

关键问题就在于“认知卸载(cognitive offloading)”。

简单来说过度依赖AI会导致我们独立执行认知任务的能力下降。就像肌肉不锻炼会萎缩一样,人们不经常使用认知能力,它也会逐渐退化。

也就是说,如果人们不“卸载”,一直使用AI,是不是就不会有问题了?

总而言之,AI对于人类认知的影响可不单单作用在学业上,任何人过度使用AI工具的负面影响都不容小觑。自ChatGPT诞生之后,AI工具就已经成为了学生们的新型“学习伙伴”。

早在去年1月,根据美国在线课程供应商Study.com对美国的1000名18岁及以上的学生进行的一项调查,每10个学生中就有超9个知道ChatGPT,超过89%的学生承认使用ChatGPT来帮助完成家庭作业。让学生完全禁止使用AI工具似乎不太可能,面对AI的潜在风险,我们能做到也许只有保持自己的大脑不断运转。

想象中AI像个家庭教师,为每个学生提供个性化教学,但现实是,AI帮学生写作业。

当然,这两项研究告诉我们的不仅仅是学生该谨慎使用AI,而是我们每个人都要注意不能过分依赖AI。

别在AI替代人类之前,人类就已经成为了技术的奴隶了。

标签: AI论文 AI危机