
AI 和人类给论文评分的方式不同。两者各有优缺点。下面简要介绍一下:
-AI 速度快、表现稳定,语法检查能力也很强。它可以快速批改大量论文,保持评分标准一致,并找出语法和结构错误。
-人类更擅长理解语境、语气和创造力。他们能够把握复杂观点、文化暗示和原创性,并提供个性化反馈。
-AI 价格低廉,非常适合处理大规模评估,但人工评分可能带有主观性,也会受到疲劳或偏见的影响。
-最佳方法是什么?两者结合使用。AI 负责处理重复性任务,而人类则提供细致且富有层次的反馈。
快速对比
| 方面 | AI 评分 | 人工评分 |
| 准确性 | 在语法和结构方面表现出色 | 在创意和细微差别方面表现出色 |
| 一致性 | 自洽度超过 80% | 自洽度为 43% |
| 速度 | 每篇文章只需几秒 | 处理大量文章需要数小时 |
| 可扩展性 | 易于扩展 | 受人工能力限制 |
| 语境理解 | 有限 | 出色 |
| 费用 | 设置完成后成本较低 | 大规模评分成本较高 |
AI 与人工评分结合使用效果最佳,将效率与深度融为一体,从而提升文章评估质量和学生的学习效果。
评分准确性:AI 与人工判断
在评分方面,AI 和人类各有所长。研究显示,人类评分者只有一半的时间能够达成完全一致。AI 的准确性则会因评估类型而异。让我们一起来了解这两种方法的优势与局限。
人类能力:理解语境与细微差别
人类擅长理解学生写作中更深层次的内容。他们能够注意到复杂的观点,捕捉语气的细微变化,并理解 AI 可能忽略的文化暗示。这种能力让他们能够发现学生作品中的创意和新颖想法,帮助他们肯定巧妙的思考。
此外,人类非常善于洞察语境、运用已有知识,并重视前后一致的主题。这些能力帮助他们识别合理的精彩论点或独特方法。然而,人工评分也面临一些难题,例如培训不足、疲劳和偏见,这些因素有时会影响评分的可靠性。
AI 的优势:一致且精准
AI 系统在提供一致且基于规则的评估方面表现出色。它们尤其擅长检查语法、拼写、句子结构、相关性和论据支持。通过每次都采用相同的标准,AI 可以避免人工评分者可能存在的个人偏见。
AI 依靠数据进行分析,能够非常准确地发现语法错误、结构问题和格式错误——这些错误在长时间评分过程中可能会被忽略。AI 也更加稳定,在不同评分尝试中的一致率为 59% 到 82%,而人工评分者约为 43%。
不过,AI 在理解学生答案中的语境、语气和细微差别方面存在困难。它可能无法发现组织结构上的问题,也可能看不出某些独特却有效的方法。
准确性对比
让我们来看看 AI 与人工评分在不同方面的表现:
| 评分方面 | AI 准确性 | 人工准确性 | 主要区别 |
| 总体一致性 | AI 与人工评分者的一致率为 40% | 人工评分者的一致率为 50% | AI 经常给出中间分数(6 分制中的 2-5 分) |
| 语法与写作规范 | AI 的准确率为 85–98% | 人工评分的准确率会因疲劳而变化 | AI 更擅长基于规则的修正 |
| 文章问题 | AI 的准确率为 80–90% | 人工评分会因主观性而有所不同 | 人工评分更擅长主观评价 |
| 创意写作 | AI 的识别能力有限 | 人类具有较强的鉴赏力 | AI 难以识别原创性 |
| 语境理解 | AI 的表现较差 | 人类擅长解读 | 人类更能理解文化细微差异 |
关于 ChatGPT 的研究揭示了其评分机制。在一项研究中,ChatGPT 的文章评分有 89% 的时间与人工评分者相差不超过 1 分。但在测试不同类型的文章时,这一比例降至 76%。在 1-6 分的评分标准下,ChatGPT 的平均得分比人工评分低 0.9 分。此外,研究还发现 ChatGPT 可能存在偏见:与人工评估者相比,它给亚裔/太平洋岛民学生所写文章的评分更低。
考虑准确率时,AI 和人工评分各自在特定情境下展现出明显优势。AI 擅长依据明确标准进行客观评估,而人工评分者更擅长需要结合上下文理解和细致判断的主观评价。
评分的一致性
以相同方式评估大量文章并不容易。将 AI 与人工评分者进行比较,可以看出两者之间的明显差异。准确率考察的是每篇文章是否获得了正确的分数;一致性则关注在不同时间、针对不同文章,是否始终采用相同的规则。下面来看看人工评分为何困难,以及 AI 如何解决这些问题。

人工评分的挑战:疲劳与个体差异
文章评分者往往很难始终保持评分公平,尤其是在需要阅读大量文章时。疲劳是导致评分不公平的重要原因。研究表明,评分者感到厌倦时,往往会给出更低的分数。即使是经验丰富的教师,也可能因为看法不同或存在潜在偏见,而对同一篇文章给出不同分数。字迹是否工整、学生的英语水平等因素,也可能在无意中影响评分,降低评分的可靠性。
使用评分标准可以帮助提高评分一致性,使其从约 30% 提升至最高 90%。但即使有评分标准,评分者仍可能感到疲劳,并作出主观判断。与人类不同,AI 系统不会面临这些问题,能够提供更加稳定的评分方式。
AI 的优势:始终如一的评分标准
GPT-4 等 AI 系统在保持评分一致性方面具有显著优势。GPT-4 的自我一致性超过 80%,表现远超一致性仅为 43% 的人工评分者。AI 不会像人类一样感到疲劳或注意力下降,因此能够确保早上评分的文章与稍后评阅的文章获得相同分数。GPT-3.5 的稳定性略低,但根据设置不同,其一致性仍可达到 59% 至 82%。
AI 还非常擅长遵循评分标准,确保对大量文章采用一致的评分方式。这使 AI 特别适合处理对一致性要求很高的大规模评估。
可靠性数据对比
下图展示了人类和 AI 系统在评分一致性方面的差异:
| 评分方法 | 自我一致性比率 | Kappa 系数 |
| 人工评分者 | 43% 完全匹配 | 0.73–0.79 |
| GPT-4(低温度) | 超过 80% 完全匹配 | 0.84–0.88 |
| GPT-4(高温度) | 超过 80% 完全匹配 | 0.76–0.80 |
| GPT-3.5(低温度) | 约 60% 完全匹配 | 0.59–0.63 |
| GPT-3.5(高温度) | 约 60% 完全匹配 | 0.46–0.74 |
数据清楚表明,GPT-4 等 AI 系统在内部评分一致性方面高于人工评分者。然而,需要指出的是,在直接与人工评分进行比较时,人工评分者彼此之间的意见通常比 AI 与人工评分之间的一致性更高。这意味着,虽然 AI 善于坚持自身的评分标准,但这些标准可能并不符合人类的偏好。
人工评分的一大问题是不同评分者之间缺乏一致性。学生的分数可能会因评分者不同而大幅变化,这在重要的考试场景中引发了公平性担忧。相比之下,AI 系统能够以更加稳定、一致的方式评分,减少这种差异。不过,AI 与人工评分标准之间的差异仍需要进一步研究。
速度与规模对比
AI 只需几秒钟就能检查作文,而人工评分往往需要耗费数小时。这一变化正在改变学校和考试机构批改大量学生作文的方式。
作文评分速度
想想看:一名教师要为 6 个班级的作文评分,每班 25 名学生,可能需要 50 个小时才能完成。相比之下,AI 几分钟内就能完成这项工作。例如,先进的 AI 工具可以在 2 秒或更短时间内给出分数。像 EssayGrader 这样的工具,甚至能在不到 2 分钟内批改整个班级的作文。
一些系统(如 AES 软件)效率极高,仅需 20 秒就能批改 16,000 篇作文。与传统人工方式相比,这能将评分时间缩短 80%。在需要快速批改大量作文的标准化考试中,这种速度有助于按时完成任务,同时避免影响评分流程。
纽约大学教授 Kwame Anthony Appiah 表示,评阅论文所节省下来的时间可以更有效地用于其他用途,尤其是那些能让学生受益的事情。他指出:“以真正有助于学生的方式使用 AI,并不虚伪。”
速度提升不仅能节省时间,还能大幅降低成本,让大规模评估更易于开展。
成本考量
人工批改作文需要经过培训的人员、周密的安排以及持续的质量管理,随着作文数量增加,成本也会不断上升。但 AI 系统一旦完成设置,无论检查多少篇作文,成本都能保持稳定。这些系统可以处理大量作文,而不会增加额外成本。
对于大型考试、全校范围的评估以及拥有大量学生的大学课程而言,这种成本优势尤其重要,因为依靠人工评分的费用会非常高。AI 通过缩短评分时间,让教师能够专注于真正重要的事情:教学和为学生提供一对一的帮助。这不仅能提升教师的工作满意度,还能减轻长时间批改作业带来的负担,帮助避免职业倦怠。
应对大规模任务
除了速度和成本之外,AI 在规模化处理方面也表现出色。它能够轻松扩展规模,因此在大型教育环境中不可或缺。人工评分者在长时间评分后会感到疲惫,出错的次数也会增加。但无论评分的是第一篇作文还是第一万篇作文,AI 都能保持一致的评分方式。
IntelliMetric 会分析学生写作中的 400 多个部分,即使面对巨大的工作量,也能提供稳定的结果。这对考试群体、大型学区和在线学习平台至关重要。edX 首席科学家 Piotr Mitros 表示:
“机器无法提供详细反馈。学生也不一定能准确评价彼此。教师会感到疲惫,批改的论文太多时还可能出错。”
AI 可以帮助学校更频繁地测试学生。学校可以定期布置写作任务,而不会让教师不堪重负,让学生获得及时反馈并进行更多练习。AI 负责评分后,教师就能专注于教学和指导,从而提高工作效率。
对于每年需要进行大量考试的学校而言,AI 能提供保持评分标准稳定并按时完成任务所需的速度和可靠性,而仅靠人工评分很难做到这一点。
反馈对学生学习的影响
反馈会影响学生如何提升写作能力。无论反馈来自 AI 还是人工,它都会对学习产生影响。AI 能提供快速、基于规则的评论,而人工则能给出量身定制的建议。反馈的质量决定了学生进步的程度,需要在准确性与个性化帮助之间取得平衡。这些差异体现了两种方法如何分别促进写作能力的发展。
人工反馈:细致且个性化
人工提供反馈时,往往能够做得更好。反馈不仅准确,还富有帮助且更具亲和力。即使学生的写作并不完美,教师也能理解他们想表达的意思。研究表明,人工反馈通常比 AI 更有效,既能帮助学生了解需要修改的地方,也能解释为什么需要修改。对于高水平学生来说,这一点尤其重要,因为人工反馈能够提出更高要求,帮助他们理清简短或含糊的想法。与教师之间的联系也能持续激励学生,尤其是在写作遇到困难时。
AI 反馈:快速且实用
AI 系统擅长提供即时的、基于规则的反馈。在基于标准的评估中,AI 的平均得分通常比人工高 0.24 分。它们非常适合发现语法错误、结构问题和引用错误等技术性问题。例如,Bypass Engine 提供句子自动补全、文本改进和高级抄袭检测等功能。这让学生在提交作业前,就能即时获得有关原创性和格式的反馈。
Hwang 及其同事在 2023 年开展的一项研究发现,学习英语作为外语(EFL)的本科生借助 AI 反馈工具提升了写作能力。该工具通过提供个性化反馈,帮助学生修改和编辑文章。然而,AI 并不完美。它在处理高质量作文时存在困难,因此高水平写作者可能无法获得足够细致的建议。亚利桑那州立大学写作专家 Steve Graham 指出,AI 反馈带来的结果不一:
“它比我预想的要好,因为我原本没想到它会这么出色。它并不总是完全准确,但有时确实恰到好处。”
持续提升写作能力
通过持续练习,AI 和人工反馈都能帮助提升写作能力。两者分别关注写作的不同方面,帮助学生逐步进步。AI 反馈会根据每个人的写作方式进行调整,提供快速建议,让学生能够即时修改并学习。由于随时可用,学生无需等待教师,就能进行更多练习。
在 Ivy Tech Community College,AI 技术展现了强大的能力,仅用两周就找出了 16,000 名可能遇到学习困难的学生。借助这些信息,学校及时提供帮助,最终其中 98% 的学生至少取得了 C 级成绩。不过,教师也提醒不要过度依赖 AI。Steve Graham 担心,学生可能会使用 ChatGPT,不只是寻求建议,还会让它代替自己进行思考和写作:
“我最大的担忧是,它最终会取代写作者。他担心学生不只是用 ChatGPT 获取反馈,还会依赖它来思考、分析和写作。这对学习没有好处。”
结合不同类型的反馈能带来最佳效果。研究表明,将 AI 评论与人工审核相结合,可以让反馈更快速,也更具针对性。这种平衡能帮助学生提升技术能力和批判性思维,为他们在学校和未来生活中的长期成功做好准备。
将 AI 与人工评分结合起来,能够发挥两者各自的优势。AI 擅长精准识别语法和结构等技术细节,而人工则能深入理解主题和上下文。两者结合,可以打造兼具效率与全面性的平衡评分体系。
在两者的共同作用下,AI 负责语法检查等重复性任务,教师则提供个性化反馈和细致评估。这种组合既能弥补 AI 在创造力和细微差别理解方面的不足,也能减少人工因疲劳或偏见而产生的偶发错误。
当 AI 作为初步评估者介入时,协作的优势就能充分体现出来。AI 可以快速分析初稿,指出技术性问题,推动学生进一步完善写作。随后,教师则能专注于培养批判性思维和创造力等能力。来自加州大学欧文分校的 Tamara Tate 指出:
“很多学生会跳过修改环节。能让他们重新审视自己的作品,就是一种胜利。”
像 Bypass Engine 这样的工具展示了这种协作方式如何取得成效。它们提供句子自动补全、文本优化和抄袭检测等功能。这些平台负责技术层面的审核,让教师能够专注于培养学生的分析和批判性思维能力。
数据也显示了这一策略的优势。AI 系统能够提供稳定的结果,而人工评估者在分析深度(人类 4.2 分,AI 3.1 分,满分均为 5 分)和观点原创性(人类 3.9 分,AI 2.7 分)等方面表现更好。
作文评分的未来在于这种平衡的方法。AI 的高效性与人类的洞察力相结合,打造出一个不仅准确、一致,也能真正助力学生学习进步的评分体系。

常见问题
将 AI 与人类结合,如何提升作文评分效果?
将 AI 与人类结合,可以同时发挥技术和人工判断的优势,从而提升作文评分效果。AI 速度快、准确度高,能够迅速反馈语法和结构等问题。它还能无偏差地检查作文是否符合评分标准。
另一方面,人类更擅长理解语境。他们能够评估创造力、语气和复杂观点,而这些正是 AI 难以判断的方面。两者结合后,AI 负责简单且重复的工作,让人类专注于更棘手的部分。这种协作不仅能让评分更加准确,还能为学生提供有助于提升写作能力的反馈。
AI 评分作文时存在哪些主要偏见和局限?我们该如何解决?
用于作文评分的 AI 系统并非完美无缺。它们可能存在影响学生作品评估效果的偏见和局限。例如,人口统计偏见可能导致系统根据学生的背景给出不公平的分数,进而加剧教育不平等。此外,这些系统往往难以准确区分优秀作文和质量较差的作文,导致评分无法真实反映学生的能力。
为了解决这些问题,我们可以采用“人在回路中”的方法。在这种模式下,教师会审核并调整 AI 的评分,确保结果公平且准确。此外,通过持续更新算法,开发者可以减少偏见,帮助系统更好地评估作文。
AI 作文评分会如何改变教师和学生的学习方式?
AI 作文评分可以让评分工作更轻松、反馈更具针对性,从而重塑教学与学习方式。对教师而言,它能节省评分时间,让教师更好地指导学生并提供更个性化的帮助。对学生而言,他们可以更快获得反馈,这有助于鼓励他们更经常地写作,并随着时间推移提升写作能力。
不过,过度依赖 AI 可能会让教师难以发现学生独特的进步或面临的困难。要找到合适的平衡,AI 应该辅助教师,而不是取代教师。这种协作能够维持牢固的师生联系,并确保学生获得成长所需的支持。


