学生与ChatGPT对话记录能预测成绩吗?两项数据集给出否定答案

一项基于 StudyChat 和 RECIPE4U 两个公开数据集的研究发现,学生与ChatGPT的对话记录在跨学生预测学业成绩时,几乎没有增量预测价值,历史成绩仍是极难超越的基线。

一句话看懂:一项基于 StudyChat 和 RECIPE4U 两个公开数据集的研究发现,学生与ChatGPT的对话记录在跨学生预测学业成绩时,几乎没有增量预测价值,历史成绩仍是极难超越的基线。

事件核心:发生了什么

2026年10月12日发布于 alphaXiv 的一篇论文,检验了学生与AI对话日志能否在已有学业成绩之外,额外预测学业结果与学习行为。研究使用两个公开数据集:StudyChat 包含181名本科生的16,851轮对话,RECIPE4U 包含130名英语学习者的1,913轮对话,并采用按学生分组的交叉验证与学生聚类自助法置信区间。

结果显示,在 StudyChat 的考试预测中,加入聚合后的对话行为特征后,解释方差比例从0.191降至0.161,变化为−0.030,95%置信区间为−0.052到−0.009,即预测反而变差。仅使用对话特征时,R²为−0.014,甚至低于仅截距模型。在 RECIPE4U 中,请求与回复特征对作文修改采纳的预测提升仅为0.025,未达到预设的“有意义提升”阈值。

为什么重要

这直接挑战了“聊天日志可支撑学习预警系统”的假设。论文强调,模型在已观察学生中看似有预测力,不代表能泛化到新学生,而新学生恰恰是预警系统真正要服务的对象。作者认为,结果提示在未经严格样本外验证前,不应部署基于AI对话日志的早期预警系统,历史学业表现仍是极难超越的基准。这一结论对教育科技公司、学习分析平台和学校采购方都有直接参考价值。

对用户/开发者/创作者的影响

对开发者而言,若产品计划用对话日志做学习分析或预警,需要先做严格的跨学生样本外验证,不能仅凭“看起来有信号”就上线。对教育机构和采购方,这意味着当前基于聊天记录的学业预测功能应保持谨慎,避免高估其准确性。对内容创作者和关注AI教育的人,这项研究也提醒:AI对话数据规模大,不等于预测价值高,聚合后的对话行为信息量可能非常有限。

GamsGo AI

AI 工具推荐

想把多个 AI 模型放在一个入口?

GamsGo AI 集成 ChatGPT、DeepSeek、Gemini、Claude、Midjourney、Veo 等常用模型,适合写作、绘图、视频和日常 AI 工作流。

了解 GamsGo AI

推广链接:通过此链接购买,我可能获得佣金,不影响你的价格。

值得关注的后续

目前公开信息仅为论文摘要与部分分析,后续可关注三点:该研究是否经过同行评审或正式发表;其他数据集或更细粒度的对话特征设计能否带来真正超过阈值的样本外提升;以及教育科技产品是否会因此调整学习预警的技术路线。

来源:alphaXiv

celebrityanime
celebrityanime
文章: 28948

发表回复

您的邮箱地址不会被公开。 必填项已用 * 标注