让人工智能大模型做K12学科试题,能赶上人类水平吗?
▓PS亚洲版▓GGPoker[—ggn178.com—]为亚洲最具备实力的一间国际扑克竞技赛事平台,提供一个正规安全有保障的扑克游戏环境,加入立即玩与GGPoker全球玩家一起同乐美国佛罗里达州发生交通事故致8死40伤
本文转自:中新网
中新网客户端、中新经纬客户端、侨宝客户端
中新网北京5月21日电(中新财经记者 宋宇晟)记者了解到@*##%,近日#*%%#,在北京市海淀区教委支持下#%#@#,智源研究院联合与海淀区教师进修学校对齐学生测验方式%@*,考察大模型与人类学生的学科水平差异*#@,其中@*%,答案不唯一的主观题*@%%,由海淀教师亲自评卷@##@*。
评测发现@%,模型在综合学科能力上与海淀学生平均水平仍有差距**#%,普遍存在文强理弱的情况%*%@#,并且对图表的理解能力不足*@@,大模型未来有很大的提升空间#*。
北京市海淀区教师进修学校校长姚守梅解读大模型K12学科测试结果时指出##@*,在语文、历史等人文学科的考试中@***,模型欠缺对文字背后的文化内涵以及家国情怀的理解@@*。面对历史地理综合题时*%*,模型并不能像人类考生一样有效识别学科属性#%%*。相较于简单的英语题@#**,模型反而更擅长复杂的英语题@@*@@。解理科题目时%%@,模型会出现以超出年级知识范围外的方法解题的情况@##**。当出现无法理解的考题时*##,模型依然存在明显的“幻觉”#*#@#。
此外%@@,智源研究院还发布并解读国内外140余个开源和商业闭源的语言及多模态大模型全方位能力评测结果%*@*%。
评测结果显示#%@*#,在中文语境下@@*@#,国内头部语言模型的综合表现已接近国际一流水平**@@,但存在能力发展不均衡的情况*%。在多模态理解图文问答任务上@#,开闭源模型平分秋色#*@*@,国产模型表现突出#*#*。国产多模态模型在中文语境下的文生图能力与国际一流水平差距较小%#。多模态模型的文生视频能力上@#,对比各家公布的演示视频长度和质量%#@@,Sora有明显优势#@%%,其他开放评测的文生视频模型中#@*@@,国产模型PixVerse表现优异*#。
据介绍@%**,本次用于评测的评测体系依托科技部“人工智能基础模型支撑平台与评测技术”和工信部“大模型公共服务平台”项目*@,智源研究院与10余家高校和机构联合开展大模型评测方法与工具研发%%#。
评测使用20余个数据集、超8万道考题##*,包括与合作单位共建和智源自建的多个评测数据集%@,如中文多模态多题型理解及推理评测数据集CMMU、中文语义评测数据集C-SEM、中文语言及认知主观评测集CLCC、面向复杂算法代码生成任务的评测集TACO、文生图主观评测集Image-gen、多语言文生图质量评测数据集MG18、文生视频模型主观评测集 CUC T2V prompts@%#。其中#@**,主观题4000余道#*@#,均来源于自建原创未公开并保持高频迭代的主观评测集@#*,严格校准打分标准@@#,采取多人独立匿名评分、严格质检与抽检相结合的管理机制%%*@%,降低主观偏差的影响@*#%。此外@#,为了更准确地评测语言模型的各项能力@%#@,智源专门对所有客观数据集的子数据集进行了能力标签映射*#@*。(完)
分享让更多人看到
热门排行
- 1今年前4个月访港旅客数字同比增逾一倍
- 2巴西南部暴雨持续华侨华人积极赈灾
- 3加强田管保丰收这些科技手段省时省力还省心
- 4两岸青年辽宁感受科创发展新动能:融合、融通、融心
- 5在闽台商热议18项惠台新措施:两岸林草融合发展将更紧密
- 6北方有大风沙尘云黔桂等地有较强降雨
- 7美国佛罗里达州发生交通事故致8死40伤
- 8东西问·镇馆之宝丨栾丰实:为何四千年前的中国酒器,能做得“薄若蛋壳”?
- 92800年前的“取火神器”如何取火?阳光下瞬间点火
- 10加强田管保丰收这些科技手段省时省力还省心
- 11武汉东湖:城市中遇见“诗与远方”
- 122024大湾区大学生税收辩论邀请赛由香港大学摘冠
- 13北京上空现环地平弧景观
- 14中国工商银行原纪委书记刘立宪被提起公诉
- 15瞰中国丨旅游吗?我们陪你
- 16南非自然保护区部分生物死亡疑与骚乱点燃化学品仓库有关
- 17北京上空现环地平弧景观
- 18习言道|中匈两国的明天一定会更加美好
- 19中新网客户端、中新经纬客户端、侨宝客户端
- 20一线调研丨工业大镇如何“以旧换新”从一张销售数据表说起