让人工智能大模型做K12学科试题,能赶上人类水平吗?
▓NCBP国家杯2020▓GGPoker[—ggn178.com—]为亚洲最具备实力的一间国际扑克竞技赛事平台,提供一个正规安全有保障的扑克游戏环境,加入立即玩与GGPoker全球玩家一起同乐北京天空“绽放”绝美晚霞
本文转自:中新网
2024大湾区大学生税收辩论邀请赛由香港大学摘冠
中新网北京5月21日电(中新财经记者 宋宇晟)记者了解到%*#@@,近日@%%@,在北京市海淀区教委支持下%#@*,智源研究院联合与海淀区教师进修学校对齐学生测验方式##%%,考察大模型与人类学生的学科水平差异@@%,其中*%@*,答案不唯一的主观题*%,由海淀教师亲自评卷@#%。
评测发现#*@,模型在综合学科能力上与海淀学生平均水平仍有差距@%@@@,普遍存在文强理弱的情况%*,并且对图表的理解能力不足*%%,大模型未来有很大的提升空间*%**。
北京市海淀区教师进修学校校长姚守梅解读大模型K12学科测试结果时指出@@,在语文、历史等人文学科的考试中**,模型欠缺对文字背后的文化内涵以及家国情怀的理解%*。面对历史地理综合题时##%,模型并不能像人类考生一样有效识别学科属性@#%%。相较于简单的英语题%@,模型反而更擅长复杂的英语题%*#%。解理科题目时**%@%,模型会出现以超出年级知识范围外的方法解题的情况*@*#。当出现无法理解的考题时@#*,模型依然存在明显的“幻觉”#%。
此外@@,智源研究院还发布并解读国内外140余个开源和商业闭源的语言及多模态大模型全方位能力评测结果%@@@*。
评测结果显示*@@%,在中文语境下*%*,国内头部语言模型的综合表现已接近国际一流水平@%#@@,但存在能力发展不均衡的情况%@。在多模态理解图文问答任务上%**#*,开闭源模型平分秋色%*%@,国产模型表现突出#%#。国产多模态模型在中文语境下的文生图能力与国际一流水平差距较小@###*。多模态模型的文生视频能力上@#,对比各家公布的演示视频长度和质量@#,Sora有明显优势#@**,其他开放评测的文生视频模型中@***#,国产模型PixVerse表现优异#**。
据介绍##*,本次用于评测的评测体系依托科技部“人工智能基础模型支撑平台与评测技术”和工信部“大模型公共服务平台”项目%#,智源研究院与10余家高校和机构联合开展大模型评测方法与工具研发%#@。
评测使用20余个数据集、超8万道考题#%@%#,包括与合作单位共建和智源自建的多个评测数据集##%,如中文多模态多题型理解及推理评测数据集CMMU、中文语义评测数据集C-SEM、中文语言及认知主观评测集CLCC、面向复杂算法代码生成任务的评测集TACO、文生图主观评测集Image-gen、多语言文生图质量评测数据集MG18、文生视频模型主观评测集 CUC T2V prompts#**。其中%#,主观题4000余道##@*,均来源于自建原创未公开并保持高频迭代的主观评测集@**,严格校准打分标准%#%%@,采取多人独立匿名评分、严格质检与抽检相结合的管理机制%@,降低主观偏差的影响@@。此外*@@,为了更准确地评测语言模型的各项能力#@*#,智源专门对所有客观数据集的子数据集进行了能力标签映射%#。(完)
分享让更多人看到
热门排行
- 1东西问·镇馆之宝丨栾丰实:为何四千年前的中国酒器,能做得“薄若蛋壳”?
- 2中新教育|新一期新时代中小学名师名校长培养计划启动
- 3出租车市场“把门打开”值得尝试
- 4台湾青年与民族音乐同行:看见更立体广阔的世界
- 5红火蚁有啥危害,如何防治?看看专家怎么说!
- 62800年前的“取火神器”如何取火?阳光下瞬间点火
- 7巴西南部暴雨持续华侨华人积极赈灾
- 8支持民间投资开展新型基础设施建设运营深圳发布“促进民间投资20条”
- 9外媒:特朗普私人波音757飞机滑行时与一公务机剐蹭
- 10乡村如何让年轻人停留得更久
- 115月15日央行开展20亿元逆回购操作和1250亿元MLF操作
- 12【追光的你】这些中国青年“经典站位”,高燃又好哭!
- 13日本本州东岸海域强震多地停电震感强烈
- 14英摄影师捕捉三只鹿张望瞬间角度完美一致好似重影
- 15我国汽车出口前4月同比增逾33%
- 16“洋弟子”在中国走进“中国针灸城”看小银针里的大智慧
- 17【图刊】八一飞行表演队成立60周年“战鹰”铁翼正年轻
- 18中新教育|新一期新时代中小学名师名校长培养计划启动
- 19杭州西湖:多彩睡莲盛放
- 20杭州西湖:多彩睡莲盛放