让人工智能大模型做K12学科试题,能赶上人类水平吗?
▓WSOP金手链得主▓GGPoker[—ggn178.com—]为亚洲最具备实力的一间国际扑克竞技赛事平台,提供一个正规安全有保障的扑克游戏环境,加入立即玩与GGPoker全球玩家一起同乐中国工商银行原纪委书记刘立宪被提起公诉
本文转自:中新网
中国科学家颜宁荣获2024年世界杰出女科学家奖
中新网北京5月21日电(中新财经记者 宋宇晟)记者了解到*@#,近日##%@,在北京市海淀区教委支持下#%#,智源研究院联合与海淀区教师进修学校对齐学生测验方式#%%*@,考察大模型与人类学生的学科水平差异##,其中#*@%*,答案不唯一的主观题#@,由海淀教师亲自评卷*****。
评测发现@*,模型在综合学科能力上与海淀学生平均水平仍有差距%@,普遍存在文强理弱的情况@*@*,并且对图表的理解能力不足%*@,大模型未来有很大的提升空间@@@#%。
北京市海淀区教师进修学校校长姚守梅解读大模型K12学科测试结果时指出#%,在语文、历史等人文学科的考试中%#@@,模型欠缺对文字背后的文化内涵以及家国情怀的理解%%*%。面对历史地理综合题时#%@@,模型并不能像人类考生一样有效识别学科属性%%*。相较于简单的英语题#@**,模型反而更擅长复杂的英语题@%。解理科题目时*#,模型会出现以超出年级知识范围外的方法解题的情况*@@。当出现无法理解的考题时%%*,模型依然存在明显的“幻觉”*@*。
此外*%,智源研究院还发布并解读国内外140余个开源和商业闭源的语言及多模态大模型全方位能力评测结果#%@。
评测结果显示#%%#,在中文语境下%@**@,国内头部语言模型的综合表现已接近国际一流水平@#@@,但存在能力发展不均衡的情况*@**@。在多模态理解图文问答任务上*%,开闭源模型平分秋色%#,国产模型表现突出@#。国产多模态模型在中文语境下的文生图能力与国际一流水平差距较小@%@%*。多模态模型的文生视频能力上*%@#*,对比各家公布的演示视频长度和质量%***,Sora有明显优势@%*,其他开放评测的文生视频模型中#@#*%,国产模型PixVerse表现优异%@%。
据介绍%@@,本次用于评测的评测体系依托科技部“人工智能基础模型支撑平台与评测技术”和工信部“大模型公共服务平台”项目@*@,智源研究院与10余家高校和机构联合开展大模型评测方法与工具研发@#@@%。
评测使用20余个数据集、超8万道考题@*##*,包括与合作单位共建和智源自建的多个评测数据集@#,如中文多模态多题型理解及推理评测数据集CMMU、中文语义评测数据集C-SEM、中文语言及认知主观评测集CLCC、面向复杂算法代码生成任务的评测集TACO、文生图主观评测集Image-gen、多语言文生图质量评测数据集MG18、文生视频模型主观评测集 CUC T2V prompts#@##*。其中@#%%,主观题4000余道@#@,均来源于自建原创未公开并保持高频迭代的主观评测集##*,严格校准打分标准#%*,采取多人独立匿名评分、严格质检与抽检相结合的管理机制@@%@,降低主观偏差的影响**@#。此外*@%*%,为了更准确地评测语言模型的各项能力@*,智源专门对所有客观数据集的子数据集进行了能力标签映射**#%。(完)
分享让更多人看到
热门排行
- 1拜登和特朗普各自赢得2024年总统选举马里兰州党内初选
- 2东西问·中外对话|为何说朔尔茨访华,是“明智的选择”?
- 3中新网原创专题节目《中国新视野》
- 4曲云海任中国邮政集团有限公司党组成员、副总经理
- 5歌手首战怎么看待老外赢麻了
- 6比亚迪回应车辆漏电致人住院
- 7中式婚礼在西班牙走红“解锁”穿越千年的浪漫
- 8俄总统普京签令批准新政府组成名单
- 9中国经济再获“信任票”
- 10拜登和特朗普各自赢得2024年总统选举马里兰州党内初选
- 11【图刊】回顾冬残奥会中国军团的金牌时刻
- 12比亚迪回应车辆漏电致人住院
- 13习言道|欢迎匈牙利成为中国式现代化道路上的同行者
- 14定了!马龙第四次出征奥运会
- 15【澜湄印象】2024年1至4月中老铁路累计运输货物655万吨
- 16(高质量发展调研行)瞄准新型储能万亿赛道广东发力打通“创新链”
- 17小新Talkshow:徒步树王森林——寻找“辛达布”
- 18“中国造”全球最大多用途纸浆船首航厦门港
- 19北方有大风沙尘云黔桂等地有较强降雨
- 20【图刊】回顾冬残奥会中国军团的金牌时刻