让人工智能大模型做K12学科试题,能赶上人类水平吗?
▓WPT线上锦标赛▓GGPoker[—ggn178.com—]为亚洲最具备实力的一间国际扑克竞技赛事平台,提供一个正规安全有保障的扑克游戏环境,加入立即玩与GGPoker全球玩家一起同乐年薪曾超2亿,“失联”的恒大原董事夏海钧拟被深交所处分
本文转自:中新网
列车“天上”飞武汉光谷空轨成热门打卡地
中新网北京5月21日电(中新财经记者 宋宇晟)记者了解到%%#@,近日%#@,在北京市海淀区教委支持下%#,智源研究院联合与海淀区教师进修学校对齐学生测验方式##@,考察大模型与人类学生的学科水平差异*%@**,其中#%@@,答案不唯一的主观题%#,由海淀教师亲自评卷@@*@%。
评测发现*#%,模型在综合学科能力上与海淀学生平均水平仍有差距@#,普遍存在文强理弱的情况%%,并且对图表的理解能力不足#@@*,大模型未来有很大的提升空间**###。
北京市海淀区教师进修学校校长姚守梅解读大模型K12学科测试结果时指出@@*#,在语文、历史等人文学科的考试中**%*@,模型欠缺对文字背后的文化内涵以及家国情怀的理解###。面对历史地理综合题时*%@@%,模型并不能像人类考生一样有效识别学科属性%*。相较于简单的英语题%#,模型反而更擅长复杂的英语题%#%#。解理科题目时#@%,模型会出现以超出年级知识范围外的方法解题的情况@*@@*。当出现无法理解的考题时%#%,模型依然存在明显的“幻觉”@@*。
此外***##,智源研究院还发布并解读国内外140余个开源和商业闭源的语言及多模态大模型全方位能力评测结果##**。
评测结果显示*@@*,在中文语境下%#***,国内头部语言模型的综合表现已接近国际一流水平@*#%,但存在能力发展不均衡的情况%%。在多模态理解图文问答任务上*@*@@,开闭源模型平分秋色%@,国产模型表现突出@*。国产多模态模型在中文语境下的文生图能力与国际一流水平差距较小**。多模态模型的文生视频能力上%%,对比各家公布的演示视频长度和质量@%%,Sora有明显优势%#%@@,其他开放评测的文生视频模型中%***,国产模型PixVerse表现优异#@。
据介绍#%#%,本次用于评测的评测体系依托科技部“人工智能基础模型支撑平台与评测技术”和工信部“大模型公共服务平台”项目%*#@%,智源研究院与10余家高校和机构联合开展大模型评测方法与工具研发@*@*。
评测使用20余个数据集、超8万道考题@##@@,包括与合作单位共建和智源自建的多个评测数据集###*%,如中文多模态多题型理解及推理评测数据集CMMU、中文语义评测数据集C-SEM、中文语言及认知主观评测集CLCC、面向复杂算法代码生成任务的评测集TACO、文生图主观评测集Image-gen、多语言文生图质量评测数据集MG18、文生视频模型主观评测集 CUC T2V prompts#@#*。其中#%#*,主观题4000余道%#,均来源于自建原创未公开并保持高频迭代的主观评测集*#%%,严格校准打分标准%@@*,采取多人独立匿名评分、严格质检与抽检相结合的管理机制@%@*,降低主观偏差的影响@#*@#。此外#%#*,为了更准确地评测语言模型的各项能力*#@@,智源专门对所有客观数据集的子数据集进行了能力标签映射%@%%*。(完)
分享让更多人看到
热门排行
- 1互联网宗教信息服务许可证
- 2美国佛罗里达州发生交通事故致8死40伤
- 3北方有大风沙尘云黔桂等地有较强降雨
- 4热播剧带火阿勒泰“同款木屋”一房难求
- 5又见“别人家”的学校:夏日炎炎这所学校学生上课喝啤酒惹人羡
- 6法国各界人士:习近平主席访问推动法中关系继往开来
- 7气候变化导致瑞士花粉症患者增多
- 8加拿大爱德华王子岛华人社团主办亚裔传统月庆典
- 9国家防总检查云南四川防汛抗旱工作
- 10黑龙江省政协原党组成员、副主席曲敏被提起公诉
- 11【这个城市有点潮】阿勒泰:从夏牧场出发,探寻北疆之北的人间仙境
- 12年薪曾超2亿,“失联”的恒大原董事夏海钧拟被深交所处分
- 13【图刊】八一飞行表演队成立60周年“战鹰”铁翼正年轻
- 14我国汽车出口前4月同比增逾33%
- 15中新网客户端、中新经纬客户端、侨宝客户端
- 16中新教育|新一期新时代中小学名师名校长培养计划启动
- 17今年前4个月访港旅客数字同比增逾一倍
- 18美国巴尔的摩倒塌大桥残骸拆除作业开始
- 19常话短说|600元的防攀比鞋?少操点不该操的心
- 20《我的阿勒泰》:原野、星空和时间的芳香