让人工智能大模型做K12学科试题,能赶上人类水平吗?
▓WPT参赛资格▓GGPoker[—ggn178.com—]为亚洲最具备实力的一间国际扑克竞技赛事平台,提供一个正规安全有保障的扑克游戏环境,加入立即玩与GGPoker全球玩家一起同乐北京冬奥会开幕倒计时200天
本文转自:中新网
常话短说|600元的防攀比鞋?少操点不该操的心
中新网北京5月21日电(中新财经记者 宋宇晟)记者了解到@@%#,近日%*,在北京市海淀区教委支持下*#,智源研究院联合与海淀区教师进修学校对齐学生测验方式%*@,考察大模型与人类学生的学科水平差异@##,其中#@#,答案不唯一的主观题@##@,由海淀教师亲自评卷*#*#@。
评测发现%@,模型在综合学科能力上与海淀学生平均水平仍有差距#**@*,普遍存在文强理弱的情况@@#*,并且对图表的理解能力不足%@##,大模型未来有很大的提升空间@#%。
北京市海淀区教师进修学校校长姚守梅解读大模型K12学科测试结果时指出%*#*#,在语文、历史等人文学科的考试中@%**,模型欠缺对文字背后的文化内涵以及家国情怀的理解%*。面对历史地理综合题时#@*@,模型并不能像人类考生一样有效识别学科属性#*。相较于简单的英语题@@*##,模型反而更擅长复杂的英语题@#%@#。解理科题目时@#@@,模型会出现以超出年级知识范围外的方法解题的情况@#*%。当出现无法理解的考题时%%@,模型依然存在明显的“幻觉”@%*##。
此外@%%,智源研究院还发布并解读国内外140余个开源和商业闭源的语言及多模态大模型全方位能力评测结果*@@。
评测结果显示#%**,在中文语境下%#*@,国内头部语言模型的综合表现已接近国际一流水平#@%*,但存在能力发展不均衡的情况*@@@%。在多模态理解图文问答任务上**@#,开闭源模型平分秋色###,国产模型表现突出%%%。国产多模态模型在中文语境下的文生图能力与国际一流水平差距较小@*。多模态模型的文生视频能力上*@,对比各家公布的演示视频长度和质量%*%,Sora有明显优势@@*%@,其他开放评测的文生视频模型中*@*@,国产模型PixVerse表现优异%@@%。
据介绍#@*,本次用于评测的评测体系依托科技部“人工智能基础模型支撑平台与评测技术”和工信部“大模型公共服务平台”项目#%%,智源研究院与10余家高校和机构联合开展大模型评测方法与工具研发*@%%%。
评测使用20余个数据集、超8万道考题%%**,包括与合作单位共建和智源自建的多个评测数据集%*%,如中文多模态多题型理解及推理评测数据集CMMU、中文语义评测数据集C-SEM、中文语言及认知主观评测集CLCC、面向复杂算法代码生成任务的评测集TACO、文生图主观评测集Image-gen、多语言文生图质量评测数据集MG18、文生视频模型主观评测集 CUC T2V prompts*@%@。其中**,主观题4000余道**%,均来源于自建原创未公开并保持高频迭代的主观评测集%*,严格校准打分标准#%#,采取多人独立匿名评分、严格质检与抽检相结合的管理机制@####,降低主观偏差的影响%*#。此外%*,为了更准确地评测语言模型的各项能力%%,智源专门对所有客观数据集的子数据集进行了能力标签映射@*。(完)
分享让更多人看到
热门排行
- 1宠物上高铁要做好哪些规范
- 2“动物园20只东北虎死亡”安徽阜阳林业部门通报回应
- 3中新网原创专题节目《中国风》
- 4“洋哨”重回CBA赛场的背后
- 5罚款500元!一男子在高铁上吸电子烟,涉嫌危害铁路安全
- 6无强制购物变“强买强卖”?出游“避坑指南”受关注
- 7最高法发布纪念国家赔偿法颁布三十周年典型案例
- 8出租车市场“把门打开”值得尝试
- 9北京冬奥会开幕倒计时200天
- 10大湾区科学论坛会址项目进入装修阶段一期计划明年建成
- 11中国与尼泊尔跨境陆缆系统开通
- 12小新Talkshow:徒步树王森林——寻找“辛达布”
- 13中国经济再获“信任票”
- 14列车“天上”飞武汉光谷空轨成热门打卡地
- 15观编钟赏乐舞荆楚文化沉浸式体验持续“圈粉”
- 16人这一辈子,一定要去一趟长汀!
- 17习言道|习近平欧洲之行,几个场景很不寻常
- 18“动物园20只东北虎死亡”安徽阜阳林业部门通报回应
- 19中新网原创专题节目《中国新视野》
- 20内蒙古多地迎来盛花期