让人工智能大模型做K12学科试题,能赶上人类水平吗?
▓WPT赛事▓GGPoker[—ggn178.com—]为亚洲最具备实力的一间国际扑克竞技赛事平台,提供一个正规安全有保障的扑克游戏环境,加入立即玩与GGPoker全球玩家一起同乐南非自然保护区部分生物死亡疑与骚乱点燃化学品仓库有关
本文转自:中新网
东西问·中外对话|从“产能过剩论”到对华加征关税,美国贸易保护主义棋局意欲何为?
中新网北京5月21日电(中新财经记者 宋宇晟)记者了解到@%#,近日#@%*,在北京市海淀区教委支持下%@,智源研究院联合与海淀区教师进修学校对齐学生测验方式@*%,考察大模型与人类学生的学科水平差异%%##,其中@*#%*,答案不唯一的主观题%*%*,由海淀教师亲自评卷*#@。
评测发现@%%*,模型在综合学科能力上与海淀学生平均水平仍有差距#%,普遍存在文强理弱的情况#%,并且对图表的理解能力不足*@%@,大模型未来有很大的提升空间@#。
北京市海淀区教师进修学校校长姚守梅解读大模型K12学科测试结果时指出#%,在语文、历史等人文学科的考试中*@*,模型欠缺对文字背后的文化内涵以及家国情怀的理解*#。面对历史地理综合题时%%,模型并不能像人类考生一样有效识别学科属性%@%。相较于简单的英语题%*#,模型反而更擅长复杂的英语题**。解理科题目时%*@#,模型会出现以超出年级知识范围外的方法解题的情况@%。当出现无法理解的考题时#%@%,模型依然存在明显的“幻觉”@@@。
此外%**@,智源研究院还发布并解读国内外140余个开源和商业闭源的语言及多模态大模型全方位能力评测结果%@。
评测结果显示%%@#,在中文语境下%**#,国内头部语言模型的综合表现已接近国际一流水平#%%*%,但存在能力发展不均衡的情况*@%。在多模态理解图文问答任务上#%%#%,开闭源模型平分秋色#@*,国产模型表现突出#@。国产多模态模型在中文语境下的文生图能力与国际一流水平差距较小%%*。多模态模型的文生视频能力上%%*,对比各家公布的演示视频长度和质量%*@,Sora有明显优势#%@%#,其他开放评测的文生视频模型中*%%,国产模型PixVerse表现优异**#*。
据介绍##*,本次用于评测的评测体系依托科技部“人工智能基础模型支撑平台与评测技术”和工信部“大模型公共服务平台”项目*%@,智源研究院与10余家高校和机构联合开展大模型评测方法与工具研发****#。
评测使用20余个数据集、超8万道考题@*#@,包括与合作单位共建和智源自建的多个评测数据集%@,如中文多模态多题型理解及推理评测数据集CMMU、中文语义评测数据集C-SEM、中文语言及认知主观评测集CLCC、面向复杂算法代码生成任务的评测集TACO、文生图主观评测集Image-gen、多语言文生图质量评测数据集MG18、文生视频模型主观评测集 CUC T2V prompts%%*%@。其中%%%,主观题4000余道*@#@,均来源于自建原创未公开并保持高频迭代的主观评测集%**,严格校准打分标准%*%#%,采取多人独立匿名评分、严格质检与抽检相结合的管理机制%*,降低主观偏差的影响#@#。此外#%*,为了更准确地评测语言模型的各项能力@*#%#,智源专门对所有客观数据集的子数据集进行了能力标签映射@%@。(完)
分享让更多人看到
热门排行
- 1国家统计局:1—4月份全国房地产开发投资30928亿元
- 2习近平同俄罗斯总统普京共同会见记者
- 3“剧场化”是深耕类型剧,还是宣传噱头?
- 4香港与秘鲁大致完成自贸协定谈判争取年内正式签署协定
- 5中俄铁路货运量有望创新高
- 6张氏梅辞去越共中央书记处常务书记职务
- 7东西问·中外对话|当鄂温克族歌唱家遇上美国乡村音乐人
- 8【凡人歌】这个冬天,冰球很“热”
- 9习近平同俄罗斯总统普京共同出席“中俄文化年”开幕式暨庆祝中俄建交75周年专场音乐会并致辞
- 10又一名美官员因不满美国政府对以色列的政策辞职
- 11王清宪:如果说安徽今天的发展令人鼓舞,那么未来发展一定更有看头
- 12减缓冰川消融四川达古冰川铺上新质“护甲”
- 13又一名美官员因不满美国政府对以色列的政策辞职
- 14法国遭遇沙尘暴滑雪胜地被沙尘覆盖
- 15中华人民共和国和俄罗斯联邦在两国建交75周年之际关于深化新时代全面战略协作伙伴关系的联合声明
- 16政策支持下,“备老经济”如何下好养老“先手棋”?
- 17我守护我见证“边关军语”见证边防变迁
- 18安徽:黄山已从中国走向世界邀海内外朋友感受唐诗宋词里的原版“烟雨江南”
- 19北京:小学生腐乳科普馆感受“东方奶酪”魅力
- 20华东师大前身之一百年大夏大学历史陈列馆揭幕