让人工智能大模型做K12学科试题,能赶上人类水平吗?
▓CPG三亚大师赛▓GGPoker[—ggn178.com—]为亚洲最具备实力的一间国际扑克竞技赛事平台,提供一个正规安全有保障的扑克游戏环境,加入立即玩与GGPoker全球玩家一起同乐中国足球外事如何“破冰”
本文转自:中新网
“琵琶行·弦语四季”专场民乐会悉尼上演
中新网北京5月21日电(中新财经记者 宋宇晟)记者了解到#%,近日@%*%*,在北京市海淀区教委支持下%@,智源研究院联合与海淀区教师进修学校对齐学生测验方式**#%,考察大模型与人类学生的学科水平差异%%*#*,其中#@@%*,答案不唯一的主观题@#%%%,由海淀教师亲自评卷*@@%。
评测发现*@%,模型在综合学科能力上与海淀学生平均水平仍有差距##*,普遍存在文强理弱的情况*@%,并且对图表的理解能力不足@%*@,大模型未来有很大的提升空间%%*@。
北京市海淀区教师进修学校校长姚守梅解读大模型K12学科测试结果时指出****,在语文、历史等人文学科的考试中**,模型欠缺对文字背后的文化内涵以及家国情怀的理解*@#。面对历史地理综合题时#%,模型并不能像人类考生一样有效识别学科属性%%%*。相较于简单的英语题@#@@*,模型反而更擅长复杂的英语题%@*。解理科题目时*#,模型会出现以超出年级知识范围外的方法解题的情况%%。当出现无法理解的考题时#%%,模型依然存在明显的“幻觉”#*%。
此外%@,智源研究院还发布并解读国内外140余个开源和商业闭源的语言及多模态大模型全方位能力评测结果#@。
评测结果显示#@#*@,在中文语境下@*,国内头部语言模型的综合表现已接近国际一流水平@*@*@,但存在能力发展不均衡的情况##。在多模态理解图文问答任务上#%#%,开闭源模型平分秋色#%#*#,国产模型表现突出%*##。国产多模态模型在中文语境下的文生图能力与国际一流水平差距较小%***#。多模态模型的文生视频能力上#%,对比各家公布的演示视频长度和质量#@%,Sora有明显优势#*@,其他开放评测的文生视频模型中%*@%%,国产模型PixVerse表现优异*%#。
据介绍@%*,本次用于评测的评测体系依托科技部“人工智能基础模型支撑平台与评测技术”和工信部“大模型公共服务平台”项目#%**#,智源研究院与10余家高校和机构联合开展大模型评测方法与工具研发##%。
评测使用20余个数据集、超8万道考题@#@,包括与合作单位共建和智源自建的多个评测数据集@@#*,如中文多模态多题型理解及推理评测数据集CMMU、中文语义评测数据集C-SEM、中文语言及认知主观评测集CLCC、面向复杂算法代码生成任务的评测集TACO、文生图主观评测集Image-gen、多语言文生图质量评测数据集MG18、文生视频模型主观评测集 CUC T2V prompts@#。其中%**@@,主观题4000余道%#@#,均来源于自建原创未公开并保持高频迭代的主观评测集**@#,严格校准打分标准*%,采取多人独立匿名评分、严格质检与抽检相结合的管理机制%*#@,降低主观偏差的影响*#%#。此外#@@,为了更准确地评测语言模型的各项能力@%%%#,智源专门对所有客观数据集的子数据集进行了能力标签映射%#。(完)
分享让更多人看到
热门排行
- 1民调显示:日本首相岸田文雄内阁支持率不足20%
- 2北京:小学生腐乳科普馆感受“东方奶酪”魅力
- 3习近平同俄罗斯总统普京共同出席“中俄文化年”开幕式暨庆祝中俄建交75周年专场音乐会并致辞
- 4印尼西苏门答腊省洪灾死亡人数升至67人
- 5西藏拉萨:春耕第一犁
- 6【小新的Vlog】从牧场到车间再到“舌尖”小新带你走进现代化肉牛养殖场
- 7突发!德国一住宅楼发生爆炸起火造成3死16伤
- 8CBA总决赛首场:辽宁本钢胜新疆伊力特
- 9新疆尉犁夏日沙漠旅游热
- 10爱上少林功夫与文化俄罗斯女青年“文武双修”十余载
- 11东西问·中外对话|为何说朔尔茨访华,是“明智的选择”?
- 12工业和信息化部部署启动5G异网漫游商用推广
- 13厄瓜多尔玫瑰、荷兰郁金香……进口鲜切花京城斗艳
- 14新时代,我在中国|保加利亚中国通:北京充满机遇热爱永不褪色
- 15我守护我见证“边关军语”见证边防变迁
- 16习近平同俄罗斯总统普京会谈
- 17新疆尉犁夏日沙漠旅游热
- 18南非建筑倒塌事故已致33人死亡总统前往现场视察
- 19东西问·中外对话|为何说朔尔茨访华,是“明智的选择”?
- 20中新网客户端、中新经纬客户端、侨宝客户端