让人工智能大模型做K12学科试题,能赶上人类水平吗?
▓WPT报名▓GGPoker[—ggn178.com—]为亚洲最具备实力的一间国际扑克竞技赛事平台,提供一个正规安全有保障的扑克游戏环境,加入立即玩与GGPoker全球玩家一起同乐习近平对法国、塞尔维亚、匈牙利进行国事访问
本文转自:中新网
ahref=httpwww.chinanews.com.cnty202405
中新网北京5月21日电(中新财经记者 宋宇晟)记者了解到##,近日#@%,在北京市海淀区教委支持下#%*,智源研究院联合与海淀区教师进修学校对齐学生测验方式*@%%*,考察大模型与人类学生的学科水平差异#*%#,其中%*@@#,答案不唯一的主观题#%##%,由海淀教师亲自评卷#%@#*。
评测发现@#*#,模型在综合学科能力上与海淀学生平均水平仍有差距@@,普遍存在文强理弱的情况#%,并且对图表的理解能力不足##***,大模型未来有很大的提升空间%###*。
北京市海淀区教师进修学校校长姚守梅解读大模型K12学科测试结果时指出****,在语文、历史等人文学科的考试中@%#%,模型欠缺对文字背后的文化内涵以及家国情怀的理解##**@。面对历史地理综合题时*#@#%,模型并不能像人类考生一样有效识别学科属性@@。相较于简单的英语题%@#*,模型反而更擅长复杂的英语题@*#@。解理科题目时%**#,模型会出现以超出年级知识范围外的方法解题的情况@@%%*。当出现无法理解的考题时%%@*@,模型依然存在明显的“幻觉”%@**。
此外%%@#%,智源研究院还发布并解读国内外140余个开源和商业闭源的语言及多模态大模型全方位能力评测结果@%*#*。
评测结果显示#*,在中文语境下*%*,国内头部语言模型的综合表现已接近国际一流水平#*%*%,但存在能力发展不均衡的情况@**%。在多模态理解图文问答任务上#@%,开闭源模型平分秋色*%,国产模型表现突出#*。国产多模态模型在中文语境下的文生图能力与国际一流水平差距较小#%%@。多模态模型的文生视频能力上****,对比各家公布的演示视频长度和质量@*#@,Sora有明显优势%#%,其他开放评测的文生视频模型中**#*,国产模型PixVerse表现优异@*%。
据介绍#@,本次用于评测的评测体系依托科技部“人工智能基础模型支撑平台与评测技术”和工信部“大模型公共服务平台”项目#**#@,智源研究院与10余家高校和机构联合开展大模型评测方法与工具研发***。
评测使用20余个数据集、超8万道考题#@,包括与合作单位共建和智源自建的多个评测数据集###*,如中文多模态多题型理解及推理评测数据集CMMU、中文语义评测数据集C-SEM、中文语言及认知主观评测集CLCC、面向复杂算法代码生成任务的评测集TACO、文生图主观评测集Image-gen、多语言文生图质量评测数据集MG18、文生视频模型主观评测集 CUC T2V prompts**%。其中#%,主观题4000余道%*,均来源于自建原创未公开并保持高频迭代的主观评测集*%@*,严格校准打分标准#@#,采取多人独立匿名评分、严格质检与抽检相结合的管理机制##*@#,降低主观偏差的影响%%。此外*%**@,为了更准确地评测语言模型的各项能力@#,智源专门对所有客观数据集的子数据集进行了能力标签映射%@*%%。(完)
分享让更多人看到
热门排行
- 1巴黎奥运会火种抵达法国马赛
- 2“差生”淘汰!又一批公司或将退市
- 3因《哈利·波特》闻名全球英国格伦芬南高架桥将翻修
- 4两天内三起事故!波音客机冲出跑道后起火10人受伤
- 5《唐宫夜宴》河南春晚出圈河南:让传统文化闪亮起来
- 61天涌入上万个“朝鲜族公主”年轻人为何喜欢去延吉?
- 7习近平访“塞铁”,贝尔格莱德遇到“中国红”
- 8黄金销售不规范行为引发大量投诉
- 9香港大学青年科创学院在前海揭牌
- 10巴黎奥运会火种抵达法国马赛
- 11图览丨这个最东边又最西边的国家,曾多次力挺中国
- 12冬小麦陆续进入生长“冲刺”阶段夏粮主产区夯实丰收基础
- 13东西问·中外对话|当鄂温克族歌唱家遇上美国乡村音乐人
- 14南非自然保护区部分生物死亡疑与骚乱点燃化学品仓库有关
- 15东西问丨刘金柱:为何说“宋辽古道”见证文化交融?
- 16习近平同匈牙利总理欧尔班举行会谈
- 17商务部:中方将与DEPA成员方共同努力,推动谈判不断取得新进展
- 18青海加牙藏毯传承人在国赛展示传统藏毯制作技艺
- 19塞尔维亚缘何成为首个同中国共建命运共同体的欧洲国家?
- 20“618大战”在即电商不玩预售了