让人工智能大模型做K12学科试题,能赶上人类水平吗?
▓WSOP金戒指2021▓GGPoker[—ggn178.com—]为亚洲最具备实力的一间国际扑克竞技赛事平台,提供一个正规安全有保障的扑克游戏环境,加入立即玩与GGPoker全球玩家一起同乐英摄影师捕捉三只鹿张望瞬间角度完美一致好似重影
本文转自:中新网
5月15日央行开展20亿元逆回购操作和1250亿元MLF操作
中新网北京5月21日电(中新财经记者 宋宇晟)记者了解到@#,近日@*,在北京市海淀区教委支持下*%*@,智源研究院联合与海淀区教师进修学校对齐学生测验方式**#@,考察大模型与人类学生的学科水平差异*%@%,其中%*%,答案不唯一的主观题@*,由海淀教师亲自评卷@@@。
评测发现@*,模型在综合学科能力上与海淀学生平均水平仍有差距@#%,普遍存在文强理弱的情况*@##,并且对图表的理解能力不足#*,大模型未来有很大的提升空间@*@*%。
北京市海淀区教师进修学校校长姚守梅解读大模型K12学科测试结果时指出@#*,在语文、历史等人文学科的考试中#*@,模型欠缺对文字背后的文化内涵以及家国情怀的理解*%%。面对历史地理综合题时%%#*,模型并不能像人类考生一样有效识别学科属性@%。相较于简单的英语题%%,模型反而更擅长复杂的英语题*%%@。解理科题目时#@@@,模型会出现以超出年级知识范围外的方法解题的情况#***%。当出现无法理解的考题时@@@@,模型依然存在明显的“幻觉”**%#。
此外*@%%*,智源研究院还发布并解读国内外140余个开源和商业闭源的语言及多模态大模型全方位能力评测结果%**#*。
评测结果显示#*,在中文语境下#*,国内头部语言模型的综合表现已接近国际一流水平@@#,但存在能力发展不均衡的情况*@。在多模态理解图文问答任务上@#@,开闭源模型平分秋色**%@,国产模型表现突出%%%#*。国产多模态模型在中文语境下的文生图能力与国际一流水平差距较小#@%。多模态模型的文生视频能力上#@%%,对比各家公布的演示视频长度和质量@*%*,Sora有明显优势%@%,其他开放评测的文生视频模型中**@@,国产模型PixVerse表现优异%*##。
据介绍@@%,本次用于评测的评测体系依托科技部“人工智能基础模型支撑平台与评测技术”和工信部“大模型公共服务平台”项目%@,智源研究院与10余家高校和机构联合开展大模型评测方法与工具研发@@*#。
评测使用20余个数据集、超8万道考题%#*%@,包括与合作单位共建和智源自建的多个评测数据集%%#*#,如中文多模态多题型理解及推理评测数据集CMMU、中文语义评测数据集C-SEM、中文语言及认知主观评测集CLCC、面向复杂算法代码生成任务的评测集TACO、文生图主观评测集Image-gen、多语言文生图质量评测数据集MG18、文生视频模型主观评测集 CUC T2V prompts#@。其中@#,主观题4000余道*@***,均来源于自建原创未公开并保持高频迭代的主观评测集@@**,严格校准打分标准@@,采取多人独立匿名评分、严格质检与抽检相结合的管理机制*##@,降低主观偏差的影响*@#*。此外@*@,为了更准确地评测语言模型的各项能力%#@*#,智源专门对所有客观数据集的子数据集进行了能力标签映射*@@。(完)
分享让更多人看到
热门排行
- 1“小包裹”折射“大市场”快递“出海”为外贸高质量发展贡献力量
- 2我守护我见证“边关军语”见证边防变迁
- 3美国4月PPI环比上涨0.5%高于市场预期
- 4支持民间投资开展新型基础设施建设运营深圳发布“促进民间投资20条”
- 5挺进深蓝,铁骑踏浪当先锋
- 6梁羽生、金庸雕塑入藏香港文学馆
- 7大湾区科学论坛会址项目进入装修阶段一期计划明年建成
- 8当年轻人的烦恼“穿越”到养老院
- 9东西问·中外对话|“在绿色发展方面,中国一直在发挥引领作用”
- 10第77届戛纳电影节拉开帷幕
- 11广西田东举行香芒丰收展
- 12安徽:黄山千年迎客松又迎花开
- 13习言道|不断提高思政课的针对性和吸引力
- 14秘境扎尕那:从山乡藏寨到“最佳旅游乡村”的蝶变
- 15韩国首尔举行“汉江发呆大赛”
- 16中新网客户端、中新经纬客户端、侨宝客户端
- 17中国正能量|奋斗者,正青春
- 18“情融两岸·品悟天府”第二届台胞社团领袖四川行活动在蓉启动
- 19塞学者:依托“一带一路”倡议塞中深化合作造福民众丨世界观
- 20广东省惠东县公路事务中心主任李震南被查