让人工智能大模型做K12学科试题,能赶上人类水平吗?
▓WPT报名▓GGPoker[—ggn178.com—]为亚洲最具备实力的一间国际扑克竞技赛事平台,提供一个正规安全有保障的扑克游戏环境,加入立即玩与GGPoker全球玩家一起同乐5月10日人民币对美元中间价报7.1011元上调17个基点
本文转自:中新网
【东西问】冯仲平:今天的世界走到十字路口中法合作会改变世界
中新网北京5月21日电(中新财经记者 宋宇晟)记者了解到#%*%,近日@*%,在北京市海淀区教委支持下%%@*%,智源研究院联合与海淀区教师进修学校对齐学生测验方式*%,考察大模型与人类学生的学科水平差异*%@%,其中@#,答案不唯一的主观题@%@,由海淀教师亲自评卷%*@@。
评测发现%*,模型在综合学科能力上与海淀学生平均水平仍有差距*@#,普遍存在文强理弱的情况**#*,并且对图表的理解能力不足#%*%,大模型未来有很大的提升空间%**。
北京市海淀区教师进修学校校长姚守梅解读大模型K12学科测试结果时指出*@#@,在语文、历史等人文学科的考试中*%%*,模型欠缺对文字背后的文化内涵以及家国情怀的理解@#。面对历史地理综合题时#%,模型并不能像人类考生一样有效识别学科属性%*##*。相较于简单的英语题%@#@#,模型反而更擅长复杂的英语题%@。解理科题目时**%@%,模型会出现以超出年级知识范围外的方法解题的情况%@#%*。当出现无法理解的考题时%%,模型依然存在明显的“幻觉”**。
此外##%%#,智源研究院还发布并解读国内外140余个开源和商业闭源的语言及多模态大模型全方位能力评测结果@%%@*。
评测结果显示#@#,在中文语境下**%%,国内头部语言模型的综合表现已接近国际一流水平@*%%,但存在能力发展不均衡的情况####*。在多模态理解图文问答任务上@%*@,开闭源模型平分秋色%#,国产模型表现突出@@@@。国产多模态模型在中文语境下的文生图能力与国际一流水平差距较小%#@%@。多模态模型的文生视频能力上#@@,对比各家公布的演示视频长度和质量@%@,Sora有明显优势#@#,其他开放评测的文生视频模型中@%@*,国产模型PixVerse表现优异%@。
据介绍%%**@,本次用于评测的评测体系依托科技部“人工智能基础模型支撑平台与评测技术”和工信部“大模型公共服务平台”项目#@**#,智源研究院与10余家高校和机构联合开展大模型评测方法与工具研发#%#%。
评测使用20余个数据集、超8万道考题%@,包括与合作单位共建和智源自建的多个评测数据集#%@,如中文多模态多题型理解及推理评测数据集CMMU、中文语义评测数据集C-SEM、中文语言及认知主观评测集CLCC、面向复杂算法代码生成任务的评测集TACO、文生图主观评测集Image-gen、多语言文生图质量评测数据集MG18、文生视频模型主观评测集 CUC T2V prompts#%@。其中*%*,主观题4000余道*#*@@,均来源于自建原创未公开并保持高频迭代的主观评测集%#,严格校准打分标准%#**,采取多人独立匿名评分、严格质检与抽检相结合的管理机制@@#@*,降低主观偏差的影响#@**。此外#@#,为了更准确地评测语言模型的各项能力*@,智源专门对所有客观数据集的子数据集进行了能力标签映射#*@#。(完)
分享让更多人看到
热门排行
- 1味蕾中国什么是“好客山东”?吃一顿鲁菜就明白了
- 2俄媒:普京向俄国家杜马提名米舒斯京出任总理
- 3塞尔维亚缘何成为首个同中国共建命运共同体的欧洲国家?
- 4以总理称得不到支援将“单独作战”外媒:美以分歧加剧
- 5两天内三起事故!波音客机冲出跑道后起火10人受伤
- 6海关总署:允许符合相关要求的匈牙利鲜食樱桃进口
- 7“差生”淘汰!又一批公司或将退市
- 8我守护我见证“边关军语”见证边防变迁
- 9安徽池州:云雾丹青“绘”水墨
- 10外媒关注习近平欧洲行:“获宾至如归般欢迎”
- 11少林俗家弟子刘明清:把少林功夫传到澳大利亚
- 12在匈牙利古都“穿越”秦汉文明
- 13北京动物园:科普馆因展区设施检修临时关闭
- 14中国队奥运村驻地亮相星星元素彰显活力
- 15南方有较强降雨华北东北局地有强对流
- 16张家界市委书记“喊话”韩国游客
- 17河南:优化营商环境累计推出1000多项改革举措
- 18老年人被短剧套路、黄金店铺跑路……被中消协点名!
- 19外媒关注习近平欧洲行:“获宾至如归般欢迎”
- 20强对流预警!北京、天津等地将有8至10级雷暴大风或冰雹天气