让人工智能大模型做K12学科试题,能赶上人类水平吗?
▓GG扑克▓GGPoker[—ggn178.com—]为亚洲最具备实力的一间国际扑克竞技赛事平台,提供一个正规安全有保障的扑克游戏环境,加入立即玩与GGPoker全球玩家一起同乐俄居民楼遭乌导弹袭击:遇难人数已升至15人
本文转自:中新网
受贿5335万余元江苏省公安厅原副厅长程建东一审被判十三年
中新网北京5月21日电(中新财经记者 宋宇晟)记者了解到*@,近日%@**,在北京市海淀区教委支持下*@*%,智源研究院联合与海淀区教师进修学校对齐学生测验方式%@*%,考察大模型与人类学生的学科水平差异@%%*,其中@@@%*,答案不唯一的主观题@*@%@,由海淀教师亲自评卷@*@@。
评测发现@@,模型在综合学科能力上与海淀学生平均水平仍有差距%@#,普遍存在文强理弱的情况*#,并且对图表的理解能力不足%#%@,大模型未来有很大的提升空间*%。
北京市海淀区教师进修学校校长姚守梅解读大模型K12学科测试结果时指出*@,在语文、历史等人文学科的考试中@%#**,模型欠缺对文字背后的文化内涵以及家国情怀的理解*%@%@。面对历史地理综合题时##,模型并不能像人类考生一样有效识别学科属性@%#@@。相较于简单的英语题%@%*,模型反而更擅长复杂的英语题%*@。解理科题目时**#,模型会出现以超出年级知识范围外的方法解题的情况%**#。当出现无法理解的考题时#@,模型依然存在明显的“幻觉”%%。
此外%@@,智源研究院还发布并解读国内外140余个开源和商业闭源的语言及多模态大模型全方位能力评测结果@#%#。
评测结果显示##@,在中文语境下%%,国内头部语言模型的综合表现已接近国际一流水平%*#@%,但存在能力发展不均衡的情况#@#@@。在多模态理解图文问答任务上#*,开闭源模型平分秋色%@%,国产模型表现突出%*##*。国产多模态模型在中文语境下的文生图能力与国际一流水平差距较小**%。多模态模型的文生视频能力上##*,对比各家公布的演示视频长度和质量#*,Sora有明显优势*%,其他开放评测的文生视频模型中@#*#,国产模型PixVerse表现优异%@**。
据介绍@%,本次用于评测的评测体系依托科技部“人工智能基础模型支撑平台与评测技术”和工信部“大模型公共服务平台”项目@#@,智源研究院与10余家高校和机构联合开展大模型评测方法与工具研发*@#。
评测使用20余个数据集、超8万道考题%%@,包括与合作单位共建和智源自建的多个评测数据集%@,如中文多模态多题型理解及推理评测数据集CMMU、中文语义评测数据集C-SEM、中文语言及认知主观评测集CLCC、面向复杂算法代码生成任务的评测集TACO、文生图主观评测集Image-gen、多语言文生图质量评测数据集MG18、文生视频模型主观评测集 CUC T2V prompts%@%*。其中%%%,主观题4000余道@##*,均来源于自建原创未公开并保持高频迭代的主观评测集#%@@@,严格校准打分标准#*%*@,采取多人独立匿名评分、严格质检与抽检相结合的管理机制*%,降低主观偏差的影响@%*。此外@#%@,为了更准确地评测语言模型的各项能力%@%,智源专门对所有客观数据集的子数据集进行了能力标签映射%*%@。(完)
分享让更多人看到
热门排行
- 1司法部:开展涉及不平等对待企业法律法规政策清理工作
- 2人形机器人已进厂“打工”!离走进生活还有多远?
- 3四川雅江发生泥石流气象部门精准预警助768人成功避险
- 4东西问|杨海潮:茶马古道是怎么走出来的?
- 5新疆尉犁夏日沙漠旅游热
- 65月13日央行开展20亿元7天期逆回购操作
- 7男护士本杰加:用语言架起医患沟通桥梁
- 8内地赴港“个人游”城市再扩容李家超:有力提振旅游等行业
- 9新时代新机遇——跨国企业在中国
- 10让更多孩子享受普惠学前教育(让老百姓过上更好的日子)
- 11警惕绿水青山下的“谍影重重”
- 12台青赴皖展茶成安徽茶博会文化交流“门面担当”
- 13互联网宗教信息服务许可证
- 14前四个月金融支持实体经济质效提升
- 15瞰中国丨旅游吗?我们陪你
- 161至4月中欧班列累计开行6184列同比增长10%
- 17海南年轻人母亲节“花式宠妈”“年轻套餐”走俏
- 18滴滴回应14元订单收1414元
- 19米其林中国区副总裁高嵩:手握美食指南品中国城市滋味
- 20佛山房地产新政:购房可申请入户,优化容积率计算规则