让人工智能大模型做K12学科试题,能赶上人类水平吗?
▓WPT线上▓GGPoker[—ggn178.com—]为亚洲最具备实力的一间国际扑克竞技赛事平台,提供一个正规安全有保障的扑克游戏环境,加入立即玩与GGPoker全球玩家一起同乐俄别尔哥罗德市拉响导弹警报坍塌居民楼受伤人数上升
本文转自:中新网
保时捷中国汽车销售公司成被执行人执行标的134万
中新网北京5月21日电(中新财经记者 宋宇晟)记者了解到#*,近日%@,在北京市海淀区教委支持下%%,智源研究院联合与海淀区教师进修学校对齐学生测验方式%@%%,考察大模型与人类学生的学科水平差异@#%*,其中#%,答案不唯一的主观题@%,由海淀教师亲自评卷%#@#。
评测发现*@*@#,模型在综合学科能力上与海淀学生平均水平仍有差距%#,普遍存在文强理弱的情况@@,并且对图表的理解能力不足*#%,大模型未来有很大的提升空间%%@%。
北京市海淀区教师进修学校校长姚守梅解读大模型K12学科测试结果时指出*%,在语文、历史等人文学科的考试中@@,模型欠缺对文字背后的文化内涵以及家国情怀的理解**@。面对历史地理综合题时%#,模型并不能像人类考生一样有效识别学科属性@#%。相较于简单的英语题*#%,模型反而更擅长复杂的英语题#@*。解理科题目时#%%*@,模型会出现以超出年级知识范围外的方法解题的情况%*%。当出现无法理解的考题时#%%,模型依然存在明显的“幻觉”%**。
此外#%#@,智源研究院还发布并解读国内外140余个开源和商业闭源的语言及多模态大模型全方位能力评测结果#*@#。
评测结果显示#%,在中文语境下@**#*,国内头部语言模型的综合表现已接近国际一流水平%@,但存在能力发展不均衡的情况%##@@。在多模态理解图文问答任务上%#,开闭源模型平分秋色*@@#%,国产模型表现突出*@。国产多模态模型在中文语境下的文生图能力与国际一流水平差距较小%*%。多模态模型的文生视频能力上**#,对比各家公布的演示视频长度和质量*#*%,Sora有明显优势**%@,其他开放评测的文生视频模型中%*@@,国产模型PixVerse表现优异@#%#@。
据介绍@%,本次用于评测的评测体系依托科技部“人工智能基础模型支撑平台与评测技术”和工信部“大模型公共服务平台”项目#%,智源研究院与10余家高校和机构联合开展大模型评测方法与工具研发@%%*。
评测使用20余个数据集、超8万道考题*#%@,包括与合作单位共建和智源自建的多个评测数据集*@,如中文多模态多题型理解及推理评测数据集CMMU、中文语义评测数据集C-SEM、中文语言及认知主观评测集CLCC、面向复杂算法代码生成任务的评测集TACO、文生图主观评测集Image-gen、多语言文生图质量评测数据集MG18、文生视频模型主观评测集 CUC T2V prompts*@*。其中%%#%@,主观题4000余道##@@@,均来源于自建原创未公开并保持高频迭代的主观评测集%*%@,严格校准打分标准##@,采取多人独立匿名评分、严格质检与抽检相结合的管理机制%@#*,降低主观偏差的影响@%@%。此外@*%#,为了更准确地评测语言模型的各项能力##@*,智源专门对所有客观数据集的子数据集进行了能力标签映射@@*#%。(完)
分享让更多人看到
热门排行
- 1北京冬奥会开幕倒计时200天
- 2(走进中国乡村)花海扮靓大运河畔催热“美丽经济”
- 3上海采取“减少流动+核酸筛查”策略尽快实现社会面动态清零
- 4这部“老带新”黑帮港片,“杀疯了”!
- 5华南西南等地有较强降雨
- 6向森林要食物:“中国绿都”三明点“绿”成金
- 7中新网原创专题节目《中国新视野》
- 8两岸婚姻群体共度母亲节
- 9中国新闻网信息网络传播视听节目许可证
- 102024成都世园会开幕一起置身充满“黑科技”的“花花世界”
- 11陕西:多对野生大熊猫母子同框“合影”
- 12【东西问·中外对话】联合国环境问题专家:中国为应对气候变化付出诸多努力外界应加深了解
- 13“一带一路”国际合作高峰论坛秘书处成立
- 14【追光的你】这些中国青年“经典站位”,高燃又好哭!
- 15非遗中国高山流水遇知音品味古琴里的中国式浪漫
- 16三餐并两餐少吃能减肥吗?
- 17中国残联与故宫博物院签署战略合作协议残疾女性文创作品有更多“舞台”
- 18汶川县开展“5·12”汶川地震16周年追思活动
- 19首尔举行“汉江发呆大赛”
- 20大湾区城市深度拓展人才合作