让人工智能大模型做K12学科试题,能赶上人类水平吗?
▓CPG中国海南国际扑克大赛▓GGPoker[—ggn178.com—]为亚洲最具备实力的一间国际扑克竞技赛事平台,提供一个正规安全有保障的扑克游戏环境,加入立即玩与GGPoker全球玩家一起同乐数据释放暖意、新动能源源不断我国经济社会高质量发展稳步推进
本文转自:中新网
广东普宁英歌舞助力中泰文化交流合作
中新网北京5月21日电(中新财经记者 宋宇晟)记者了解到@%*##,近日#%@#,在北京市海淀区教委支持下@#,智源研究院联合与海淀区教师进修学校对齐学生测验方式%@@,考察大模型与人类学生的学科水平差异#%,其中@%#*@,答案不唯一的主观题*%%*@,由海淀教师亲自评卷*###。
评测发现#@,模型在综合学科能力上与海淀学生平均水平仍有差距%@%@,普遍存在文强理弱的情况%%**,并且对图表的理解能力不足@#*,大模型未来有很大的提升空间%%*%@。
北京市海淀区教师进修学校校长姚守梅解读大模型K12学科测试结果时指出#@,在语文、历史等人文学科的考试中#@%,模型欠缺对文字背后的文化内涵以及家国情怀的理解##@。面对历史地理综合题时#@@,模型并不能像人类考生一样有效识别学科属性**@##。相较于简单的英语题*##@,模型反而更擅长复杂的英语题##%*。解理科题目时##,模型会出现以超出年级知识范围外的方法解题的情况#%。当出现无法理解的考题时@#@#*,模型依然存在明显的“幻觉”**#@。
此外#*,智源研究院还发布并解读国内外140余个开源和商业闭源的语言及多模态大模型全方位能力评测结果@##。
评测结果显示@%%*,在中文语境下#*@,国内头部语言模型的综合表现已接近国际一流水平%%#%*,但存在能力发展不均衡的情况@##@。在多模态理解图文问答任务上*@*%@,开闭源模型平分秋色#@%*@,国产模型表现突出##@#*。国产多模态模型在中文语境下的文生图能力与国际一流水平差距较小#@#@。多模态模型的文生视频能力上@%*#*,对比各家公布的演示视频长度和质量#@,Sora有明显优势@#*#,其他开放评测的文生视频模型中**##@,国产模型PixVerse表现优异#*@#。
据介绍%#@@*,本次用于评测的评测体系依托科技部“人工智能基础模型支撑平台与评测技术”和工信部“大模型公共服务平台”项目@@#,智源研究院与10余家高校和机构联合开展大模型评测方法与工具研发%@*%。
评测使用20余个数据集、超8万道考题@@@,包括与合作单位共建和智源自建的多个评测数据集*@##@,如中文多模态多题型理解及推理评测数据集CMMU、中文语义评测数据集C-SEM、中文语言及认知主观评测集CLCC、面向复杂算法代码生成任务的评测集TACO、文生图主观评测集Image-gen、多语言文生图质量评测数据集MG18、文生视频模型主观评测集 CUC T2V prompts**。其中*@@**,主观题4000余道@*#@#,均来源于自建原创未公开并保持高频迭代的主观评测集*@@*,严格校准打分标准#*%%%,采取多人独立匿名评分、严格质检与抽检相结合的管理机制%%%*#,降低主观偏差的影响%*#%。此外#@#%@,为了更准确地评测语言模型的各项能力@@@%#,智源专门对所有客观数据集的子数据集进行了能力标签映射%*。(完)
分享让更多人看到
热门排行
- 1两岸婚姻群体共度母亲节
- 2天津大学第十四届“国际文化节”开幕带你感受各国民俗风采
- 32024年“全国防灾减灾日”海洋主场活动在浙江举行
- 4首台国产医用重离子加速器诞生记
- 5挺进深蓝,铁骑踏浪当先锋
- 65月13日央行开展20亿元7天期逆回购操作
- 7异地就医免备案,报销比例不降低
- 8小新TalkShow:尔滨好像又要火起来了
- 9“碰到美国警察,身穿军装也救不了你”
- 10(走进中国乡村)花海扮靓大运河畔催热“美丽经济”
- 11广东广播电视台原党委书记、台长张惠建接受审查调查
- 12康养专列再出发陕西铁路持续助力“银发”高品质出游
- 13俄罗斯别尔哥罗德市一栋居民楼发生坍塌
- 14违法和不良信息举报受理和处置管理办法
- 15印尼大规模山洪引发熔岩流已致37人遇难
- 16北京冬奥会开幕倒计时200天
- 17四川雅江发生泥石流气象部门精准预警助768人成功避险
- 18墨西哥沿岸近海发生6.4级地震震源深度80千米
- 19我国已建成世界最大实时地震观测网
- 20康养专列再出发陕西铁路持续助力“银发”高品质出游