让人工智能大模型做K12学科试题,能赶上人类水平吗?
▓GGClub▓GGPoker[—ggn178.com—]为亚洲最具备实力的一间国际扑克竞技赛事平台,提供一个正规安全有保障的扑克游戏环境,加入立即玩与GGPoker全球玩家一起同乐俄媒:普京向俄国家杜马提名米舒斯京出任总理
本文转自:中新网
旅法打击乐演奏家严星驰:用音乐传递爱与能量
中新网北京5月21日电(中新财经记者 宋宇晟)记者了解到**,近日#@%,在北京市海淀区教委支持下#@,智源研究院联合与海淀区教师进修学校对齐学生测验方式#*#,考察大模型与人类学生的学科水平差异@%@@@,其中@*#,答案不唯一的主观题%#%*,由海淀教师亲自评卷*@%。
评测发现@@@#,模型在综合学科能力上与海淀学生平均水平仍有差距#*@,普遍存在文强理弱的情况%%*#%,并且对图表的理解能力不足#@#,大模型未来有很大的提升空间@%#%。
北京市海淀区教师进修学校校长姚守梅解读大模型K12学科测试结果时指出@#%*,在语文、历史等人文学科的考试中@%,模型欠缺对文字背后的文化内涵以及家国情怀的理解%#。面对历史地理综合题时*@##,模型并不能像人类考生一样有效识别学科属性%#*#%。相较于简单的英语题#*#,模型反而更擅长复杂的英语题#@*。解理科题目时%@,模型会出现以超出年级知识范围外的方法解题的情况****%。当出现无法理解的考题时*@*#,模型依然存在明显的“幻觉”*%。
此外**%*,智源研究院还发布并解读国内外140余个开源和商业闭源的语言及多模态大模型全方位能力评测结果@@*%。
评测结果显示@*@@@,在中文语境下*%,国内头部语言模型的综合表现已接近国际一流水平%%@%#,但存在能力发展不均衡的情况%@*%。在多模态理解图文问答任务上@*@,开闭源模型平分秋色%%**#,国产模型表现突出#*@%@。国产多模态模型在中文语境下的文生图能力与国际一流水平差距较小##@@%。多模态模型的文生视频能力上*%**,对比各家公布的演示视频长度和质量#*,Sora有明显优势@*@,其他开放评测的文生视频模型中%*,国产模型PixVerse表现优异*#。
据介绍##,本次用于评测的评测体系依托科技部“人工智能基础模型支撑平台与评测技术”和工信部“大模型公共服务平台”项目*%*@*,智源研究院与10余家高校和机构联合开展大模型评测方法与工具研发@#@。
评测使用20余个数据集、超8万道考题%%**,包括与合作单位共建和智源自建的多个评测数据集#@,如中文多模态多题型理解及推理评测数据集CMMU、中文语义评测数据集C-SEM、中文语言及认知主观评测集CLCC、面向复杂算法代码生成任务的评测集TACO、文生图主观评测集Image-gen、多语言文生图质量评测数据集MG18、文生视频模型主观评测集 CUC T2V prompts@@@@#。其中##*,主观题4000余道#%#,均来源于自建原创未公开并保持高频迭代的主观评测集@#@*#,严格校准打分标准%@%,采取多人独立匿名评分、严格质检与抽检相结合的管理机制*#%%,降低主观偏差的影响*%。此外*@%,为了更准确地评测语言模型的各项能力#@*,智源专门对所有客观数据集的子数据集进行了能力标签映射*@@@@。(完)
分享让更多人看到
热门排行
- 1海关总署:允许符合相关要求的匈牙利鲜食樱桃进口
- 2在匈牙利古都“穿越”秦汉文明
- 3广州中医药大学第一附属医院原院长冼绍祥接受审查调查
- 4除了刷牙,还要刷舌头吗?
- 5第三轮第二批中央生态环境保护督察全部实现督察进驻
- 6青海加牙藏毯传承人在国赛展示传统藏毯制作技艺
- 7习言道|中国和塞尔维亚是真朋友、好伙伴
- 8外媒:以军切断拉法援助路线联合国官员发声
- 9中新网客户端、中新经纬客户端、侨宝客户端
- 10波音“星际客机”飞船首次载人试飞再度推迟
- 11外媒:乌克兰国家保卫局局长被解职
- 12海上丝绸之路上的峇峇娘惹文化展吸引游客打卡
- 13专家解读:反对霸权主义中欧有强烈共识(组图)
- 14重庆忠县大岭山出现震撼云瀑美景
- 15英摄影师捕捉三只鹿张望瞬间角度完美一致好似重影
- 16【小新的Vlog】一步一旋律小新带你打卡成都地铁“音乐阶梯”
- 17习近平出访欧洲三国华侨华人冀以合作交流续写新篇
- 18习近平:引领中匈关系不断迈向更高水平
- 19习言道|中国和塞尔维亚是真朋友、好伙伴
- 20中国延长对12国免签政策多国华侨华人点赞