让人工智能大模型做K12学科试题,能赶上人类水平吗?
▓线上WSOP2021▓GGPoker[—ggn178.com—]为亚洲最具备实力的一间国际扑克竞技赛事平台,提供一个正规安全有保障的扑克游戏环境,加入立即玩与GGPoker全球玩家一起同乐(经济观察)中塞自贸协定“跑步前进”
本文转自:中新网
东西问·中外对话|为何说朔尔茨访华,是“明智的选择”?
中新网北京5月21日电(中新财经记者 宋宇晟)记者了解到#*@,近日#%%%,在北京市海淀区教委支持下@%%*#,智源研究院联合与海淀区教师进修学校对齐学生测验方式*###,考察大模型与人类学生的学科水平差异**@,其中*%#,答案不唯一的主观题*%*,由海淀教师亲自评卷#%。
评测发现%**,模型在综合学科能力上与海淀学生平均水平仍有差距*%%**,普遍存在文强理弱的情况#%,并且对图表的理解能力不足@*@,大模型未来有很大的提升空间@*。
北京市海淀区教师进修学校校长姚守梅解读大模型K12学科测试结果时指出%@,在语文、历史等人文学科的考试中##@#,模型欠缺对文字背后的文化内涵以及家国情怀的理解**##。面对历史地理综合题时%@%#*,模型并不能像人类考生一样有效识别学科属性%#@%#。相较于简单的英语题%%,模型反而更擅长复杂的英语题%@。解理科题目时#@*#,模型会出现以超出年级知识范围外的方法解题的情况@%*%。当出现无法理解的考题时@%*%*,模型依然存在明显的“幻觉”%#%@。
此外@**%*,智源研究院还发布并解读国内外140余个开源和商业闭源的语言及多模态大模型全方位能力评测结果%%*#。
评测结果显示#%#@#,在中文语境下#%#*,国内头部语言模型的综合表现已接近国际一流水平%@**%,但存在能力发展不均衡的情况#@*。在多模态理解图文问答任务上#%%*,开闭源模型平分秋色##,国产模型表现突出#*%*。国产多模态模型在中文语境下的文生图能力与国际一流水平差距较小**@#%。多模态模型的文生视频能力上@#@##,对比各家公布的演示视频长度和质量@%,Sora有明显优势*@@%,其他开放评测的文生视频模型中@@*%#,国产模型PixVerse表现优异%#*@。
据介绍@%@*#,本次用于评测的评测体系依托科技部“人工智能基础模型支撑平台与评测技术”和工信部“大模型公共服务平台”项目%%,智源研究院与10余家高校和机构联合开展大模型评测方法与工具研发*#*#。
评测使用20余个数据集、超8万道考题*@*,包括与合作单位共建和智源自建的多个评测数据集@*###,如中文多模态多题型理解及推理评测数据集CMMU、中文语义评测数据集C-SEM、中文语言及认知主观评测集CLCC、面向复杂算法代码生成任务的评测集TACO、文生图主观评测集Image-gen、多语言文生图质量评测数据集MG18、文生视频模型主观评测集 CUC T2V prompts*#。其中@@,主观题4000余道*#@*%,均来源于自建原创未公开并保持高频迭代的主观评测集%%@##,严格校准打分标准#%%@,采取多人独立匿名评分、严格质检与抽检相结合的管理机制@#,降低主观偏差的影响%***%。此外@###@,为了更准确地评测语言模型的各项能力@%@**,智源专门对所有客观数据集的子数据集进行了能力标签映射@@**。(完)
分享让更多人看到
热门排行
- 1习近平访“塞铁”,贝尔格莱德遇到“中国红”
- 2三十一个省份一季度GDP数据出炉——经济运行开局良好
- 3手机刷不停,怎样预防干眼症?
- 4甘肃文化品牌:陇原文艺何以“繁花”?
- 5中新网客户端、中新经纬客户端、侨宝客户端
- 6市场监管总局公布2023年知识产权执法十大典型案件
- 7(经济观察)中塞自贸协定“跑步前进”
- 8深圳匈牙利与“电”共舞
- 9杭州全面取消住房限购,全国仅剩7地还有限制
- 10生育津贴究竟发给谁的该不该“就高”补差?
- 11百度副总裁璩静已离职
- 12青藏铁路西格段通车40周年累计发送旅客突破1.1亿人次
- 13强对流预警!北京、天津等地将有8至10级雷暴大风或冰雹天气
- 14中国已下达2024年度以工代赈中央投资115亿元
- 15调查:就职迎两周年之际韩国总统尹锡悦好评率仅为24%
- 16青海加牙藏毯传承人在国赛展示传统藏毯制作技艺
- 17广州中医药大学第一附属医院原院长冼绍祥接受审查调查
- 18调查:就职迎两周年之际韩国总统尹锡悦好评率仅为24%
- 19重庆忠县大岭山出现震撼云瀑美景
- 20【凡人歌】这个冬天,冰球很“热”