让人工智能大模型做K12学科试题,能赶上人类水平吗?
▓CPG中国海南国际扑克大赛▓GGPoker[—ggn178.com—]为亚洲最具备实力的一间国际扑克竞技赛事平台,提供一个正规安全有保障的扑克游戏环境,加入立即玩与GGPoker全球玩家一起同乐调查:就职迎两周年之际韩国总统尹锡悦好评率仅为24%
本文转自:中新网
俄媒:普京向俄国家杜马提名米舒斯京出任总理
中新网北京5月21日电(中新财经记者 宋宇晟)记者了解到@@#*,近日%@#@,在北京市海淀区教委支持下%@,智源研究院联合与海淀区教师进修学校对齐学生测验方式*@,考察大模型与人类学生的学科水平差异#*##,其中*#%*,答案不唯一的主观题%@,由海淀教师亲自评卷%##。
评测发现#@,模型在综合学科能力上与海淀学生平均水平仍有差距@%#@,普遍存在文强理弱的情况%%@,并且对图表的理解能力不足*@,大模型未来有很大的提升空间@#@。
北京市海淀区教师进修学校校长姚守梅解读大模型K12学科测试结果时指出@%,在语文、历史等人文学科的考试中@#,模型欠缺对文字背后的文化内涵以及家国情怀的理解%%*。面对历史地理综合题时##,模型并不能像人类考生一样有效识别学科属性%*#*#。相较于简单的英语题@#%@,模型反而更擅长复杂的英语题%##%。解理科题目时**,模型会出现以超出年级知识范围外的方法解题的情况#%%。当出现无法理解的考题时#***%,模型依然存在明显的“幻觉”%#%#。
此外%%#,智源研究院还发布并解读国内外140余个开源和商业闭源的语言及多模态大模型全方位能力评测结果***@%。
评测结果显示%#@,在中文语境下@#*@,国内头部语言模型的综合表现已接近国际一流水平@*##@,但存在能力发展不均衡的情况#@。在多模态理解图文问答任务上*@#*#,开闭源模型平分秋色##%%*,国产模型表现突出@*@@#。国产多模态模型在中文语境下的文生图能力与国际一流水平差距较小*#*%。多模态模型的文生视频能力上@%#,对比各家公布的演示视频长度和质量##*@*,Sora有明显优势*%@%,其他开放评测的文生视频模型中*%%,国产模型PixVerse表现优异#*。
据介绍%*,本次用于评测的评测体系依托科技部“人工智能基础模型支撑平台与评测技术”和工信部“大模型公共服务平台”项目%@@*,智源研究院与10余家高校和机构联合开展大模型评测方法与工具研发@*。
评测使用20余个数据集、超8万道考题#*@*@,包括与合作单位共建和智源自建的多个评测数据集@*@,如中文多模态多题型理解及推理评测数据集CMMU、中文语义评测数据集C-SEM、中文语言及认知主观评测集CLCC、面向复杂算法代码生成任务的评测集TACO、文生图主观评测集Image-gen、多语言文生图质量评测数据集MG18、文生视频模型主观评测集 CUC T2V prompts*%*。其中@*#%,主观题4000余道%#,均来源于自建原创未公开并保持高频迭代的主观评测集@**%%,严格校准打分标准%%%@@,采取多人独立匿名评分、严格质检与抽检相结合的管理机制%%#%,降低主观偏差的影响@%@**。此外**%@@,为了更准确地评测语言模型的各项能力%**%,智源专门对所有客观数据集的子数据集进行了能力标签映射%%。(完)
分享让更多人看到
热门排行
- 1俄媒:普京向俄国家杜马提名米舒斯京出任总理
- 2习近平同匈牙利总理欧尔班举行会谈
- 3习言道|中匈两国的明天一定会更加美好
- 4俄媒:普京向俄国家杜马提名米舒斯京出任总理
- 5【追光的你】这些中国青年“经典站位”,高燃又好哭!
- 6商务部:中方将与DEPA成员方共同努力,推动谈判不断取得新进展
- 7中国业务可能暂停?普华永道回应
- 8电池残值评估成“堵点”新能源二手车市场待激活
- 9习近平:引领中匈关系不断迈向更高水平
- 10中国业务可能暂停?普华永道回应
- 11李冲天任中国一重集团有限公司董事、党委副书记
- 12小新Talkshow:徒步树王森林——寻找“辛达布”
- 13“差生”淘汰!又一批公司或将退市
- 14杭州全面取消住房限购,全国仅剩7地还有限制
- 15疯狂的黄金一天一个价,现在还能买吗?
- 161天涌入上万个“朝鲜族公主”年轻人为何喜欢去延吉?
- 17非遗中国高山流水遇知音品味古琴里的中国式浪漫
- 18美媒:拜登承认!美国的炸弹造成加沙平民伤亡
- 19市场监管总局公布2023年知识产权执法十大典型案件
- 20百度副总裁璩静已离职