让人工智能大模型做K12学科试题,能赶上人类水平吗?
▓GG扑克▓GGPoker[—ggn178.com—]为亚洲最具备实力的一间国际扑克竞技赛事平台,提供一个正规安全有保障的扑克游戏环境,加入立即玩与GGPoker全球玩家一起同乐香港医管局:料年底前超过250位非本地培训医生在港工作
本文转自:中新网
我守护我见证“边关军语”见证边防变迁
中新网北京5月21日电(中新财经记者 宋宇晟)记者了解到%@*%#,近日###**,在北京市海淀区教委支持下*##,智源研究院联合与海淀区教师进修学校对齐学生测验方式%**,考察大模型与人类学生的学科水平差异#@,其中@#@@,答案不唯一的主观题#%##,由海淀教师亲自评卷%#。
评测发现%%#,模型在综合学科能力上与海淀学生平均水平仍有差距#%**@,普遍存在文强理弱的情况*#%*,并且对图表的理解能力不足**,大模型未来有很大的提升空间@#%#。
北京市海淀区教师进修学校校长姚守梅解读大模型K12学科测试结果时指出*#*#@,在语文、历史等人文学科的考试中*%,模型欠缺对文字背后的文化内涵以及家国情怀的理解*#@。面对历史地理综合题时#%%*@,模型并不能像人类考生一样有效识别学科属性**#*@。相较于简单的英语题%*,模型反而更擅长复杂的英语题%*@@*。解理科题目时@#*#,模型会出现以超出年级知识范围外的方法解题的情况@#@。当出现无法理解的考题时*@,模型依然存在明显的“幻觉”%%#@。
此外#*%%@,智源研究院还发布并解读国内外140余个开源和商业闭源的语言及多模态大模型全方位能力评测结果%#%**。
评测结果显示@*##,在中文语境下*@,国内头部语言模型的综合表现已接近国际一流水平**%#@,但存在能力发展不均衡的情况%**。在多模态理解图文问答任务上*%@,开闭源模型平分秋色@**,国产模型表现突出@%**。国产多模态模型在中文语境下的文生图能力与国际一流水平差距较小#*%。多模态模型的文生视频能力上%@%,对比各家公布的演示视频长度和质量#@%%#,Sora有明显优势#@,其他开放评测的文生视频模型中@@%#*,国产模型PixVerse表现优异@#。
据介绍*@@#,本次用于评测的评测体系依托科技部“人工智能基础模型支撑平台与评测技术”和工信部“大模型公共服务平台”项目%@@,智源研究院与10余家高校和机构联合开展大模型评测方法与工具研发**#。
评测使用20余个数据集、超8万道考题@@@%,包括与合作单位共建和智源自建的多个评测数据集**#%#,如中文多模态多题型理解及推理评测数据集CMMU、中文语义评测数据集C-SEM、中文语言及认知主观评测集CLCC、面向复杂算法代码生成任务的评测集TACO、文生图主观评测集Image-gen、多语言文生图质量评测数据集MG18、文生视频模型主观评测集 CUC T2V prompts%*%。其中#%*,主观题4000余道*@@@#,均来源于自建原创未公开并保持高频迭代的主观评测集%@%,严格校准打分标准%%#%*,采取多人独立匿名评分、严格质检与抽检相结合的管理机制@%**,降低主观偏差的影响*%%。此外*%,为了更准确地评测语言模型的各项能力#*,智源专门对所有客观数据集的子数据集进行了能力标签映射**。(完)
分享让更多人看到
热门排行
- 1歌手争着守国门?别只想着蹭流量
- 2国家卫健委:鼓励支持社会力量积极参与医养结合
- 3重庆直飞西雅图航线复航
- 4东西问·中外对话|当鄂温克族歌唱家遇上美国乡村音乐人
- 5空调清洗火爆家政公司提前“招兵买马”
- 6北京怀柔黄花城长城水库现瀑布景观
- 7歌手争着守国门?别只想着蹭流量
- 8瞰中国峥嵘岁月屹立东方
- 9长了蜘蛛痣就是患肝癌?
- 10目标六连胜国安队准备好了
- 11中新网客户端、中新经纬客户端、侨宝客户端
- 12海交会马祖馆开馆县长邀约品高粱酒
- 13北京:小学生腐乳科普馆感受“东方奶酪”魅力
- 14首批养老专业本科生毕业,他们的就业形势如何?
- 15广东省美术作品展开幕展示五年新成就
- 16哈萨克斯坦总统:中亚国家应团结应对挑战
- 17CBA总决赛首场:辽宁本钢胜新疆伊力特
- 18肯尼亚:学习中文热度高涨
- 19长了蜘蛛痣就是患肝癌?
- 20端午临近,“藏龙”唤醒!