让人工智能大模型做K12学科试题,能赶上人类水平吗?
▓WPT比赛▓GGPoker[—ggn178.com—]为亚洲最具备实力的一间国际扑克竞技赛事平台,提供一个正规安全有保障的扑克游戏环境,加入立即玩与GGPoker全球玩家一起同乐南方新一轮较强降水开启北方大风沙尘雷雨齐来袭
本文转自:中新网
美法院驳回亨特·拜登撤销针对其枪支指控的请求
中新网北京5月21日电(中新财经记者 宋宇晟)记者了解到@%%@#,近日*%,在北京市海淀区教委支持下@%,智源研究院联合与海淀区教师进修学校对齐学生测验方式#@,考察大模型与人类学生的学科水平差异##**%,其中#@%,答案不唯一的主观题##,由海淀教师亲自评卷##。
评测发现@*%,模型在综合学科能力上与海淀学生平均水平仍有差距**#,普遍存在文强理弱的情况@@@%,并且对图表的理解能力不足**,大模型未来有很大的提升空间*%*#。
北京市海淀区教师进修学校校长姚守梅解读大模型K12学科测试结果时指出#*,在语文、历史等人文学科的考试中#@#%,模型欠缺对文字背后的文化内涵以及家国情怀的理解**@。面对历史地理综合题时%***@,模型并不能像人类考生一样有效识别学科属性@%@@@。相较于简单的英语题*#@,模型反而更擅长复杂的英语题#@@%。解理科题目时@#,模型会出现以超出年级知识范围外的方法解题的情况@*@。当出现无法理解的考题时###,模型依然存在明显的“幻觉”*##。
此外@@,智源研究院还发布并解读国内外140余个开源和商业闭源的语言及多模态大模型全方位能力评测结果%#@*。
评测结果显示@%%*,在中文语境下#*@,国内头部语言模型的综合表现已接近国际一流水平##,但存在能力发展不均衡的情况**@。在多模态理解图文问答任务上@*,开闭源模型平分秋色@@*,国产模型表现突出@%#%。国产多模态模型在中文语境下的文生图能力与国际一流水平差距较小*#**@。多模态模型的文生视频能力上*##,对比各家公布的演示视频长度和质量%@*%,Sora有明显优势@#*%@,其他开放评测的文生视频模型中%%#%%,国产模型PixVerse表现优异@#。
据介绍*@#@,本次用于评测的评测体系依托科技部“人工智能基础模型支撑平台与评测技术”和工信部“大模型公共服务平台”项目#@@#,智源研究院与10余家高校和机构联合开展大模型评测方法与工具研发#@。
评测使用20余个数据集、超8万道考题@%#,包括与合作单位共建和智源自建的多个评测数据集*#*##,如中文多模态多题型理解及推理评测数据集CMMU、中文语义评测数据集C-SEM、中文语言及认知主观评测集CLCC、面向复杂算法代码生成任务的评测集TACO、文生图主观评测集Image-gen、多语言文生图质量评测数据集MG18、文生视频模型主观评测集 CUC T2V prompts%@。其中@#,主观题4000余道%*,均来源于自建原创未公开并保持高频迭代的主观评测集%#*#,严格校准打分标准*#*#*,采取多人独立匿名评分、严格质检与抽检相结合的管理机制#%,降低主观偏差的影响*@#。此外%@*%@,为了更准确地评测语言模型的各项能力*#*,智源专门对所有客观数据集的子数据集进行了能力标签映射%#。(完)
分享让更多人看到
热门排行
- 1重庆忠县大岭山出现震撼云瀑美景
- 2习言道|欢迎匈牙利成为中国式现代化道路上的同行者
- 3中国成功发射智慧天网一号01星
- 4AI科技助力广西“新农人”:让田间地头“稻香鱼肥”
- 5以总理称得不到支援将“单独作战”外媒:美以分歧加剧
- 6俄罗斯举行红场阅兵纪念卫国战争胜利79周年
- 7商务部:中方将与DEPA成员方共同努力,推动谈判不断取得新进展
- 8彭丽媛同匈牙利总理欧尔班夫人雷沃伊参观匈中双语学校
- 9习近平出席匈牙利总统舒尤克和总理欧尔班举行的欢迎仪式
- 10彭丽媛同匈牙利总理欧尔班夫人雷沃伊参观匈中双语学校
- 11日本本州东岸海域强震多地停电震感强烈
- 12冬小麦陆续进入生长“冲刺”阶段夏粮主产区夯实丰收基础
- 13张家界市委书记“喊话”韩国游客
- 14互联网宗教信息服务许可证
- 15手机直连卫星业务“落地”香港
- 16日本本州东岸海域强震多地停电震感强烈
- 17深港共建大湾区国际仲裁高地
- 18广西田东举行香芒丰收展
- 19部分热门航线机票价格降至两三百元“五一”假期后错峰游正当时
- 20市场监管总局公布2023年知识产权执法十大典型案件