让人工智能大模型做K12学科试题,能赶上人类水平吗?
▓WPT参赛资格▓GGPoker[—ggn178.com—]为亚洲最具备实力的一间国际扑克竞技赛事平台,提供一个正规安全有保障的扑克游戏环境,加入立即玩与GGPoker全球玩家一起同乐2024两岸商会合作交流活动在福州举行
本文转自:中新网
粤港澳大湾区旅行社行业组织联盟在穗成立
中新网北京5月21日电(中新财经记者 宋宇晟)记者了解到**%*@,近日**@#,在北京市海淀区教委支持下@%#**,智源研究院联合与海淀区教师进修学校对齐学生测验方式#@,考察大模型与人类学生的学科水平差异@%@*,其中%@@*%,答案不唯一的主观题#@,由海淀教师亲自评卷%##@。
评测发现%#**,模型在综合学科能力上与海淀学生平均水平仍有差距%%@*#,普遍存在文强理弱的情况%#,并且对图表的理解能力不足@*%#*,大模型未来有很大的提升空间#%@@*。
北京市海淀区教师进修学校校长姚守梅解读大模型K12学科测试结果时指出#%,在语文、历史等人文学科的考试中@#,模型欠缺对文字背后的文化内涵以及家国情怀的理解%@@#。面对历史地理综合题时*#@@@,模型并不能像人类考生一样有效识别学科属性#%%。相较于简单的英语题**@*,模型反而更擅长复杂的英语题*@#@。解理科题目时@%,模型会出现以超出年级知识范围外的方法解题的情况*##@。当出现无法理解的考题时*#,模型依然存在明显的“幻觉”@*%#。
此外@#%#,智源研究院还发布并解读国内外140余个开源和商业闭源的语言及多模态大模型全方位能力评测结果*@@%。
评测结果显示####,在中文语境下#*@,国内头部语言模型的综合表现已接近国际一流水平*#%#@,但存在能力发展不均衡的情况@%#*%。在多模态理解图文问答任务上%@,开闭源模型平分秋色@#@,国产模型表现突出%%@%。国产多模态模型在中文语境下的文生图能力与国际一流水平差距较小%%。多模态模型的文生视频能力上@**%#,对比各家公布的演示视频长度和质量%###*,Sora有明显优势%@##,其他开放评测的文生视频模型中%#,国产模型PixVerse表现优异@#%。
据介绍@*,本次用于评测的评测体系依托科技部“人工智能基础模型支撑平台与评测技术”和工信部“大模型公共服务平台”项目%##,智源研究院与10余家高校和机构联合开展大模型评测方法与工具研发@#%#。
评测使用20余个数据集、超8万道考题*#%@@,包括与合作单位共建和智源自建的多个评测数据集@@,如中文多模态多题型理解及推理评测数据集CMMU、中文语义评测数据集C-SEM、中文语言及认知主观评测集CLCC、面向复杂算法代码生成任务的评测集TACO、文生图主观评测集Image-gen、多语言文生图质量评测数据集MG18、文生视频模型主观评测集 CUC T2V prompts#%%@。其中@**@*,主观题4000余道#%,均来源于自建原创未公开并保持高频迭代的主观评测集@#%#,严格校准打分标准%#,采取多人独立匿名评分、严格质检与抽检相结合的管理机制%#@,降低主观偏差的影响*@%@。此外%%%,为了更准确地评测语言模型的各项能力#@@%*,智源专门对所有客观数据集的子数据集进行了能力标签映射@@@#%。(完)
分享让更多人看到
热门排行
- 1“剧场化”是深耕类型剧,还是宣传噱头?
- 2王清宪:如果说安徽今天的发展令人鼓舞,那么未来发展一定更有看头
- 3中国新闻网信息网络传播视听节目许可证
- 4惠及约1亿人!老旧小区改造成绩单来了
- 5广东省美术作品展开幕展示五年新成就
- 6粤港澳大湾区旅行社行业组织联盟在穗成立
- 7中新网原创微纪录片节目《微视界》
- 8国家统计局:1—4月份全国房地产开发投资30928亿元
- 9营口港仙人岛港区全面对外开放
- 10南非建筑倒塌事故已致33人死亡总统前往现场视察
- 11广州塔下将再添一座步行桥
- 12中国海警南海海域开展2024年南海伏季休渔首次同步执法行动
- 13空调清洗火爆家政公司提前“招兵买马”
- 14“中俄文化年”开幕式暨庆祝中俄建交75周年专场音乐会在北京举行
- 15台湾彰化江氏宗亲回祖籍地福建永定寻根谒祖
- 16香港医管局:料年底前超过250位非本地培训医生在港工作
- 17年轻人的婚恋观:寻找灵魂契合的“快乐搭子”
- 18为赚流量发布虚假故事无底线摆拍短视频该严治了
- 19南非自然保护区部分生物死亡疑与骚乱点燃化学品仓库有关
- 202024两岸商会合作交流活动在福州举行