九游娱乐动态
九游娱乐网站:大语言模型综合评测报告PDF合集分享(附原数据表)
自2022年年末以来,人工智能大模型已成为技术领域甚至全球创新领域最受关注的话题。以ChatGPT为代表的大模型产品发展迅速,预测数据显示,到2030年,AIGC市场规模有望超过万亿元(
2023年,国内主要厂商也相继推出自研的大语言模型产品,同时,国内也推出了大量的大语言模型应用,逐步构建了基于中文语言特色的大语言模型生态。阅读原文,获取专题报告合集全文,解锁文末140份大模型相关行业研究报告。
本合集集中研究大语言模型产品的研发要素和核心特征,并从语言模型准确性、数据基础、模型和算法能力、安全和隐私四个维度入手,拆分出12个细分维度,分别是语义理解、语法结构、知识问答、逻辑推理、代码能力、上下文理解、语境感知、多语言能力、多模态能力、数据基础、模型和算法能力、安全和隐私。针对ChatGPT、Claude、Sage、天工3.5、文心一言、通义千问、讯飞星火、Moss、ChatGLM、vicuna-13B等十款大模型产品,我们设计了超过3000个问题的评测。
此外,本合集特别关注了大模型产品在编程能力方面的表现,提高了这部分问题的权重和比例。同时,我们还专门设置了测试中文语境特色的问题,例如方言测试、中文特色推理、对对联等。我们希望通过本次评测来帮助更多技术领域的同行获得对于中外大模型产品能力的认识,以帮助大家在AGI创业方向选择和工作实际应用方面获得最新的认知。
在十个模型中编程得分最高的为Claude,得分率73.47%,国内产品表现最好的为文心一言,得分率为68.37%。
在四个题目分类中,大语言模型表现最好的题目分类为错误提示和修复,整体得分率为82.5%,而表现最差的是难度相对较高的代码自动补全类题目,整体得分率为41.67%。
在十个模型中知识得分最高的为文心一言,得分率73.33%,得分第二的为ChatGPT,得分率为72.67%。
在九个题目分类中,大语言模型呈现很大的差异化分布,即医学常识获得最高分率86%,而娱乐明星类知识仅获得24%。
除IT知识问答题目外,其他八个题目分类中国内的大模型产品在中文知识环境中会的问答表现整体接近或优于国际大模型产品。
BDS国家工程中心:2023大语言模型提示注入攻击安全风险分析报告 报告2023-07-31
艾瑞咨询:ChatGPT浪潮下,看中国大语言模型产业发展 报告2023-04-12
混沌学园:解锁新的生产力:如何用ChatGPT提升业务能力 报告2023-08-09
智能小巨人俱乐部:ChatGPT还需要跨越几道鸿沟-生成式AI工具使用... 报告2023-07-20
高力国际:ChatGPT引发的AI人工智能产业应用前景分析与行业新机遇 报告2023-07-04
艾瑞咨询:ChatGPT浪潮下,看中国大语言模型产业发展 报告2023-04-12
微软研究院:人工通用智能的星星之火-GPT-4的早期实验 报告2023-03-30
华东政法大学:人工智能通用大模型(ChatGPT)的进展、风险与应对 报告2023-03-09
中伦:2023公司控制权争夺研究报告:法律大模型分析与数据挖掘 报告2023-09-01
红餐品牌研究院:小吃店模型创新分析报告2023 报告2023-09-01
海尔智家:2023智能家电与生成式人工智能大模型-创新与发展白皮书 报告2023-09-01
和而泰:2023基于家电大模型的产业应用白皮书 报告2023-08-30
头豹:2023年中国3D建模行业-3D建模-虚拟模型制造过程(摘要版) 报告2023-08-26
中国电子技术标准化研究院:知识图谱与大模型融合实践研究报告 报告2023-08-16
新华社研究院中国企业发展研究中心:人工智能大模型体验报告2.0 报告2023-08-16
中国移动:2023“弈衡”通用大模型评测体系白皮书 报告2023-08-12
商汤:2023大模型伦理原则与实践白皮书-日日新思无邪 报告2023-08-01
BDS国家工程中心:2023大语言模型提示注入攻击安全风险分析报告 报告2023-07-31
速途网&大模型之家:人工智能大模型产业创新价值研究报告 报告2023-07-27
工业互联网产业联盟:工业互联网标识解析-标识数据模型白皮书 报告2023-07-25
TE智库:2023中国通用大模型内容生成及安全性能力评测报告 报告2023-07-23
易观分析:大模型对企业数智化升级与业务经营的影响与应对 报告2023-07-20
中国工业互联网研究院:通用人工智能大模型工业领域知识问答性能评估 报告2023-07-11
腾讯研究院:大模型时代的AI十大趋势观察-人机共生 报告2023-07-11
普华永道:气象数据价值系列白皮书之三:撬动气象数据价值新模型白皮书 报告2023-06-16
之江实验室:2023生成式大模型安全与隐私白皮书 报告2023-06-11
中国移动研究院:面向AI大模型的智算中心网络演进白皮书 报告2023-06-03
沙利文:AI大模型市场研究报告(2023)-迈向通用人工智能,大模型拉... 报告2023-05-17
艾瑞咨询:ChatGPT浪潮下,看中国大语言模型产业发展 报告2023-04-12
腾讯:2023全域用户经营白皮书:STAR模型,从用户运营到生意增长 报告2023-03-21
华东政法大学:人工智能通用大模型(ChatGPT)的进展、风险与应对 报告2023-03-09
IDC:2022中国大模型发展白皮书-元能力引擎筑基智能底座 报告2023-03-07
IDC:2022中国大模型发展白皮书⸺元能力引擎筑基智能底座 报告2023-02-21
工业互联网产业联盟:工业互联网信息模型园区应用白皮书 报告2021-12-29
腾讯&智来时代:2021新职业教育机构数字化经营模型 报告2021-12-22
太平洋:传媒互联网行业专题-海外AIGC应用进展之游戏篇 报告2023-09-07
贝塔数据:2023 AIGC时代-手机银行财富管理能力建设白皮书 报告2023-08-18
头豹:2023年中国AIGC细分赛道研究报告(上)-文本和图像率先应用... 报告2023-07-31
软通智慧&人大:2023年AIGC赋能城市治理应用白皮书 报告2023-07-27
腾讯云:AI2.0时代如何通过AIGC打造爆款营销内容?报告2023-07-06
亚洲数据集团:智能时代的生产力变革:AIGC产业应用实践 报告2023-06-28
中国文化产业协会:中国文化元宇宙AIGC发展研究报告 报告2023-06-18
复旦大学:AIGC时代的多模态知识工程思考与展望 报告2023-05-05
华东师大:AIGC技术给教育数字化转型带来的机遇与挑战 报告2023-04-28
复旦大学:AIGC时代的多模态知识工程思考与展望 报告2023-04-22
头豹:2022年中国AIGC行业研究报告- 蓄势待发-数字内容的工业革... 报告2023-04-07
中国信通院&京东:人工智能生成内容(AIGC)白皮书(2022年) 报告2022-09-07
中国信通院:2022年人工智能生成内容(AIGC)白皮书 报告2022-09-03
在公众号后台回复“大模型报告”或点击文末“阅读原文”,可免费获取专题所有报告PDF版本。