188金宝搏中国机器人
CHUANGZE ROBOT
当前位置:首页 > 城市大脑 > ai智能 > 大模型训练参数规模量级最高或达5万亿以上

大模型训练参数规模量级最高或达5万亿以上

来源:InfoQ研究中心     编辑:188金宝搏中国   时间:2023/6/21   主题:其他 [加盟]

-国内大模型出现大量参数规模大于100亿的模型

-百度研发的Ernie和华为研发的盘古目前是有数据的国内大模型参数规模的领先者

-国际领先的大模型GPT-4据推测参数规模量级可达5万亿以上

国内大模型未公布参数规模

•自研大模型(字节)

• 1+N认知智能大模型(科大讯飞)

•二郎神模型(IDEA研究院)

•自研AI大模型(光年之外)

•自研大模型(燧原科技)

•超拟人大模型(聆心智能)

•自研大模型(香依科技)

•魔力写作(竹间智能)

•自研大模型(MiniMax)

•蛋白质大模型(浙江大学杭州国 际科创中心)

国内模型参数规模<100 亿

•书生3.5 (商汤科技)

•孟子(澜舟科技)

•DriveGPT (毫末智行)

•ChatGLM (清华大学)

国内模型参数规模>100 亿

•ERNIE 3.0 (百度)

•盘古(华为)

•MOSS (复旦大学)

•遵义(阿里)

•言犀(京东)

•混元(腾讯)

•伏羲(网易)

•源1.0 (浪潮信息)

•行业精灵(云从科技)

•八卦炉(达摩院)

•元语大模型(莫塔社区)

•曹植大模型(达观数据)

•紫东太初(中科院自动化研究所)

•自研大模型(西湖星辰)

•悟道2.0 (智源研究院)

国际模型参数规模

•GPT-4 (OpenAI) 未公开,推测为超过50000亿

•PaLM (Google) 5400亿

•BERT (Google) 4810亿

•GPT-3.5 (OpenAI) 1750亿

•LaMDA (Google) 1370亿

•Galatica (Meta) 1200亿

•LLaMDA (Meta) 650亿

•Chinchilla (DeepMind) 700 亿

•Claude (Anthropic) 520亿

•Mineva (Google) 5400亿





大语言模型研发的关键影响要素

大语言模型产品研发需要同时具备三大要素,分别为数据资源要素,算法和模型要素,资金和资源要素,数据资源,资金和资源两要素为大模型研发的基础要素

大规模语言模型发展经过三阶段在2023年进⼊爆发阶段

大语言模型诞生阶段Transformer神经网络架构;探索阶段GPT-2发布并部分开源;大语言模型爆发阶段ChatGPT-3.5,百度文心一言发布

中国邮政储蓄银行、科蓝软件:科蓝智能高柜数币机器人“小蓝”

小蓝助力中国邮政储蓄银行打造创新型多模态生物科技赋能银行智慧网点驿站,担任无人柜台客服角色,可实现银行无柜员自助运行

中国移动天津公司、亚信科技:“天工”AIGC智慧客服虚拟数字人解决方案

天工虚拟数字人每月提升新业务办理量2000余笔,提升人员工作效率80%,模型查准率达90%,查全率达70%,平均月收入提升200万元

AI的应用场景有:消费端、产业端和多个行业

生成式AI可帮助人们完成众多繁琐工作,有助于促进消费端需求提升,2022年我国AI产业规模达到1958亿元,AI的产品形态和应用边界不断拓宽

CHATGPTAI掀起AI浪潮助力制造业发展

OpenAI的大型语言生成模型ChatGPT刷爆网络,其能胜任高情商对话,生成代码,构思剧本和小说等多个场景,将人机对话推向新的高度,引爆新一轮的AI热潮

人工智能研发运营体系(ML0ps)实践指南2023

指南站在组织如何布局和落地 MLOps 的视角,以模型的高质量,可持续交付作为核心逻辑,系统性梳理 MLOps 概念内涵,发展过程,落地挑战等现状

国内细分赛道企业在 AIGC 各应用场景有哪些布局

聆心智能提供AI驱动的高质量数字疗法等解决方案;澜舟科技 彩云科技 秘塔科技 香侬科技 感知阶跃 影谱科技 帝视科技 标贝科技 知觉之门 倒映有声 红棉小冰

国内科技大厂布局生成式 AI,未来有望借助业务生态推出爆款应用产品

百度文心通过文字描述生成图片;腾讯优图完成对于人像面部的3D建模;阿里巴巴Lubanner自动完成素材分析 抠图 配色等设计;剪映通过文字生成视频

AIGC领域相关初创公司及业务场景梳理

Otherside AI术采用 OpenAI 的 GPT-3 协议AI 邮件写作;Copy AI通过 AI 写作广告和营销文案;Jasper Ai人撰写营销推广文案以及博客等各 种文字内容

ChatGPT 以 GPT+RLHF 模型为核心支撑,为 AIGC 发展指明方向

ChatGPT将海量训练数据与Transformer框架结合,在GPT模型的基础上通过RLHF模型提升交互聊天能力,实现了对自然语言的深度建模,AIGC核心技术框架

AIGC提升文字 图片渗透率,视频 直播等较慢

科技大厂有望将 AI 技术应用 到业务生态中,有望推动在线办公,搜索引擎等应用场景的渗透率提升, 2030 年市场空间可达 2175.58 亿元
资料获取
ai智能
== 最新资讯 ==
通用人工智能AGI等级保护白皮书-网络安
数据安全推进计划:2023数据安全产品与
杭州市《智慧多功能灯杆建设与管理规范》
广东省基于SD-OTN全光网的电子政务外
聊城市智慧聊城“城市大脑,建成“集成-智
青岛市市南区5G+城市基层治理项目,1+
铜川市新型智慧城市建设项目-建设云数一体
娄底市智慧城市综治网格化平台-民意调查
宁夏吴忠利通区“数字利通”项目-实现政务
大同市新型智能城市项目-城市治理一网统管
中国主要城市群2020年数字经济规模对比
虎彩印艺集成提升阶段案例-数字化转型案例
广东科视单项覆盖阶段案例-数字化转型案例
大模型训练参数规模量级最高或达5万亿以上
大语言模型研发的关键影响要素
== 机器人推荐 ==
迎宾讲解服务机器人

服务机器人(迎宾、讲解、导诊...)


            智能服务机器人                                    导览机器人 
版权所有 188金宝搏中国智能机器人集团股份有限公司 中国运营中心:北京 清华科技园九号楼5层 中国生产中心:山东日照太原路71号
销售1:4006-935-088 销售2:4006-937-088 客服电话: 4008-128-728

反应试验装置 | 高塔复合肥 | 深圳软件开发 |