世界观天下!科技云报道:大模型的中场战事,深入垂直行业腹地
科技云报道原创。
自从OpenAI于2022年11月推出ChatGPT后,一场波及全球科技界的“AI海啸”就此爆发。
自今年以来,国内已有超过30家企业入局大模型赛道。从百度“文心一言”、阿里“通义千问”的发布,到网易“玉言”、科大讯飞“星火”、昆仑万维“天工”等的推出,再到腾讯“混元”、京东“ChatJD”、华为“盘古”等的预告。互联网巨头、科技公司纷纷秀出“肌肉”,谁也不想在这场大模型混战中掉队。
(资料图片仅供参考)
在由OpenAI引发的这场狂奔中,大模型的发展阶段已经从“通用”迈入“垂类”。如果说通用大模型是大模型发展的初期阶段,那么垂直场景应用则可以视为“中场战事”。
在该阶段,应用与场景先行,倒逼垂直领域的大模型飞跃发展。不少医疗、金融、教育等行业内拥有用户数据积累的企业,已开始基于大模型“底座”,训练适配自身的垂类模型,比如近期由上海联通、华山医院联合开发的Uni-talk、医联“MedGPT”、云知声的“山海”等。
大模型路线分化
大模型让人类感受到的智能,是就像人类自身的学习那样,通过通用知识和逻辑能力的训练,具备了解决各种问题的能力。
大模型也有这种能力,基于文本语料采用无监督学习训练的模型可以用少量的监督样本,用于各类机器学习任务,比如图片分类、翻译、对话、写代码等,这样的能力就是所谓的通用能力。
当大模型发展到一定阶段,各领域企业意识到,其通用能力已无法承载更为专业的领域,比如医疗、金融等,每一个领域都是独立的知识体系,具备极为庞杂的知识量,显然仅靠通用大模型无法满足垂直领域的需求,这也为大模型之后发展路径的分化埋下了伏笔。
事实上,通用大模型发展至今,面临算力需求大、训练和推理成本高、数据质量不佳等挑战。一个成功的且可对外商业化输出的通用大模型,要求厂商拥有全栈大模型训练与研发能力、业务场景落地经验、AI安全治理举措、以及生态开放性等核心优势。
另外,训练基础模型的成本也是非常之高,做一个千亿级的大模型,需要单机群万卡以上的算力。从国内外来看,真正做通用模型的公司并没有那么多。相反,训练垂直领域模型所需要的代价和资源远远小于从零开始做通用模型。
因而,从商业逻辑的角度来看,大部分公司不具备做通用大模型的能力,巨头更适合做通用大模型,拥有丰富场景数据积累的公司更适合做垂域模型。
垂类大模型以深度解决行业需求为主,即企业在自己擅长的领域训练适合自己的“产业版GPT”。这类大模型生成的内容更符合特定垂类场景的需求,质量更高。
当前,已经可以看到不少垂类模型应用在金融、医疗、交易等场景中。比如,彭博社根据自身丰富的金融数据资源,基于GPT-3框架再训练,开发出了金融专属大模型BloombergGPT。
由此,大模型赛道目前出现了三类厂商:一类对标GPT的通用大模型,聚焦基础层的厂商;一类是在开源大模型基础之上训练垂类大模型,聚焦垂直行业的企业;另一类则是专注具体应用的纯应用公司。
通用VS垂类
从通用大模型到垂类大模型,是大模型技术发展到一定阶段的必然结果。
垂直大模型的发展主要体现在各个领域的模型性能持续提升,例如语音识别的错误率逐年下降,自然语言处理的语义理解能力不断提升等。通用大模型则在多任务学习、迁移学习等方面取得了显著进展,已经成为自然语言处理领域的重要研究方向。
比如,生物大模型能够提高AI制药效率。国外的研究报告显示,AI可以将新药研发的成功率提高16.7%,AI辅助药物研发每年能节约540亿美元的研发费用,并在研发主要环节节约40%至60%的时间成本。根据英伟达公开资料,使用AI技术可使药物早期发现所需时间缩短至三分之一,成本节省至两百分之一。
在产业角度来看,通用模型就是“百科全书”,能够有问必答,能够适用不同的产业土壤,而垂直模型类似于单领域的专家,虽然专业,但受众注定是少数人。
从演进路径上看,垂类模型是在通用大模型基础上训练而来,如果撇开通用大模型,垂类大模型不复存在。垂类模型强调领域的Know-How,对于特定领域来说,需要针对该领域的任务做指令学习。行业不同,场景不同,指令学习的区别也极大。比如,泛互联网行业更关注营销、推荐的效果,金融更领域更关注风控、可信、以及营销的效果。
两者的最大区别在于,垂类大模型在资源投入、成本投入等方面的要求下降了,但额外要求是行业Known-How,即对这个行业的知识要求提高了。
而从成本方面考量,通过通用大模型微调实现的垂类大模型相较通用大模型是“几何级别的下降”。根据国金证券的测算,在模型微调阶段,由于训练量级较小,仅为万级,相关的算力成本相比之下可忽略不计。
以斯坦福大学于2023年3月发布Alpaca为例,这是一个基于LLaMA-7B基座,应用5.2万指令对模型微调训练而来的对话类语言模型。该模型基于8块A100微调,微调时长3小时,算力成本不超过300元。
由于垂直应用大模型更符合垂类场景的需求、质量比通用大模型更高,也让众多企业看到了其中的机会。
医联近日发布了自主研发的基于Transformer架构的国内首款医疗大语言模型——MedGPT,其主要致力在真实医疗场景中发挥实际诊疗价值,可实现从疾病预防、诊断、治疗、康复的全流程智能化诊疗能力。
5月,微盟正式发布基于大模型的AI应用型产品WAI,该产品已正式上线包括话术生产、短信模板、商品描述、种草笔记、直播口播稿、公众号推文、短视频带货文案等25个实际应用场景。
作为聚焦物联网与医疗两大领域的人工智能企业,云知声正式发布山海大模型。该大模型针对知识密度高的领域,通过数据训练、训练数据、微调等方式,做一些专业的加强,这样模型既具备了通用应用水平,也针对特殊场景与领域进行了能力的加强。
山海大模型不仅在中文环境下的表现要好于GPT-4,甚至在医疗等个别场景下的表现效果,也已经开始优于GPT-4。目标是在今年内达到ChatGPT的通用能力水平,并在医疗、物联、教育等多个垂直领域的能力上全面超越GPT-4。
云知声创始人、CEO黄伟指出,在AI 1.0时代,虽然基于深度学习,每家都有强大的技术,但整体上并没有本质改变AI用于分类的任务,分类种类的增加仍然处在量变阶段,限制了AI创造价值的上限。
而在大模型引领的AI 2.0时代,为人工智能带来了新的能力,可以打造更多新的产品,满足客户更多的需求,例如医疗、营销、沟通等,能够创造更多的商业机会。
AI对于复杂逻辑理解能力大幅增强,扭转了用户对于AI“人工智障”的刻板印象,也让更多人接受人工智能,为大模型的广泛应用创造的条件。
“大模型所谓的‘思维链’能力,可以告诉用户推导的过程,从而知道中间过程里有哪些东西是错的,优化的时候就可以获得提示了,而不是像过去一样只能看见和调整参数的权重。”
云知声创始人兼CTO梁家恩表示,但就目前而言,大模型仍然是有限的东西,但对于没有见过的东西,大模型会生成“似是而非”的回答,而随着AI生成能力的不断增强,但校验会更加困难,这也让AI行业需要不断去探索新的解决方法。
相信随着越来越多企业入局,垂直大模型在各个行业和细分领域中将大量涌现。而那些能将一个垂直领域做专、做透,用高质量的数据持续优化模型,跑通商业闭环,构建起产业生态的企业,最终将把价值链做到足够长。
特别声明:本文为合作媒体授权DoNews专栏转载,文章版权归原作者及原出处所有。文章系作者个人观点,不代表DoNews专栏的立场,转载请联系原作者及原出处获取授权。(有任何疑问都请联系idonews@donews.com)
标签:
推荐
- 世界观天下!科技云报道:大模型的中场战事,深入垂直行业腹地
- 天天看热讯:150秒带你通过第一视角探访酒泉卫星发射中心
- 企业最佳新人奖颁奖词_最佳新人奖颁奖词
- 10分钟上桌的莲藕新吃法|当前讯息
- 天天快看点丨近三年收益率超140% 金鹰信息产业股票基金排名同类产品前5%
- 全球热议:诸葛科技:百城二手住宅市场均价连续三月下滑 超七成城市房价回落
- 全球最新:2022年上市物企从业人数超百万,纳税总额64.7亿元
- 【焦点热闻】【港股异动】舜宇光学科技(02382.HK)跌3.04%
- 全球最新:银江技术5月31日快速上涨
- 解放军军机南海拦截美军侦察机 直接从美军前方穿过-焦点观察
- 直播带货要创新更要规范 天天微头条
- 天天热点!红色经典书籍有哪些书 红色书籍有哪些
- contour是什么意思英语(contour是什么意思)-世界即时
- 你好,红领巾!濉溪县少先队入队“大闯关”进行时
- 中辉期货工业硅早盘关注:高库存去化压力较大-每日快报
- 昭衍新药(603127):5月30日北向资金增持14.62万股
- 沪深股通|易点天下5月30日获外资买入0.37%股份 世界百事通
- 每日速讯:祁阳市“四长四链”助推“纺织小镇”建设
- 电子证照让群众办事更便捷_环球观点
- 全球动态:虢国墓地青铜器保护修复项目入选“全国十佳”
- 环球快讯:请问,2008年后签订了两次三年合同,但后面那次还没到期限公司就因亏本停止生产!要求终止合同,公司
- 最新快讯!中关村论坛发布20项重大科技成果
- 麦粒肿消肿的最快方法图片_麦粒肿消肿的最快方法-天天观天下
- 抓在经常 融入日常 环球视讯
- :英菲尼迪QX50怎么样及宝骏510 CVT怎么样 环球通讯
- 宇宙大爆炸理论介绍_大爆炸理论简介
- 申华控股:5月30日召开董事会会议
- 天天热门:人民银行今日开展370亿元逆回购操作 公开市场实现净投放350亿元
- 全球热讯:“采摘+旅游”解锁融合发展新路子
- 被问普京是否出席南非金砖国家峰会,克宫:俄方会派适当级别代表去|快消息
- 世界速讯:3年和5年的红酒区别在哪里?
- 最新上榜流行歌曲单簧管改编曲选NO.2附赠MP4_对于最新上榜流行歌曲单簧管改编曲选NO.2附赠MP4简单介绍|焦点热门
- 银川市交通运输行业开展“点亮微心愿 共筑中国梦”公益活动
- 玩具?过去3年约基奇面对阿德巴约防守40中23砍下52分 还有25助攻|天天快看
- 14国代表河北共话生物医药和大健康产业发展机遇 35个项目集中签约
- 由人形机器人应运而起引发的思考
- 神舟十六号3名航天员顺利进驻中国空间站
- 幻想纹章4.6最强角色(幻想纹章4 5) 每日精选
- 停车切莫图一时方便!
- 股市板块有哪些 实时
- 韧性有什么用啊(韧性有什么用)|世界热闻
- 张之臻创历史!中国大陆男单首进法网第二轮 世界新要闻
- 枝江市2023年41座小型水库白蚁防治项目(第2次采购)成交公告
- 世界微动态丨美的库卡智能制造科技园全面投产
- 东华软件(002065.SZ):东华医为已向市场推广包含人工智能应用的产品有“医学影像分析系统”等十几个产品
- 明星演唱会的耳机是干什么的(明星演唱会耳机)-世界快消息
- 提醒所有朋友注意,指数大跌,无需恐慌!是时候亮剑了
- 江津区消防救援支队:开展高层建筑消防安全“除险清患”排查工作
- 天天通讯!创新技术与业务场景融合,星环科技大数据智能化、多模态、平民化
- 焦点热门:061期刘胜双色球预测奖号:奇偶比分析
- 世界热推荐:3p挂机空调哪个品牌好(挂机空调哪个品牌好)
- 男子吃火锅遇假茅台被服务员提醒,网友:敬业更专业
- 头条焦点:首医大科技园落户“中国药谷”
- 手指短的女人是旺夫命 贤惠善良幸福美满
- 张信哲商演引热议,与富婆牵手唱歌举止亲密,被曝出场费130万 天天热推荐
- 世界微动态丨丰田带头抵触汽车全面电动化 多家日本公司站队支持:不环保、自欺欺人
- 【热闻】国金证券给予拓普集团增持评级,定位tier0.5,客户覆盖广驱动高增长,目标价格为76.23元
- 家里的不锈钢窗纱怎么拆卸_不锈钢窗纱怎么装-头条
- 居然之家:拟19.63亿元收购远洋集团持有的北京朝阳远洋未来广场 环球快报
- 火影忍者没有结果四对CP,美好开始悲剧结束,纲手注定终身孤独
- 焦点快播:海贼王929话情报:cp0也有怂的时候,黑炭大蛇想要军舰和贝加庞克
- #金猫榜# “最强手感”穿新装,达尔优A98水透版机械键盘,夏日更凉爽 环球即时看
- 东海县实验中学坠楼事件_东海县实验中学
- 门诊将探索推行“先诊疗后付费”
- 【环球快播报】美国众议院和参议院有什么区别 美国众议院相当于中国
- 立秋的含义_立秋是什么意思
- 浙江金融职业学院宿舍制度好吗_浙江金融职业学院宿舍 环球新动态
- 携程发布“六一”亲子游洞察:亲子户外游学“出圈 ”逛景区“遛娃”大增2.8倍
- 强劲业绩带动网易港股涨近8% 摩根大通上调目标价至180港元 全球球精选
- 俄罗斯外长拉夫罗夫今日表示,除非联合国与俄罗斯达成协议,克服阻碍俄罗斯谷物和化肥出口的障碍,否则黑海谷物协议将不再生效 焦点消息
- 东决抢七裁判:福斯特联手“托尼兄弟” 约翰-戈布尔在列|关注
- 天天快看点丨停产的建材厂内为何深夜挖坑?三人为牟私利非法倾倒填埋垃圾7600吨
- 天天速读:我国出现首位戴眼镜执飞航天员,近视也可以“飞天”吗?
- 焦点日报:有村实树(关于有村实树介绍)
- 国创高新:与武汉理工大学签署《共建国创高新-武汉理工先进复合材料联合技术研究中心协议书》
- 焦点播报:科学家发现与纤维肌痛相关的潜在神经机制
- 当前视点!新西兰媒体人安柏然晒乘C919飞抵成都图:为今日中国感到超级骄傲
- 河南省三门峡市发布暴雨黄色预警 独家
- 当前讯息:视频|拥有八大山人的南昌不能没有先锋艺术
- 西安异地就医自助备案办理流程
- 每日视点!比停产还难受!合资B级车跌至9万多,月销26台,问题出在哪?
- 环球看热讯:盛帮股份(301233)5月29日主力资金净买入562.29万元
- 天天观察:北京证券交易所什么时候成立的_北京证券公司
- 华为网络拒绝接入怎么解决_网络拒绝接入怎么解决
- 环球头条:大变局!中美GDP差距拉大,俄罗斯令人意外,德国GDP反超日本
- 百姓看联播 | 被唤醒的盐碱地 当前热门
- 陆金所理财可靠么(陆金所理财可靠) 环球热资讯
- 猕猴桃园雨后管理措施
- 讯息:刚刚宣布!中国人登月,时间定了!
- 【全球报资讯】劲嘉股份:5月26日获融资买入373.87万元,占当日流入资金比例18.52%
- 汽油一升是多少斤油
- 如何追处女座女生呢_如何追处女座女生
- 盘点|养老金、公积金、多条地铁新进展!一大波天津人关心的好消息!
- 4s店pos机刷卡手续费_pos机刷卡手续费 每日看点
- 世界短讯!市场信心逐步回升 新房二手房良性联动
- 天天微头条丨营销周报:甄子丹演苹果广告,Tiffany涨价,小红书开接头点
- 视焦点讯!最强宗师_对于最强宗师简单介绍
- 轻飘飘果实能力者在第几集_轻飘飘果实-天天看热讯
- 世界微资讯!花山街白羊山社区举办“六一”文艺汇演
- 环球观察:半场-曼佐基头球顶偏安杜哈尔染黄 大连人暂0-0天津津门虎
X 关闭
行业规章
X 关闭