在家也能自制!人手一个ChatGPT的时代要来了?

来源:上海证券报时间:2023-04-14 09:35:35

人手一个ChatGPT的时代或许就要来了!


(资料图片仅供参考)

当地时间4月12日,微软宣布开源大语言模型训练工具Deep Speed Chat,这意味着继OpenAI开放GPT的API方便各大厂商直接接入后,更为底层的工具也开放给所有用户使用。

开源底层训练工具

人工智能行业又迎来重磅消息。

当地时间4月12日,微软宣布开源了Deep Speed Chat,帮助用户轻松训练类ChatGPT等大语言模型。

据了解,这一工具是基于微软Deep Speed深度学习优化库开发而成,具备训练、强化推理等功能,还使用了RLHF(人工反馈机制的强化学习)技术,可将训练速度提升15倍以上,成本却大幅度降低。

简单来说,这种接近“所见即所得”反馈的训练工具,可以帮助没有太多人工智能模型训练基础的用户,在短时间内迅速训练出定制化的ChatGPT大语言模型,堪称“傻瓜式服务”。

据微软披露,目前使用该工具训练一个130亿参数的类ChatGPT模型,只需1.25小时。而训练一个1750亿参数的模型,Deep Speed Chat也只需不到一天的时间,而这一参数规模相当于ChatGPT-3.5。

据介绍,Deep Speed Chat拥有强化推理、RLHF模块、RLHF系统三大核心功能。

具体来看,首先是这一工具的强化推理能力对于用户使用更为友好,只需一个脚本即可实现多个训练步骤。

“传统模型训练需要诸多流程,包括调用预训练模型,实施训练标注等等。”一位业内工程师告诉记者,从目前微软介绍的情况来看,Deep Speed Chat可以大幅优化这一过程的繁琐度。此外,该工具还提供一个易于使用的推理API,用于在模型训练后测试对话性能。

而RLHF模块、RLHF系统则确保模型训练过程中的精细度,同时实现模型训练与推理能力的无缝切换。

从目前披露的情况来看,多位业内人士认为,相关的大模型训练门槛的资金投入、专业性要求都将大幅下降。

有业内人士戏称,如果说GPT引发了诸多行业的“工作危机”,那么如今Deep Speed Chat则可能将这场危机引入人工智能行业本身。

商业化领域迎重大变革

这无疑将引发整个人工智能领域商业化的变革。

“现在训练大模型要依托超大的算力,背后是大量GPU集群,这些价格是一般小型企业乃至科研机构无法承担的。”一位从事人工智能研究的工程师告诉记者,类GPT模型训练此前存在的最大障碍是硬件设备。

事实上,在过去几个月伴随ChatGPT的走红,类似Deep Speed Chat的训练开发工具也纷纷面世。但总体而言,由于缺乏支持端到端的基于RLHF的规模化系统,要想训练ChatGPT模型整体效率依然不高。

有媒体此前调查发现,现有的开源系统的训练效率通常还不到,这些机器所能达到的最大效率的5%。

而微软的Deep Speed Chat面世,或许意味着这一情况从商业的角度来看将大幅改善。

记者注意到,目前在Azure云上训练一个OPT-13B模型(一种类似于GPT系列的大型语言模型)只需要9小时,而OPT-30B模型也只需18个小时,这两种训练分别花费不到300美元和600美元。

即使是当前开源领域,参数最大的OPT-175B,训练时长也仅需20个小时,其训练价格也在5000美元左右。要知道此前千亿参数领域的模型训练,其成本均在百万级美元。

对于此次微软下场推出的这款重磅服务,有业内人士将之比喻为几十年前家庭电脑的普及。

“现在我们每个人拥有一台自己的电脑是稀松平常的事情,”一位业内人士认为,正是这种基础建设的普及,推动了整个互联网时代的到来,“而如今,一场新的基础建设已将拉开大幕。”

(文章来源:上海证券报)

标签:

相关阅读

推荐阅读

南京发布房票安置政策 新购房屋将免征契税

南京发布房票安置政策 新购房屋将免征契税

南京市建委牵头印发 《南京市国有土地上住宅房屋征收房票安置暂行办法》(简称《暂行办法》),明确当购房成交价格不超过房票票面金额时,新 更多

2023-03-27 10:44:55
今日最新!2023年一级建造师《工程经济》历年真题精选0326_一级建造师

今日最新!2023年一级建造师《工程经济》历年真题

2023年一级建造师《工程经济》考试共80题,分为单选题和多选题。小编为您整理历年真题10道,附答案解析,供您考前自测提升!1、下列经济效果评更多

2023-03-27 10:12:28
600377股票 有色金属股票还没有涨停的有哪些 天天速读

600377股票 有色金属股票还没有涨停的有哪些 天

最近小编看到大家都在讨论600377股票 有色金属股票还没有涨停的有 更多

2023-03-27 09:58:50
预计今春沙尘过程偏多,沙尘天气是否呈现变多趋势?

预计今春沙尘过程偏多,沙尘天气是否呈现变多趋势

近日,今年以来强度最强、影响范围最广的沙尘天气侵袭多地,波及20个省(区、市),影响面积超过485万平方公里。本次过程强度达到强沙尘暴等级更多

2023-03-27 09:54:47
央行2月金融数据出炉!钱去哪了扬城住户存款增20.3%

央行2月金融数据出炉!钱去哪了扬城住户存款增20.3%

近日,央行2月金融数据出炉,记者从中国人民银行扬州中心支行获悉,2月末扬城住户存款余额5540 8亿元,银行存款产品备受青睐。为何市民偏爱银更多

2023-03-27 09:38:56
快资讯:3亩鱼池成“聚宝盆”每年40万尾小金鱼批量流向全国

快资讯:3亩鱼池成“聚宝盆”每年40万尾小金鱼批

陆兆生和他的金鱼池。司新利摄3亩多地的面积,被分割成56个鱼池,里面游动着一尾尾色彩艳丽的小金鱼,像一朵朵花儿在水中绽放,这就是景区城北更多

2023-03-27 09:49:50
小额贷款利息-我想问一下小额贷款一般利息多少

小额贷款利息-我想问一下小额贷款一般利息多少

最近这段时间总有小伙伴问小编小额贷款利息-我想问一下小额贷款一般 更多

2023-03-27 08:54:27
主板注册制第一股今日开启网上申购 有哪些变与不变?

主板注册制第一股今日开启网上申购 有哪些变与不

3月27日,沪市主板注册制第一股中重科技(603135)、深市主板注册制第一股登康口腔(001328)将进行新股申购。根据发行安排,首批沪深主板注册制新更多

2023-03-27 07:54:18
+ 点击查看更多精彩
今日最新!2023年一级建造师《工程经济》历年真题精选0326_一级建造师
    2023年一级建造师《工程经济》考试共80题,分为单选题和多选题。...
600377股票 有色金属股票还没有涨停的有哪些 天天速读
    最近小编看到大家都在讨论600377股票 有色金属股票还没有涨停的有
预计今春沙尘过程偏多,沙尘天气是否呈现变多趋势?
    近日,今年以来强度最强、影响范围最广的沙尘天气侵袭多地,波及2...
央行2月金融数据出炉!钱去哪了扬城住户存款增20.3%
    近日,央行2月金融数据出炉,记者从中国人民银行扬州中心支行获悉...
快资讯:3亩鱼池成“聚宝盆”每年40万尾小金鱼批量流向全国
    陆兆生和他的金鱼池。司新利摄3亩多地的面积,被分割成56个鱼池,...
小额贷款利息-我想问一下小额贷款一般利息多少
    最近这段时间总有小伙伴问小编小额贷款利息-我想问一下小额贷款一...