欧宝体育官网登录:我国算力的想象力有多大?|工业特稿

发表时间:2023-06-07 07:42:38

来源:欧宝官方体育下载 作者:欧宝娱乐app在线登录

  2023年头,在青岛、济南、日照等12座城市,一座座簇新的大型数据中心拔地而起。

  其间,最引人瞩目的属2月23日,在青岛崂山区的青岛人工智能核算中心。这是山东省榜首个上线运转的人工智能核算中心,算力规划可达250P。

  在青岛这座城市,既有像卡奥斯这样的工业互联网渠道型企业,也有像创别致智、极视角、以萨技能等人工智能服务商。这些企业对算力、算法和数据有着巨大的需求。

  像青岛人工智能核算中心这样的项目,最近两年不在少数。而现在,人工智能再一次引爆算力需求。

  前有ChatGPT诞世,后有百度“文心一言”,还有不为人知的claude+,由Anthropic公司开发;腾讯近来也宣告研制ChatGPT谈天机器人。

  为什么ChatGPT爆火后,国内外大厂都前仆后继地参加?又为什么OpenAI的ChatGPT被称为“一向被仿照,从未被逾越”?

  1956年,人工智能开端开展,60年一向不温不火,直至2017年,Alphago打败围棋国际冠军,才算AI破圈的开端。决议AI的三大中心要素是数据、算法和算力。

  首要,全球最不缺的便是数据,尤其在我国,14亿人口均匀人手1.6部智能手机,未来跟着物联网技能的完善,每人会生产出更巨大的数据量;其次是算法和算力,一个形象的比方是,数据等于厨师炒菜用的食材,算法是菜谱,算力则相当于厨师的厨艺。而在我国,拖后腿的是算法和算力。

  据OpenAI近来发布的数据,截止现在人们对算力的需求已添加超30万倍。但是,就在各国加快布局算力工业之际,2022年美国商务部制止了高端芯片设备及人工智能芯片的对华出口。这直接影响了英伟达和AMD两大供货商对A100和H100两款高端加快卡的出口。

  “1万枚英伟达A100芯片是做好AI大模型的算力门槛”,这是职业界公认的规范。H100则是比A100功能更高的芯片。

  ChatGPT能有今日的打破,微软功不可没。构建“永久改动人机交互方法”的超级核算机,是OpenAI五年前的豪言壮志。为了协助完结这个斗胆的主意,微软斥资数亿美元做了一场赌注。这其间面对的难题是史无前例的,比方在Azure云核算渠道上衔接几万个英伟达A100芯片,再比方打造指数级添加的网络GPU集群规划等。还好,微软赌赢了。

  在算法上,ChatGPT仍然运用2017年论文中发布的Transformer,该算法本来的运用场景是翻译,因而它不只具有英言语语才干,也有中文言语体系,这解说了为什么GPT能够进行中文对话;但功能提高首要在算力上,ChatGPT这种大规划分布式练习现已超出了摩尔定律的约束,上万个A100芯片让算力暴升1万倍,这种算力耗费史无前例。现在,ChatGPT依赖于A100芯片,未来若投入H100,功能会有更大提高。

  AI技能不断演进,对算力的需求也呈指数添加。据我国信通院猜测,到2030年,近70%的公司都会用到人工智能。企业数字化转型也需求算力支撑,在中美芯片竞赛博弈布景下,自建算力体系火烧眉毛。

  王坚在3月30日到会财富全球科技论坛时也谈及到算力的重要性,“算力与‘电气化’平等重要。而算力和电力相同,只需极少数技能能协助人类去做立异,这便是算力的重要性。”。

  回到文章开篇的两个问题,之所以国内外大厂有才干开发谈天机器人,是因为其背面所需的技能并不难,像百度和华为都有自研芯片,文心一言就依赖于百度自研的昆仑芯;而之所以“从未被逾越”,是因为ChatGPT背面巨大的算力支撑,至少从现在来看,国内还需求时刻。

  ChatGPT打破了摩尔定律的约束,也引爆了对AI算力的需求。GPT-4的算力耗费远大于GPT-3和3.5,OpenAI也在不断对Plus付费用户调低阈值,将拜访约束由榜首天的150 msg/4hr降至最近的25msg/3hr,简言之,便是削减用户的发问次数,然后下降算力耗费。

  详细来看,据GPT-4的揭露数据,在32K的上下文长度下,每1000个token的发问本钱为0.06美金,答复完结本钱为0.12美金。与GPT-3的本钱比照,GPT-4的输入本钱添加了50%-200%,输出升本添加200%-500%。

  近来,多只国产芯片股大涨。到3月29日13:39,芯片 ETF 龙头涨幅 4.37%,立昂微、北方华创涨停,中微公司涨超 9%,思瑞浦、澜起科技涨超 8%,沪硅工业-U、兆易立异、景嘉微涨超 5%。

  能够说,我国是一片巨大的算力蓝海。一方面,人工智能的开展带动数据流量添加,然后使算力规划激增;另一方面,算力深度融入互联网、电信、金融、制作等职业,助推各职业各范畴完结数字化转型。据我国信通院核算,到2022年,算力需求最大的职业是互联网,占全体算力比例的近一半,其次,政府、服务和电信业也在加大算力投入,占比别离为12%、10%、7.2%。

  从电商到交际,从游戏到金融,从医疗到教育,互联网各行各业都需求算力。以电商巨子阿里为例,每天数十亿的买卖数据,单是查找引擎就需求处理数百亿个产品数据,这还仅仅在查找和引荐产品的场景。别的,阿里还有两大块风控体系,一块是金融范畴,首要事务是支付宝,另一块非金融范畴,如新零售、高德、大文娱等。这些都需求巨大的算力在背面支撑,进行存储和剖析数据,或辨认和防备诈骗。

  2022年8月30日,阿里云启动了张北超级智算中心,AI算力总规划为12 EFLOPS(每秒1200亿亿次浮点运算),听说超越了谷歌的9 EFLOPS和特斯拉的1.8 EFLOPS,成为全球最大的智算中心。2023年3月,百度也完结了阳泉智算中心的晋级,算力规划达4 EFLOPS,成为现在亚洲最大单体智算中心。

  智算中心的建造是为AI大模型练习、自动驾驶、空间地舆等人工智能探究运用,供应智能算力服务。近年来,智能算力添加最为敏捷。据IDC发布的数据,2022年,我国智能算力规划达268 EFLOPS,估计未来5年,我国智能算力规划的年复合添加率将达52.3%。

  而国家大力布局智能算力工业的背面,是智能算力存在的巨大供应“距离”。据IDC猜测,未来三年新发生的数据量将超越曩昔三十年的总和。这个距离就表现在,数据总量在添加,真实被有用运用的数据占比却缺乏1%。我国工程院院士王恩东在《眺望》新闻周刊中说道,“现在无法详细核算AI算力缺口数据,但我国在加快数字化转型”,在这过程中,需求AI算法运用深度学习,练习出深度神经网络模型,这需求满足强的算力支撑。

  未来,74.5%的企业都会用到AI,在智能算力方面,首要运用包含AI语音技能、大数据剖析与机器学习、图像辨认与处理及自然言语处理。像电商、智能家居、在线教育和人工智能等互联网职业对智能算力需求非常大。比方,阿里旗下的天猫需求智能算力开发“引荐算法”和“超级查找”,或用于个性化定制和营销战略;再比方小米生态链公司Yeelight的智能家居体系,也需求算力完结智能化联动和语音操控。

  现在,各国间的算力博弈进入白热化阶段。据我国信通院核算,2022年,我国服务器规划约2000万台,算力规划超150 EFlops,位居国际第二,仅次于美国;猜测2023年,在ChatGPT引爆算力需求的布景下,我国算力规划将超200 EFlops。

  2021年,字节下场造芯了,先是从百度截胡了三位芯片相关人才,然后又去华为海思、Arm、高通等公司“三倍(薪资)挖人”。这一波波操作引发了互联网大厂的“芯片人才热”。

  早在自研芯片这一信号传出之前,字节跳动就连续出资了RISC-V公司睿思芯科、AI芯片公司希姆核算、GPU芯片规划独角兽摩尔线程、泛半导体职业智能制作商润石科技、数据中心网络芯片公司云脉芯联、开发衍射光学芯片的公司光舟半导体等。

  字节下场造芯仅仅一抹缩影,高薪挖人也是互联网大厂追逐芯片梦的惯用手法。除了字节跳动,还有阿里、百度和腾讯。在一众互联网大厂中,最早吃螃蟹的人是百度。

  故事开端于2010年,“这在当年是百度的一个隐秘项目。”百度高档副总裁曾泄漏。百度开端测验用FPGA架构研制AI芯片,但是它一开端并没有彻底自研,而是同Arm、紫光展锐和赛灵思等公司协作,推出数款AI芯片,后来才走上自研的路途。2018年7月,百度正式发布其自研AI芯片“昆仑芯”,并于2020年量产。

  2021年,昆仑芯的事务被独立了出来,由百度芯片首席架构师欧阳剑出任昆仑芯片公司CEO。一起,该公司也在3月完结独立融资,首轮估值约130亿元,自此,我国诞生了一家国产芯片超级独角兽。

  阿里也紧跟脚步。在百度开端“隐秘项目”的五年后,2015年,阿里巴巴宣告与集成电路规划企业杭州中天微协作,两年后又向中天微注资5亿元,宣告向芯片根底架构规划范畴进军。2017年10月,阿里达摩院建立,建立之初就将芯片列为研讨范畴之一。到了2018年,阿里进一步收紧脚步,于8月联合中天微建立平头哥半导体芯片公司。

  从这一年开端,阿里的成果就尤为显赫。从玄铁902到玄铁910,从含光800到倚天710、羽阵600,这些是阿里5年的成果单。2023年3月2日,阿里平头哥初次展现RISC-V生态全景,并猜测到2025年RISC-V架构芯片有望打破800亿颗。我国工程院院士倪光南在会上表明,“今日RISC-V是我国CPU范畴最受欢迎的架构,我国芯片工业和整个芯片生态将会越来越多地聚集于RISC-V架构,我国的巨大商场也将成为支撑RISC-V的重要基地。”

  而早有造芯认识的马化腾,却是最终一个进场,动作也略显低沉。2016年,腾讯参加了可编程芯片公司Barefoot Networks的2300万美元C轮融资。随后隐姓埋名了两年,在2018年,马化腾在论坛讲演中表达了做芯片的主意。三年后,才在腾讯官网上看到其发布的招聘信息:芯片架构师、芯片验证工程师、芯片规划工程师等。对此,腾讯回应,仅仅在特定范畴有芯片研制的测验,比方AI加快和视频编解码。

  早在2015年,FPGA刚进入干流视界,没有硬件基因的腾讯做过一次“造芯”的探究,但FPGA毕竟是“半定制”的电路,云端商业化仍是失利了,最终团队人员惋惜离别。但是受挫之后,腾讯并没有抛弃对硬件之路的考虑,我国芯片职业也在2018年回暖。一年后,腾讯内部传来了声响,“AI芯片,要不要做?”尽管这一声响遭遇过对立,但腾讯仍是进行了小规划地试水,“蓬莱”芯片也就此诞世。

  2020年1月,蓬莱芯片流片完结,经过四次测验,“蓬莱”被点亮了。2021年11月,在腾讯数字生态大会上,又一口气发布了三款专用芯片:紫霄、沧海和玄灵,别离专心于AI核算、视频优化和智能网络。

  现在,字节、百度、阿里、腾讯悉数跨界,齐聚芯片职业,究其原因,无非是由需求端和供应侧,两者的合力一起拉动。

  “字节跳动光服务器所需求的芯片便是几十万块,只需到达自产自销就能下降本钱。况且还有Pico,一旦VR/AR工业迸发,算力便是瓶颈,所以现在自研芯片也算是有备无患。”华南一家AI芯片公司的资深架构工程师李波泄漏。

  不仅仅字节,腾讯也是如此。2019年,腾讯迎来云核算事务上的里程碑——云服务器规划打破100万。以更低本钱供应更高的网络功能,成为其时腾讯面对的一大难题。

  除了我国的互联网巨子,美国的亚马逊、谷歌也在自研芯片。2014年,谷歌为数据中心规划了服务器芯片,2019年又在印度组成团队,其芯片用途首要在云端和智能设备上;亚马逊也于2018年发布其首款自研云服务器CPUGraviton,未来估计还会推出运用于物联网和智能设备的芯片。

  从需求端来看,互联网大厂和云核算公司造芯是有备无患。未来,大部分互联网厂商都会进入物联网和智能设备等范畴,而这些范畴非常倚重硬件。所以,软硬一体是未来互联网公司和云核算厂商的必经之路。别的,很重要的一点,在商场层面,想要守住商场位置,完结差异化,底层硬件设备是要害,它直接影响着上层软件的功能。

  关于国内互联网大厂纷繁跨界造芯,除了美国约束高端芯片的对华出口,还有两点更重要的原因——本钱和针对性。早前,在英伟达芯片还没有禁止向我国出口时,许多互联网大厂就现已表明过,因为算力需求巨大,英伟达的GPU芯片又太贵,大规划购买本钱非常昂扬。并且英伟达芯片归于通用型,并不能针对特定某家企业算法做优化。那么对芯片有不同场景需求的互联网大厂,比方在AI加快器和视频编解码场景,想完结本钱功耗最低、功能最优,自研是必选项。

  从供应侧来看,国内芯片厂商和互联网大厂造芯都已具有满足老练的技能。而需求方下场做芯片最大的优势在于,对需求的了解和洞悉最深入。

  以阿里的含光为例,在2019年云栖大会上,阿里用4颗含光800芯片,就替代了40颗传统GPU才干完结的视频处理使命。而前者的本钱,是后者的非常之一。腾讯的紫霄也打破了算力的瓶颈点,在图片和视频处理、自然言语处理、查找引荐等运用场景下,功能是业界标品的2倍。

  运用于百度“文心一言”的昆仑芯则更胜一筹。从算力和本钱上,昆仑芯都要强于英伟达 A100芯片,仅仅在练习量上还相对较弱。据官方介绍,昆仑芯根据7nm工艺打造。在业界,7nm的蚀刻尺度意味着,芯片的工艺水平更高,单位体积内的团体管更多,芯片功能也就更强。昆仑芯的算力可到达 256TOPS@INT8 以及 128 TFLOPS@FP16。现在,昆仑芯在百度内部已落地了查找、小度、无人驾驶等AI事务场景。

  芯片是一个全球性的工业,从芯片制作视点剖析,没有任何一个国家能自己完结芯片的制作,这是不争的现实。别的,我国芯片职业开展的另一大难题是芯片人才缺少。据相关数据核算,2025年我国芯片专业人才缺口将超30万人。但从久远来看,互联网大厂跨界造芯、高薪抢人,也向供应端发送了芯片人才缺少的信号。

  尽管如此,互联网公司下场造芯,现已处理了一部分问题,在特定场景下,运用性更强,本钱也更低。算力也因而有望跨过“卡脖子”窘境。

  榜首,芯片的科学原理很难。这一点能够从芯片人才缺少上去了解,现在,只需清华、上交、复旦、中科大、电子科技大学等几所闻名高校设有芯片相关专业。从这一现象就足以窥视,芯片科学原理的难度。

  第二,芯片的工艺制作很难打破瓶颈。芯片加工和制作便是两个最难的环节。芯片制作离不开光刻机,一台光刻机至少有10万个零部件,而一台轿车的运用零部件只需5000个,足以想像光刻机的制作难度之大。制作芯片更是需求数百道工艺,有些工序还要循环数十遍。

  第三,EDA软件(电子规划自动化软件)也是国内一大瓶颈。EDA软件的用途是让电子规划师完结在电脑上规划芯片,不然就需求人工规划、实验,要耗费的人力和时刻本钱不可胜数。但现在我国运用的十几种EDA软件都来自美国。假如自己做EDA研制非常困难,它的算法就决议了芯片规划的好坏。而假如EDA软件质量不行,规划师就不或许规划出高质量的芯片。

  除了芯片层面,我国算力工业开展还遭到建造方面的问题。比方不同芯片、操作体系、固件、整机体系兼容性不强,限制了工业的进一步开展。我国信通院王骏成以为,“算力运用存在规范缺失、数据同享不行、资源接口不一致等壁垒”,导致算力供需失衡。

  对此,国家已于2022年头提出建造“东数西算”工程,助力打通我国东西部数字工业的“大动脉”,为经济开展注入新动能。国家信息中心郭明军表明,经过该工程完结东西部算力资源的流转,依托算力网络,把算力真实用起来,完结“算力入户”、“算力入企”、“算力入园”、“算力入校”。

  在算力网络建造层面,三大运营商成为算力网络的主导者。据《财经十一人》,2022年三大运营商云事务总营收1352亿元,增速超越100%。“三大运营商每年都要花费千亿元规划的本钱开支用于根底设备建造。2022年,我国移动、我国电信和我国联通的本钱开支别离为,1852亿元、952亿元和742亿元。”其本钱投入已超越BAT三大互联网公司。

  现在来看,国家层面、运营商和企业都在加大力度布局算力网络。在此前提下,这一轮生成式AI技能演化能带来多大规划的算力迸发?对工业格式会发生怎样的影响?

  首要,生成式AI会耗费巨大的算力,然后带动对算力工业的需求。当下,互联网大厂BAT早已凭仗自身在芯片范畴的多年沉积,开端投入大模型研制。所以,最早获益的会是ICT企业。

  其次是头部大公司,互联网厂商自研芯片,也会将才干外溢给协作渠道和客户,然后让头部厂商获益。

  最终一轮时机则留给创业公司,生态工业链的完好会获益千行百业,这也是生成式AI对各职业的推翻,仅仅比及创业公司感遭到改变,还需求一段时刻。