欧宝体育官网登录:大数据工程师好做吗?

发表时间:2023-05-31 05:33:14

来源:欧宝官方体育下载 作者:欧宝娱乐app在线登录

  这或许是未来最具展开潜力的作业之一,咱们从职场视点为你解读怎么成为大数据工程师,以及它的作业展开。

  大数据是眼下十分时尚的技能名词,与此一起天然也催生出了一些与大数据处理相关的作业,经过对数据的开掘剖析来影响企业的商业决议计划。

  这群人在国外被叫做数据科学家(Data Scientist),这个头衔最早由D.J.Pati和Jeff Hammerbacher于2008年提出,他们后来别离成为了领英(LinkedIn)和Facebook数据科学团队的负责人。而数据科学家这个职位现在也现已在美国传统的电信、零售、金融、制作、物流、医疗、教育等工作里开端发明价值。

  不过在国内,大数据的运用才刚刚萌发,人才商场还不那么老练,“你很难期望有一个全才来完结整个链条上的一切环节。更多公司会依据自己已有的资源和短板,招聘能和现有团队互补的人才。”领英(LinkedIn)我国商务剖析及战略总监王昱尧对《榜首财经周刊》说。

  所以每家公司对大数据作业的要求不尽相同:有的着重数据库编程、有的杰出运用数学和核算学常识、有的则要求有咨询公司或投行相关的阅历、有些是期望能找到懂得产品和商场的运用型人才。正因为如此,许多公司会针对自己的事务类型和团队分工,给这群与大数据打交道的人一些新的头衔和界说:数据开掘工程师、大数据专家、数据研讨员、用户剖析专家等都是经常在国内公司里呈现的Title,咱们将其统称为“大数据工程师”。

  王昱尧以为,在一个老练的数据驱动型公司,“大数据工程师”往往是一个团队,它意味着从数据的搜集、收拾展示、剖析和商业洞悉、以至于商场转化的全进程。这个团队中或许包含数据工程师、剖析师、产品专员、商场专员和商业决议计划者等人物,共同完结从原始数据到商业价值的转化归纳来讲,这是一个支撑企业做出商业决议计划、开掘商业形式的重要集体。

  因为国内的大数据作业还处在一个有待开发的阶段,因而能从其间开掘出多少价值彻底取决于工程师的个人才干。现已身处这个工作的专家给出了一些人才需求的大体结构,包含要有核算机编码才干、数学及核算学相关布景,当然假如能对一些特定范畴或工作有比较深化的了解,关于其快速判别并抓准要害要素则更有协助。

  尽管关于一些大公司来说,具有硕博学历的公司人是比较好的挑选,不过阿里巴巴[微博]集团研讨员薛贵荣着重,学历并不是最首要的要素,能有大规划处理数据的阅历而且有喜爱在数据海洋中寻宝的好奇心会更适合这个作业。

  除此之外,一个优异的大数据工程师要具有必定的逻辑剖析才干,并能敏捷定位某个商业问题的要害特点和决定要素。“他得知道什么是相关的,哪个是重要的,运用什么样的数据是最有价值的,怎么快速找到每个事务最中心的需求。”联合国[微博]百度[微博]大数据联合实验室数据科学家沈志勇说。学习才干能协助大数据工程师快速习惯不同的项目,并在短时间内成为这个范畴的数据专家;交流才干则能让他们的作业展开地更顺畅,因为大数据工程师的作业首要分为两种方法:由商场部驱动和由数据剖析部分驱动,前者需求常常向产品司理了解开发需求,后者则需求找运营部了解数据模型实践转化的情况。

  你能够将以上这些要求看做是成为大数据工程师的尽力方向,因为依据万宝瑞华办理合伙人颜莉萍的调查,这是一个很大的人才缺口。现在国内的大数据运用多会集在互联网范畴,有超越56%的企业在准备展开大数据研讨,“未来5年,94%的公司都会需求数据科学家。”颜莉萍说。因而她也主张一些本来从事与数据作业相关的公司人能够考虑转型。

  本期《榜首财经周刊》采访了BAT这3家国内互联网公司,以及相关范畴的人力资源专家,他们从职场视点为咱们解读怎么成为大数据工程师以及这类岗位的职场现状。

  用阿里巴巴集团研讨员薛贵荣的话来说,大数据工程师便是一群“玩数据”的人,玩出数据的商业价值,让数据变成生产力。大数据和传统数据的最大差异在于,它是在线的、实时的,规划海量且方法不规整,无规矩可循,因而“会玩”这些数据的人就很重要。

  沈志勇以为假如把大数据幻想成一座不断累积的矿山,那么大数据工程师的作业便是,“榜首步,定位并抽取信息地点的数据集,相当于探矿和采矿。第二步,把它变成直接能够做判别的信息,相当于锻炼。终究是运用,把数据可视化等。”

  因而剖析前史、猜测未来、优化挑选,这是大数据工程师在“玩数据”时最重要的三大使命。经过这三个作业方向,他们协助企业做出更好的商业决议计划。

  大数据工程师一个很重要的作业,便是经过剖析数据来找出曩昔作业的特征。比方,腾讯的数据团队正在树立一个数据仓库,把公司一切网络渠道上数量巨大、不规整的数据信息进行整理,总结出可供查询的特征,来支撑公司各类事务对数据的需求,包含广告投进、游戏开发、交际网络等。

  找出曩昔作业的特征,最大的作用是能够协助企业更好地知道顾客。经过剖析用户以往的行为轨道,就能够了解这个人,并猜测他的行为。“你能够知道他是什么样的人、他的年岁、兴趣爱好,是不是互联网付费用户、喜爱玩什么类型的游戏,往常喜爱在网上做什么作业。”腾讯云核算有限公司北京研制中心总司理郑立峰对《榜首财经周刊》说。下一步到了事务层面,就能够针对各类人群引荐相关服务,比方手游,或是依据不同特征和需求衍生出新的事务形式,比方微信的电影票事务。

  经过引进要害要素,大数据工程师能够猜测未来的消费趋势。在阿里妈妈的营销渠道上,工程师正试图经过引进气候数据来协助淘宝卖家经商。“比方本年夏天不热,很或许某些产品就没有上一年热销,除了空调、电扇,背心、游泳衣等都或许会受其影响。那么咱们就会树立气候数据和出售数据之间的联系,找到与之相关的品类,提早警示卖家周转库存。”薛贵荣说。

  在百度,沈志勇支撑“百度猜测”部分产品的模型研制,试图用大数据为更广泛的人群服务。现已上线的包含世界杯猜测、高考猜测、景点猜测等。以百度景点猜测为例,大数据工程师需求搜集一切或许影响一段时间内景点人流量的要害要素进行猜测,并为全国各个景点未来的拥堵度分级在接下来的若干地利间里,它究竟是疏通、拥堵,仍是一般拥堵?

  以腾讯来说,郑立峰以为能反映大数据工程师作业的最简略直接的比方便是选项测验(AB Test),即协助产品司理在A、B两个备选计划中做出挑选。在曩昔,决议计划者只能依据阅历进行判别,但现在大数据工程师能够经过大范围地实时测验比方,在交际网络产品的比方中,让一半用户看到A界面,另一半运用B界面,调查核算一段时间内的点击率和转化率,以此协助商场部做出终究挑选。

  作为电商的阿里巴巴,则期望经过大数据确定精准的人群,协助卖家做更好的营销。“咱们更等待的是你能找到这样一批人,比起现有的用户,这些人对产品更感兴趣。”薛贵荣说。一个淘宝的实例是,某人参卖家本来推行的方针人群是产妇,但工程师经过开掘数据之间的关联性后发现,针对孕妈妈集体投进的营销转化率更高。

  就咱们采访过的BAT三家互联网大公司来说,关于大数据工程师的要求都是期望是核算学和数学布景的硕士或博士学历。沈志勇以为,缺少理论布景的数据作业者,更简单进入一个技能上的风险区域(Danger Zone)一堆数字,依照不同的数据模型和算法总能捯饬出一些成果来,但假如你不知道那代表什么,就并不是真实有意义的成果,而且那样的成果还简单误导你。“只需具有必定的理论常识,才干了解模型、复用模型甚至立异模型,来处理实践问题。”沈志勇说。

  实践开发才干和大规划的数据处理才干是作为大数据工程师的一些必备要素。“因为许多数据的价值来自于开掘的进程,你有必要亲身动手才干发现金子的价值。”郑立峰说。

  举例来说,现在人们在交际网络上所发生的许多记载都对错结构化的数据,怎么从这些毫无条理的文字、语音、图画甚至视频中攫取有意义的信息就需求大数据工程师亲身开掘。即便在某些团队中,大数据工程师的责任以商业剖析为主,但也要了解核算机处理大数据的方法。

  在颜莉萍看来,大数据工程师这个人物很重要的一点是,不能脱离商场,因为大数据只需和特定范畴的运用结合起来才干发生价值。所以,在某个或多个笔直工作的阅历能为应聘者堆集对工作的认知,关于之后成为大数据工程师有很大协助,因而这也是应聘这个岗位时较有说服力的加分项。

  “他不能仅仅懂得数据,还要有商业脑筋,不管对零售、医药、游戏仍是旅行等工作,能就其间某些范畴有必定的了解,最好仍是与公司的事务方向共同的,”就此薛贵荣还打了个比方,“曩昔咱们说一些奢侈品店员势利,看人一眼就知道买得起买不起,但这群人恰恰是有敏锐度的,咱们以为他们是这个工作的专家。又比方对医疗工作了解的人,他在考虑医疗保险事务时,不只会和人们医院治病的记载相关,也会考虑饮食数据,这些都是依据对该范畴的了解。”

  因为现在大数据人才匮乏,关于公司来说,很难招聘到适宜的人才既要有高学历,一起最好还有大规划数据处理阅历。因而许多企业会经过内部开掘。

  本年8月,阿里巴巴举办了一个大数据竞赛,把天猫[微博]渠道上的数据拿出来,去除灵敏问题后,放到云核算渠道上交予7000多支队伍进行竞赛,竞赛分为内部赛和外部赛。“经过这个方法来鼓励内部职工,一起也发现外部人才,让各工作的大数据工程师出现出来。”

  颜莉萍主张,现在长时间从事数据库办理、开掘、编程作业的人,包含传统的量化剖析师、hadoop方面的工程师,以及任何在作业中需求经过数据来进行判别决议计划的办理者,比方某些范畴的运营司理等,都能够测验该职位,而各个范畴的达人只需学会运用数据,也能够成为大数据工程师。

  作为IT类作业中的“大熊猫”,大数据工程师的收入待遇能够说达到了同类的尖端。依据颜莉萍的调查,国内IT、通讯、工作招聘中,有10%都是和大数据相关的,且份额还在上升。颜莉萍表明,“大数据年代的到来很忽然,在国内展开势头急进,而人才却十分有限,现在彻底是求过于供的情况。”在美国,大数据工程师均匀每年薪酬高达17.5万美元,而据了解,在国内顶尖互联网类公司,同一个等级大数据工程师的薪酬或许要比其他职位高20%至30%,且颇受企业注重。

  因为大数据人才数量较少,因而大多数公司的数据部分一般都是扁平化的层级形式,大致分为数据剖析师、资深研讨员、部分总监3个等级。大公司或许依照运用范畴的维度来区分不同团队,而在小公司则需求身兼数职。有些特别着重大数据战略的互联网公司则会另设最高职位如阿里巴巴的首席数据官。“这个职位的大部分人会往研讨方向展开,成为重要数据战略人才。”颜莉萍说。另一方面,大数据工程师对商业和产品的了解,并不亚于事务部分职工,因而也可转向产品部或商场部,甚至上升为公司的高档办理层。