在以数据为中心的创新时代,软件的角色和作用愈发重要。拥有逾15000名软件工程师,以及一个超过1200万名开发者的生态系统,这是人们印象中以“硬实力”(硬件)著称的英特尔的“软实力”(软件)。软硬件协同、生态创新,是英特尔面向未来多元化计算的战略武器。
迈向以数据为中心的时代,计算架构正从CPU向XPU扩展。从PC时代开始,软件便一直是流淌于英特尔“血液”中的强大基因,但其巨大价值尚不为人所知。随着英特尔不断深化以数据为中心的转型,软件作为一项重要的战略资产,在英特尔推动未来计算创新的过程中发挥着更为关键的作用。对于全新硬件架构的每一个数量级的性能提升潜力,软件能带来超过两个数量级的性能提升。英特尔拥有得天独厚的优势,能将业内的重要伙伴联合起来,共同降低各种架构和工作负载下的开发复杂性,并加速创新技术的大规模部署。
英特尔赋予合作伙伴和客户独特生态价值,包括提供简便、可扩展的工具,加速应用开发部署;坚持客户至上,针对不同类型工作负载进行优化;秉承开放理念,推动开源、开放生态系统协作;产学研对接,培育面向未来的创新人才。作为涵盖英特尔各产品部门的在华最大综合性研发机构,近日,英特尔亚太研发有限公司的多位专家,分享了英特尔在软件领域的生态与价值。
英特尔亚太研发有限公司总经理卢炬:
以软硬协同,推动生态共赢
随着AI、云数据中心、物联网、下一代网络、自动驾驶等工作负载不断涌现,人们需要在CPU核心能力的基础上,构建GPU、FPGA、AI芯片、视觉处理芯片等不同类型的计算架构,以满足新型工作负载的需求。
英特尔亚太研发有限公司总经理卢炬表示:“从以PC为中心,到以数据为中心,在英特尔的转型过程中,潜在市场规模已经扩大到约3000亿美元。所以目标的客户更多,需要解决的问题更多,那么朋友圈也需要更大。‘生态’一直是英特尔非常重视的一块。除了在硬件生态方面,软件生态也有非常大的投入和合作。整个计算架构不是原来的单一CPU架构,从CPU到XPU,软件在其中起到关键的桥梁作用。”
英特尔亚太研发有限公司的前身,是1993年在上海成立的英特尔中国架构开发实验室。“目前我们的规模,正式员工超过2000人”,卢炬介绍说,“英特尔亚太研发有限公司的企业目标,是在中国为英特尔建设世界级的工程创新中心;我们的发展战略,是‘根植中国、放眼世界’。”
在云计算、虚拟化技术、大数据、深度学习、基本输入输出系统、固件、视频技术、服务器设计等领域,英特尔亚太研发有限公司具有世界一流的工程研发能力。在软件领域,英特尔亚太研发有限公司有着深入而持久的耕耘。
英特尔亚太研发有限公司开源首席科学家冯晓焰:
让基于开源软件的解决方案,有最好的用户体验
开源软件早已是主流的软件,系统软件栈的各个层次都有开源软件的选项,特别是国内主要的云服务供应商基本都是基于开源软件建立解决方案。英特尔不断增长的软件产品组合和广泛的开源生态系统项目印证我们对软件的重视,并引领业界在以数据为中心的时代推动产品和服务创新。
“英特尔全面拥抱开源软件已经有近20年的时间,英特尔内部成立了一个团队叫‘开源软件技术中心’”,英特尔亚太研发有限公司开源首席科学家冯晓焰说,“2005年1月份,英特尔当时的CEO做过一个承诺:‘英特尔推出的各种各样的驱动软件,我们在提供Windows解决方案的同时会提供Linux解决方案’,这标志着全面拥抱开源软件。”
英特尔在开源方面有着悠久的历史,在开源方面的贡献遍布全球。英特尔为各类开源项目做出贡献,同时也是各类开源社区的一员。英特尔一直以来是Linux Kernel、Chromium OS、OpenStack等大量开源社区项目重要贡献者,是Linux基金会、Apache基金会、Eclipse基金会、开源软件推进联盟的主要支持者。
从英特尔开始做开源软件,有一直坚持的工作方式(如下图)。这其中,Linux内核、Kernel/KVM,这两个是建立各种云服务最重要的基础软件,而英特尔在社区里的代码贡献量常年高居第一;英特尔还和社区伙伴一起,自2006年开始连续举办中国Linux内核开发者大会。
在开源软件的投入方面,冯晓焰举例说,英特尔推动了OpenStack在中国的社区的活跃和广泛应用,在国内有专门做OpenStack的团队;还在国内建立了专门针对CSP(云服务提供商)提供支持的团队。“我们在开源软件领域做事情的目的,是希望整个基于开源软件的解决方案,能够在英特尔平台上运行得更好,有最好的用户体验。”冯晓焰表示。
英特尔在开源社区中的领导地位推动了行业发展,为新兴工作负载中的硬件和软件交互提供了新模型。
英特尔公司架构、图形与软件部(IAGS),资深软件架构师黄晟盛:
加快统一的数据分析和人工智能技术创新
在以数据为中心的世界,全球超过一半的数据在过去两年产生,但其中只有不到2%的数据经过了分析,还有海量的“沉默数据”。其中重要原因之一,是在于人工智能这样新的技术从实验室到真正生产线的过程当中,缺少统一的数据分析和人工智能技术工具。
英特尔公司架构、图形与软件部(IAGS),资深软件架构师黄晟盛认为,要解决这样的问题需要解决软硬件架构上的缺口。大规模人工智能应用面临的挑战包括:算法的复杂性,部署的复杂性,数据处理的复杂性,以及成本、是否可扩展、专有接口、数据隐私等。
英特尔基于Spark开发和开源的两个项目:BigDL和AnlyticsZoo,正在为客户带来切切实实的好处。
黄晟盛分享了跨行业的端到端客户案例,比如通过采用英特尔方案,京东在目标检测和图片特征提取方面,相较于原来的方案有3.83倍的提升;美的工业视觉检测云平台的预处理性能提高4倍,推理性能提高16倍。
另一方面,英特尔也持续推进生态共建,今年6月份英特尔在中国设立的大数据分析和人工智能创新院,其目的就是面向开源社区、学术界、合作伙伴以及终端用户等,促进英特尔与大数据和人工智能全球生态圈的广泛合作。
英特尔亚太研发有限公司机器学习首席工程师林晓东:
服务开发者,让更多企业用好AI
英特尔不仅为产业提供便捷的软件工具,也不断推进软件工具的开发优化,确保开发者和生态利用软件工具从硬件创新中受益。
英特尔亚太研发有限公司机器学习首席工程师林晓东称自己是“码农的码农”,“很多人用编译器、调试器、调优器、编程语言和框架等工具开发,我们的任务是优化这些编译器、框架、各种库等,从而让这些开发者的效率更高,服务开发者,建立生态系统。现在最重要的开发者是针对AI、针对深度学习的开发者。”
“英特尔做软件,就是enabling(使能)和optimization(优化),我们做的事情使我们所有硬件的每一个晶体管都能够将能力充分发挥,这是英特尔做软件的目的,使得开发者能够非常容易地把我们的软件、硬件充分用起来。”林晓东说,“我们的团队,从刚开始是世界的软件到中国做本地化,现在我们真正在中国,根据中国的具体需求,创造软件、服务全球。”
他举了一个例子:从Broadwell到Skylake,软件与硬件结合带来了高达277倍的机器学习的性能。从Skylake到Cascade Lake性能增长了28倍,其中通过硬件提升了4倍左右,剩下的全部是由软件优化带来的,其中包含英特尔在和中国的客户在交流的过程中,理解了他们的工作负载而做的一些特殊的优化。
英特尔不断提供简便、可扩展的工具,加速应用开发部署。例如,oneAPI将简化并统一了跨CPU、GPU、FPGA、AI芯片和其它加速器等不同架构之间的编程;OpenVINO工具包,实现了高性能计算机视觉和深度学习视觉应用的快速开发。他进一步指出:“我们团队还试图解决一个问题,除了服务好大客户以外,我们观察到很多传统企业遇到挑战,他们唯一有的就是:知道AI和深度学习肯定能够帮助解决问题,有数据,但是找不到相应人才。针对这个,我们本地团队也会做一些创新。我们希望帮助中国的企业,在聘请不到开发者或者缺少相关专业知识的情况下,走向未来。”
英特尔中国区云计算软件性能优化团队总监李宏:
与客户双向互动,实现性能与优化
英特尔除了拥有长久的开源贡献和丰富的软件工具,还具备针对客户的工作负载进行优化的能力,帮助客户和合作伙伴加速创建应用并推向市场。
“‘性能与优化’不是一个新话题,而是一个经典话题,贯穿于计算机技术发展的各个历史时期。”英特尔中国区云计算软件性能优化团队总监李宏表示,“我们在与客户互动的过程中,其实是双向的。一方面,我们会把英特尔的一些技术介绍到客户的软件开发当中,帮他们提高性能。这个过程中,我们也加深了对他们软件的了解,知道我们的技术在里面使用得怎么样,他们在未来需要什么样的技术,我们把这样的信息反馈给产品部门,为未来的硬件或者软件产品打造良好的基础。无论是到客户,还是从客户到后端,我们的聚焦点是‘性能与优化’,这是连接两点的一个枢纽。”
他强调,英特尔在合作伙伴和软件方面的投入是长期、持续性的,“因为我就在这个团队工作15年了。这个团队是一个全球化的团队。我们与合作伙伴一同做项目、做工程,我们也帮助他们培养人才。今年,我们和中国区的合作伙伴目前已对不同的应用程序,大约是70个左右,进行了优化,这个数字到年底有望突破到80个。涵盖的范围很广泛,包括搜索引擎、媒体处理、存储等等,尤其是AI,有超过一半的项目和AI相关。大部分的程序经过优化后,能够达到2-4倍的性能提升,个别能够提高10倍。”
“唯有软硬兼施,才能更好地满足未来计算的需求。通过软件团队和合作伙伴共同合作,英特尔致力于推动业界软件生态向前发展。”李宏说。
英特尔亚太研发有限公司高校合作经理颜历:
长期投入,培养未来创新人才
人才是创新的及时。英特尔持续与高校进行长期、密切的合作,培育面向未来的创新人才,包括联合研究项目、联合实验室或联合创新中心、联合课程开发、教师和学生项目,如参与教育部“产学合作协同育人项目”,开展系列大赛等
“英特尔一直非常有激情去做教育,这和英特尔本身是一家非常创新的公司,‘创新’是核心基因,是有关系的,教育是培养创新人才的利器,可以帮助我们握有打开创新之门的钥匙。英特尔在创新及创新人才培养方面有着比较深刻的理解,以及比较丰富的经验,所以我们一直在系统化地推进这件事情、做系统化的布局。”英特尔亚太研发有限公司高校合作经理颜历表示。
她强调说:“我们总是倾向于把最新的技术拿到学术界,去跟学校进行分享。有很多的软硬件平台,我们可能都还没有给工业界、产业界去使用,我们就先在学校里试用了”,而且,“英特尔一直在大学合作上有做‘百年老店’的倾向。英特尔认识到真的是十年树木百年树人,所以一定要长期的投入才会有所成果。同时,我们做大学合作完全是人才导向,英特尔从来不向他们推销任何产品,我们只是分享技术和他们共同培养人才。”
随着以数据为中心的变革加速向前,AI、云数据中心、物联网、下一代网络、自动驾驶等工作负载不断涌现,英特尔将坚持软硬协同,进一步发挥软件的力量与价值,帮助客户和合作伙伴加速创建应用并推向市场,从工具、优化、开源、人才等方面,携手生态伙伴,实现更大创新与突破。