美光科技公司工业部门主管David Henderson在接受行业媒体采访时表示,人工智能应用的快速发展需求,特别是在网络边缘和板载连接设备方面,将对支持这些应用的内存提出更高的要求。
你能告诉我一些你在美光的角色,以及你在人工智能领域看到的趋势吗?
David Henderson:我领导美光的工业和多市场部门,专注于使用我们广泛的内存和存储解决方案组合的各种工业应用。这是一个极其分散的领域,包括视频安全、工厂自动化、医疗设备、零售应用、运输、航空航天和国防应用等应用。
在我的角色中,我看到人工智能在工业领域获得了强大的吸引力,包括在边缘和车载设备上。很明显,人工智能最终将出现在几乎所有工业设备上。现在,我们仍然处于这个充分市场潜力的山脚下,但即使是现在,人工智能也正在迅速被应用于核心工业和制造设备。
美光的使命是紧跟市场上最新的处理器和专用集成电路,确保美光内存产品组合的发展符合下一代处理器和人工智能加速器的需求,以及它们将在新环境中支持的更复杂的人工智能系统。
所以人工智能处理器和内存必须携手并进,才能最有效地释放新的创新人工智能算法的潜力?
David Henderson:内存是任何AI解决方案的关键部分。从历史上看,大多数人工智能处理都发生在云数据中心的背景下,但它越来越多地扩散到边缘和车载物联网(IoT)以及其他连接设备。随着人工智能迁移到边缘,这些位置对高性能内存的需求也在增加。现在,我们看到一系列的人工智能解决方案已经延伸到网络的边缘,从推理开始,到边缘的训练。
这些应用程序可以释放的好处可能是深远的。边缘人工智能可以显著降低支持人工智能设备所需的通信带宽,同时实现对这些设备的任何连接系统的实时反馈。在许多情况下,这些类型的更改既可以降低成本,也可以增加人工智能支持的任何用例的收入。
未来还会有更多。生成型人工智能还没有在边缘广泛部署,当然在工业设备的背景下,但它的时代将会到来。当这种情况发生时,就存储参考数据的内存密度和必须与处理器交换数据的带宽而言,对内存的需求将显著增加。
除非我们提前计划,否则我们可能会发现自己处于分布式物联网和其他连接设备的内存成为限制的情况。因此,关键是要关注这一细分市场的新兴需求,并应对与不断增长的模型尺寸、不断增加的带宽需求、更低的功耗以及向前沿技术节点发展相关的特定限制。
这些发展对美光有什么影响?
David Henderson:人工智能是美光持续转型的主要驱动力之一。从根本上说,我们迫切需要匹配我们为各种潜在用例提供的各种内存解决方案。
以监控摄像头的视频分析为例。低级解决方案可能包含基本的检测和分类。与此同时,更复杂的解决方案可能包括面部识别和行为分析,而最复杂的解决方案(截至目前)可能会扩展到包括上下文分析。这些都是人工智能解决方案,但支持这些解决方案所需的计算能力差异很大,以每秒几次操作(TOPS)为标准。为了跟上更快的处理器,对内存数据处理的需求也相应发生了变化,低端标准摄像机的内存数据处理速度为4倍,而当今更复杂的安全视频分析解决方案的内存数据处理速度可达16倍。
这种视频分析应用程序只是一个例子。还有其他人工智能应用本质上不那么复杂,可能比视频安全应用更复杂。例如,当机器视觉分析被部署到制造生产线的环境中以支持质量保证时,它突出了对本地监督学习的潜在需求。这是一个全新的复杂程度,有相关的处理和内存带宽要求。美光优先与客户合作,了解他们的计算需求,并引导他们了解内存技术的细微差别,以优化他们的解决方案。内存密度、功耗和内存带宽吞吐量的规格对于单个用例至关重要,美光投资于研究和开发以交叉优化这些参数。
展望未来,你认为这个领域会如何发展?
David Henderson:我们肯定会看到人工智能部署的显著和持续的增长,无论是在传统工业系统的扩展方面,还是在我们过去从未见过的新用例中的创新采用方面。在边缘利用生成式人工智能和大型语言模型(LLM)作为行业数字化转型的一部分,只会继续凸显对更多数据的需求,其中内存和存储是关键组件。
在许多情况下,人工智能可以实现更高的产量、更长的正常运行时间、更高的效率和更高的质量。它确实可以在零售、运输和远程保健等不同部门发挥作用,以更少的成本和资源实现更好的结果。
人工智能的潜力是巨大的。即使是今天所做的事情也产生了深远的影响,但这只是冰山一角。看到记忆在解锁与人工智能相关的这些未来好处方面发挥的作用,真是令人兴奋。