然而,分布在世界各地的实时人工智能应用程序可能需要大量的本地处理能力,特别是在远离集中式云服务器的远程位置。某些由低延迟或数据驻留要求驱动的工作负载需要内部部署或特定于位置的部署。
为了应对这些挑战,许多企业选择了边缘计算,这是一种专注于处理数据来源的范式。与传统的云处理不同,边缘计算在边缘设备上本地执行操作,在源位置存储数据。这种方法消除了对互联网连接的依赖,允许设备作为独立的网络节点运行。
云计算
什么是云计算?
本质上,云计算是通过互联网(“云”)提供计算服务(包括服务器、存储、数据库、网络、软件、分析和智能),以提供更快的创新、灵活的资源和规模经济。
云计算有什么好处?
与传统的内部IT设置不同,根据所选的云服务,云计算有助于实现以下目标:
降低IT成本:云计算消除了与采购硬件和软件以及建立和运营内部数据中心相关的前期成本。这包括服务器机架、电力和冷却的持续功耗以及对IT专业人员监督基础架构管理的需求。此外,企业只需为使用的计算资源付费,就可以很好地控制其运营成本。
简化的IT管理:借助按需云基础架构,企业可以在很短的时间内部署应用程序并更快上市。云服务提供商允许客户访问熟练的IT管理专业人员,使员工能够专注于其业务运营的基本要求。
提高可靠性:云计算使数据备份、灾难恢复和业务连续性变得更容易、更具成本效益,因为数据可以跨云提供商网络上的多个冗余站点进行镜像。此外,云计算允许您根据需求自动配置或取消配置资源。该功能可以降低成本并提高组织的整体效率。
边缘计算
什么是边缘计算?
边缘计算是一种分布式计算框架,使企业应用程序更接近物联网设备或本地边缘服务器等数据源。 边缘计算因其将计算能力引入网络或设备边缘的方法而得名,它可以实现更快的数据处理、增强的带宽并确保数据主权。
边缘计算减少了将所有设备生成的数据发送到集中式数据中心或云而引起的带宽和延迟问题,这对于数据科学和人工智能等现代应用程序尤其重要。
边缘计算有什么好处?
由于低延迟或数据驻留要求,某些工作负载需要保留在本地或特定位置。 这就是边缘计算的优势发挥作用的地方。
更低的延迟:对于许多应用程序来说,毫秒的时间就可以产生影响。 数据传输需要时间,但边缘的数据处理消除或减少了数据传输。 边缘计算可以在本地处理数据,无需访问互联网。 这将计算范围扩展到以前无法访问或偏远的位置。
模型精度:人工智能很大程度上依赖于高精度模型,尤其是对于实时响应能力要求较高的边缘场景。 在网络带宽不足的情况下,典型的解决方案包括减少模型的输入数据大小。 这会导致图像尺寸缩小、视频帧跳过以及音频采样率降低。 当在边缘实施时,利用数据反馈循环可以提高人工智能模型的准确性,从而实现多个模型的并发操作。
数据安全:数据在本地进行分析,边缘计算允许组织将所有敏感数据和计算保留在局域网和企业防火墙内。 这降低了云中网络安全攻击的风险,并可以更好地遵守严格且不断变化的数据法。
边缘计算和云计算之间的区别
容器化应用程序在边缘和云计算环境中都很有用。 这些易于部署的软件包允许在各种操作系统上运行应用程序。 它们被设计为从主机操作系统中抽象出来,确保跨不同平台和云的兼容性。
云容器和边缘容器之间的主要区别在于它们的位置。 边缘容器位于网络边缘,靠近数据源,而云容器在集中式数据中心内运行。 已经集成容器化云解决方案的组织可以将其部署无缝扩展到边缘。
在许多情况下,组织选择云原生技术来监管其边缘人工智能数据中心。 这种选择是由边缘 AI 服务器的分布式特性驱动的,通常跨越 10,000 个位置,没有物理安全或训练有素的员工。 因此,确保边缘人工智能服务器规模的安全性、弹性和高效管理变得势在必行,从而促进了云原生解决方案的采用。
边缘计算与云计算的应用
尽管云计算和边缘计算具有不同的功能,但大多数组织都使用这两种计算。 以下是云计算和边缘计算在部署工作上的区别。
总结
云计算和边缘计算都有各自的优势和不同的功能,因此对于许多组织来说,云和边缘的融合是必要的。组织尽可能集中,必要时分散。混合云架构使企业能够利用内部部署系统提供的安全性和易管理性,同时利用公共云服务提供的资源。
混合云解决方案的定义因组织而异。它可能涉及在云中进行培训并在边缘进行部署,在数据中心使用边缘的云管理工具进行培训,甚至在边缘进行培训,同时利用云集中模型进行联合学习。将云和边缘结合起来的可能性是广泛的。