Hailo助力挖掘生成式人工智能与新兴边缘应用潜能

互联网已经深入渗透到我们生活的方方面面,从沟通交流到购物消费,再到工作生产,其影响无处不在。然而,随着互联网不断向网络边缘拓展,出于对延迟、隐私及成本效益的综合考量,“物联网”概念应运而生,为现代生活提供了全新的可能性。

在人工智能技术的助力下,互联网服务已经开始趋向便捷化、个性化和智能化。然而,目前的人工智能技术仍然高度依赖云端大型服务器和高性能计算能力,这在一定程度上限制了其应用场景。正因如此,像Hailo这样的企业正着眼于解决延迟、隐私和成本效益等问题,积极研发边缘人工智能技术,以期推动更为广泛的应用。

生成式人工智能无疑是下一个引领时代的大趋势,它在各行各业均显露出无可估量的潜能。对于创作者群体——诸如律师、文字创作者、平面设计师等,生成式人工智能不仅可为他们简化工作流程,更能大幅提升工作效率。在医疗领域,生成式人工智能有助于研发新型治疗药物,甚至辅助医疗程序。此外,通过视频、音频、图像等的智能合成技术,生成式人工智能还能促进工业自动化、推动新软件代码的开发,并显著提升交通运输的安全性。

然而,目前生成式人工智能的发展仍受到技术层面的限制。这主要是因为其运算过程主要发生在云端——即远离用户的大型数据中心。这些数据中心依赖昂贵且能耗高的计算机处理器来维持运行。每当用户向ChatGPT这类生成式人工智能工具或新型人工智能视频会议解决方案发出指令时,请求都需要通过互联网传输至云端进行处理,处理完的结果再通过网络返回给用户。数据中心作为主要的能耗场所,随着人工智能的广泛应用,全球能耗预计将急剧上升。这对于那些需要在创新解决方案与降低运营成本及环境影响之间寻求平衡的公司来说,无疑是一个日益严重的问题。

随着企业不断开发出新的生成式人工智能应用,并将其部署到各种类型的设备上——包括摄像机、安全系统、工业和私人机器人、笔记本电脑乃至汽车,云端在带宽、成本、安全性以及连接性等方面的局限性愈发凸显,成为了一个亟待解决的瓶颈问题。

在驾驶辅助、个人电脑软件、视频会议和安全等领域的应用中,频繁地在网络上传输数据可能会引发潜在的隐私泄露风险。而基于边缘计算的生成式人工智能技术则有望为众多新兴应用带来巨大的益处,不仅能够提升处理效率,还能更好地保护用户隐私。

生成式人工智能正在崛起

近年来,视频会议已成为我们大多数人的日常。软件公司已经开始将多种形式的人工智能技术融入视频会议解决方案中,其目的或许是为了实时优化音视频质量,抑或是将与会者置于同一虚拟空间。如今,借助生成式人工智能的视频会议系统能够自动创建会议记录,并在讨论不同主题时,实时从资源库中调取相关信息。

然而,若智能汽车、视频会议系统或其他边缘设备无法与云端建立连接,生成式人工智能的体验便无法实现。那么,如果这些设备无需连接云端又能如何呢?尽管考虑到云端人工智能的强大处理能力,这看似是一项艰巨的挑战,但如今这一愿景正逐步变为现实。

边缘生成式人工智能

目前市场上已存在一些生成式人工智能工具,这些工具能自动创建内容丰富、引人入胜的演示文稿。然而,用户期望即便是在没有互联网连接的情况下这些工具也能正常工作。

同样值得关注的是,我们已见证了一种基于生成式人工智能的新型“副驾驶”助手的诞生。这类助手通过自动化众多常规任务(例如生成报告或数据可视化),将深刻改变我们与计算设备的交互方式。设想一下,当你打开笔记本电脑时,其摄像头能够识别你的身份,并依据你经常使用的工具(如Outlook、Teams、Slack、Trello等)自动为你生成当天、当周乃至当月的计划。但为了确保数据隐私并提升用户体验,用户须有权选择在本地运行生成式人工智能,以避免数据的远程传输和处理。

除了能够应对不稳定的网络连接和数据隐私问题,边缘人工智能还具备降低带宽需求并提升应用程序性能的显著优势。举例来说,若一个生成式人工智能应用程序正在云端创建数据丰富的内容,比如虚拟会议空间,此过程可能会受到可用带宽(且价格昂贵)的限制而导致延迟。而对于某些类型的生成式人工智能应用,如安全监控、机器人技术或医疗保健,它们对高性能、低延迟的响应有着很高的要求,这是云端连接所无法满足的。

在视频安防领域,当目标人物在多个摄像头间移动,特别是在网络无法覆盖的区域,就需要在摄像头内部集成数据模型和人工智能处理能力。在这种情境下,生成式人工智能能够通过简单的查询指令(例如,“查找穿着红色T恤、戴着棒球帽的8岁孩子”)来自动描述摄像头捕捉到的内容。

这便是边缘生成式人工智能。

边缘人工智能的发展

通过运用新型人工智能处理器,研发更为精简、高效且性能强大的生成式人工智能数据模型,可以设计出即便在无法或不适宜使用云连接的情况下,也能实现智能运行的边缘设备。

当然,云处理在生成式人工智能领域仍占据重要地位。例如,人工智能模型的训练环节依旧依赖于云端。然而,将用户输入应用于这些模型的行为却可以在边缘端完成。

当前,业界正在积极研发更为精简、小巧且高效的人工智能模型,这些模型可被轻松加载至边缘设备上。诸如Hailo之类的企业专注于生产专用于执行神经网络处理的人工智能处理器。这类神经网络处理器不仅处理人工智能模型的速度极快,而且功耗更低,从而显著提升了能源利用效率,使其广泛适用于从智能手机到摄像头的各类边缘设备。

在边缘运用生成式人工智能,可以有效地平衡不断增长的工作负载,使应用程序能够实现更为稳定的扩展,降低云数据中心的昂贵处理成本,并有助于减少对环境的影响。生成式人工智能正处于再次改变计算领域的边缘。未来,笔记本电脑上的大型语言模型可能会像如今的操作系统一样实现自动更新,并以相似的方式运行。然而,为了实现这一目标,我们需要在网络边缘启用生成式人工智能处理。这一举措有望带来性能提升、能源利用效率提高、安全性与隐私性增强的多重效益。所有这些因素都将共同推动人工智能应用程序像生成式人工智能技术本身一样,重塑我们的世界。

面对科技行业的持续变革,Hailo正积极探索并研发边缘人工智能技术,致力于挖掘生成式人工智能与新兴边缘应用的结合所带来的无限潜能。随着边缘生成式人工智能技术的不断进步,一个更加智能、高效且环保的计算新时代将展现在我们面前。2024年台北国际电脑展(Computex Taipei)将于6月4日至7日在台北南港展览馆隆重举行,届时,Hailo将展示其领先的生成式人工智能解决方案。Hailo诚邀业界同仁、技术爱好者以及寻求创新解决方案的企业代表莅临参观。