文 | 阿尔法公社

生成式AI的热潮中，最热的应用是ChatGPT这个ChatBot，垂直领域最热的则是AI Coding。这些纯软件的AI，只帮助到了那些坐办公室的白领，交通，自动化，制造业等实体行业则一定程度上被忽略，而这些领域，才是对人类和整个社会产生最高价值影响的行业。

就如我们此前在介绍Bedrock Robotics的文章中写道，与物理世界直接交互的产业，贡献了全球GDP的75%，AI在这个领域的占比还很低。

现在，无论是Meta、Google，还是国内的腾讯、阿里，大家都在AI算力中心上大笔投入。这些算力中心对应的是各种ChatBot和Agent，当然，它们都很重要。

而实体行业的物理AI（Physical AI）们，则需要的是边缘AI算力。这一领域，目前还非常早期。但也已有公司开始涉足。

例如， 一家叫SiMa.ai的边缘AI计算公司，近日完成一轮8500万美元的超额认购融资，公司累计融资总额由此增至3.55亿美元。本轮融资由Maverick Capital领投，现有投资者继续跟投，并迎来了新晋投资方StepStone Group。

赛灵思前高级副总裁用软硬件结合的方式打造全栈式边缘AI计算平台

SiMa.ai的创始团队和核心团队由经验丰富的半导体老兵们组成，他的创始人(CEO)Krishna Rangasayee曾在半导体巨头Xilinx（赛灵思）有18年工作经验，还担任过高级副总裁兼总经理以及全球销售执行副总裁，他还曾是新锐AI芯片公司Groq的首席运营官。

Krishna Rangasayee（来源：SiMa.ai）

SiMa.ai的董事会主席Moshe Gavrielov目前也是台积电的董事会成员，而且曾经担任Xilinx的CEO超过10年时间；另一位重要董事会成员是英特尔的CEO陈立武，陈立武此前是半导体的投资机构华登国际的创始人，同时是Cadence （EDA巨头）的执行主席。

目前的主流的AI运行方式是云端的API，但这种方式对于实体行业的客户来说，并非最佳选择，因为他们对于延迟速度，隐私，安全和快速决策等方面极为敏感。

例如，要为机器人和智能汽车提供算力。这些终端硬件使用电池供电，对于功耗特别敏感，而AI推理的延迟又将产生重大的不利后果，例如汽车的安全和机器人复杂动作的变形。对于这些终端，算力系统在限定功耗下的性能将极为关键，例如每瓦性能（performance per watt）这个指标就会变得重要。

对于这些客户，边缘计算是更好的方式，因为它具有高性能、低功耗与无缝部署等特性。

边缘AI计算平台，支持全模态的AI芯片+边缘MLOps软件功能

SiMa.ai采用的是软硬件结合的形式，它的产品是全栈式边缘AI计算平台SiMa.ai ONE。

这套平台的核心包括：第二代多模态机器学习芯片系统（MLSoC）Modalix（现已出货），以及全面的软件套件Palette，后者包含软件开发工具包（SDK）和无代码可视化开发工具Edgematic。

这套系统以软件为核心，旨在简化部署流程，实现性能最大化。

Modalix机器学习芯片系统（来源：SiMa.ai）

Modalix是SiMa.ai的第二代机器学习芯片系统。相比前代产品，它的主要进步在于真正做到了一个平台满足所有边缘AI需求。Modalix不仅能出色地处理计算机视觉/CNN应用，还支持多模态生成式AI模型，如大型语言模型（LLM）、大型多模态模型（LMM）和大型视觉模型（LVM）。除此之外，它对内存和缓存子系统进行了针对性优化，以高效处理数十亿参数级别的模型。

与此同时，SiMa.ai还对计算与数字信号处理（DSP）子系统进行了升级，以处理更复杂的客户应用；并引入了下一代I/O接口（吞吐量提升了10倍），以应对显著增长的数据传输速率。

之所以拓宽模态的支持范围，是因为在第一代产品上市后，SiMa.ai认识到客户需要的不仅仅是视觉处理，更需要在嵌入式边缘应用中集成音频和文本处理能力。而这些需求，本质上是因为物理世界就是多模态的。

SiMa.ai能够在15W的系统功耗下实现多模态的对话AI任务，这个任务需要语言模型，音频模型和图片模型的配合，这些模型的推理，都能够在限定功耗下完成。

第一代MLSoC的应用场景横跨工业检测、零售、航空航天与安防监控以及智能视觉等领域，Modalix还将在这个基础上大大拓宽范围。

在软件方面，除了软件套件Palette（它包含软件开发工具包和无代码可视化开发工具Edgematic）， SiMa.ai还在SiMa.ai ONE边缘AI平台提供了全面的端到端MLOps能力；我们此前写过MLOps平台Weights & Biases，它的主要功能是训练模型时的实验监控和版本控制。但是这些MLOps平台都普遍缺乏一个能力，就是设备管理功能，而这对边缘MLOps至关重要。

SiMa.ai ONE边缘AI平台能够监控边缘设备的状态（例如健康状况、性能）；发送边缘模型更新、升级和补丁，以维持设备的功能和安全性；还能接收改进后的边缘模型，并将其部署到边缘设备上。除此之外，像数据储存，模型可观测性等常规的MLOps功能，它都具备。

智能工业制造、汽车和机器人，边缘AI计算的三个大市场

SiMa.ai选取了3个容量最大的市场，分别是智能工业制造，汽车和机器人。

首先是智能工业制造，因为AI可以帮助智能制造在源头进行实时数据处理和智能决策。

智能工业制造的应用（来源：SiMa.ai）

在这一领域利用边缘AI，能够重新定义工业自动化的可能性，通过识别流程优化点、减少浪费和提升工人生产力来提高效率——最终在生产线上节省大量的时间和成本。

SiMa.ai与通快集团（TRUMPF）合作，使他们能够部署配备AI的激光器，旨在提升制造水平、提高能源效率并消除废料浪费，最终为全球消费者降低电动汽车的价格。

在汽车行业，自动驾驶的进度实际上是慢于预期的，除了模型，算法和数据方面的问题外，端侧计算能力不足带来的推理延迟也是一个难以解决的主要问题：车辆中可用于运行AI应用的硬件，既没有足够的效率也没有足够的能力来响应环境信号并做出实时决策。

智能汽车的应用（来源：SiMa.ai）

在自动驾驶车辆中实施边缘AI有望带来显著的好处，包括性能提升、功耗降低以及总拥有成本（TCO）的减少，为涉及自主移动机器人的应用提供了高性价比的解决方案。

SiMa.ai与新思科技合作推出了一项联合解决方案，旨在帮助全球汽车制造商为高级驾驶辅助系统（ADAS）和车载信息娱乐（IVI）系统构建针对 AI 优化、工作负载优化的芯片和软件，从而在未来几年内改善自动驾驶汽车及其智能系统。

在机器人行业，边缘 AI 使机器人能够根据自我观察和过往记忆来调整其行动，从而适应不断变化的操作环境。这种能力将促成更自然、更动态、更自主且能持续改进的行动，而这些是当前嵌入式边缘系统无法实现的。

亚马逊的仓储机器人，在配送仓库中运行，它们需在复杂环境中导航、规避障碍，并做出实时决策以优化货物运输。SiMa.ai的边缘AI方案，能够增强机器人行业在嵌入式边缘的计算能力和处理能力。

AI原生硬件是物理AI的最佳载体，边缘AI是算力基石

为什么实体行业的物理AI（Physical AI）很重要？因为我们生活在物理世界，而不是真空。我们做任何事情都需要与物理世界交互。我们吃的、用的、出行、住宿，都需要和实体行业打交道。AI要改变世界，需要一个载体与物理世界交互，而软硬件结合的AI原生硬件是最佳的载体。

物理AI（Physical AI）主要有两种形态，一种是自动化，一种是人类增强，广义上，它们都是软硬件结合的AI原生硬件。

自动化，可以是工业自动化，物流自动化，农业自动化，在这个大的行业里，是自动驾驶，是工业机器人，是自主无人机，是各种能够自主完成任务的机械。这种自动化机械以前也有，但是它们只能完成既定目标，不能解决corner case，AI的出现就是为了补足这个短板。

人类加强，可以是各种眼镜，耳机，吊坠，指环，也可以是生活机器人。这些AI原生硬件可以保护人类的健康，安全，提高人类的效率。总之就是在它们的协助下，人类可以完成一些之前不能完成的事情。

这些AI原生硬件的产业链很长，而边缘AI算力是所有硬件和软件的算力基石。只有边缘AI算力能够在足够低的功耗下，做到足够高的算力，并能够支持各种模态的AI模型。公司在打造产品时，才能够充分的发挥自己的想象力，设计出各种各样的AI原生硬件。

本文由阿尔法公社原创。