金年会体育

　　OmniML成立仅两年，创始人是三位华人，其主要产品是 Omnimizer智能设备，一个旨在快速智能设备、轻松地大规模进行 AI 优化的平台，可以压缩机器学习模型的大小，以便大模型在更小的设备上运行，而非依赖于云端算力

　　简言之，OmniML的平台可视作大模型与终端设备的桥梁，旨在帮助大模型部署在手机、平板电脑、智能音箱、无人机、汽车等金年会体育硬件上。这也是谷歌、华为、高通等公司都在进行的尝试——实现AI大模型在终端的轻量化部署，将AI与更多智能硬件融合。

　　科技媒体the information表示，这项收购可能意味着想要改进其专门用于汽车、工业机器人和的人工智能芯片。

　　目前，英伟达主要有3个边缘产品：用于企业边缘计算的NVIDIA EGX平台，用于工业应用的IGX平台，以及用于自主机器和嵌入式边缘案例的Jetson。该公司还优化了NVIDIA软件，使其可以在这些设备上运行，其客户也可以使用Fleet command平台来指挥他们的边缘设备。

　　OmniML此前表示，其能够使机器学习任务在不同边缘设备上的速度提高10倍，而工程工作量仅为1/10，不仅大幅提高模型性能，而且显著降低企业成本。

　　随着大模型在智能设备中的渗透率提升，对于边缘侧模型推理的需求将快速释放，科技公司争相布局，大量资本也开始涌入这个赛道。

　　产品端，华为P60系列和Mate X3手机上，基于多模态大模型技术在端侧轻量化应用，手机上第一次有了自然语言图片搜索能力；谷歌发布PaLM2大模型，其中Gecko可以在移动端运行；百度即将发布AI+智能手机的消息印证了手机的入口价值；中国发布了全球首个运行在Android手机上的Stable Diffusion终端侧演示金年会体育。

　　可以预见的，科技巨头和资本的金年会体育推动下，大模型的入口将从主流的PC金年会体育com target=_blank>金年会体育和手机端，不断向更广泛的智能设备扩散。