Edge AI · 端侧智能
以端侧大模型为主支柱，量化、编译与运行时一体化，让 7B 级大模型在网关、工控机与终端芯片上离线运行、毫秒级响应。弱网自治、边云协同，数据不出园区也能持续进化。
端侧智能
以端侧大模型为核心，贯通量化编译、无线连接、云端协同与应用开发，让推理发生在数据产生的地方。
01On-Device LLM · Main Pillar 主支柱
大模型不依赖云端也能跑。量化感知训练、PTQ/QLoRA 压缩、编译图优化与异构运行时一体化，支持 Transformer / Mamba / MoE 在 ARM、RISC-V、NPU 上低功耗推理，首 token < 500ms，断网可用、OTA 持续进化。
02Wireless Connectivity
一站式接入多制式无线网络，为端侧推理提供稳定数据通道。4G/5G、NB-IoT、LoRa、Wi-Fi 按场景自由选择，端侧结果实时回传、弱网缓存续传，移动与偏远现场也能保持智能在线。
03Cloud Platform
多活架构承载海量设备与模型并发，事件总线与数据管道让端侧推理结果毫秒级上云，时序存储与模型仓支撑全量样本回流、全局训练与灰度分发。
04Management & Insight
覆盖端侧模型与设备全生命周期的管理中枢。注册、配置、升级、监控与洞察在一个控制台内完成，模型版本、在线率、推理时延与告警一目了然，让运维从被动响应走向主动治理。
05Application Development
把端侧智能变成业务应用。开放 API、SDK 与低代码工作台覆盖从原型到生产的全过程，端侧推理能力通过规则引擎与事件总线开箱即用，让团队把时间花在业务创新上。
技术架构
从端侧推理到云端协同的完整技术栈，量化、编译与运行时贯穿每一层。
传感器 · 控制器 · 智能网关，端侧大模型就近推理
让智能在端侧发生4G / 5G · NB-IoT · LoRa · Wi-Fi，多制式自适应接入
让推理结果实时回传量化编译 · 模型仓 · 规则引擎 · 边云协同，一个平台承载全生命周期
让模型持续进化离线助手 · 园区质检 · 设备 Copilot · 智能告警，端侧模板开箱即用
让业务快速落地端侧智能最终要落到可感知的结果上。我们按层拆解每一项能力对应解决的业务问题。
| 能力层 | 核心能力 | 典型场景 | 业务结果 |
|---|---|---|---|
| 端侧大模型 主支柱 | 量化、编译、运行时一体化 | 园区离线助手 / 质检 Copilot | 推理不出园区、首 token <500ms |
| 无线连接 | 4G/5G/NB-IoT/LoRa/Wi-Fi | 分布式资产与移动终端接入 | 弱网与移动场景推理不断线 |
| 云平台 | 多活、模型分发、时序存储 | 百万级端侧节点协同 | 模型灰度分发、样本不丢 |
| 管理洞察 | 生命周期、监控、运维 | 跨站点端侧节点管理 | 减少现场跑动与人工巡检 |
| 应用开发 | 低代码、API、Web IDE | 端侧智能业务快速集成 | 交付周期从月级到周级 |
设备层负责端侧推理、网络层保障实时回传、平台层负责量化编译与分发、应用层让端侧能力快速进入业务流程。
多平台 SDK、异构 Runtime 与离线缓存，让终端具备自治推理与容错能力。
多网融合与链路监测，推理结果弱网可缓存、恢复后批量同步。
量化、编译产物统一管理，多活集群与弹性伸缩保证高可用分发。
开放 API 与低代码工具，让端侧推理数据快速进入业务流程。
