上周，全志全志生态的视觉视觉小伙伴们成功在全志A733和T527的SoC平台上实现了DeepSeek-R1-Distill-Qwen-1.5B模型的部署，充分验证了高算力平台在端侧部署AI推理上的芯片型潜力。今天我们带来一款全志新的豆包大模视觉芯片V821，通过网络接入的全志方式打通DeepSeek-R1满血版模型和豆包视觉大模型，并展示其语言和视觉交互的视觉视觉能力和多样性。

相较于大模型的芯片型端侧部署，云端大模型对端侧硬件算力、豆包大模存储资源等要求较低，全志以极佳的视觉视觉成本代价就可以体验到模型最佳的性能表现，覆盖更多的芯片型场景形态。本地设备将文字，豆包大模语音，全志图像等相关数据通过网络上传，视觉视觉凭借云端大模型对数据的芯片型分析和推理海量数据的分析和推理能力，并结合网络搜索的信息，更好地，更加准确地，更加快速地做出判断和反馈，大幅提升应答速度和输出的准确率。

全志本次在V821平台上基于豆包视觉大模型和DeepSeek语言大模型API实现了完整的大模型接入套件，让V821具备了语言交互及图像识别等丰富能力，让开发者更容易实现大模型的应用，极大的方便了基于V821的智能产品的开发与拓展。

V821豆包视觉大模型实时采集图像进行物品识别示例：

下面的视频展示V821接入DeepSeek语言大模型，支持多轮对话+流式输出功能：

通过以上的两段演示可以发现，在有了接入套件所提供的便利后，云端部署的大模型的运行达到了“满血”状态，无论是物品识别还是多轮持续对话都有很快的输出，确保在微型化设备算力资源受限的情况下，也能流畅自然地使用大模型，实现本地设备与云端AI结合。

V821是一颗高集成度的低功耗WiFi视觉SOC，集成了高性能ISP和H.264、JPEG编码单元，同时内置了WiFi，因此可以很方便的接入AI视觉大模型，快速实现微型化、高清视频、云端AI结合、低功耗一体化的视觉产品落地。

V821简要规格如下：

通用算力：CPURISC-V1GHz + MCURISC-V 600MHz

视频输入：1x2lane/2x1lane MIPI-CSI+ 支持一路并口CSI

视频引擎：支持H.264最大3072x3072；MJPEG最大8192x8192；支持双目1920x1080@15fps + 640x480@15fps

WiFi（内置）：WiFi4 单频2.4GHz + 低功耗版本保活功耗180uA（DTIM10）

其他接口：支持一路音频输出/一路音频输入 + 3xSPI / 3xTWI / 4xUART/ 12xPWM / 2xSDIO

全志推出的最新大模型套件，可以无缝切换各种主流大模型。各大模型官方提供的接入示例多是python、java等语言实现，而全志的套件使用纯C语言实现，内存资源占用少，可方便应用在全志平台Tina Linux系统和Tina RTOS系统上。目前，该套件已集成到V821 SDK中，会于2月底随V821 SDK V1.1发出，届时欢迎各位开发者升级体验。

使用全志提供的大模型接入套件，只需要简单的2个步骤即可接入豆包视觉大模型。

步骤1：调用lm_init函数进行初始化大模型

typedef struct {  const char *url; const char *model; const char *api_key;} lm_config;int lm_init(lm_config *config, lm_handle *handle);

初始化需要填充大模型的URL、模型、API key参数。参数的获取可在各大模型官网进行注册账号后获得，具体可参考各大模型官方的说明文档，本文接入的是豆包视觉大模型，可参考以下链接获取参数信息：

https://www.volcengine.com/docs/82379/1362931

步骤2：调用lm_generate函数访问大模型。

typedef int (*lm_outputcallback)(char* token, void* user_data);typedef struct {  char *content; prompt_image *img;} lm_prompt;int lm_generate(lm_handle handle, lm_prompt *prompt, lm_outputcallback cb, void *user_data)；

prompt为输入的提示词，其带有两个参数，content表示输入的文本，img为输入的图片数据；cb为用户注册的回调函数，当接收到云端大模型返回数据时会回调该函数将token信息输出。

按照以上部署方式使用该套件到V821上，还可以支持DeepSeek的多轮对话和流式输出。所谓“多轮对话”（Multi-turn Dialogue）是指大模型在与用户交互时，能够理解并记住对话历史，并根据上下文信息持续生成符合逻辑的连贯回复的能力，而流式输出是在云端大模型生成token回应时能够实时输出，支持多轮对话与流式输出的能力使得对话不再是孤立的“一问一答”，而是更接近人类自然交流的连续互动。

全方位拥抱大模型生态，已成为多产品线全面革新的主旋律。AI大模型的普及为产品落地带来了更多元的玩法，全志将针对各产品线不同应用场景的独特需求，深度挖掘本地算力潜能，巧妙融合先进云端技术方案，为用户带来更智能便捷的交互体验，提升工作效率，营造智慧生活，逐步推动AI从前沿科技走向大众生活，用智能硬件助力AI惠民愿景的落地生根。