高通骁龙X Elite发布快一年了,AI PC这个概念终于从PPT走进了现实。
本地跑大模型是什么体验
实测搭载骁龙X Elite的笔记本运行Llama 3 8B量化模型,推理速度约30 tokens/秒。这意味着本地聊天对话基本能做到秒回,不需要联网。
跑Stable Diffusion生成512×512图片,约8秒一张。虽然比不上独显,但作为轻薄本的集成方案,已经够用。
NPU到底有什么用
骁龙X Elite内置的NPU算力达到45 TOPS,专门用来处理AI任务。好处有三个:
省电。 同样的AI任务,用NPU跑比用CPU跑省电约60%。笔记本续航不会因为开了AI功能就崩。
快。 NPU针对矩阵运算优化,跑AI推理比通用CPU快3-5倍。
本地化。 数据不用上传云端,隐私敏感场景(比如处理公司文档、医疗记录)更安全。
哪些场景真的好用
- 会议实时翻译: 本地处理,延迟低,不泄露会议内容
- 文档摘要: 长文档本地生成摘要,不用上传到第三方服务器
- 代码补全: 在VS Code里跑本地Copilot替代方案
- 图片处理: 本地AI抠图、超分辨率放大
哪些场景还是鸡肋
跑70B以上的大模型,本地内存和算力都不够。视频生成、3D渲染这种重活,还是得上云或者用独显。
另外软件生态还在建设中。很多AI应用还没适配NPU加速,跑起来和普通CPU没区别。
买不买
如果你的工作以文档、代码、会议为主,AI PC确实能提升效率。如果你需要跑大模型或做AI开发,还是MacBook Pro或者带独显的Windows本更合适。
数据来源: 高通官方技术文档、Notebookcheck评测、实际测试数据
💬 今日话题: 你觉得AI PC最实用的功能是什么?有没有用过本地大模型?
