lunar lake买了半年多了，宣传时说它的NPU比上一代ultra强很多，不过我一直没见NPU跑过，甚至一些本地的AI软件也全部是运行在核显上的，最近突发奇想，能不能把这颗NPU用起来呢？于是就有了此次折腾。、

首先要弄一下NPU驱动，windows上去这个链接下https://www.intel.com/content/www/us/en/download/794734/intel-npu-driver-windows.html，下好过后解压，然后走设备管理器那里更新驱动，英特尔官方驱动管理工具里面是没有这玩意儿的，Linux只支持Ubuntu22.04过后的版本，在这个链接https://github.com/intel/linux-npu-driver/releases/tag/v1.17.0。

要运行和调试NPU，英特尔其实是有一套工具链的，就是OpenVINO，直接新建虚拟环境，然后按照下面命令下载就可以。

text
pip install --pre -U openvino-genai openvino openvino-tokenizers --extra-index-url https://storage.openvinotoolkit.org/simple/wheels/nightly 

pip install nncf 

pip install git+https://github.com/openvino-dev-samples/optimum-intel.git@2aebd4441023d3c003b27c87fff5312254ac

pip install transformers >=4.51.3

环境配置好过后选一个想部署的模型，lunar lake是统一内存架构，我这个有32G内存。

有好心人之前给我推荐过一个网站，http://llm-viewer.com/，这里面可以大致得到一些大模型推理需要的内存等开销，我们自己还可以设置权重激活KVcache位宽等，相当于帮我们做了个简单的负载分析，唯一遗憾的是，他们在发了论文过后就没有再更新这个仓库了，现在只支持到llama2，我这里就大致用llama2-7B看了下，在lunar lake里面是可以放得下的，8B-nf4的Qwen3应该也没问题。

下面是下载模型的命令，从hugging face上面下载，这个Qwen不需要认证，我申请llama3被拒绝了。

text
optimum-cli export openvino --model Qwen/Qwen3-8B  --task text-generation-with-past --weight-format nf4 --sym --group-size -1 Qwen3-8B-nf4-ov --backup-precision int8_sym

这里提供一个可以直接运行的python代码。

text
import openvino_genai as ov_genai

llm_model_path = "Qwen3-8B-nf4-ov" 
prompt = "你好，请用中文介绍一下你自己"

pipe = ov_genai.LLMPipeline(llm_model_path, "NPU")

generation_config = ov_genai.GenerationConfig()
generation_config.max_new_tokens = 128
generation_config.apply_chat_template = False

print(f"输入: {prompt}\n")
print("正在生成...")
result = pipe.generate(prompt, generation_config)


print("\n生成结果:")
print(result)

这NPU终于是动起来了。

实际运行速度还可以，我还没细细测试性能，我后面可能会用这个来写几个自己用的本地AI软件，比如帮我清理下文件夹，接个MCP每天启动电脑的时候就帮我自动处理些事情之类的，虽然现在也有Gemini Cli，但是我感觉那个速度有点太慢了。

总结一下，lunar lake确实是一个在技术上很厉害的产物，x86平台上实现了超低功耗，不打游戏基本上可以用一天，统一内存架构，这一代核显和NPU都很强，开个小黄鸭可以离电2k60帧玩法环，这些都是以前win轻薄本完全不敢想的。但是从产品或者说商业角度来说，lunar lake是算不上成功的，从这个NPU的使用上面就可以看到，需要折腾（其实驱动那个地方坑不少，有些我都不知道英特尔咋想的，我这里一笔带过了），很少有软件来给它适配，在商业方面，最典型的就是统一内存架构让OEM厂商赚不到钱，导致市面上没多少lunar lake的产品，英特尔下一代都不会再有lunar lake这种统一内存架构CPU了。

硬件

lunar lake用NPU运行Qwen3