Surface NPU 演示 - 本地 AI 助手

        Frank Buchholz(微软 Surface 产品市场总监)近期在 Github 分享了他重返编码世界的一次令人兴奋的经历。

        Frank 提到自己自从 90年初的《Programming Windows》后就再没写过代码,但 Vibe Coding 让他重新上手。他花了一个下午在与 AI 的协作下,完成了一个约 1400 行 Python 的本地 AI 应用,而这些代码几乎都不是他手写的,而是与 AI 一起“对话”生成的。

        这个应用完全运行在 Surface Copilot+ PC(Intel & Qualcomm)上,能够调用 Phi Silica(Windows 内置 AI 模型),可以实现:

  • 文档分析
  • PII(个人敏感信息)检测
  • 身份验证
  • 翻译
  • 全程本地运行,无需上传云端。

Frank 强调:现代 AI 工具让多年未写代码的人也能重新进入开发世界。门槛被彻底打破,任何人都可以开始尝试。

        Frank 将这个代码发布到了 Github 上,如果你也感兴趣 Copilot+ PC 在本地运行 AI 的能力,不妨可以试试。

项目名称:Surface NPU Demo - Local AI Assistant

项目地址:https://github.com/frankcx1/surface-npu-demo

        要运行该程序,需要确保操作系统版本不低于 Windows 11 24H2,且设备为 Copilot+ PC(Intel or Qualcomm);Python 3.10+,以及安装了 AI Toolkit 扩展的 VSCode。

        如果是在 Qualcomm 架构的 Copilot+ PC 上,可执行 npu_demo_flask_qualcomm.py;如果是 Intel 则运行 npu_demo_flask.py,程序的运行效果如下图所示:

注意:如果在中国本地,目前还无法调用 Phi Silica,但可以使用其他模型。