executorch 0.3.0

ExecuTorch 是一个 PyTorch 平台，它为在各种设备上运行 PyTorch 程序提供基础设施，从 AR/VR 可穿戴设备到标准的 iOS 和 Android 移动部署。ExecuTorch 的一个主要目标是实现 PyTorch 程序更广泛的定制和部署能力。

executorch pip 包处于alpha阶段。

• 支持的 Python 版本：3.10、3.11
• 兼容系统：Linux x86_64、macOS aarch64

此软件包中包含的预构建的 executorch.extension.pybindings.portable_lib 模块提供了一种运行 ExecuTorch .pte 文件的方法，但有一些限制

• 仅将 核心 ATen 运算符 链接到预构建模块中
• 仅将 XNNPACK 后端代理 链接到预构建模块中

请访问 ExecuTorch 网站 了解教程和文档。以下是一些起点

• 入门
  • 设置 ExecuTorch 环境，并在本地运行 PyTorch 模型。
• 与本地 LLM 一起工作
  • 了解如何使用 ExecuTorch 从零开始导出和加速大型语言模型。
• 导出到 ExecuTorch
  • 了解如何将 PyTorch nn.Module 导出到 ExecuTorch，并使用量化和硬件代理优化其性能。
• 在 iOS 和 Android 设备上运行 LLaMA。
  • 在演示移动应用程序中构建和运行 LLaMA，并了解如何将模型集成到自己的应用程序中。