mi-module-zoo 1.0.0

机器智能PyTorch模块动物园

此软件包包含独立、常用PyTorch nn.Module的实现。要安装它，请运行

pip install mi-module-zoo

库的文档可以在https://msdocs.cn/mi-module-zoo/找到。

此库由微软研究院的机器智能小组维护。

模块

以下列出了模块列表，有关详细信息，请参阅每个模块的docstring。

• mi_model_zoo.mlp.construct_mlp() 生成一个多线性感知器的nn.Sequential的函数。
• mi_model_zoo.settransformer.SetTransformer Set Transformer模型。
• mi_model_zoo.settransformer.ISAB Set Transformer论文中的Inducing-point Self-Attention Block。
• mi_model_zoo.RelationalMultiheadAttention 支持稀疏和密集关系的关联多头注意力变体，包括 Shaw 等人 (2019)，RAT-SQL 和 GREAT 变体。
• mi_model_zoo.relationaltransformerlayers.RelationalTransformerEncoderLayer 支持元素之间密集和稀疏关系的关联转换器编码层。支持 ReZero 和多种归一化模式。
• mi_model_zoo.relationaltransformerlayers.RelationalTransformerDecoderLayer 支持编码-解码和解码-解码元素之间密集和稀疏关系的关联转换器解码层。支持 ReZero 和多种归一化模式。

实用工具

• mi_model_zoo.utils.randomutils.set_seed() 设置 Python、NumPy 和 PyTorch（CPU+CUDA）的全局种子。
• mi_model_zoo.utils.activationutils.get_activation_fn() 通过名称获取激活函数。

开发

要在本仓库中开发，请克隆仓库，安装 pre-commit 并运行

pre-commit install

发布到 pip

要将软件包部署到 PyPI，请创建 GitHub 上的带有 vX.Y.Z 形式的 git 标签的发布。GitHub Action 将自动构建并将软件包推送到 PyPI。

贡献

本项目欢迎贡献和建议。大多数贡献需要您同意贡献者许可协议（CLA），声明您有权并且实际上确实授予我们使用您贡献的权利。有关详细信息，请访问 https://cla.opensource.microsoft.com。

当您提交拉取请求时，CLA 机器人将自动确定您是否需要提供 CLA，并相应地装饰 PR（例如，状态检查，评论）。只需遵循机器人提供的说明即可。您只需在整个使用我们的 CLA 的所有仓库中做一次。

本项目已采用 Microsoft 开源行为准则。有关更多信息，请参阅 行为准则常见问题解答 或联系 opencode@microsoft.com 以获得任何其他问题或意见。

商标

本项目可能包含项目、产品或服务的商标或徽标。Microsoft 商标或徽标的授权使用必须遵守并遵循 Microsoft 的商标和品牌指南。在修改此项目的版本中使用 Microsoft 商标或徽标不得造成混淆或暗示 Microsoft 的赞助。任何第三方商标或徽标的使用均受那些第三方政策的约束。