Modelz Python SDK

pip install modelz-py

CLI

modelz --help

稳定扩散

echo "cute cat" | modelz inference $PROJECT --serde msgpack --write-file cat.jpg --read-stdin

Modelz端点上的Gradio客户端

我们提供了一个轻量级的Python库，使得将任何在modelz上提供的Gradio应用作为API使用变得非常简单。GradioClient的功能与Gradio提供的gradio_client库中的Client完全相同。唯一的区别是在初始化客户端时，应输入您的Modelz服务端点URL而不是Hugging Face space。

示例用法

from modelz import GradioClient as Client

# Parameter here is the endpoint of your Modelz deployment
# The format is like https://${DEPOLOYMENT_KEY}.modelz.io/
cli = Client("https://translator-th85ze61tj4n3klc.modelz.io/")

cli.view_api() 
# >> Client.predict() Usage Info
# ---------------------------
# Named API endpoints: 1

#  - predict(text, api_name="/predict") -> output
#     Parameters:
#      - [Textbox] text: str 
#     Returns:
#      - [Textbox] output: str 

      
cli.predict("hallo", api_name="/predict")
# >> "Bonjour."