允许您创建自己的提示流运行时基础镜像
项目描述
提示流图像包
此软件包提供了一种使用自己的基础镜像来构建和运行提示流运行时的方法,并使用提示流软件包构建高质量的LLM应用程序。
示例用法
# choose your base image, for example AzureML base images
FROM mcr.microsoft.com/azureml/openmpi4.1.0-cuda11.8-cudnn8-ubuntu22.04:latest
# install bundle package
RUN pip install -U promptflow-image-bundle[azure]
# install other requirements if needed
# RUN pip install -r requirements.txt
# expose prompt flow runtime service port
EXPOSE 8080
# start prompt flow runtime service
CMD ["start_promptflow"]
目前,我们仅支持基于Ubuntu
和Debian
的镜像,并已验证了AzureML基础镜像和诸如ubuntu:22.04
、debian:11
、python:3.10
、continuumio/miniconda3:23.3.1-0
、nginx:stable
等流行镜像。
如果您的镜像没有Python或Conda,您需要在docker文件中安装它作为先决条件。
项目详情
关闭
promptflow_image_bundle-0.3.0-py3-none-any.whl的哈希值
算法 | 哈希摘要 | |
---|---|---|
SHA256 | 3b69352fb41d9b56b736f2bc84b8becf1a9bcae9bc01d0982418f34020257535 |
|
MD5 | 9a5d179b5a75a382a2d9d1d25e1629be |
|
BLAKE2b-256 | 5cadf0077333690899ec4cb72b911205ffece4c2876e379117e0af0246bb866f |