本项目为托管在 ModelScope Space 上的模型提供了一个 OpenAI 兼容的 API。

安装所需的依赖：

uv venv
uv sync

将 .env.example 文件复制为 .env，然后修改其中的环境变量：

MODELSCOPE_SPACE_URLS="YOUR_MODELSCOPE_SPACE_URLS"
COOKIE="YOUR_MODELSCOPE_COOKIE"

将 YOUR_MODELSCOPE_SPACE_URLS 替换为你的 ModelScope Space 的 Gradio URL 列表（以逗号分隔），并将 YOUR_MODELSCOPE_COOKIE 替换为你的 ModelScope Cookie。

启动 FastAPI 服务器：

python main.py

API 将在 http://127.0.0.1:8010 上可用。

您也可以使用 Docker 和 Docker Compose 来快速部署应用。

• Docker
• Docker Compose

git clone https://github.com/Goojoe/modelscope-space-openai

确保您已经将 .env.example 文件复制为 .env 并正确填写了 MODELSCOPE_SPACE_URLS 和 COOKIE 变量。

在项目根目录下，运行以下命令来构建和启动容器：

docker compose up -d

应用将在 http://localhost:8010 上可用。

要停止应用，请运行：

docker compose down

列出可用的模型。

创建聊天补全。该端点与 OpenAI Chat Completions API 兼容。