🦀 ClawHub
nim-interactive-chat
by @romancestarrysky
Generate interactive chat scripts for NVIDIA NIM models, enabling one-click start, auto health check, OpenAI-compatible API, and seamless local conversation.
TERMINAL
clawhub install nim-interactive-chat📖 About This Skill
NIM Interactive Chat
为 NVIDIA NIM 格式大模型一键创建交互式对话启动脚本,自动等待服务就绪,一键启动直接进入对话,使用体验和本地聊天程序一样流畅。
功能特点
exit 退出,容器继续后台运行使用方法
create-nim-interactive [gpu-memory-utilization]
参数说明
| 参数 | 必填 | 说明 |
|------|------|------|
| image-name | ✅ | Docker 镜像名称 |
| container-name | ✅ | 容器名称 |
| port | ✅ | 本地端口映射 |
| model-name | ✅ | 模型名称(API 用)|
| gpu-memory-utilization | ⭕ | GPU 显存利用率,默认 0.9 |
示例
为 Qwen3.5-4B 创建:
create-nim-interactive \
tgcr.turing-agi.com/public/qwen/qwen3.5-4b-spark-nim:latest \
qwen3.5-4b-nim \
18000 \
Qwen/Qwen3.5-4B \
0.88
创建完成后:
# 一键启动(自动等待服务就绪 + 进入交互式对话)
./start-qwen3.5-4b-nim.sh一键停止容器
./stop-qwen3.5-4b-nim.sh
生成文件
~/start-.sh - 一键启动脚本~/stop-.sh - 一键停止脚本~/-chat.py - Python 交互式对话客户端(OpenAI 兼容)requirements
openai Python package