在Ubuntu服务器上部署xinference流程
更新时间：2026年03月28日 10:33:55 作者：你喜欢喝可乐吗？
文章主要介绍了如何拉取镜像、启动容器（特别是涉及GPU的容器）以及最终的访问步骤,并强调这些是个人经验总结,供参考
一、拉取镜像
docker pull xprobe/xinference:latest
二、启动容器（GPU）
docker run -d --name xinference -e XINFERENCE_MODEL_SRC=modelscope -p 9997:9997 --gpus all xprobe/xinference:latest xinference-local -H 0.0.0.0
# 启动一个新的Docker容器 docker run # 以分离（后台）模式运行容器 -d # 将容器命名为"xinference" --name xinference # 设置环境变量，指定Xinference的主目录为容器内的 -e XINFERENCE_MODEL_SRC=modelscope # 将容器的9997端口映射到主机的9997端口 -p 9997:9997 # 允许容器使用主机上的所有GPU资源 --gpus all # 使用最新版本的xprobe/xinference镜像 xprobe/xinference:latest # 在容器内运行xinference-local命令，并设置主机地址为0.0.0.0（允许从任何IP地址访问） xinference-local -H 0.0.0.0
三、访问
网址：http://localhost:9997
总结
以上为个人经验，希望能给大家一个参考，也希望大家多多支持脚本之家。
相关文章
MySQL是常用的关系型数据库,被广泛用于学习与实际工作中,本篇文章介绍在Linux系统中使用多种方式部署并初始化MySQL数据库,包括源码安装、rpm安装以及yum安装,需要的朋友可以参考下2025-11-11
对于刚刚接触Linux的人来说，一定会给Linux下一大堆各式各样的文件名 给搞晕。别个不说，单单就压缩文件为例，我们知道在Windows下最常见的压缩文件就只有两种，一是,zip，另一个是.rar。可是Linux就不同 了，它有.gz、.tar.gz、tgz、bz2、.Z、.tar等众多的压缩文件名2018-07-07
这篇文章给大家分享了linux tail 查看日志文件方法，有兴趣和需要的朋友们可以参考学习下。2018-07-07
这篇文章主要介绍了Linux服务器搭建nvidia-docker环境过程详解,文中通过示例代码介绍的非常详细，对大家的学习或者工作具有一定的参考学习价值,需要的朋友可以参考下2020-07-07
这篇文章主要给大家介绍了关于在Centos7系统下用户登录失败N次后锁定用户禁止登陆的相关资料，文中先对PAM的配置文件进行了简单的介绍，然后通过示例代码将实现的方法介绍的非常详细，对大家的学习或者工作具有一定的参考价值，需要的朋友们下面随着小编来一起看看吧。2018-01-01
浅谈Linux配置定时,使用crontab -e与直接编辑/etc/crontab的区别
下面小编就为大家带来一篇浅谈Linux配置定时,使用crontab -e与直接编辑/etc/crontab的区别。小编觉得挺不错的，现在就分享给大家，也给大家做个参考。一起跟随小编过来看看吧2016-11-11
最近因为工作的原因，有需求要删除Linux中旧的压缩包，发现网上给的答案都是删除N天前的文件，无法适应我的要求，于是自己研究了一翻。所以下面这篇文章主要介绍了关于linux自动删除最旧的几个文件的相关资料，需要的朋友可以参考下。2017-09-09
这篇文章主要介绍了logrotate实现日志切割方式(转储)，具有很好的参考价值，希望对大家有所帮助。如有错误或未考虑完全的地方，望不吝赐教2023-05-05
解决xmapp中Apache端口号占用问题(Apache不能正常启动)
小伙伴们安装xmapp后发现Apache不能正常开启，下面小编给大家带来了xmapp中Apache端口号占用问题的解决方法(Apache不能正常启动)，需要的朋友参考下吧2017-05-05
本文介绍了如何在Linux服务器中通过命令行重启宝塔面板,包括通用重启命令、备选命令、验证重启成功的方法、特殊情况处理及补充的其他常用命令,需要的朋友可以参考下2026-01-01
最新评论