vLLM 多机多卡推理部署DeepSeek-R1-Qwen-32B
1. 服务器准备 本文两台服务器规格完全一致: Intel(R) Xeon(R) Gold 5318Y CPU @ 2.10GHz 64核处理器 128G 内存 Nvidia RTX 4070Ti 12G 显卡 * 2 确保服务器有足够存储空间 给/根目录预留足够大的空间 虽然一些组件(如docke
Linux
未读
dmesg命令查看Java程序突然挂掉的原因
最近做项目,总是发现项目突然挂掉,但是Java的日志又没有显示任何内容。 网上搜索了一波才知道了这个命令 # 按时间格式显示
dmesg -T
# 显示跟Java 有关的日志
dmesg -T | grep "(java)"
最终打印的信息如下 [Wed May 8 09:40:57 2019
Linux
未读
MongoDB用户管理以及连接
# 使用帐户名连接
mongo -u 用户名 -p 密码 --host 数据库地址
# 创建账户
# 创建超级管理员,角色:root
db.createUser({user:"用户名",pwd:"密码",roles:["root"]})
# 创建账户管理员
db.createUser({user
Linux
未读
MongoDB后台运行
完成安装mongodb(略) 创建数据目录: mkdir /data/db 创建配置文件 # vi /data/db/mongodb.cnf
dbpath=/data/db/
logpath=/data/db/mongo.log
logappend=true
fork=true
port=27017
Linux
未读
Nginx防止被其他域名恶意解析
在nginx对应配置文件中增加以下配置: server {
listen 80 default_server;
listen 443 ssl default_server;
ssl_certificate 证书路径;
ssl_certificate_key 证书路径
Linux
未读
Elasticsearch安装常见问题
1. 提示:max file descriptors [4096] for elasticsearch process is too low max file descriptors [4096] for elasticsearch process is too low, increase to a
Linux
未读
Jenkins使用Git时提示 Unable to find remote helper for 'https' 报错的问题
一个新的项目需要部署生产环境,于是把jdk,maven,git,什么都装好了。 可是用jenkins连接git仓库的时候提示 Unable to find remote helper for 'https' 的问题。 因为对git的了解甚少,查了下资料,发现可能是没有安装curl的问题,于是先安装c