sanyinjiang
  • 首页
  • 归档
  • 分类
  • 标签
  • 关于

Ubuntu2004安装maven制作容器镜像

一、安装配置maven 访问maven官网:https://archive.apache.org/dist/maven/maven-3/ 1234567#下载root@dify:/opt/instakkPkgs# wget https://archive.apache.org/dist/maven/maven-3/3.8.3/binaries/apache-maven-3.8.3-bin.ta
2025-03-21
k8s云原生
#k8s云原生

nvidia-smi相关命令执行时输出内容

一、参考文档 docs.nvidia.com官方文档关于nvidia-smi的解释:https://docs.nvidia.com/deploy/nvidia-smi/ 二、简介 nvidia-smi,全称NVIDIA System Management Interface,简称NVSMI,是为Fermi和更高架构的Tesla、Quadro、GRID和GeForce设备提供监控和管理功能(
2025-03-20
NVIDIA生态
#nvidia

联想Yoga笔记本经typeC线连接显示器无效

自己使用一台联想Yoga 14SIHU 2021 笔记本电脑,因为笔记本自带显示屏较小,故平时外接一台显示器来使用。 最近两天突然出现如下情况,显示器无法正常使用: 场景1:周一去公司办公,通过数据线将笔记本电脑的typeC接口,连接到显示器1的HDMI接口,显示器一直显示无信号。但显示器开机时可以看到亮灯与输出显示器标识,可以基本断定显示器无问题->怀疑是数据线的问题,使用同事的数据
2025-03-19
硬件问题与故障
#笔记本电脑

Ubuntu2204安装jdk11

12345678910111213141516171819202122232425262728293031323334#x86 ubuntu20 LTS上二进制文件安装#下载安装文件:https://www.oracle.com/java/technologies/javase/jdk11-archive-downloads.html#解压安装文件,解压过程就是安装过程的一部分,解压后的文件就是后
2025-03-19
java
#java

Dify0.15.3学习01_使用docker-compose部署

一、参考文档 https://github.com/langgenius/dify/tree/0.15.3 https://github.com/langgenius/dify/tree/0.15.3/docker 二、环境与规划 主机名 用途 IP root用户密码 规格 系统盘 OS 备注 dify dify、ai-to-pptx-ba
2025-03-17
AIGC
#AIGC

Centos8-x86_64上安装使用nvidia-docker

一、说明 由于一些原因,遇到了在centos8上使用nvidia-docker,以前基本上没使用过,将自己的安装、配置、使用过程记录一下。 二、步骤 123456789101112131415161718192021222324252627282930313233343536#1.卸载已有组件yum remove docker \ docker-client \ docker-clien
2025-03-16
#nvidia-docker

4✖8✖A800服务器部署满血版DeepSeek-R1-671B步骤

一、服务器及配置信息 1.1 服务器列表 此次用来部署满血版DeepSeek-R1-671B,用到4个物理服务器。每个物理服务器上有8个NVIDIA A800,相关具体硬件信息如下。 主机名 IP CPU 内存 硬盘 GPU情况 IB网卡 万兆网卡 其他信息 deepseek1 10.119.165.139(万兆内网)10.119.85.
2025-03-14
大模型
#部署满血版DeepSeek

KTransformers部署DeepSeek-R1-Q4_K_M

一、参考文档与信息说明 KTransformers 是由清华大学发起的一个项目,它利用 DeepSeek 模型的 MoE 架构特性,将专家模型的权重加载到内存上,并分配 CPU 完成相关计算,同时将 ML/KV Cache 加载到 GPU 上,从而实现 CPU+GPU 混合推理。这种方法能够在最大化降低显存占用的同时,保持一定的推理速度。KTransformers 项目旨在解决大模型本地
2025-03-12
大模型
#KTransformers

跟随《大语言模型-赵鑫教授团队》入门大语言模型

一、课程学习内容与打卡要求 https://www.datawhale.cn/learn/summary/107 二、正式课程内容 2.1 第一课 初识大模型 2.1.1 语言模型的发展 ChatPGT于2022年11月底上线,引爆全球关注。 image-20250311222953477 语言模型通常是指能够建模自然语言文本生成概率的模型 从语言建模到任务求解
2025-03-11
大模型
#大语言模型课程

构建问答系统之更新知识库与微调二者比较

一、参考文章 (1)RAG & 微调,我们应该如何选择? 二、什么时候需要使用RAG,什么时候使用微调 要求/使用对象 RAG 微调 (1)要构建一个需要访问外部数据源的 LLM 应用程序 Y (2)应用程序需要专门的写作与回答风格(如客服)或与特定领域的语言和惯例深度一致 Y (3)抑制幻觉 Y
2025-03-10
大模型
#更新知识库 微调
1…34567…10

搜索

Hexo Fluid
总访问量 次 总访客数 人