admin 发布的文章

只用一个工具，实现一键部署llama2+chatglm2，一键微调训练大模型！牛不牛工具名称：text-generation-webui开发者：oobaboogahttps://github.com/oobabooga/text-ge...

45天！落地LLM到企微/飞书的实操复现项目，本次分教育+医疗2组，动手实操做复现！全程覆盖五大板块:①微信/飞书接入、②API管理、③数据集预处理、④大模型选择及调优、⑤知识库搭建**1.1 服务内容非常重要！想清楚你提供什么样的服...

解释说明这个问题一直困扰智云海博站长很长时间，由于中国大陆特殊的互联网环境导致解决此问题变得较为困难。本文将介绍我解决此问题的经历和解决方案。智云海博刚刚接入Google广告的那段时间广告显示没有任何异常，因无效流量被停用账户解封之后...

安装 docker# 下载自动安装脚本 curl -fsSL https://get.docker.com -o get-docker.sh # 执行脚本，并指定为阿里的镜像 sh get-docker.sh --mirror Al...

一，模型压缩技术概述1.1，模型压缩问题定义因为嵌入式设备的算力和内存有限，因此深度学习模型需要经过模型压缩后，方才能部署到嵌入式设备上。模型压缩问题的定义可以从 3 角度出发:模型压缩的收益:计算: 减少浮点运算量（FLOPs），降...

一，剪枝分类所谓模型剪枝，其实是一种从神经网络中移除"不必要"权重或偏差（weigths/bias）的模型压缩技术。关于什么参数才是“不必要的”，这是一个目前依然在研究的领域。1.1，非结构化剪枝非结构化剪枝（Unstructured...

LangChain 介绍随着各种开源大模型的发布，越来越多的人开始尝试接触和使用大模型。在感叹大模型带来的惊人表现的同时，也发现一些问题，比如没法查询到最新的信息，有时候问一些数学问题时候，会出现错误答案，还有一些专业领域类问题甚至编...

众所周知，大模型的训练需要大量的显存资源，单卡很容易就爆了，于是就有了单机多卡、多机多卡的训练方案。本文主要是介绍如何使用deepspeed框架做多机多卡的分布式训练。由于PyTorch、NVIDIA、CUDA等运行环境搭建也是很繁琐...

一，背景知识1.1，LLM 应用的难点1，模型训练时间过长伴随着 Transformer 结构的提出，后续 LLM 参数开始从亿级到百亿、乃至万亿级增长，与超高速增长到模型参数量相比， GPU 显存的增长实属有限，有数据显示每 18 ...

一、测试背景和目的随着硬件和OS的发展，一些新的RAID卡不支持安装老的操作系统。但有些客户可能需要在新的RAID卡上安装老的操作系统。此时需要编译RAID卡驱动，在安装操作系统时使用linux dd来手工加载RAID卡驱动。本手册以...

简介本文详细介绍了怎么通过shell脚本实现一个linux系统的全面性能分析，包括磁盘，cpu，内存，文件系统等性能详细展示1.利用select循环实现系统工具箱select格式和for格式一致，但是select 变量名 in xxx...

简介本文详细使用ansible批量安装Zabbix-agent，在客户端比较多，结合ansible进行批量安装，将非常重要，省时高效，并且能够加稳定安装步骤1、安装关联组件[root@centos78 \~]# yum install...

简介本文详细介绍ansible怎么批量初始化服务器，包括ansible批量初始化服务器详细配置和步骤，有需要的小伙伴们可以参考借鉴，希望对大家有所帮助。详细步骤1、ansible要初始化的主机[root@nginx ansible]#...

一、目的Lenovo 解决方案能够助客户有效地简化运作，同时最大限度地降低风险，为那些不断经历变化的企业提供更高的性能和可扩展性。借助于产品、技术和合作伙伴的良好组合，Lenovo 解决方案有助于解决最为迫切的IT 和业务问题，同时最...

Citrix虚拟桌面部署，在线pdf阅读！

华为hadoop调优手册，当前最全面的hadoop调优手册！

一、添加远程桌面授权服务服务器管理 - 添加角色和功能打开“添加角色和功能向导”窗口，选择基于角色或给予功能安装：打开服务器管理，打开角色和功能，添加远程回话主机和远程桌面授权以上配置完成后使用期限为120天，再次登陆会有如下提示：二...

安装Ubuntu 20.04.3 LTS版本安装Ubuntu 20.04按照安装提示，仔细选择每一项，基本默认即可。系统中查看GPU信息系统安装完成之后，进入系统，使用lspci 命令查询一下GPU是否存在、型号信息是什么。bpang...

简介ubuntu 22.10 自带的安装源，在国内都没法访问，通过网上查看的apt安装源，基本上也都不能用，以下安装源是通过正常测试，能够正常使用。sources.list 内容vi /etc/apt/sources.listdeb ...

自动驾驶技术的发展依赖于感知、决策和控制系统的高效集成。传统的数据驱动方法和基于规则的方法在处理复杂驾驶环境和理解其他道路用户的意图时受到限制。这是实现安全和可靠自动驾驶所必需的重要瓶颈，特别是在发展常识推理和细致场景理解方面。视觉语...