GPU Kill|一款实时GPU资源监控管理工具，支持多品牌显卡进程终止
Post Views: 22 简介 GPU Kill是一款专为GPU资源管理设计的开源监控工具，能够实时追踪并显示各类显卡的使用状态。该工具支持NVIDIA、AMD、Intel及Apple Silicon等多品牌硬件平台，帮助用户全面掌握GPU运行状况，快速终止异常进程，有效防止计算资源被恶意占用，确保关键任务获得充足的显卡算力。 功能特性 PongHub：服务器状态监控软件，自部署开源免费确保服
AI Video Transcriber|免费开源AI视频转录工具，支持多平台视频转文字
Post Views: 37 简介 AI Video Transcriber是一款基于人工智能技术的免费开源视频转录工具，能够高效准确地将视频中的语音内容转换为文本，并自动生成简洁的内容摘要。该工具支持处理来自YouTube、TikTok、Bilibili等30多个主流视频平台的资源，为内容创作者、研究人员和多语言用户提供了便捷的视频内容处理解决方案。 功能特性 多平台视频链接解析：支持超过30个
xiaohongshu-mcp|一款小红书的AI agent工具，支持内容发布与数据获取
Post Views: 79 简介 xiaohongshu-mcp是一款基于Model Context Protocol（模型上下文协议）的开源自动化工具，专为小红书平台运营设计。该工具通过集成AI技术与浏览器自动化功能，帮助用户实现小红书账号的智能化管理，将内容创作者从繁琐的手动操作中解放出来，全面提升小红书账号的运营效率。 功能特性 自动化登录管理：工具支持扫码登录小红书账号，并自动将登录状态
大模型推理过程中KV Cache 分层/层次化处理方案介绍
Post Views: 30 一、KV Cache 为什么会随会话增长而膨胀 在自回归解码时，每生成一个 token，模型的每一层都会产生对应的 Key 与 Value 向量并追加到 KV Cache 中。 如果一次会话的上下文长度为 （包括用户输入、模型已生成的 token），模型层数为 ，每层的注意力头数为 ，每个头的隐藏维度为 ，使用的数值精度为 字节（FP16 = 2 B），则 KV C
Nano Bananary (香蕉超市)|免费开源 AI 图像生成工具
Post Views: 61 简介 Nano Bananary（中文常称 “香蕉超市”）是一款专注于 AI 图像创作领域的开源工具，凭借丰富且实用的功能，为用户打造了灵活高效的图像生成与编辑体验，无论是设计爱好者、内容创作者还是技术开发者，都能借助它轻松实现个性化的图像创作需求。 作为开源工具，Nano Bananary（香蕉超市）的核心优势在于功能的实用性与操作的便捷性。 功能特性 一键快速生成
PromptMate：开源免费的AI提示词管理神器，助力高效管理与优化提示词
Post Views: 62 简介 PromptMate，作为一款开源且免费的AI提示词管理工具，致力于帮助用户更便捷、高效地管理与优化提示词（Prompts），进而提升使用AI工具的整体效率。其主要功能涵盖多层级分类管理、卡片式视觉呈现、变量化与表单编辑等，为用户带来全新的提示词管理体验。 功能特性 SQLBot|依托大模型与RAG的智能问数利器，开启高效数据库交互新纪元 该工具具备强大的多层级
MathModelAgent：AI赋能的数学建模设计利器，一键生成学术论文新选择
Post Views: 68 简介 MathModelAgent，作为一款前沿的数学建模设计AI Agent，专注于实现数学建模的自动化流程，并直接输出符合规范的学术论文。借助先进的AI人工智能技术，该工具能够在极短时间内高效完成复杂的数学建模任务，从而显著提升工作效率。 功能特性 SQLBot|依托大模型与RAG的智能问数利器，开启高效数据库交互新纪元 自动化建模：MathModelAgent能
SQLBot|依托大模型与RAG的智能问数利器，开启高效数据库交互新纪元
Post Views: 100 简介 SQLBot，作为一款集大模型与RAG技术于一体的智能问数系统，致力于显著提升用户与数据库之间的交互效率。它巧妙地将自然语言转化为精准的SQL查询，使得非技术背景的用户也能轻松驾驭数据查询，从而大幅降低了数据分析的准入门槛。 功能特性 开箱即用：仅需简单配置大模型与数据源，即可迅速投入使用。其强大的text-to-SQL生成能力，得益于大模型与RAG的深度融合
Qoder（AI编程工具）深度解析：简介、功能特性全揭秘与使用方法指南
Post Views: 196 简介 Qoder作为一款前沿的AI编程工具，巧妙地将AI技术与编程深度融合，专为软件开发场景量身打造。它凭借先进的上下文工程技术与智能代理的完美协作，能够精准且全面地理解代码库，从而系统性地应对各类软件开发任务。同时，Qoder紧跟技术潮流，支持包括Claude、GPT、Gemini等在内的最先进AI模型，并且具备良好的兼容性，可同时适配Windows和macOS系
CXL内存池与NVIDIA H100 GPU显存协同工作
Post Views: 55 引言与研究背景 AI大模型训练与推理的\"内存墙\"挑战 近年来，以GPT系列、LLaMA等为代表的大型语言模型在自然语言处理领域取得了突破性进展。然而，模型的性能提升往往伴随着参数量的爆炸式增长，从数十亿到数万亿。这给计算基础设施带来了前所未有的压力，其中最突出的是内存容量限制。 以当前最先进的NVIDIA H100 GPU为例，其搭载了高达80GB的HBM3高带宽内存
