标签 GPU 下的文章

一，背景知识1.1，LLM 应用的难点1，模型训练时间过长伴随着 Transformer 结构的提出，后续 LLM 参数开始从亿级到百亿、乃至万亿级增长，与超高速增长到模型参数量相比， GPU 显存的增长实属有限，有数据显示每 18 ...

在人工智能大模型训练的过程中，常常会面临显存资源不足的情况，其中包括但不限于以下两个方面：1.经典错误：CUDA out of memory. Tried to allocate ...；2.明明报错信息表明显存资源充足，仍然发生 O...

据报道，当地时间10月17日，美国商务部工业和安全局（BIS）发布了针对芯片的出口禁令新规，进一步加强了对中国半导体的制裁措施。从新规名称来看，此次限制主要针对先进计算半导体、半导体制造设备和超级计算机项目。这一新规事实上是对2022...