Panmnesia 表示，大规模生成式 AI 训练任务可能会受到内存限制，因为 GPU 仅限于 GB 级别的高带宽内存 (HBM)，而实际可能需要 TB 级别的内存。解决这个问题的常规方法是增加更多 GPU，这虽然能获得更多内存，但代价是产生冗余的 GPU。P

cxl gpu panmnesia 2025-01-15 20:25  3