摘要：对于人工智能（AI）和机器学习（ML）开发人员来说，苹果芯片的Mac和MacBook一直不支持外接显卡（eGPU），是个棘手的问题。现在，Tiny Corp通过一种可能被一些人视为“魔法”的方法，成功地让AMD外接显卡在Tiny Grad中通过USB3工作。U

对于人工智能（AI）和机器学习（ML）开发人员来说，苹果芯片的Mac和MacBook一直不支持外接显卡（eGPU），是个棘手的问题。现在，Tiny Corp通过一种可能被一些人视为“魔法”的方法，成功地让AMD外接显卡在Tiny Grad中通过USB3工作。USB3本身并不具备PCIe功能，但通过使用libusb，这一功能扩展到了Windows、Linux，甚至包括苹果硅芯片的macOS。

通常情况下，GPU是通过PCIe插槽或支持PCI Express隧道功能的雷电/USB4接口连接的。因此，外接显卡解决方案主要依赖于这些接口，这也限制了它们在旧系统和笔记本电脑上的应用。苹果硅芯片设备不支持外接显卡，主要原因是缺乏驱动支持和架构差异。尽管苹果硅芯片设备在效率上优于传统的x86系统，但在AI工作负载方面，尤其是在提示处理方面，用户仍面临挑战。

目前，通过USB3接口运行外接显卡需要使用基于ASM2464PD的适配器和AMD GPU。Tiny Corp在测试中使用了ADT-UT3G适配器，它采用ASM2464PD芯片，但默认情况下仅支持雷电3、雷电4或USB4接口。该团队可能通过自定义固件启用了USB3模式，从而无需直接进行PCIe通信。虽然技术细节尚不清楚，但控制器似乎可以将PCIe命令转换为USB数据包，反之亦然。

这种解决方案相当“另类”，因为它绕开了内核级GPU驱动程序，需要特定硬件，并且使用了并非为GPU通信设计的USB3接口。它本质上是将计算部分（即内核执行）从主机系统卸载到外接显卡上。由于使用了USB3标准，数据传输速度上限为10 Gbps，因此将模型加载到GPU中的时间会比使用标准PCIe连接长得多。

由于该方案使用自定义用户空间驱动程序以避免修改内核，因此目前仅支持AMD的RDNA 3/4系列GPU，尽管未来可能会支持RDNA 2系列。USB3外接显卡功能已经整合到Tiny Grad的主分支中，因此如果你有AMD GPU和支持的适配器，可以尝试使用。

来源：CHIP奇谱