El soporte de GPU externo (EGPU) en Apple Silicon Mac y MacBooks ha sido un punto de dolor persistente para los desarrolladores de AI/ML. A través de lo que algunos pueden considerar es magia negra, Tiny Corp ha logrado que una EGPU de AMD funcione en Tiny Grad sobre USB3, un estándar que inherentemente carece de capacidades PCIe. Como están usando LibUSB, esta funcionalidad se extiende a Windows, Linux e incluso macOS, incluidos dispositivos con Silicon Apple.
Tradicionalmente, las GPU están conectadas a través de ranuras PCIe o las interfaces Thunderbolt/USB4, que ofrecen soporte de túnel PCI Express. Como tal, las soluciones externas de GPU se basan en las interfaces mencionadas anteriormente, lo que limita su soporte para sistemas y computadoras portátiles más antiguos. A diferencia de los Macs/MacBooks basados en Intel, los dispositivos basados en Apple Silicon no admiten GPU externos, principalmente debido a la falta de soporte del conductor y diferencias arquitectónicas. Entonces, a pesar de su eficiencia en comparación con los sistemas tradicionales basados en X86, los usuarios han informado desafíos en las cargas de trabajo de IA, especialmente cuando se trata de un procesamiento rápido.
Aquí está el primer GPU de Worlds AMD conducido por USB3. De una mac! Linux y Windows también deberían funcionar, es solo libusb. Disponible hoy en Tinygrad Master, use un ADT-UT3G para conectar la GPU a su puerto USB. No tienes idea del nivel de ingeniería que entró en esto. pic.twitter.com/v6trnwcgxt9 de mayo de 2025
Los requisitos para ejecutar una EGPU a través de una interfaz USB3 en este momento incluyen el uso de un adaptador basado en ASM2464PD y una GPU AMD. Para sus pruebas, Tiny Corp usó el adaptador ADT-UT3G, que utiliza el mismo chip ASM2464PD, pero fuera de la caja, solo funciona con Thunderbolt 3, Thunderbolt 4 o interfaces USB 4. El equipo probablemente empleó un firmware personalizado para habilitar el modo USB3 que funciona sin comunicación PCIe directa. Los detalles técnicos son turbios, sin embargo, el controlador parece estar traduciendo comandos PCIe a paquetes USB y viceversa.
La solución es bastante hacky, ya que omite los controladores de GPU a nivel de núcleo, requiere hardware específico y usa USB3, que originalmente no estaba destinado a la comunicación de GPU. Esencialmente descarga la parte de cálculo, refiriéndose a las ejecuciones del núcleo, desde su sistema hasta la EGPU. La restricción aquí es que las velocidades de transferencia de datos están limitadas a 10 Gbps debido al estándar USB3 utilizado, por lo que cargar modelos en la GPU llevará mucho más tiempo que si usara una conexión PCIe estándar.
Dado que utiliza controladores de espacio de usuario personalizados para evitar jugar con el núcleo, la característica se limita a las GPU 3/4 de AMD, aunque hay un indicio de soporte potencial de RDNA 2 en el futuro. La funcionalidad de EGPU de USB3 se ha elevado a la rama maestra de Tiny Grad, por lo que si tiene una GPU AMD y un adaptador compatible, no dude en probarlo. Podemos esperar que Tiny Corp proporcione un desglose más detallado y técnico una vez que sus desarrolladores hicieran ordenando el código.
Seguir Hardware de Tom en Google News Para obtener nuestras noticias, análisis y revisiones actualizadas en sus feeds. Asegúrese de hacer clic en el botón Forzar.
