Tensordyne Napier: Inferencing-Angriff auf NVIDIA, Google und Co - Hardwareluxx
… Bereitstellung einer Instanz mit einem 2T-KI-Modell mit möglichst vielen Tokens/s/Nutzer NVIDIA AWS mit Cerebras Tensordyne Anzahl der Racks genutzte Hardware 9 1x Vera Rubin, 8x NVIDIA Groq 3 LPX 14 AWS Tm3 UltraServer, 23 Cerebras CS-3 1 4x TDN72 Pod Leistungsaufnahme 1,5 MW 0,8 MW 0,12 MW Tokens… …