KI-Server mit Flüssigkeitskühlung
KAYTUS hat seine neue V3-Serverfamilie vorgestellt, die sowohl Intel Xeon 6 als auch AMD EPYC Prozessoren der 9005-Serie unterstützt. Die insgesamt 17 Servermodelle sind für verschiedene Einsatzszenarien konzipiert und bieten in der Dual-Sockel-Ausführung bis zu 576 Kerne bei Taktraten von bis zu 5,0 GHz.
Der IT-Infrastrukturanbieter KAYTUS hat seine neue V3-Serverfamilie vorgestellt, die sowohl Intel Xeon 6 als auch AMD EPYC Prozessoren der 9005-Serie unterstützt. Die insgesamt 17 Servermodelle sind für verschiedene Einsatzszenarien konzipiert und bieten in der Dual-Sockel-Ausführung bis zu 576 Kerne bei Taktraten von bis zu 5,0 GHz. Tests zeigen eine Verdreifachung der Leistung bei KI-Inferenzszenarien mit großen Sprachmodellen wie LLaMA2 im Vergleich zur Vorgängergeneration.
Die technische Architektur der V3-Serie basiert auf einem modularen Konzept, das verschiedene Rechenplattformen wie CPU, GPU und FPGA unterstützt. Auf Komponentenebene ermöglichen CXL-Adapterkarten und BOX die Speichererweiterung, während die Firmware auf einer OpenBMC-basierten Managementplattform aufbaut. Die Server folgen der Spezifikation für Server-Compute-Module (OCM) und ermöglichen damit eine flexible Kombination verschiedener Prozessorplattformen.
Bei der Datenspeicherung erreichen die neuen Server Kapazitäten von bis zu 128 TByte pro Laufwerk, wodurch ein einzelner Server bis zu 6 PByte Speicherplatz bieten kann. Zur Überwachung der Hardware wurde ein KI-gestütztes Diagnosesystem implementiert, das Speicherfehler mit einer Genauigkeit von 85 Prozent erkennt. Ein spezielles Diagnosemodul überwacht digitale Signale auf Nanosekundenebene und kann Fehlerursachen mit 95-prozentiger Genauigkeit lokalisieren.
Angesichts steigender Energieanforderungen durch KI-Workloads setzt KAYTUS bei der V3-Serie auf Flüssigkeitskühlung. Die Server erreichen dabei eine Kühleffizienz von 85 Prozent und nutzen Technologien wie Zweiphasen-Kühlplatten und Unterdrucksysteme. Spezielle Beschichtungen der Motherboard-PCBs sowie proaktive Stromabschaltmechanismen sollen vor möglichen Kühlmittellecks schützen.
Zur Optimierung der Energieeffizienz verfügen die Server über eine Temperaturüberwachung auf Komponentenebene sowie eine neue Lüftersteuerung, die die Kühleffizienz um 20 Prozent verbessert. Die standardmäßig verbauten Titan-Netzteile erreichen einen Wirkungsgrad von über 98 Prozent, der auch bei niedrigen Auslastungen zwischen 20 und 50 Prozent konstant bleibt.