Memória kerülhet az AI-szerverek középpontjába
Az SK hynix az OCP Global Summit 2026 konferencián olyan szerverinfrastruktúrát mutatott be, amelyben a memória nem egyszerűen egy különálló alkatrész, hanem a teljes rendszer szervezőeleme. A vállalat szerint a megközelítés segíthet enyhíteni az AI-adatfeldolgozásnál jelentkező, egyre komolyabb adatforgalmi szűk keresztmetszeteket.
Az eseményt október 12. és 15. között tartották a kaliforniai San Joséban. Az OCP Global Summit az adatközponti hardverek tervezésére, specifikációira és szabványosítására összpontosít, az idei rendezvényen pedig különösen az AI fejlődését támogató infrastruktúrák kerültek előtérbe. Az SK hynix három, egymásra épülő megoldást állított ki: a CMM-DDR5-öt, a MARS rendszert és a CMM-Ax-et.
A vállalat bemutatójáról az AI Hírek összefoglalója az SK hynix memóriaközpontú szerverrendszereiről további részleteket is közöl.
A CXL több szerver között oszthatja meg a memóriát
A CMM-DDR5 a Compute eXpress Link, röviden CXL szabványára épül. Ennek egyik fontos lehetősége, hogy több szerver ugyanahhoz a memóriakészlethez férhet hozzá, így az egyes rendszerek az aktuális feladataikhoz szükséges kapacitást használhatják. Ez rugalmasabb erőforrás-kezelést tehet lehetővé az adatintenzív környezetekben.
Az SK hynix a CXL 3.2 szabványra épülő, második generációs, 256 GB-os CMM-DDR5 modult mutatta be. Az előző változathoz képest a sávszélesség több mint kétszeresére, 80 GB/s-ra emelkedett, miközben az energiahatékonyság körülbelül 30 százalékkal javult. A CXL Pooled funkcióval kiegészített megoldást a vállalat olyan munkaterhelésekhez szánja, ahol a memória-hozzáférés és az adatmozgatás korlátot jelenthet.
Az SK hynix 2025 szeptemberében üzleti megállapodást kötött a NAVER Clouddal. A két cég CXL-alapú memóriamegoldásokkal vizsgálja a felhős AI-szolgáltatások adatfeldolgozási nehézségeit. A mostani bemutatón azt is ellenőrizték, hogy az agentic AI környezetekben megosztható-e a KV cache, illetve az OmniServe többféle adatmodalitást kezelő szolgáltatásban megoldható-e az embeddingek megosztása. Ezeket a vizsgálatokat ügyfélrendszerek és munkaterhelések elemzése után, PoC szinten végezték el.
Közös gyorsítótárak és memória egyetlen rackben
A MARS, vagyis Memory Centric AI Rack System több partner technológiáit egyetlen, memória-központú rackbe integrálja. Az Arcee, a Liqid és a Marvell közreműködésével bemutatott rendszer több szervert és GPU-t kapcsol össze közös memóriakészlettel. Az SK hynix állítása szerint a CXL pooled memory használatával a KV cache átvitele és újbóli felhasználása jobb rendszerteljesítményt eredményezett, mint a hálózati kommunikációra épülő hagyományos megoldások.
Egy másik bemutatóban az AMD, a Penguin, az Xcena és az Arcee működött közre. A memóriarack CXL-memóriát, valamint CXL hybrid memoryt alkalmazott, amely DRAM-ot és SSD-t kombinál. A demonstráció során a rendszer előre jelezte, mely gyorsítótárakra lehet szükség, majd ezeket előre betöltötte a DRAM-ba. Az SSD-n tárolt teljes KV cache egyszerre kínálhat gyors olvasást és nagy kapacitást.
A Pickle-lel közösen végzett bemutatóban a pooled memory több AI-modell közötti adatátvitelt gyorsított. A vállalat szerint ez csökkentette a személyes AI-ügynök válaszidejét, ami különösen az összetettebb, több modell együttműködésére épülő feladatoknál lehet fontos.
Számítás közvetlenül a memóriában
A CMM-Ax a memóriát számítási funkciókkal kapcsolja össze. A műveletek közvetlenül a memóriában történnek, ezért az adatok mozgatására kisebb mértékben lehet szükség. Az SK hynix szerint ez mérsékelheti az adatközpontok energia- és költségterheit.
Az Efficient Long Context LLM Serving bemutatóban a vállalat azt szemléltette, hogyan gyorsíthatja a CMM-Ax a hosszú kontextusok kezelését. Ezek a feladatok a hagyományos GPU-alapú rendszerek számára nehezen kezelhetők. A kapcsolódó kutatást a számítógép-architektúra egyik meghatározó konferenciáján, a MICRO 2026-on is publikálták.
A kiállítás Memory Section részében az SK hynix jelenlegi AI-infrastruktúrás termékei is megjelentek. A kínálatban eSSD-k és szerver-DRAM-ok szerepeltek. Az eSSD-k között a nagy teljesítményű PS1010 U.2, a fejlesztés alatt álló PS1110 E3.S, a nagy kapacitású PS1101 E3.S, valamint a Direct Liquid Cooling támogatására képes PEB210 E1.S és PEB210 M.2 2280 kapott helyet.
A szerver-DRAM-kínálatot többek között a 256 GB-os 3DS RDIMM, továbbá a 96 GB-os és 64 GB-os DDR5 RDIMM modulok alkották. A bemutatott rendszerek alapján az SK hynix a kapacitásmegosztást, a gyorsítótárak újrafelhasználását és a hosszú kontextusok kezelését egyaránt közös memória-infrastruktúrával próbálja támogatni.
