Arvutusvõimsus kasvab. Saabuvad uued tipptasemel GPU-d

Tartu Ülikooli Rocketi klastrisse tulevad augustis kaks uut suurte mudelite treenimiseks mõeldud masinat, üks masin on varustatud nelja suure VRAM-mahuga H200 NVL 141GB PCIe 5.0 x16 GPU ja ühe masina piires saab kasutada kuni 564 GB videomälu. Mitme masina samaaegseks rakendamiseks on 200gbps Infiniband.

Lisaks laiendasime pilveressursse masinõppe inferentsi rakendamiseks (model inference), 8 NVIDIA L40S GPU-ga (igaühel 48GB VRAM-i).