Tartu Ülikooli (TÜ) teadusarvutuste keskus pakub kaasaegset ja turvalist arvutusressurssi tehisaru mudelite treenimiseks ning käitamiseks. Teenus võimaldab kasutada suure jõudlusega GPU-arvutusvõimsust nii TÜ kohalikus arvutiklastris Rocket kui ka Euroopa ühes võimsaimas superarvutis LUMI.
Ressurss sobib nii masinõppe- ja süvaõppemudelite arendamiseks, peenhäälestamiseks kui ka juba loodud mudelite käitamiseks teadus-, arendus- ja rakendusprojektides. Teenust saab kasutada muuhulgas suurte keelemudelite, pilditöötlusmudelite, ennustusmudelite ja teiste masinõppesüsteemide arendamiseks ning kasutuselevõtuks.
Kasutajatele, kes ei soovi rinda pista keelemudelite juurutamise, seadistamise ja haldamise tehniliste keerukustega, pakume võimalust kasutada ka eelkonfigureeritud mudeleid läbi keelemudelite inferentsteenuse. See võimaldab keskenduda rohkem rakenduste arendamisele ja uute lahenduste loomisele, ilma et oleks vaja hallata mudeleid, taristut või muid toetavaid süsteeme. Pakume juurdepääsu kaasaegsetele keelemudelitele standardse OpenAI API spetsifikatsiooniga ühilduva API kaudu. See võimaldab olemasolevaid tööriistu ja rakendusi hõlpsalt integreerida ning vähendab arenduskulu. Tagamaks jõudlust ja töökindlust on teenus loodud automaatselt skaleeruma vastavalt vajadustele ka suuremahuliste töövoogude puhul.
TÜ teadusarvutuste keskus pakub tipptasemel arvutusressursse ja valdkondlikku kompetentsi, toetades tehisaru projektide elluviimist ideedest kuni toimivate lahendusteni. Kerge vaevaga on võimalik alustada tööd tuntud raamistikega nagu näiteks pytorch, vllm või ollama, millest kõigi osas on võimalik saada ka nõustamist. Samuti pakume Kubernetese platvormi, mis võimaldab töökindlalt juurutada, hallata ja skaleerida konteineripõhiseid rakendusi.
Teenuse eelised:
- juurdepääs suure jõudlusega GPU-arvutusressurssidele;
- võimalus kasutada nii kohalikke kui ka rahvusvahelise taseme superarvutusressursse;
- skaleeritav keskkond alates väiksematest katsetest kuni suurte mudelite treenimiseni;
- turvaline ja teadustöö vajadustele vastav infrastruktuur;
- teadusarvutuste keskuse ekspertide tehniline tugi.
Küsimuste ja hinnapäringute korral võtke palun ühendust e-mailil: etais@etais.ee või kontakteeruge otse vastava ülikooli HPC keskusega.