Tehisintellekti rakenduste jaoks on arvutis vaja nii arvutusvõimsust kui ka piisavalt mälu. Seekord koostasime kliendile AI-tööjaama, mille südameks on kaks PNY NVIDIA RTX PRO 5000 Blackwell videokaarti, millel on kummalgi 72 GB GDDR7 ECC mälu, ning täiendasime seda Intel Core Ultra 9 protsessoriga, tööjaamadele mõeldud ASUS-i emaplaadiga ja 4 TB Samsungi SSD.
Selliste süsteemide aluseks on võimalus töötada tehisintellektiga kohapeal. Asjakohaselt konfigureeritud tarkvara abil töödeldakse dokumente, kasutatakse keelemudeleid ja arendatakse tehisintellekti lahendusi, ilma et andmeid saadetaks välistele tehisintellekti teenusepakkujatele. See tagab suurema kontrolli töökeskkonda, kasutatavate mudelite ja andmete liikumise üle. Näiteks võib kohalik AI-abiline aidata leida teavet dokumentidest, koostada teksti kavandeid või koguda materjale. Arendajad saavad omakorda sellist tööjaama kasutada erinevate mudelite katsetamiseks ja oma rakenduste prototüüpide loomiseks. Need on võimalikud kasutusstsenaariumid, kus konkreetsed funktsioonid sõltuvad valitud tarkvarast, kättesaadavatest andmetest ja sellest, kuidas lahendus integreeritakse ettevõtte igapäevatöösse.
Selles konfiguratsioonis on videomälu maht eriti oluline. Mälu on vajalik nii mudeli enda parameetrite jaoks kui ka arvutuste käigus kasutatavate andmete jaoks. Igal RTX PRO 5000 kaardil on saadaval 72 GB, mis pakub laiemad võimalused mahukate mudelite ja keerulisemate ülesannete töötlemiseks. Konkreetse mudeli sobivust määravad selle täpsus, konteksti pikkus ja kasutatav tarkvara.
Mõlemal kaardil on kokku 144 GB videomälu. Et ühe mudeli töötamiseks kasutada mõlema kaardi mälu, peab tarkvara toetama töö jagamist mitme GPU vahel. Kaarte saab kasutada ka eraldi ülesannete jaoks, näiteks ühel mudelit käitada, teisel aga eksperimente läbi viia. See võimaldab kohandada kättesaadavaid ressursse konkreetse töövoo jaoks.
Arendusprotsessis on see paindlikkus eriti väärtuslik, kuna tehisintellekti kasutamisel on sageli vaja teha korduvaid katseid. Võimalus neid ülesandeid oma tööjaamas täita aitab töid korraldada vastavalt meeskonna ajakavale ning säilitada ühes kohas kasutatud materjale, konfiguratsioone ja saadud tulemusi.
Protsessorina toimib Intel Core Ultra 9 285, millel on 24 tuuma – kaheksa jõudlustuuma ja 16 energiatõhusat tuuma. See tagab ressursid andmete ettevalmistamiseks, programmide töötamiseks ja ülesannete täitmiseks, mis toimuvad paralleelselt GPU arvutustega. Süsteemis kasutasime Kingston DDR5 ECC operatiivmälu. ECC aitab tuvastada ja parandada teatud mäluvigu, mis on olulised pikaajaliste arvutuste puhul.
Operatiivmälu ja videomälu ülesanded on erinevad. Süsteemi RAM-mälu kasutavad operatsioonisüsteem, programmid ja andmete ettevalmistamise protsessid, samal ajal kui GPU-mälu salvestab videokaardi arvutusteks vajalikku teavet. Seetõttu tuleb AI-tööjaama planeerimisel mõlema mälutüübi mahtu hinnata seoses konkreetse töövooga ja samaaegselt täidetavate ülesannetega.
Süsteemi aluseks on valitud ASUS Pro WS W880-ACE SE emaplaat. See on mõeldud kahe videokaardi konfiguratsioonidele, pakkudes PCIe 5.0 liideseid. Töökeskkonna haldamisel on abiks sisseehitatud BMC-kontroller ja kaugjuhtimise võimalused – arvutit on võimalik jälgida ja hallata ka siis, kui administraator ei viibi selle juures.
Paigaldatud mudelite, andmekogumite ja projektide salvestamiseks Samsung 9100 PRO 4 TB M.2 SSD . Tehisintellekti kasutamisel tuleb andmebaasi salvestada nii töökirjad kui ka erinevad mudeliversioonid ja eksperimentide tulemused. Kiire juurdepääs nendele failidele on oluline mudelite laadimisel ja andmete ettevalmistamisel.
Riistvara komplekteerimisel on oluline tarkvara valik: olemasolevate ressursside kasutamiseks on vaja ühilduvaid draivereid, AI-tööriistu ja sobivaid seadeid. Ka kahe videokaardi koormus sõltub kasutatavast programmist. Praktikas näitavad süsteemi sobivust kõige paremini katsed, milles kasutatakse samu mudeleid ja andmeid, mida on kavas igapäevaselt kasutada.
Komplekti täiendab GIGABYTE AORUS RTX 5060 Ti AI BOX – välisgraafikakaart, mis on varustatud GeForce RTX 5060 Ti-ga ja 16 GB videomäluga. Tegemist on eraldi korpuses paigutatud GPU-ga, millel on Thunderbolt 5 ja USB4 ühenduspesad. Selline seade pakub täiendavaid võimalusi tehisintellekti eksperimentideks või muudeks GPU-kiirendatud ülesanneteks.
Komponendid on paigutatud musta Fractal Design Epoch XL Solid korpusesse. Protsessori jahutus be quiet! Pure Rock Pro 3 , omakorda täiendab õhuvoolu be quiet! Pure Wings 3 140 mm ja 120 mm PWM-ventilaatorid. Tööjaamale, mille koormus võib kesta tunde, on soojuse ärajuhtimine oluline osa komplektist.
Arvuti toiteallikaks on be quiet! Dark Power 14 1200 W 80 PLUS Titanium sertifikaadiga ja ATX 3.1 standardit toetav toiteplokk. Selle arvutikomplekti koosseisu kuulub ka PowerWalker VI 3000 CW FR katkematu toiteallikas nimivõimsusega 3000 VA / 2100 W. Toitekatkestuse korral annab see aega tööandmete salvestamiseks ja süsteemi korrektseteks väljalülitamiseks; kättesaadav aeg sõltub tegelikust koormusest.
See komplekt annab ülevaate sellest, kuidas koostatakse konkreetseks tööks mõeldud AI-tööjaam: GPU ressursse täiendavad mälu, andmesalvestus, jahutus ja haldusvõimalused. Kui ka sinu ettevõtte tööks on vaja oma AI-töökeskust, võta ühendust TopPC – aitame leida sobiva konfiguratsiooni vastavalt vajalikele programmidele, mudelitele ja töömahtule.