Lühidalt: Ettevõtete GPU-klastrid töötavad keskmiselt alla 25-protsendilise koormusega, sest andmehoidlad ja võrk ei suuda kiiret riistvara piisavalt andmetega varustada.
Paljud ettevõtted kasutavad kalleid GPU-klastreid, mille kasutusaste jääb alla 25 protsendi, samal ajal kui ühe instantsi käitamiskulud küünivad aastas viiekohalise summani. Põhjus peitub sageli halvasti ette valmistatud andmevoogudes, mis pärsivad riistvara tööd.
Suurettevõtted on viimastel aastatel investeerinud massiivselt GPU-võimsusesse või sõlminud pikaajalisi pilvelepinguid tippklassi riistvara, näiteks Nvidia Hopperi ja Blackwelli arhitektuuride kasutamiseks. See põhines strateegilisel eeldusel, et suure jõudlusega arvutusvõimsuse kättesaadavus toob automaatselt kaasa kiirema väärtuse loomise tehisintellekti abil. Teoorias see arvutuskäik toimiski.
Praktikas näitavad pilve-FinOpsi teadlaste ja infrastruktuuriteenuste pakkujate, näiteks Granulate’i empiirilised uuringud, drastilist ebakõla: kui klassikalisi CPU-servereid koormatakse tänu aastakümnete jooksul optimeeritud virtualiseerimisele sageli üle 70 protsendi, siis paljudes valdkondades jääb dedikeeritud ettevõtte GPU-de kasutusaste alla 25 protsendi. Kuna ühe kaasaegse serveri-GPU aastased kulud ulatuvad viiekohalise summani, kasvavad suuremates klastrites seisuajast tulenevad kahjud miljonitesse. Seetõttu nõuavad finantsjuhid üha enam läbipaistvaid järelduse-kohta-maksumuse mudeleid ning põhjendust seotud kapitali kasutamisele.
Peamine põhjus peitub andmevarustuses (data starvation ehk andmenälg): kaasaegsed kiirendid töötlevad maatriksoperatsioone kiiremini, kui pärandandmehoidlad või tavapärane pilvepõhine objektisalvestus suudavad andmeid võrgu kaudu edastada. Sisend-väljundi kitsaskoht on tüüpiline – kui GPU arvutustuumad töötlevad andmeid millisekundite jooksul, peab riistvara sageli mitmeid sekundeid ootama järgmist andmepaketti killustunud salvestussüsteemidest. Vajalik oleks sagedane, minimaalse latentsusega andmeedastus, kuid paljudes arhitektuurides pole see ette nähtud.
Seetõttu peavad tehnoloogiajuhid uuesti hindama andmevoogude optimeerimist, andmehanget ja infrastruktuuri disaini. Pelgalt arvutusvõimsus ilma eelnevalt kavandatud andmevoogude ja piisava võrgumahuta muutub üksnes bilansi koormaks.
Allikas: www.it-daily.net · Avaldatud 2. augustil 2026
Lumi AI News — tehisintellekti abil kureeritud vastavalt tehisintellektimääruse artiklile 50. Parafraseerimine ja klassifitseerimine Lumi News Pipeline v1.7.3 abil.