Nikola Jevremović

30. april 2023.

Iako nismo ni polovinu prevalili, verujemo da će AI ostati centralna tema ove godine u tehnološkom svetu, pa samim tim i njen najrasprostranjeniji derivat ChatGPT. Bez obzira što neretko urnebesno brljavi, fascinantno je koliko brzo i sročeno može da odgovara na pitanja, sastavlja mejlove ili generiše programerski kôd. To je moguće zbog ozbiljne hardverske artiljerije na kojoj počiva. Logično, ona troši i ozbiljne količine struje, pa nećete pogrešiti ako pretpostavite da su svakodnevni operativni troškovi poveći.

Neku precizniju procenu, izneo je izvesni Dilan Patel, analitičar kompanije SemiAnalysis, portalu The Information. Prema istraživanju koji je sa svojim timom sproveo, sistem ChatGPT-a čini 3.617 Nvidijinih HGX A100 server računara, u kojima se znoji 28.936 grafičkih procesora, uz cenu jednog korisničkog upita od oko 0,36 centi. Na osnovu ovih parametara, Dilan je zaključio da kompaniju OpenAI njen chatbot košta 694.444 dolara dnevno! Dodaje i to da bi pravi iznos mogao da bude daleko veći, jer je istraživanje obuhvatalo GPT-3 verziju softvera, a ne daleko napredniji GPT-4, koji je već u pogonu za platiše. 

Navodno, ovakvo stanje podstaklo je Microsoft, jednog od većih deoničara OpenAI-a, da započne razvoj sopstvenog, energetski efikasnijeg AI čipa pod imenom Athena, koji bi, pod uslovom da je glasina tačna i da ovima iz Redmonda to pođe za rukom, trebalo da zamene Nvidijine pločice.