Ajándékozz éves hvg360 előfizetést!
Egy friss tanulmány szerint annyi GPU kellene a Google mesterséges intelligenciájának üzemeltetéséhez, ami jelentősen megdobná a vállalat által felhasznált energia mennyiségét. Egyelőre nem látni, mi hozhatja el a javulást.
Az OpenAI által fejlesztett ChatGPT megjelenése óta a mesterséges intelligencia (MI) iránt komoly érdeklődés mutatkozik. Ennek köszönhetően az MI-t kiszolgáló chipek iránt is megnőtt a kereslet. Az egyik legtöbb ilyet gyártó és szállító cég az Nvidia, ami rekordot jelentő, 16 milliárd dolláros bevételről számolt be a 2023 júliusában lezárult negyedévben.
De nem az Nvidia az egyetlen, amely ilyen eszközökön dolgozik. A Google és az Amazon már rendelkezik saját chippel, a Microsoft pedig a pletykák szerint a jövő hónapban mutatja majd be a hardverét. Mindemellett az OpenAI is saját eszközt szeretne, amihez vagy fejlesztés, vagy pedig felvásárlás útján juthat majd hozzá.
Mindez azt jelenti, hogy a mesterséges intelligencia iparának karbonlábnyoma jelentős mértékben növekedhet. Hogy mennyire, arról egy friss kutatási eredmény is beszámol, amivel kapcsolatban az Amszterdami Egyetem tudósa, Alex de Vries is írt egy cikket a Joule című tudományos folyóiratba.
A tanulmány a nagy nyelvi modellek szénlábnyomát számította ki. A ChatGPT például, aminek működése mögött 10 ezer Nvidia GPU húzódik meg, 1287 MWh áramot fogyaszt. Ez 121 amerikai háztartás egy éves energiafelhasználásának felel meg.
Vries szerint mindez oda vezethet, hogy egyes modellek üzemeltetése annyi energiát emészt majd fel, ami egyenértékű lesz egy-egy kisebb ország fogyasztásával.
„2021-ben a Google teljes villamosenergia-fogyasztása 18,3 TWh volt, a mesterséges intelligencia ennek 10–15 százalékát tette ki. A legrosszabb forgatókönyv azt sugallja, hogy a Google mesterséges intelligenciája önmagában annyi áramot fogyasztana, mint például Írország, ami évi 29,3 TWh-t igényel. Ez jelentős növekedést jelent” – állapította meg Vries.
Magyarországra is megérkezett a Bard, a Google mesterségesintelligencia-alapú chatbotja
Bár sok országban már március óta kipróbálható, az Európai Unió területén még csak most tette elérhetővé a Bardot a Google - az eddigi legnagyobb bevezetési hullám részeként már hazánkból is kipróbálható a chatbot, ami a ChatGPT-vel és a Binggel kelhet versenyre.
A SemiAnalysis elemzése szerint egy ChatGPT-szerű chatbot integrálása a Google keresőjébe 512 820 Nvidia A100 HGX szervert igényelne. Ez több mint 4 millió GPU bekapcsolását eredményezné. Szerverenként 6,5 kW teljesítményigénnyel számolva ez napi 80 GWh áramfogyasztást és 29,2 TWh éves fogyasztást jelent.
Vries szerint túlzóan optimista várakozás azt gondolni, hogy a szoftverek és a hardverek optimalizálása jelentős mértékben fogja majd vissza az energiafelhasználást. Ehelyett olyan új megoldásra lenne szükség, ami valóban képes csökkenteni az MI karbonlábnyomát.
Ha máskor is tudni szeretne hasonló dolgokról, lájkolja a HVG Tech rovatának Facebook-oldalát.
