ટ્રિલિયમે પૂર્વાવલોકન રીલીઝ થયાના થોડા મહિના પછી જ સામાન્ય ઉપલબ્ધતા પર અસર કરી
Google એક દાયકાથી વધુ સમયથી ટેન્સર પ્રોસેસિંગ યુનિટ્સ (TPUs) વિકસાવી રહ્યું છે, તેના કસ્ટમ AI પ્રવેગક, અને પૂર્વાવલોકનમાં ઉપલબ્ધ કરાવ્યાના થોડા મહિનાઓ પછી, જાહેરાત કરી છે કે તેની છઠ્ઠી પેઢીનું TPU સામાન્ય ઉપલબ્ધતા પર પહોંચી ગયું છે અને હવે તે ભાડે ઉપલબ્ધ છે. .
ટ્રિલિયમ એચબીએમ ક્ષમતા અને ઇન્ટરચીપ ઇન્ટરકનેક્ટ બેન્ડવિડ્થ બંનેને બમણી કરે છે અને તેનો ઉપયોગ ટેક જાયન્ટના ફ્લેગશિપ AI મોડલ, જેમિની 2.0ને તાલીમ આપવા માટે કરવામાં આવ્યો હતો.
Google અહેવાલ આપે છે કે તે અગાઉની TPU પેઢીઓની સરખામણીમાં પ્રતિ ડૉલર તાલીમ પ્રદર્શનમાં 2.5x સુધીનો સુધારો પ્રદાન કરે છે, જે કાર્યક્ષમ AI ઈન્ફ્રાસ્ટ્રક્ચર મેળવવા માંગતા સાહસો માટે આકર્ષક વિકલ્પ બનાવે છે.
ગૂગલ ક્લાઉડનું AI હાઇપર કોમ્પ્યુટર
ટ્રિલિયમ તેના પુરોગામી કરતાં અન્ય સુધારાઓની શ્રેણી પ્રદાન કરે છે, જેમાં ચાર ગણા કરતાં વધુ તાલીમ પ્રદર્શનનો સમાવેશ થાય છે. ઉર્જા કાર્યક્ષમતા 67% વધી છે, જ્યારે ચિપ દીઠ પીક કમ્પ્યુટ પ્રદર્શન 4.7 ના પરિબળથી વધ્યું છે.
ટ્રિલિયમ સ્વાભાવિક રીતે અનુમાન પ્રદર્શનમાં પણ સુધારો કરે છે. Google ના પરીક્ષણો ઇમેજ જનરેશન મોડલ્સ જેમ કે સ્ટેબલ ડિફ્યુઝન XL માટે ત્રણ ગણા વધારે થ્રુપુટ અને પહેલાની TPU જનરેશનની સરખામણીમાં મોટા લેંગ્વેજ મોડલ્સ માટે લગભગ બમણું થ્રુપુટ દર્શાવે છે.
ચિપને એમ્બેડિંગ-સઘન મોડલ્સ માટે પણ ઑપ્ટિમાઇઝ કરવામાં આવી છે, તેની ત્રીજી પેઢીના સ્પાર્સકોર ગતિશીલ અને ડેટા-આધારિત કામગીરી માટે વધુ સારું પ્રદર્શન પ્રદાન કરે છે.
ટ્રિલિયમ TPU એ Google ક્લાઉડના AI હાઇપર કોમ્પ્યુટરનો પાયો પણ બનાવે છે. આ સિસ્ટમ 100,000 થી વધુ ટ્રિલિયમ ચિપ્સ ધરાવે છે જે જ્યુપિટર નેટવર્ક ફેબ્રિક દ્વારા 13 પેટાબિટ્સ/સેકન્ડ બેન્ડવિડ્થ પહોંચાડે છે. તે JAX, PyTorch અને TensorFlow સહિત ઑપ્ટિમાઇઝ્ડ હાર્ડવેર, ઓપન સૉફ્ટવેર અને લોકપ્રિય મશીન લર્નિંગ ફ્રેમવર્કને એકીકૃત કરે છે.
ટ્રિલિયમ હવે સામાન્ય રીતે ઉપલબ્ધ હોવાથી, Google ક્લાઉડ ગ્રાહકોને જેમિની 2.0 ને તાલીમ આપવા માટે ઉપયોગમાં લેવાતા સમાન હાર્ડવેરને ઍક્સેસ કરવાની તક મળે છે, જે ઉચ્ચ-પ્રદર્શન AI ઇન્ફ્રાસ્ટ્રક્ચરને વિશાળ શ્રેણીની એપ્લિકેશનો માટે વધુ સુલભ બનાવે છે.
ટ્રિલિયમ TPU, AI ના ભાવિને શક્તિ આપવા માટે બનાવવામાં આવ્યું છે – YouTube