Kioxia એ AiSAQ નામનો નવો પ્રોજેક્ટ જાહેર કરે છે જે AI ડેટા પ્રોસેસિંગ માટે SSDs સાથે RAM ને બદલવા માંગે છેBigger (વાંચો: 100TB+) SSDs માત્ર મેમરીનો ઉપયોગ કરતા ઓછા ખર્ચે RAG ને સુધારી શકે છે, કોઈ સમયરેખા આપવામાં આવી નથી, પરંતુ Kioxia ના હરીફો સમાન ટેક ઓફર કરે તેવી અપેક્ષા રાખે છે.
મોટા ભાષાના મોડેલો ઘણીવાર બુદ્ધિગમ્ય પરંતુ હકીકતમાં ખોટા આઉટપુટ જનરેટ કરે છે – બીજા શબ્દોમાં કહીએ તો, તેઓ સામગ્રી બનાવે છે. આ “આભાસ” તબીબી નિદાન, કાનૂની વિશ્લેષણ, નાણાકીય અહેવાલ અને વૈજ્ઞાનિક સંશોધન જેવા માહિતી-નિર્ણાયક કાર્યોમાં વિશ્વસનીયતાને નુકસાન પહોંચાડી શકે છે.
પુનઃપ્રાપ્તિ-સંવર્ધિત જનરેશન (RAG) બાહ્ય ડેટા સ્ત્રોતોને એકીકૃત કરીને, LLM ને જનરેશન દરમિયાન રીઅલ-ટાઇમ માહિતીને ઍક્સેસ કરવાની મંજૂરી આપીને, ભૂલોને ઘટાડીને, અને વર્તમાન ડેટામાં આઉટપુટને ગ્રાઉન્ડ કરીને, સંદર્ભની ચોકસાઈમાં સુધારો કરીને આ સમસ્યાને હળવી કરે છે. RAG ને અસરકારક રીતે અમલમાં મૂકવા માટે નોંધપાત્ર મેમરી અને સંગ્રહ સંસાધનોની જરૂર પડે છે, અને આ ખાસ કરીને મોટા પાયે વેક્ટર ડેટા અને સૂચકાંકો માટે સાચું છે. પરંપરાગત રીતે, આ ડેટા DRAM માં સંગ્રહિત કરવામાં આવ્યો છે, જે ઝડપી હોવા છતાં, ખર્ચાળ અને ક્ષમતામાં મર્યાદિત બંને છે.
આ પડકારોનો સામનો કરવા માટે, ઘરની સેવા કરો અહેવાલ આપે છે કે આ વર્ષના CES ખાતે, જાપાનીઝ મેમરી જાયન્ટ Kioxia એ AiSAQ – ઑલ-ઇન-સ્ટોરેજ એપ્રોક્સિમેટ નેબર સર્ચ (ANNS) પ્રોડક્ટ ક્વોન્ટાઇઝેશન સાથે રજૂ કર્યું – જે વેક્ટર ડેટા અને સૂચકાંકોને સંગ્રહિત કરવા માટે ઉચ્ચ-ક્ષમતા ધરાવતા SSDsનો ઉપયોગ કરે છે. Kioxia દાવો કરે છે કે AiSAQ એ DiskANN ની તુલનામાં DRAM નો ઉપયોગ નોંધપાત્ર રીતે ઘટાડે છે, જે મોટા AI મોડલ્સને ટેકો આપવા માટે વધુ ખર્ચ-અસરકારક અને સ્કેલેબલ અભિગમ ઓફર કરે છે.
વધુ સુલભ અને ખર્ચ-અસરકારક
(ઇમેજ ક્રેડિટ: કિઓક્સિયા)
SSD-આધારિત સ્ટોરેજ પર સ્થાનાંતરિત થવાથી વ્યાપક DRAM ઉપયોગ સાથે સંકળાયેલા ઊંચા ખર્ચ વિના મોટા ડેટાસેટ્સનું સંચાલન કરવાની મંજૂરી મળે છે.
જ્યારે SSD માંથી ડેટા એક્સેસ કરવાથી DRAM ની સરખામણીમાં થોડી લેટન્સી થઈ શકે છે, ટ્રેડ-ઓફમાં નીચા સિસ્ટમ ખર્ચ અને સુધારેલ માપનીયતાનો સમાવેશ થાય છે, જે બહેતર મોડેલ પ્રદર્શન અને ચોકસાઈને સમર્થન આપી શકે છે કારણ કે મોટા ડેટાસેટ્સ શીખવા અને અનુમાન માટે વધુ સમૃદ્ધ પાયો પૂરો પાડે છે.
ઉચ્ચ-ક્ષમતા ધરાવતા SSDs નો ઉપયોગ કરીને, AiSAQ અદ્યતન AI ટેક્નોલોજીઓને વધુ સુલભ અને ખર્ચ-અસરકારક બનાવવાના વ્યાપક ધ્યેયમાં યોગદાન આપતી વખતે RAG ની સ્ટોરેજ માંગને સંબોધે છે. Kioxia એ જાહેર કર્યું નથી કે તે AiSAQ ક્યારે બજારમાં લાવવાની યોજના ધરાવે છે, પરંતુ માઇક્રોન અને SK Hynix જેવા હરીફો પર શરત લગાવવા માટે તે સુરક્ષિત છે.
ServeTheHome તારણ આપે છે, “આ દિવસોમાં બધુ જ AI છે, અને Kioxia આને પણ દબાણ કરી રહ્યું છે. વાસ્તવમાં, RAG એ ઘણી એપ્લિકેશનોનો એક મહત્વપૂર્ણ ભાગ બનવા જઈ રહ્યો છે, અને જો એવી કોઈ એપ્લિકેશન હોય કે જેને ઘણા બધા ડેટાને ઍક્સેસ કરવાની જરૂર હોય, પરંતુ તેનો વારંવાર ઉપયોગ થતો નથી, તો આ Kioxia AiSAQ જેવી કંઈક માટે એક શ્રેષ્ઠ તક હશે.”