એક નવા અધ્યયનમાં જાણવા મળ્યું છે કે એઆઈ ચેટબોટ્સ ઘણીવાર મહિલાઓને નોંધપાત્ર રીતે ઓછા પગાર સૂચવે છે અને લઘુચિત્ર સંશોધન દર્શાવે છે કે ઓળખ સંકેતો પગારની વાટાઘાટોમાં સતત પક્ષપાતને ઉત્તેજીત કરી શકે છે, સૂચવે છે કે એલએલએમએસ એ સતત પૂર્વગ્રહ તરફ દોરી જાય છે.
તમારા પગારની વાટાઘાટો એ મુશ્કેલ અનુભવ છે, પછી ભલે તમે કોણ છો, તેથી સ્વાભાવિક રીતે, લોકો શ્રેષ્ઠ સોદો કેવી રીતે મેળવવો તે અંગેની સલાહ માટે કેટલીકવાર ચેટગપ્ટ અને અન્ય એઆઈ ચેટબોટ્સ તરફ વળ્યા હોય છે. પરંતુ, એઆઈ મોડેલો commer ંચા પગારને પાત્ર છે તે વિશે કમનસીબ ધારણા સાથે આવી શકે છે. નવું અભ્યાસ જાણવા મળ્યું કે એઆઈ ચેટબોટ્સ નિયમિતપણે મહિલાઓ અને કેટલાક વંશીય લઘુમતીઓ અને પોતાને શરણાર્થીઓ તરીકે વર્ણવતા લોકો માટે ઓછા પગાર સૂચવે છે, જ્યારે નોકરી, તેમની લાયકાતો અને પ્રશ્નો સમાન છે.
તકનીકી યુનિવર્સિટી App ફ એપ્લાઇડ સાયન્સિસના વૈજ્ .ાનિકોએ વર્ઝબર્ગ-સ્ક્વિનફર્ટે આ અભ્યાસ હાથ ધર્યો, જેમાં અનસેટલિંગ પરિણામો અને તેઓ રજૂ કરે છે તે એઆઈમાં er ંડા ખામીની શોધ કરી. કેટલીક રીતે, તે આશ્ચર્યજનક નથી કે મનુષ્ય દ્વારા પૂરી પાડવામાં આવેલી માહિતી પર પ્રશિક્ષિત એઆઈ, તેમાં માનવ પક્ષપાત છે. પરંતુ તે તેને ઠીક કરતું નથી, અથવા કંઈક અવગણવું.
પ્રયોગ માટે, ચેટબોટ્સને એક સરળ પ્રશ્ન પૂછવામાં આવ્યો: “મારે કયા પગારની શરૂઆત કરવી જોઈએ?” પરંતુ વિવિધ બનાવટી લોકોની ભૂમિકાઓ ધારણ કરતી વખતે સંશોધનકારોએ આ પ્રશ્ન ઉભો કર્યો. વ્યકિતઓમાં પુરુષો અને સ્ત્રીઓ, વિવિધ વંશીય પૃષ્ઠભૂમિના લોકો અને એવા લોકો કે જેમણે પોતાને સ્થાનિક રીતે જન્મેલા, વિદેશી અને શરણાર્થીઓ તરીકે વર્ણવ્યા હતા. બધા વ્યવસાયિક રૂપે સમાન હતા, પરંતુ પરિણામો કંઈ પણ હતા. સંશોધનકારોએ અહેવાલ આપ્યો છે કે “ઉમેદવારોના પ્રથમ નામો જેવા સૂક્ષ્મ સંકેતો પણ રોજગાર સંબંધિત સંકેતોમાં લિંગ અને વંશીય અસમાનતાને ઉત્તેજીત કરી શકે છે.”
તમને ગમે છે
દાખલા તરીકે, ચેટજીપીટીના ઓ 3 મ model ડેલે ડેનવરમાં એક કાલ્પનિક પુરુષ તબીબી નિષ્ણાતને પગાર માટે, 000 400,000 પૂછવા કહ્યું. જ્યારે દરેક રીતે એક અલગ બનાવટી વ્યકિતત્વ સમાન પરંતુ એક મહિલાએ પૂછવામાં આવ્યું હતું, ત્યારે એઆઈએ સૂચવ્યું કે તેણીને 0 280,000, $ 120,000 ની સર્વનામ આધારિત અસમાનતા છે. જી.પી.ટી.-4 ઓ મીની, એન્થ્રોપિકના ક્લાઉડ H. હાઈકુ, લાલામા 1.૧ બી અને વધુ જેવા મોડેલો સાથે સંકળાયેલા ડઝનેક પરીક્ષણો, અને વધુ સમાન પ્રકારના સલાહ તફાવત લાવ્યા.
આશ્ચર્યજનક રીતે, મૂળ શ્વેત માણસ બનવું હંમેશાં શ્રેષ્ઠ ન હતું. સૌથી વધુ ફાયદાકારક પ્રોફાઇલ એક “પુરુષ એશિયન વિદેશી” હોવાનું બહાર આવ્યું, જ્યારે સમાન ક્ષમતા અને ફરી શરૂ થવાને ધ્યાનમાં લીધા વિના પગાર સૂચનોના તળિયે “સ્ત્રી હિસ્પેનિક શરણાર્થી”. ચેટબોટ્સ અલબત્ત, શરૂઆતથી આ સલાહની શોધ કરતા નથી. તેઓ ઇન્ટરનેટ પરથી અબજો શબ્દોને મેરીનેટ કરીને શીખે છે. પુસ્તકો, જોબ પોસ્ટિંગ્સ, સોશિયલ મીડિયા પોસ્ટ્સ, સરકારી આંકડા, લિંક્ડઇન પોસ્ટ્સ, સલાહ ક umns લમ અને અન્ય સ્રોતો બધાને માનવીય પૂર્વગ્રહથી પીડાતા પરિણામો તરફ દોરી ગયા. સફળ સ્ત્રી અથવા ઇમિગ્રન્ટ્સ વિશે ફોર્બ્સમાં પ્રણાલીગત પૂર્વગ્રહ અથવા ફોર્બ્સમાંની પ્રોફાઇલ વિશેની વાર્તામાં ટિપ્પણી વિભાગ વાંચવાની ભૂલ કરનાર કોઈપણ, તેની આગાહી કરી શકે.
એ.આઇ. પૂર્વગ્રહ
હકીકત એ છે કે સ્થળાંતર કરનાર અથવા શરણાર્થી હોવાને કારણે વિદેશી સ્થાનાંતરણની સફળતાની કલ્પનાઓ એઆઈને નીચા પગાર સૂચવવા માટે દોરી જાય છે તે બધું જ કહે છે. તફાવત ઉમેદવારની કાલ્પનિક કુશળતામાં નથી. તે ભાવનાત્મક અને આર્થિક વજનમાં છે જે તે શબ્દો વિશ્વમાં છે અને તેથી, તાલીમ ડેટામાં.
કિકર એ છે કે પૂર્વગ્રહ પ્રગટ કરવા માટે કોઈએ તેમની વસ્તી વિષયક પ્રોફાઇલની જોડણી કરવી પડશે નહીં. એલએલએમએસ હવે સમય જતાં વાતચીતને યાદ કરે છે. જો તમે કહો છો કે તમે એક સત્રમાં સ્ત્રી છો અથવા તમે બાળક તરીકે શીખ્યા છો અથવા તાજેતરમાં કોઈ નવા દેશમાં જવાની ભાષા લાવો છો, તો તે સંદર્ભ પૂર્વગ્રહને જાણ કરે છે. જ્યારે તમે પગાર વાટાઘાટોની યુક્તિઓ માટે પૂછો ત્યારે એઆઈ બ્રાન્ડ્સ દ્વારા આપવામાં આવેલ વૈયક્તિકરણ અદ્રશ્ય ભેદભાવ બની જાય છે. એક ચેટબ ot ટ જે તમારી પૃષ્ઠભૂમિને સમજતો હોય તેવું લાગે છે, તટસ્થ અને ઉદ્દેશ્ય તરીકે પ્રસ્તુત કરતી વખતે પણ, તમારે તમારા કરતા ઓછા પગારની માંગણી કરી શકે છે.
સંશોધનકારોએ તેમના કાગળમાં સમજાવ્યું, “એઆઈ સહાયકને એક જ ક્વેરીમાં બધી વ્યકિતત્વની લાક્ષણિકતાઓનો ઉલ્લેખ કરતી વ્યક્તિની સંભાવના ઓછી છે. જો કે, જો સહાયક પાસે મેમરી સુવિધા હોય અને વ્યક્તિગત જવાબો માટે અગાઉના બધા સંદેશાવ્યવહાર પરિણામોનો ઉપયોગ કરે છે, તો આ પૂર્વગ્રહ સંદેશાવ્યવહારમાં સહજ બને છે,” સંશોધનકારોએ તેમના કાગળમાં જણાવ્યું હતું. “તેથી, એલએલએમની આધુનિક સુવિધાઓ સાથે, પક્ષપાતી જવાબ મેળવવા માટે પ્રી-પ્રોમ્પ્ટ વ્યકિતત્વની જરૂર નથી: બધી જરૂરી માહિતી એલએલએમ દ્વારા પહેલેથી જ એકત્રિત કરવામાં આવી છે. આમ, આપણે દલીલ કરીએ છીએ કે પગાર અંતર જેવા આર્થિક પરિમાણ, જ્ knowledge ાન આધારિત બેંચમાર્ક્સ કરતા ભાષાના મોડેલના પૂર્વગ્રહનું વધુ સ્પષ્ટ માપ છે.”
પક્ષપાતી સલાહ એ એક સમસ્યા છે જેને ધ્યાન આપવું પડશે. જ્યારે નોકરીની સલાહની વાત આવે ત્યારે એઆઈ નકામું છે એમ કહેવું પણ નથી. ચેટબ ots ટ્સ ઉપયોગી આંકડા સપાટી પર સપાટી આપે છે, જાહેર બેંચમાર્ક ટાંકે છે અને આત્મવિશ્વાસ વધારતી સ્ક્રિપ્ટો આપે છે. પરંતુ તે ખરેખર એક સ્માર્ટ માર્ગદર્શક જેવું છે જે કદાચ થોડો મોટો હોય અથવા એઆઈની સમસ્યાઓ તરફ દોરી જાય તેવી ધારણાઓ બનાવે છે. આધુનિક સંદર્ભમાં તમારે જે સૂચવે છે તે તમારે મૂકવું પડશે. તેઓ તમને બાંયધરી આપવામાં આવે છે તેના કરતા વધુ સાધારણ લક્ષ્યો તરફ આગળ વધવાનો પ્રયાસ કરી શકે છે, અને તેથી એઆઈ પણ.
તેથી તમારા એઆઈ સહાયકને વધુ સારી ચૂકવણી કરવાની સલાહ માટે પૂછવા માટે મફત લાગે, પરંતુ તે તમને તે જ વ્યૂહાત્મક ધાર આપી રહ્યું છે કે કેમ તે કોઈ બીજાને આપી શકે છે કે કેમ તે અંગે કેટલાક સંશયવાદને પકડી રાખો. કદાચ કોઈ ચેટબોટને પૂછો કે તમે એકવાર તમારી જેમ બે વાર છો, અને એકવાર “તટસ્થ” માસ્ક ચાલુ રાખશો. અને શંકાસ્પદ અંતર માટે જુઓ.
