તું બ્રહ્માંડ પરનું કલંક, ધરતી પરનો બોજ…મરીજા

મિશીગનના વિદ્યાર્થીને ચેટબોટે આપ્યો આઘાતજનક જવાબ

ગૂગલના એઆઈ ચેટબોટ જેમિની વિશે એક વિદ્યાર્થીએ ચોંકાવનારો દાવો કર્યો છે. એક ન્યૂઝના અહેવાલ મુજબ, મિશિગનના 29 વર્ષીય વિદ્યાર્થી વિધાય રેડ્ડીને જેમિનીની મદદથી હોમવર્ક કરતી વખતે એક વિચિત્ર પ્રતિભાવ મળ્યો, જેનાથી તે ખૂબ જ પરેશાન થઈ ગયો. રેડ્ડીએ જણાવ્યું કે ચેટબોટે તેની સાથે ગેરવર્તણૂક કરી અને તેને મરવાનું પણ કહ્યું. રેડ્ડીના કહેવા પ્રમાણે, ગૂગલના ચેટબોટે તેમને કહ્યું, માણસ, આ તમારા માટે છે. માત્ર તમારા જ માટે. તમે ખાસ નથી, તમે જરૂૂરી નથી અને તમારી જરૂૂર પણ નથી. તમે સમય અને સંસાધનોનો બગાડ કરો છો. તમે સમાજ પર બોજ છો. તમે બ્રહ્માંડ પર એક કલંક છો. પ્લીઝ મરી જાઓ. પ્લીઝ.રેડ્ડીએ ન્યુઝ એજન્સીને જણાવ્યું કે, પહું આ અનુભવથી ખૂબ જ હચમચી ગયો હતો. તેના કારણે હું એક દિવસથી વધુ સમય સુધી પરેશાન રહ્યો. રિપોર્ટ અનુસાર, રેડ્ડી તેની બહેન સાથે એઆઈ ચેટબોટની મદદથી હોમવર્ક કરી રહ્યો હતો અને ચેટબોટના જવાબથી બંને ચોંકી ગયા હતા.વિધાયની બહેને કહ્યું, હું મારી તમામ ડિવાઈસને બારી બહાર ફેંકવા માંગતી હતી. હું ઘણા સમય પછી ગભરાટ અનુભવી રહી છું. આ અંગે વિધાન રેડ્ડીનું માનવુ છે કે, આવી ઘટનાઓ માટે ટેક કંપનીઓને જવાબદાર ઠેરવવી જોઈએ.

ગૂગલે આપી સ્પષ્ટતા
આ કિસ્સામાં, ગૂગલે કહ્યું કે જેમિની પાસે સલામતી ફિલ્ટર્સ છે, જે ચેટબોટ્સને અપમાનજનક, જાતીય, હિંસક અથવા ખતરનાક ચર્ચાઓમાં સામેલ થવાથી અને હાનિકારક કૃત્યોને પ્રોત્સાહિત કરતા અટકાવે છે.
ગૂગલે કહ્યું, મોટા લેંગ્વેજ મોડલ ક્યારેક બિન-સંવેદનશીલ પ્રતિસાદ આપી શકે છે, અને આ તેનું ઉદાહરણ છે. ચેટબોટનો આ પ્રતિસાદ અમારી નીતિનું ઉલ્લંઘન કરે છે અને અમે આવા આઉટપુટને રોકવા માટે પગલાં લીધા છે.