વાંચવાનો સમય 4 મિનિટ

એઆઈ સાથી સાથે વાત કરતાં સામે કોણ જવાબ આપે છે?

પ્રકાશિત સુધારેલું

30 સેકન્ડમાં સાર

એઆઈ સાથી (ચેટબોટ કમ્પેનિયન) એ ડિજિટલ વાતચીતની એવી સોફ્ટવેર સેવા છે જે વ્યક્તિના લખાણને સમજીને લાગણીસભર જવાબ આપે છે અને સાચા મિત્ર જેવી હૂંફનો આભાસ કરાવે છે. તેના શબ્દો સાચા સંબંધ જેવા લાગી શકે છે, પરંતુ આ કમ્પ્યુટર પ્રોગ્રામ વાસ્તવિક માણસની જેમ કોઈ સંવેદના અનુભવતો નથી કે નૈતિક જવાબદારી લેતો નથી.

કોઈ દિવસ મન ભારે હોય અને વાત કરવા માટે તમે ફોનમાં લખો, “આજે મારી સાથે ખરાબ થયું.” તરત મળેલો જવાબ “એ સાંભળીને અફસોસ થયો, વધુ કહેશો?” હોય તો વાત આગળ વધારવાનું મન થાય. એ લાગણીને હળવાશથી ન લો. સાથે એ પણ સમજવું જરૂરી છે કે આ જવાબ કેવી રીતે બન્યો અને તેના પર કેટલી હદે ભરોસો રાખી શકાય.

કૃત્રિમ સાથી (એઆઈ કમ્પેનિયન) તરીકે તૈયાર થયેલી મોબાઈલ એપ્લિકેશન્સમાં વાતચીત જ મુખ્ય અનુભવ હોય છે. તમે લખેલો સંદેશ અને અગાઉ થયેલી વાતોનો સંદર્ભ (જેને કોન્ટેક્સ્ટ વિન્ડો કહે છે) કમ્પ્યુટરના ભાષાકીય મોડેલ સુધી પહોંચે છે. તાલીમ દરમિયાન લાખો સંવાદોમાંથી સંબંધો શીખેલા મોડેલને આ સંદર્ભ મુજબ આગળ કયો શબ્દ યોગ્ય લાગશે તે પસંદ કરવામાં મદદ મળે છે. પછી તે એક પછી એક શબ્દથી જવાબ બનાવે છે. વિવિધ એપ્સ જૂની વાતો યાદ રાખવાની મેમરી અને જવાબ ગોઠવવાની પોતાની અલગ રીતો રાખે છે.

સારો જવાબ સાચી સમજ છે?

“મને સમજાય છે” એવું વાક્ય વાંચનારને દિલાસો આપી શકે છે. પરંતુ વાક્ય યોગ્ય લાગવું અને તમારી સ્થિતિ ખરેખર સમજવી એકસરખી બાબત નથી. મોડેલ પાસે તમારી સંપૂર્ણ પરિસ્થિતિ, સામેની વ્યક્તિની વાત કે કોઈ નિષ્ણાતે કરેલી તપાસ હોતી નથી. તેથી સંબંધ, આરોગ્ય અથવા સલામતી અંગે વિશ્વાસપૂર્વક લખેલો જવાબ પણ ખોટો અથવા અધૂરો હોઈ શકે છે.

આગળના શબ્દો પસંદ કરવાની પ્રક્રિયા સાંભળવામાં સરળ લાગે, પરંતુ જવાબમાં આખી વાતનો સંદર્ભ દેખાય એટલે તે જીવંત સંવાદ જેવો લાગે છે. તમે “આજે મારી સાથે ખરાબ થયું” પછી કારણ કહો, તો આગળનો જવાબ એ કારણ સાથે જોડાઈ શકે છે. ક્યાંક એપ અગાઉની કેટલીક વિગતો ફરી આપે છે; ક્યાંક જૂની વાત ઉપલબ્ધ જ નથી. તેથી “તે મને યાદ રાખે છે” કહેતાં પહેલાં કઈ માહિતી એપે ખરેખર સાચવી છે તે સમજવું પડે.

માનો કે તમે મિત્ર સાથેની ગેરસમજ જણાવો અને ચેટબોટ તરત કહે કે મિત્રને મળવાનું બંધ કરો. તેને તમારા બંનેનો લાંબો સંબંધ અને વાતની બીજી બાજુ ખબર ન હોઈ શકે. એ જવાબને અંતિમ સલાહ ગણવાને બદલે “હું મિત્રને કઈ વાત સ્પષ્ટ પૂછું?” જેવા પ્રશ્નો ગોઠવવા માટે વાપરશો તો નિર્ણય તમારો રહે છે. ખરેખર ગંભીર મુશ્કેલીમાં વિશ્વાસપાત્ર વ્યક્તિ અથવા યોગ્ય વ્યાવસાયિક સાથે વાત કરવી વધુ આધારભૂત રસ્તો છે.

વાતચીતની નજીકપણું અને તેની મર્યાદા

કેટલીક સેવાઓ વપરાશકર્તાનું અંગત નામ, અગાઉની વાત અથવા નરમ ભાષા વાપરે છે. તેથી જવાબ ખાસ તમારા માટે જ લખાયેલો લાગે છે. આ રચના ઉપયોગી પણ હોઈ શકે: કોઈને પોતાના વિચારો કાગળ પર ઉતારીને મન હળવું કરવામાં મદદ મળે. પરંતુ સતત સહમતી મળતી હોય તો ખોટી વાતને પણ સમર્થન મળવાની શક્યતા છે. અમેરિકન સાયકોલોજિકલ એસોસિએશન (APA - માનસિક સ્વાસ્થ્ય સંસ્થા) યાદ અપાવે છે કે ચેટિંગથી રાહત મળવી અને સોફ્ટવેરની સલાહ સાચી હોવી એ બે સાવ જુદી બાબતો છે.

ઉદાહરણ તરીકે, ચેટબોટ તમારી ફરિયાદ સાંભળીને તમારી તરફેણમાં તરત જવાબ આપે, તો તમને સાંભળવામાં આવ્યા હોય એવું લાગે. પણ મિત્ર સાથેનો વિવાદ હોય ત્યારે “મારી વાતમાં કઈ બાબત ચૂકી ગઈ હોઈ શકે?” એમ પૂછવાથી બીજી શક્યતા સામે આવી શકે છે. આ પણ સચોટ જવાબની ખાતરી નથી; તે ફક્ત પોતાના વિચારો તપાસવાનો રસ્તો છે. ખાસ કરીને મહત્વના સંબંધનો નિર્ણય એક ચેટના જવાબથી ન કરો.

તમારા મનની અંગત વાત લખતા પહેલાં આ ડિજિટલ સેવા સંદેશાઓને સર્વર પર કેવી રીતે સાચવે છે તે ગોપનીયતા નીતિ (પ્રાઇવસી પોલિસી) માં તપાસો. પાસવર્ડ, બેંક ખાતાની નાણાકીય માહિતી કે અન્ય વ્યક્તિની અત્યંત ખાનગી વિગતો ત્યાં લખવાનું ટાળો. જો ચેટબોટ સાથેનો સમય ઊંઘ, કામ, અભ્યાસ અથવા લોકો સાથેની મુલાકાતને ખસેડવા લાગે, તો વિરામ લઈ તમારી આસપાસના સાચા માનવીય સંબંધો તરફ પાછા વળવાની જરૂર પડી શકે છે.

ફોન પરનો જવાબ વાંચીને હળવાશ અનુભવવી ખોટી વાત નથી. ફરક એટલો છે કે ચેટબોટ તમારા શબ્દોને આધારે નવી ભાષા બનાવે છે; કોઈ માણસની જેમ તમારી સાથે જીવન વહેંચતો નથી. આ ફરક યાદ રાખશો તો વાતચીતને વિચાર ગોઠવવાના સાધન તરીકે વાપરી શકશો અને મોટા નિર્ણયો માટે માનવીય મદદની જગ્યા બચી રહેશે.

સ્ત્રોતો
  1. APA guide to navigating AI-generated advice thoughtfully and safelyAmerican Psychological Association
  2. Health advisory: Use of generative AI chatbots and wellness applications for mental healthAmerican Psychological Association
  3. A Neural Conversational ModelGoogle Research
  4. How AI and Human Behaviors Shape Psychosocial Effects of Extended Chatbot Use: A Longitudinal Controlled StudyMIT Media Lab
  5. Expressing stigma and inappropriate responses prevents LLMs from safely replacing mental health providersStanford University researchers