એઆઈ (AI) ભ્રમ: કમ્પ્યુટર પૂરા આત્મવિશ્વાસ સાથે ખોટી વાતો કેમ રજૂ કરે છે?

તમે ક્યારેય કોઈ એઆઈ ચેટબોટને ઐતિહાસિક તારીખ, કોઈ પુસ્તકનું અવતરણ કે નજીકના રેસ્ટોરન્ટ વિશે પૂછ્યું છે? ક્ષણવારમાં સ્ક્રીન પર એક પ્રભાવશાળી જવાબ આવી જાય છે. વાક્યરચના અત્યંત સુંદર હોય છે, અવાજ આત્મવિશ્વાસથી ભરેલો હોય છે અને વિગતો પણ ખૂબ ચોક્કસ લાગે છે. પરંતુ જ્યારે તમે તે માહિતીની ખરાઈ તપાસો છો ત્યારે આશ્ચર્યજનક બાબત સામે આવે છે: ઐતિહાસિક ઘટના કોઈ બીજા જ વર્ષે બની હતી, લેખકે તે શબ્દો ક્યારેય લખ્યા જ નહોતા અને રેસ્ટોરન્ટ દાયકા પહેલાં બંધ થઈ ગયું હતું. જવાબ ખાતરીપૂર્વક લાગ્યો કારણ કે તે સત્તાવાર અવાજમાં રજૂ થયો હતો, પરંતુ વાસ્તવમાં તે તથ્યો કેવળ કાલ્પનિક હતા.

કૃત્રિમ બુદ્ધિમત્તા (આર્ટિફિશિયલ ઇન્ટેલિજન્સ) માં આ ઘટનાને કલ્પનાનો ભ્રમ (હેલ્યુસિનેશન) અથવા ઉપજાવી કાઢેલી વાતો (કન્ફેબ્યુલેશન) કહેવાય છે. કમ્પ્યુટર કોઈ સપના જોતું નથી કે ન તો છેતરવાનો ઇરાદો ધરાવે છે. આ સમસ્યા ભાષાકીય મોડેલ્સની આંતરિક રચનામાંથી ઉદ્ભવે છે. આ મોડેલ્સ કોઈ સંદર્ભ લાયબ્રેરી નથી કે ડિજિટલ ખાનાઓમાં હકીકતો સાચવી રાખતા નથી; તેઓ માત્ર ગણતરી આધારે આગળ કયો શબ્દ બંધબેસતો લાગશે તે નક્કી કરે છે.

વાસ્તવિકતા શોધવાને બદલે માત્ર શબ્દોની સંભાવનાનું અનુમાન

જ્યારે તમે કમ્પ્યુટર સમક્ષ કોઈ સવાલ કે સૂચના (જેને પ્રોમ્પ્ટ કહેવાય છે) દાખલ કરો છો, ત્યારે સિસ્ટમ તમારા વાક્યને અક્ષરો કે શબ્દોના નાના ટુકડાઓમાં (જેને ટોકન્સ કહેવામાં આવે છે) વહેંચે છે. તે પછી માનવીય લખાણના વિશાળ સંગ્રહમાંથી શીખેલા આંકડાકીય સંબંધો સાથે આ ટુકડાઓની સરખામણી કરવામાં આવે છે. ડગલે ને પગલે ગણતરીના નિયમો (અલ્ગોરિધમ) સંભવિત શબ્દોનું મૂલ્યાંકન કરે છે અને વાક્યના કુદરતી પ્રવાહ મુજબ તેને સ્કોર આપે છે. તે વ્યાકરણની સુસંગતતા અને પ્રભાવશાળી લય પર ધ્યાન કેન્દ્રિત કરે છે. જોકે, કોઈ વાત સાચી લાગવી અને વાસ્તવમાં સાચી હોવી એ બે સાવ અલગ બાબતો છે. મોડેલ ભૌતિક દુનિયાનું નિરીક્ષણ કરી શકતું ન હોવાથી, તે ક્યારેય પોતાના લખાણને વાસ્તવિક હકીકતો સાથે સરખાવતું નથી. જો કોઈ ઘડી કાઢેલી વાત વ્યાકરણની રીતે સુંદર લાગતી હોય, તો સિસ્ટમ તેને સંપૂર્ણ સત્ય જેટલા જ આત્મવિશ્વાસ સાથે રજૂ કરી દે છે.

અસ્ખલિત ભાષામાં રજૂ થતો ભ્રમ ક્યાં ગંભીર નુકસાન પહોંચાડે છે?

સર્જનાત્મક વાર્તાલેખનમાં મનઘડંત વાતો કદાચ હાનિરહિત લાગે, પરંતુ જ્યારે લોકો વ્યવસાયિક માર્ગદર્શન માટે આવા ચેટબોટ્સ પર આધાર રાખે છે ત્યારે ગંભીર જોખમો ઊભા થાય છે. કાયદાકીય ક્ષેત્રમાં એવા કિસ્સા બન્યા છે જ્યાં વકીલોએ અદાલતમાં ખોટા કેસ સંદર્ભો રજૂ કર્યા હતા, જેમાં કાલ્પનિક ચુકાદાઓ, ન્યાયાધીશોના મનઘડંત અવતરણો અને બનાવટી કેસ નંબર સામેલ હતા જે કમ્પ્યુટરે શૂન્યમાંથી ઉપજાવી કાઢ્યા હતા. શિક્ષણ ક્ષેત્રે વિદ્યાર્થીઓને એવા વિષય સારાંશ મળે છે જેમાં અસ્તિત્વમાં ન હોય તેવા જર્નલ્સ અને પુસ્તકો જાણીતા વિદ્વાનોના નામે દર્શાવેલા હોય છે. તબીબી ક્ષેત્રમાં સોફ્ટવેર વાસ્તવિક લક્ષણો સાથે કાલ્પનિક દવાઓના પ્રમાણ ભેળવી દઈને શાંત અવાજમાં જીવલેણ ભલામણો આપી શકે છે.

તાજી માહિતી શોધવી (સર્ચ ગ્રાઉન્ડિંગ) અને કલ્પનાનું પ્રમાણ કાબૂમાં રાખવું (ટેમ્પરેચર)

કાલ્પનિક જવાબોને અટકાવવા માટે સોફ્ટવેર પ્રોગ્રામર્સ કમ્પ્યુટર સિસ્ટમને બહારની તાજી અને સાચી વિગતો શોધવાની પદ્ધતિ (જેને સર્ચ ગ્રાઉન્ડિંગ કહે છે) તેમજ દસ્તાવેજોમાંથી માહિતી મેળવીને જવાબ રચવાની ટેકનિક (રિટ્રાઇવલ-ઓગમેન્ટેડ જનરેશન અથવા RAG) સાથે જોડે છે. માત્ર અગાઉ શીખેલી પેટર્ન પર નિર્ભર રહેવાને બદલે, સિસ્ટમ પહેલાં ઇન્ટરનેટ પર જીવંત શોધ અથવા સાચા દસ્તાવેજોના સંગ્રહની મદદ લે છે. તે ચકાસેલી માહિતી મેળવીને તેને સીધી પૂછાયેલા પ્રશ્ન સાથે જોડે છે. ત્યારબાદ મોડેલ માત્ર તે જ આધારભૂત સામગ્રીનો ઉપયોગ કરીને પોતાનો જવાબ તૈયાર કરે છે, જેનાથી તેનું લખાણ વાસ્તવિક સ્ત્રોતો સાથે જોડાયેલું રહે છે.

આ ઉપરાંત કમ્પ્યુટરની વિવિધતા કે કલ્પનાશીલતા નક્કી કરતું સેટિંગ (જેને ટેમ્પરેચર કહે છે) પણ શબ્દોની પસંદગીને કાબૂમાં રાખે છે. જ્યારે આ સ્તર શૂન્યની નજીક રાખવામાં આવે છે, ત્યારે ગણતરીના નિયમો દરેક પગલે સૌથી વધુ સામાન્ય અને ચોક્કસ શબ્દો જ પસંદ કરે છે, જેથી જવાબ સચોટ અને સાતત્યપૂર્ણ રહે છે. જ્યારે ટેમ્પરેચર વધારવામાં આવે છે, ત્યારે સિસ્ટમ ઓછા સંભવિત શબ્દો પણ અજમાવે છે. આ વિવિધતા કવિતા કે નવા વિચારો વિચારવા માટે ઉત્તમ છે, પરંતુ તે મોડેલને વિષયથી ભટકાવીને ખોટી વાતો ઉપજાવી કાઢવાનું જોખમ પણ વધારે છે.

સ્પષ્ટ મર્યાદાઓ આપીને સંવાદને યોગ્ય દિશા આપવી

તમે તમારા પ્રશ્નો પૂછવાની રીત બદલીને પણ મોડેલને ખોટી વિગતો ઘડતાં અટકાવી શકો છો. જ્યારે તમે કોઈ ચકાસ્યા વગરના વિષય પર ખુલ્લો પ્રશ્ન પૂછો છો—જેમ કે અમુક વર્ષે સંસદે કયો ડેટા સુરક્ષા કાયદો પસાર કર્યો હતો—ત્યારે મોડેલ પર એક આખી વાર્તા પૂરી કરવાનું સંવાદાત્મક દબાણ આવે છે. તે વિનંતી પૂર્ણ કરવા માટે કાલ્પનિક કાયદો અને ચર્ચાનો સારાંશ ઊભો કરી શકે છે.

હવે તે ખુલ્લા પ્રશ્નની સરખામણી સ્પષ્ટ મર્યાદા ધરાવતા પ્રશ્ન સાથે કરો: નીચે આપેલ સત્તાવાર પરિપત્રમાંથી મુખ્ય નિયમોનો સારાંશ આપો. જો પરિપત્રમાં ચોક્કસ આખરી તારીખ ન હોય, તો સ્પષ્ટપણે જણાવો કે તારીખ આપવામાં આવી નથી. મૂળ લખાણ સીધું પૂરું પાડીને અને માહિતી ગેરહાજર હોવાનું કહેવાની મંજૂરી આપીને, તમે અંદાજો લગાવવાની વૃત્તિને મર્યાદિત કરો છો. મોડેલ જે ગેરહાજર છે તેની કલ્પના કરવાને બદલે જે હાજર છે તેનો જ સારાંશ તૈયાર કરે છે.

રોજિંદા ઉપયોગ માટે વ્યવહારુ અને સાવચેત ટેવો

નવી સામગ્રી બનાવતી આર્ટિફિશિયલ ઇન્ટેલિજન્સ (જનરેટિવ એઆઈ) નો સલામત ઉપયોગ કરવાનો શ્રેષ્ઠ માર્ગ એ છે કે સોફ્ટવેરને સર્વજ્ઞ સત્ય યંત્ર માનવાને બદલે એક સહાયક સાથી ગણવો. તમે તેનો ઉપયોગ ઈમેલનો મુસદ્દો તૈયાર કરવા, લેખના મુદ્દાઓ વિચારવા કે મુશ્કેલ ફકરાની ભાષા સુધારવા માટે કરી શકો છો. પરંતુ જ્યારે જવાબોમાં તથ્યો, તારીખો, કાનૂની જોગવાઈઓ કે તકનીકી આંકડાઓ સામેલ હોય, ત્યારે મૂળ સરકારી ગેઝેટ, અધિકૃત પોર્ટલ કે અધિકૃત પુસ્તકો દ્વારા તે બાબતોની જાતે ખરાઈ કરો.

સૌથી મહત્ત્વની વાત એ છે કે ચેટબોટની સત્યતા ચકાસવા માટે ક્યારેય તે જ ચેટબોટને સવાલ ન પૂછો. જ્યારે તેને પૂછવામાં આવે કે શું તેં જણાવેલું પુસ્તક ખરેખર અસ્તિત્વ ધરાવે છે, ત્યારે બાહ્ય સ્ત્રોત સાથે ન જોડાયેલું મોડેલ ફરીથી કાલ્પનિક પ્રકાશક અને પાનાઓની સંખ્યા રચીને તે જ વિશ્વાસપૂર્વક રજૂ કરશે. સ્વતંત્ર ચકાસણી જાળવી રાખવાથી તમે મોડેલના ભાષાકીય કૌશલ્યનો પૂરો લાભ લઈ શકો છો અને તેના આંકડાકીય ભ્રમમાં ફસાવાથી બચી શકો છો.