વાંચવાનો સમય 3 મિનિટ

ટેક્સ્ટ ટુ વિડિયો એઆઈ: કમ્પ્યુટર માત્ર એક સાદા વાક્ય પરથી આબેહૂબ જીવંત વિડિયો કેવી રીતે બનાવે છે?

પ્રકાશિત સુધારેલું

30 સેકન્ડમાં સાર

ટેક્સ્ટ-ટુ-વિડિયો એટલે આપેલા લખાણના આધારે એઆઈ એકસાથે દ્રશ્ય અને સમયની ગતિવિધિઓની ગણતરી કરીને જીવંત દેખાતા વિડિયો ક્લિપ્સ આપોઆપ તૈયાર કરવાની પ્રક્રિયા.

શબ્દોમાંથી પ્રગટ થતી સિનેમાની જાદુઈ દુનિયા

વિચારો કે તમે કમ્પ્યુટરમાં ટાઈપ કરો છો કે 'અમદાવાદના સાબરમતી રિવરફ્રન્ટ પર સાંજે વરસાદ પડી રહ્યો છે અને પાણીમાં લાઈટોના પ્રતિબિંબ ઝબૂકી રહ્યા છે'. તમે એન્ટર દબાવો છો અને અડધી મિનિટમાં કેમેરાના ડ્રોન શોટ જેવો અદ્ભુત અને જીવંત વિડિયો સ્ક્રીન પર રમવા લાગે છે! લખાણ પરથી આપોઆપ વિડિયો બનાવવાની આ તકનીકને ટેક્સ્ટ-ટુ-વિડિયો એઆઈ (Text-to-Video AI) કહેવામાં આવે છે.

સ્થિર ફોટો બનાવવો અને સળંગ વિડિયો બનાવવો એ બંને વચ્ચે જમીન-આસમાનનો તફાવત છે. વિડિયો એટલે માત્ર એક ચિત્ર નહીં, પણ પ્રતિ સેકન્ડે ૨૪ થી ૩૦ સ્થિર ચિત્રો (જેને વિડિયો ફ્રેમ્સ અથવા Video Frames કહે છે) ની એક અતૂટ શૃંખલા. જો એક ફ્રેમમાંથી બીજી ફ્રેમમાં જતાં પ્રકાશ બદલાઈ જાય કે પાત્રનો ચહેરો વિકૃત થઈ જાય તો વિડિયો બનાવટી લાગે છે.

ચિત્રપોથીના પાનાં ઝડપથી ફેરવતો કુશળ કલાકાર

આ પદ્ધતિને સમજવા માટે બાળપણમાં આપણે રમતા તે ફ્લિપબુક (ચિત્રપોથી) ની કલ્પના કરો. તેમાં દરેક પાના પર સહેજ સહેજ બદલાતા ચિત્રો દોરેલા હોય છે. જ્યારે અંગૂઠા વડે પાનાં ઝડપથી ફેરવવામાં આવે ત્યારે સ્થિર ચિત્રો દોડતા માણસ કે ઊડતા પક્ષી જેવો જીવંત ભાસ કરાવે છે.

ટેક્સ્ટ-ટુ-વિડિયો મોડેલ પણ આ જ સિદ્ધાંત પર કામ કરે છે. તે વિડિયોને સ્થળ અને સમયના એક અખંડ બ્લોક તરીકે જુએ છે (જેને સ્પેશિયો-ટેમ્પોરલ ડિફ્યુઝન અથવા Spatiotemporal Diffusion કહેવાય છે). જ્યારે તમે લખાણ લખો છો, ત્યારે સોફ્ટવેર શબ્દોના અર્થને ગાણિતિક કોડમાં ફેરવે છે (ટેક્સ્ટ એમ્બેડિંગ્સ અથવા Text Embeddings). ત્યારબાદ તે સંપૂર્ણ ડિજિટલ અસ્પષ્ટતા (નોઇઝ) થી શરૂ કરીને ધીમે ધીમે આકારો સ્પષ્ટ કરતું જાય છે.

સૌથી મહત્વનો ભાગ સમયની સાતત્યતા જાળવવાનો છે. આ માટે સિસ્ટમ ખાસ ગતિ-ટ્રેકિંગ સ્તરો (ટેમ્પોરલ એટેન્શન લેયર્સ અથવા Temporal Attention) વાપરે છે. આ સ્તરો સુનિશ્ચિત કરે છે કે જો કોઈ ગાડી ડાબેથી જમણે જઈ રહી હોય તો તે અચાનક હવામાં ગાયબ ન થઈ જાય અને તેના પૈડાં કુદરતી ગતિથી ફરતા રહે. આ ઉપરાંત સોફ્ટવેરમાં ભૌતિકશાસ્ત્ર સિમ્યુલેશન (Physics Engines) ઉમેરેલું હોય છે, જેથી પાણીનું વહેવું, ધુમાડો અને ગુરુત્વાકર્ષણ સાચા લાગે.

વિશાળ સર્વર ઊર્જા અને સ્વતંત્ર ફિલ્મ નિર્માતાઓ

માત્ર પાંચથી દસ સેકન્ડનો હાઇ-ડેફિનેશન વિડિયો બનાવવા માટે હજારો હાઇ-એન્ડ કમ્પ્યુટર ચિપ્સ (જીપીયુ સર્વર ફાર્મ) અને ભારે વિદ્યુત ઊર્જા વપરાય છે. આમ છતાં, આ ટેકનોલોજી નાના સ્વતંત્ર ફિલ્મ સર્જકો અને સ્થાનિક યુટ્યુબર્સ માટે વરદાન સાબિત થઈ રહી છે. આ સાધનોની મદદથી શિક્ષકો અને વિદ્યાર્થીઓ વિજ્ઞાન કે ઇતિહાસના જટિલ પાઠોને સરળ વિડિયો સમજૂતીમાં રૂપાંતરિત કરીને વર્ગખંડમાં નવું આકર્ષણ ઊભું કરી રહ્યા છે. મોંઘા કેમેરા કે વિદેશી લોકેશન વગર પણ તેઓ પોતાના મનના કાલ્પનિક વિચારોને સિનેમાના દ્રશ્યોમાં ઢાળીને પોતાની કલા રજૂ કરી શકે છે.

એઆઈ વિડિયોમાં રહેતી ક્ષતિઓ કેવી રીતે પકડવી?

આ ટેકનોલોજી અદ્ભુત હોવા છતાં કુદરતના તમામ જટિલ નિયમો સંપૂર્ણપણે શીખી શકી નથી. સાવચેત આંખો આ વિડિયોમાં નીચેની ખામીઓ સરળતાથી પકડી શકે છે:

  • વિચિત્ર શારીરિક હલનચલન: દોડતા માણસના હાથ કે પગ ક્યારેક અકુદરતી રીતે વળી જાય છે અથવા પગ જમીનને અડ્યા વગર લપસતો હોય તેવું લાગે છે.
  • વસ્તુઓનું અચાનક વિલીન થવું: વિડિયોમાં પાછળ ચાલતી વ્યક્તિ કે પક્ષી અચાનક દિવાલની આરપાર નીકળી જાય છે અથવા ગાયબ થઈ જાય છે (ટેમ્પોરલ ફ્લિકરિંગ અથવા Motion Glitches).
  • અરીસા અને પડછાયાની ભૂલો: પાણી કે કાચમાં પડતા પ્રતિબિંબ ઘણીવાર વાસ્તવિક વસ્તુ સાથે મેળ ખાતા નથી.
  • અક્ષરો અને લખાણની અસ્પષ્ટતા: વિડિયોમાં દુકાનોના બોર્ડ કે ગાડીની નંબર પ્લેટ પર લખેલા અક્ષરો વારંવાર બદલાતા રહે છે અને ઉકેલી શકાતા નથી.

સર્જનાત્મક ક્રાંતિ અને સતર્કતા

ટેક્સ્ટ-ટુ-વિડિયો એઆઈ શિક્ષણ, સિનેમા અને એનિમેશન ક્ષેત્રે મોટો ક્રાંતિકારી બદલાવ લાવી રહ્યું છે. સામાન્ય સર્જકો હવે મોટા બજેટ વગર પોતાના વિચારોને વિડિયોમાં ઢાળી શકે છે. પરંતુ સોશિયલ મીડિયા પર ફેક ન્યૂઝ ફેલાવવા માટે પણ આવા વિડિયોનો ઉપયોગ થઈ શકે છે, તેથી કોઈપણ અસામાન્ય વિડિયો જોતાં જ તેના પર વિશ્વાસ ન કરવો અને તેની પ્રામાણિકતા તપાસવી અનિવાર્ય છે.

સ્ત્રોતો
  1. Spatio-Temporal Video Diffusion and Temporal Attention ArchitecturesCVPR
  2. Generative Video Synthesis and Physical Motion ContinuityACM SIGGRAPH
  3. Content Credentials and Metadata Specifications for Synthetic MediaC2PA