AI જનરેટેડ કન્ટેન્ટ પર કડક નિયંત્રણ: કેન્દ્રના નવા આઈટી નિયમો 20 ફેબ્રુઆરીથી અમલમાં, ડીપફેક 3 કલાકમાં દૂર કરવું ફરજિયાત; સેફ હાર્બર ગુમાવવાનો ખતરો

ડિજિટલ યુગમાં આર્ટિફિશિયલ ઇન્ટેલિજન્સ (AI) દ્વારા બનાવાતી સામગ્રીનો વ્યાપ વધતા કેન્દ્ર સરકારે મહત્વપૂર્ણ અને કડક પગલું ભર્યું છે. AI જનરેટેડ કન્ટેન્ટ, ડીપફેક વીડિયો, સિન્થેટિક ઓડિયો અને મિસલીડિંગ ડિજિટલ સામગ્રીને રોકવા માટે નવા આઈટી નિયમો જાહેર કરવામાં આવ્યા છે. 20 ફેબ્રુઆરીથી અમલમાં આવનારા આ નિયમો મુજબ સોશિયલ મીડિયા પ્લેટફોર્મ્સ માટે AI દ્વારા બનાવેલી સામગ્રી પર સ્પષ્ટ લેબલ લગાવવું ફરજિયાત રહેશે.ગૂગલ, યુટ્યુબ, ફેસબુક, ઇન્સ્ટાગ્રામ સહિત તમામ મોટા ઇન્ટરમિડિયરી પ્લેટફોર્મ્સને હવે ડીપફેક અથવા સિન્થેટિક કન્ટેન્ટની ઓળખ કરી, વાંધાજનક સામગ્રીને 3 કલાકની અંદર દૂર કરવાની ફરજ પડશે. નિયમોના ઉલ્લંઘન બદલ ‘સેફ હાર્બર’ સુરક્ષા ગુમાવવાની સાથે આઈટી એક્ટ અને અન્ય લાગુ કાયદાઓ હેઠળ કાનૂની કાર્યવાહી પણ થઈ શકે છે.

નિયમો પાછળનો હેતુ: ખોટી માહિતી સામે ડિજિટલ સુરક્ષા

છેલ્લા થોડા વર્ષોમાં AI આધારિત કન્ટેન્ટનું પ્રમાણ ગગડી ગયું છે. ખાસ કરીને ડીપફેક ટેક્નોલોજી દ્વારા બનાવવામાં આવતા વીડિયો અને ઓડિયોનો દુરુપયોગ થઈ રહ્યો છે. રાજકીય નેતાઓ, સેલિબ્રિટી અને સામાન્ય નાગરિકોના નામે ખોટા નિવેદનો, ફેરફાર કરેલા વીડિયો અને ભ્રામક માહિતી ઝડપથી વાયરલ થતી રહી છે.

કેન્દ્ર સરકારના મત મુજબ:

• ડીપફેક દેશની સામાજિક શાંતિ માટે ખતરો બની શકે છે

• ચૂંટણી પ્રક્રિયા અને લોકશાહી પર અસર થઈ શકે છે

• મહિલાઓ અને જાહેર જીવન સાથે જોડાયેલા લોકો સામે હેરાનગતિ વધી રહી છે

• સાયબર ક્રાઈમ અને બ્લેકમેલિંગના કેસોમાં વધારો થયો છે

આ કારણે ડિજિટલ પ્લેટફોર્મ્સ પર જવાબદારી નક્કી કરવી જરૂરી બની હતી.

AI જનરેટેડ કન્ટેન્ટ પર ફરજિયાત લેબલિંગ

નવા નિયમો અનુસાર, જો કોઈ વીડિયો, ઈમેજ અથવા ઓડિયો AI દ્વારા બનાવવામાં આવ્યો હોય અથવા તેમાં ફેરફાર કરાયો હોય તો તેને “AI Generated” અથવા “Synthetic Content” તરીકે સ્પષ્ટ રીતે દર્શાવવું પડશે.

આ લેબલિંગનો હેતુ:

• યુઝર્સને સાચી માહિતી આપવી

• ગેરસમજ અને ભ્રમ ટાળવો

• કન્ટેન્ટની પારદર્શિતા વધારવી

ઉદાહરણ તરીકે, જો કોઈ વ્યક્તિ AI ટૂલ વડે બનાવેલો રાજકીય ભાષણનો વીડિયો અપલોડ કરે છે, તો પ્લેટફોર્મ પર સ્પષ્ટ રીતે દર્શાવવું પડશે કે તે મૂળ નથી.

ડીપફેક 3 કલાકમાં દૂર કરવાનું ફરજિયાત

નિયમોનું સૌથી મહત્વપૂર્ણ અને કડક પ્રાવધાન એ છે કે જો કોઈ ડીપફેક અથવા વાંધાજનક AI કન્ટેન્ટ અંગે ફરિયાદ થાય, તો તે 3 કલાકની અંદર દૂર કરવું ફરજિયાત રહેશે.

ખાસ કરીને:

• સ્ત્રીઓ સામે બનાવેલા મોર્ફિંગ વીડિયો

• રાજકીય રીતે ભ્રામક સામગ્રી

• ધાર્મિક ઉશ્કેરણી પેદા કરતું કન્ટેન્ટ

• બ્લેકમેલિંગ માટે ઉપયોગમાં લેવાતી સિન્થેટિક ક્લિપ્સ

આ બધું તાત્કાલિક દૂર કરવું પડશે.

યુઝર્સ માટે સેલ્ફ-ડિક્લેરેશન ફરજિયાત

જો કોઈ યુઝર AI ટૂલ્સનો ઉપયોગ કરીને સામગ્રી બનાવે છે, તો તેને અપલોડ સમયે સેલ્ફ-ડિક્લેરેશન આપવું પડશે કે કન્ટેન્ટ AI જનરેટેડ છે.

આ પગલાંથી:

• ખોટી ઓળખ અને ભ્રામક પ્રચાર અટકાવાશે

• પ્લેટફોર્મ્સ માટે મોનીટરીંગ સરળ બનશે

• જવાબદારી નક્કી કરવી સહેલી બનશે

જો કોઈ વ્યક્તિ ખોટી માહિતી આપશે તો તેના સામે કાનૂની કાર્યવાહી થઈ શકે છે.

પ્લેટફોર્મ્સ માટે ઓટોમેટેડ ચકાસણી વ્યવસ્થા ફરજિયાત

માત્ર યુઝર ડિક્લેરેશન પૂરતું નહીં ગણાય. પ્લેટફોર્મ્સે પોતાની પાસે ઓટોમેટેડ AI ડિટેક્શન સિસ્ટમ્સ સ્થાપિત કરવી પડશે, જે ડીપફેક અથવા ફેરફાર કરેલી સામગ્રીને ઓળખી શકે.

તે માટે:

• AI ડિટેક્શન એલ્ગોરિધમ્સ

• રિયલ-ટાઈમ મોનીટરીંગ

• ગ્રિવન્સ રેડ્રેસલ ઓફિસર

• ઝડપી ફરિયાદ નિરાકરણ સિસ્ટમ

આ તમામ વ્યવસ્થા અનિવાર્ય બનાવવામાં આવી છે.

‘સેફ હાર્બર’ સુરક્ષા ગુમાવવાનો ખતરો

આઈટી એક્ટ હેઠળ સોશિયલ મીડિયા કંપનીઓને ‘સેફ હાર્બર’ સુરક્ષા મળે છે, એટલે કે યુઝર દ્વારા પોસ્ટ કરાયેલી સામગ્રી માટે સીધી કાનૂની જવાબદારી કંપની પર નથી.

પરંતુ નવા નિયમો મુજબ:

• જો પ્લેટફોર્મ નિર્ધારિત સમયમર્યાદામાં કાર્યવાહી નહીં કરે

• જો લેબલિંગ નિયમોનું પાલન નહીં કરે

• જો ફરિયાદો પર ઝડપી પ્રતિસાદ નહીં આપે

તો તેઓ ‘સેફ હાર્બર’ સુરક્ષા ગુમાવી શકે છે.

આનો અર્થ એ છે કે:

• કંપની સામે સીધી કાનૂની કાર્યવાહી થઈ શકે

• ભારે દંડ લાગી શકે

• ફોજદારી કેસ પણ થઈ શકે

ગૂગલ, યુટ્યુબ, ફેસબુક, ઇન્સ્ટાગ્રામ માટે વધેલી જવાબદારી

મોટા ટેક પ્લેટફોર્મ્સ માટે આ નિયમો ખાસ મહત્વના છે. કારણ કે:

• યુટ્યુબ પર વીડિયો અપલોડિંગની સંખ્યા વિશાળ છે

• ફેસબુક અને ઇન્સ્ટાગ્રામ પર રીલ્સ અને સ્ટોરીઝ ઝડપથી વાયરલ થાય છે

• ગૂગલ સર્ચ અને એડ નેટવર્ક દ્વારા માહિતી ઝડપથી ફેલાય છે

આ કંપનીઓને હવે:

• મજબૂત કન્ટેન્ટ ફિલ્ટરિંગ સિસ્ટમ

• લોકલ કાનૂની ટીમ

• 24×7 મોનીટરીંગ મિકેનિઝમ

રાખવો પડશે.

ચૂંટણી અને રાજકીય પ્રચાર પર અસર

આ નિયમો ચૂંટણી સમયે વિશેષ અસરકારક બની શકે છે. ડીપફેક ભાષણો, ખોટી પ્રચાર વિડિયો અને ફેરફાર કરેલી ક્લિપ્સ દ્વારા મતદારોને ભ્રમિત કરવાની શક્યતા ઓછી થશે.ચૂંટણી પંચ અને સાયબર સેલ માટે પણ આ નિયમો મદદરૂપ બનશે.

નાગરિકોની સુરક્ષા અને ગોપનીયતા

મહિલાઓ અને સામાન્ય નાગરિકોના ફોટો અથવા વીડિયો સાથે મોર્ફિંગ કરવાના કેસોમાં વધારો જોવા મળ્યો છે. નવા નિયમો હેઠળ આવી ફરિયાદો પર તાત્કાલિક કાર્યવાહી થવાથી પીડિતોને ઝડપી ન્યાય મળી શકે છે.

ટેક કંપનીઓની પ્રતિક્રિયા

ટેક ઉદ્યોગના નિષ્ણાતો માને છે કે:

• નિયમો પારદર્શિતા લાવશે

• પરંતુ અમલીકરણ પડકારજનક રહેશે

• AI ડિટેક્શન 100% ચોક્કસ નથી

કંપનીઓને ટેકનિકલ અને માનવ સંસાધનોમાં મોટો ખર્ચ કરવો પડશે.

ચુનૌતિઓ શું છે?

1. AI ડીપફેક ઓળખવાની ટેકનિક હજુ વિકસતી અવસ્થામાં છે

2. ફોલ્સ પોઝિટિવ કેસોમાં સાચી સામગ્રી પણ દૂર થઈ શકે

3. અભિવ્યક્તિ સ્વતંત્રતા અંગે ચર્ચા થઈ શકે

4. નાના સ્ટાર્ટઅપ પ્લેટફોર્મ્સ માટે ખર્ચ ભારે બની શકે

નિષ્કર્ષ

કેન્દ્ર સરકારના નવા આઈટી નિયમો ડિજિટલ વિશ્વમાં જવાબદારી અને પારદર્શિતા લાવવા માટે મહત્વપૂર્ણ પગલું છે. 20 ફેબ્રુઆરીથી અમલમાં આવનારા આ નિયમો AI જનરેટેડ અને ડીપફેક કન્ટેન્ટ પર કડક નિયંત્રણ લાવશે.લેબલિંગ ફરજિયાત, 3 કલાકમાં વાંધાજનક કન્ટેન્ટ દૂર કરવું, યુઝર્સ માટે સેલ્ફ-ડિક્લેરેશન અને પ્લેટફોર્મ્સ માટે ઓટોમેટેડ ચકાસણી — આ તમામ પગલાં ડિજિટલ માધ્યમોમાં ફેલાતી ખોટી માહિતી સામે મજબૂત કવચ સાબિત થઈ શકે છે.હવે નજર રહેશે કે ટેક કંપનીઓ આ નિયમોનું કેટલું અસરકારક અમલીકરણ કરે છે અને ડિજિટલ જગતમાં વિશ્વસનીયતા અને સુરક્ષાનું સ્તર કેટલું મજબૂત બને છે.