ഡീപ് ഫേക്ക് വീഡിയോകൾ എന്ന ആശങ്കയ്ക്ക് പിന്നാലെ എഐ അധിഷ്ഠിത പോൺ വീഡിയോകളുടെ വ്യാപനം പുതിയ ഭീഷണിയായി മാറിയിരിക്കുന്നു. സാധാരണക്കാർ മുതൽ സെലിബ്രിറ്റികൾ വരെ ഡീപ് ഫേക്ക് വീഡിയോകളുടെ ഇരകളായിട്ടുണ്ട്. രശ്മിക മന്ദാന, ഗാബി ബെല്ല, സ്കാർലറ്റ് ജോഹാൻസൺ, ടോം ഹാങ്ക്സ് തുടങ്ങിയവർ ഇതിന് ഉദാഹരണങ്ങളാണ്. ഈ വീഡിയോകൾ പ്രധാനമായും തേജോവധത്തിനും സാമ്പത്തിക തട്ടിപ്പിനുമായാണ് ഉപയോഗിക്കുന്നത്.
പുതിയ എഐ ടൂളുകൾ വഴി സാധാരണക്കാർക്ക് പോലും വ്യാജ വീഡിയോകൾ നിർമ്മിക്കാൻ കഴിയുമെന്നതാണ് ഏറ്റവും വലിയ ഭീഷണി. മുൻപ് വിദഗ്ധരുടെ സഹായം ആവശ്യമായിരുന്ന ഈ സാങ്കേതികവിദ്യ ഇന്ന് ഏവർക്കും ലഭ്യമാണ്. സോഷ്യൽ മീഡിയ അക്കൗണ്ട് തുടങ്ങുന്നതിനേക്കാൾ എളുപ്പത്തിൽ വ്യാജ വീഡിയോകൾ നിർമ്മിക്കാമെന്നത് ആശങ്കാജനകമാണ്. ഇത് സമൂഹത്തിൽ വലിയ അരക്ഷിതാവസ്ഥ സൃഷ്ടിക്കുന്നു.
ഡീപ് ഫേക്ക് വീഡിയോകളുടെ ഇരകളിൽ 80 ശതമാനവും സാധാരണക്കാരാണെന്നാണ് പഠനങ്ങൾ സൂചിപ്പിക്കുന്നത്. സോഷ്യൽ മീഡിയയിൽ നിന്നും വ്യക്തിപരമായ ശേഖരത്തിൽ നിന്നുമുള്ള ചിത്രങ്ങളും വീഡിയോകളും ഉപയോഗിച്ചാണ് ഇത്തരം വ്യാജ ഉള്ളടക്കങ്ങൾ നിർമ്മിക്കുന്നത്. ജോലിക്കായുള്ള ആപ്പുകൾ, ഡേറ്റിംഗ് ആപ്പുകൾ എന്നിവ വഴിയാണ് കൂടുതൽ പേരും ഇരകളാകുന്നത്.
ഒരിക്കൽ ഇത്തരം വ്യാജ ഉള്ളടക്കങ്ങൾ ഓൺലൈനിൽ പ്രചരിച്ചാൽ അത് നീക്കം ചെയ്യുക വളരെ ബുദ്ധിമുട്ടാണ്. ഒരു സൈറ്റിൽ നിന്ന് നീക്കം ചെയ്താലും മറ്റിടങ്ങളിൽ പകർപ്പുകൾ പ്രചരിക്കും. ഇത് ഇരകൾക്ക് വലിയ മാനസിക സമ്മർദ്ദമുണ്ടാക്കുന്നു.
എഐ സഹായത്തോടെ നിർമ്മിക്കുന്ന അശ്ലീല വീഡിയോകൾ സോഷ്യൽ മീഡിയയിൽ അതിവേഗം പ്രചരിക്കുന്നു. ചിലപ്പോൾ ആധികാരിക മാധ്യമങ്ങൾ പോലും ഇത്തരം വ്യാജ വീഡിയോകൾ വാർത്തകൾക്കായി ഉപയോഗിക്കുന്നത് കണ്ടുവരുന്നു. ഇത് ജനാധിപത്യത്തിനും പത്രപ്രവർത്തനത്തിനും വലിയ ഭീഷണിയാണ്. സത്യവും മിഥ്യയും തിരിച്ചറിയാനാവാത്ത അവസ്ഥ സമൂഹത്തിൽ അരാജകത്വം സൃഷ്ടിക്കും.
എഐ ദുരുപയോഗത്തിന്റെ പ്രത്യാഘാതങ്ങളെ മറികടക്കാൻ കൂട്ടായ പ്രവർത്തനം ആവശ്യമാണ്. ഡിജിറ്റൽ സാക്ഷരത വർദ്ധിപ്പിക്കുക എന്നതാണ് ഏറ്റവും പ്രധാനം. സാങ്കേതികവിദ്യയുടെ ഉപയോഗത്തിലും ദുരുപയോഗത്തിലും സമൂഹത്തെ ബോധവൽക്കരിക്കണം. ഇതിനായി വിദ്യാഭ്യാസ സംവിധാനങ്ങൾ മുതൽ പൊളിച്ചെഴുതേണ്ടി വരും.
ഡിജിറ്റൽ സാക്ഷരത ലക്ഷ്യമിട്ടുള്ള പാഠ്യപദ്ധതി ആവിഷ്കരിക്കേണ്ടത് അത്യാവശ്യമാണ്. എഐയുടെ വളർച്ചയ്ക്കൊപ്പം ധാർമ്മികത ഉറപ്പുവരുത്തുന്നതിന് ഉത്തരവാദിത്ത മാർഗനിർദ്ദേശങ്ങൾ രൂപപ്പെടുത്തേണ്ടതുണ്ട്. എഐ സ്ഥാപനങ്ങൾ മുതൽ ഉപയോക്താക്കൾ വരെ ഇത് പിന്തുടരേണ്ടതാണ്. മനുഷ്യന്റെ അന്തസ്സ് ഹനിക്കുന്ന വ്യാജ വീഡിയോകൾക്കെതിരെ പൊതുസമൂഹം ഒറ്റക്കെട്ടായി പോരാടേണ്ട സമയമാണിത്.
Story Highlights: The spread of AI-generated pornographic videos poses a new threat after deepfake videos, impacting individuals from ordinary people to celebrities and raising concerns about misuse of technology.
ഡീപ്പ് ഫേക്ക് സാങ്കേതികവിദ്യ ഉപയോഗിച്ച് നഗ്ന ദൃശ്യങ്ങൾ നിർമ്മിക്കുന്നതും പ്രചരിപ്പിക്കുന്നതും ബ്രിട്ടണിൽ ക്രിമിനൽ Read more
സ്റ്റേറ്റ് ബാങ്ക് ഓഫ് ഇന്ത്യ സോഷ്യൽ മീഡിയയിൽ പ്രചരിക്കുന്ന വ്യാജ വീഡിയോകളെക്കുറിച്ച് മുന്നറിയിപ്പ് Read more
റിസർവ് ബാങ്ക് ഓഫ് ഇന്ത്യയുടെ ഉദ്യോഗസ്ഥരുടെ ഡീപ് ഫേക്ക് വീഡിയോകൾ പ്രചരിക്കുന്നതായി റിപ്പോർട്ട്. Read more
