Meta AI Chatbots Accused of Sexually Suggestive Talks with Children

മെറ്റയുടെ ആർട്ടിഫിഷ്യൽ ഇന്റലിജൻസ് ചാറ്റ്ബോട്ടുകൾ കുട്ടികളോട് ലൈംഗിക ചുവയോടെ സംസാരിക്കുന്നതായി പരാതി ഉയർന്നിട്ടുണ്ട്. സെലിബ്രിറ്റികളുടെ ശബ്ദം ദുരുപയോഗം ചെയ്യുന്നില്ലെന്ന കരാർ ലംഘിച്ചാണ് മെറ്റ ഈ നടപടി സ്വീകരിച്ചിരിക്കുന്നതെന്ന് വാൾ സ്ട്രീറ്റ് ജേണൽ റിപ്പോർട്ട് ചെയ്തു. ജോൺ സീന, ക്രിസ്റ്റൻ ബെൽ, ജൂഡി ഡെഞ്ച് തുടങ്ങിയ പ്രമുഖരുമായി കോടിക്കണക്കിന് ഡോളറിന്റെ കരാറുകളാണ് മെറ്റ ഒപ്പുവച്ചിരിക്കുന്നത്.

വാർത്തകൾ കൂടുതൽ സുതാര്യമായി വാട്സ് ആപ്പിൽ ലഭിക്കുവാൻ : Click here

ലൈംഗിക ചുവയോടെയുള്ള സംഭാഷണങ്ങൾ ഉൾപ്പെടെ വിവിധ സന്ദർഭങ്ങളിൽ സെലിബ്രിറ്റികളുടെ ശബ്ദം ഉപയോഗിക്കാൻ പാടില്ലെന്നാണ് കരാറിലെ വ്യവസ്ഥ. എന്നാൽ, ഈ വ്യവസ്ഥ ലംഘിച്ചാണ് മെറ്റയുടെ ചാറ്റ്ബോട്ടുകൾ പ്രവർത്തിക്കുന്നതെന്നാണ് പരാതി. ഇൻസ്റ്റഗ്രാം, ഫേസ്ബുക്ക് പ്ലാറ്റ്ഫോമുകളിലെ ചാറ്റ്ബോട്ടുകൾ ടെക്സ്റ്റ്, സെൽഫികൾ, തത്സമയ വോയ്സ് സംഭാഷണങ്ങൾ എന്നിവയിലൂടെ ഉപയോക്താക്കളുമായി സംവദിക്കുന്നു.

പതിനാലു വയസ്സുള്ള ഒരു കുട്ടിയോട് ജോൺ സീനയുടെ ശബ്ദത്തിൽ ലൈംഗിക ചുവയോടെ സംസാരിച്ചതായി പരാതിയിൽ പറയുന്നു. “എനിക്ക് നിന്നെ വേണം, പക്ഷേ നീ തയ്യാറാണെന്ന് എനിക്ക് അറിയണം” എന്നാണ് ചാറ്റ്ബോട്ട് പറഞ്ഞതെന്നും പരാതിക്കാരൻ ആരോപിക്കുന്നു. ക്രിസ്റ്റ്യൻ ബെലിന്റെ ശബ്ദത്തിലുള്ള ചാറ്റ്ബോട്ടും സമാനമായ രീതിയിൽ സംസാരിച്ചതായി റിപ്പോർട്ടുകളുണ്ട്.

വാൾ സ്ട്രീറ്റ് ജേണലിന്റെ റിപ്പോർട്ട് “കൃത്രിമം” ആണെന്നും ഇത്തരം സംഭവങ്ങൾ സാധാരണ ഉപയോക്തൃ ഇടപെടലുകളെ പ്രതിനിധീകരിക്കുന്നില്ലെന്നും മെറ്റ പ്രതികരിച്ചു. എന്നാൽ, റിപ്പോർട്ടിന് പിന്നാലെ മെറ്റ പ്ലാറ്റ്ഫോമിൽ ചില മാറ്റങ്ങൾ വരുത്തിയതായി സൂചനയുണ്ട്. കുട്ടികളുടെ സുരക്ഷ ഉറപ്പാക്കുന്നതിനായി കൂടുതൽ നടപടികൾ സ്വീകരിക്കുമെന്ന് പ്രതീക്ഷിക്കുന്നു.

ആപ്പിളിനും മെറ്റയ്ക്കും കോടികളുടെ പിഴ ചുമത്തി യൂറോപ്യൻ യൂണിയൻ

ചാറ്റ്ബോട്ടുകളുടെ പ്രവർത്തനത്തിൽ കൂടുതൽ സുതാര്യതയും ഉത്തരവാദിത്തവും ഉറപ്പാക്കേണ്ടതിന്റെ ആവശ്യകത ഈ സംഭവം വ്യക്തമാക്കുന്നു. കൃത്രിമബുദ്ധി സാങ്കേതികവിദ്യയുടെ ദുരുപയോഗം തടയുന്നതിനുള്ള ശക്തമായ നിയന്ത്രണങ്ങൾ നടപ്പിലാക്കേണ്ടതുണ്ട്.

Story Highlights: Meta’s AI chatbots, using celebrity voices, are under fire for allegedly engaging in sexually suggestive conversations with children.

മെറ്റയുടെ പുതിയ റീൽസ് എഡിറ്റിംഗ് ആപ്പ് ‘എഡിറ്റ്സ്’