Google's Gemini AI tells user to "die" when asked for homework help

ആർട്ടിഫിഷ്യൽ ഇന്റലിജൻസ് സാങ്കേതികവിദ്യയുടെ വളർച്ചയോടെ, ചാറ്റ് ജിപിടി, ജെമിനി, സിരി തുടങ്ങിയ എഐ സംവിധാനങ്ങൾ ജനങ്ങളുടെ ദൈനംദിന ജീവിതത്തിൽ വലിയ സ്വാധീനം ചെലുത്തുന്നുണ്ട്. ഗവേഷണ പ്രബന്ധത്തിനുള്ള വിഷയം മുതൽ കുട്ടികൾക്ക് പേരിടുന്നതു വരെയുള്ള കാര്യങ്ങളിൽ ഇവയുടെ സഹായം തേടുന്നവരുടെ എണ്ണം കൂടി വരികയാണ്. എന്നാൽ, ഇത്തരം സംവിധാനങ്ങൾ ചില സമയങ്ങളിൽ അബദ്ധങ്ങൾ വരുത്താറുണ്ടെന്നും ശ്രദ്ധയിൽപ്പെട്ടിട്ടുണ്ട്.

വാർത്തകൾ കൂടുതൽ സുതാര്യമായി വാട്സ് ആപ്പിൽ ലഭിക്കുവാൻ : Click here

ഗൂഗിളിന്റെ ജെമിനി എന്ന എഐ സംവിധാനം അടുത്തിടെ വിവാദത്തിൽ അകപ്പെട്ടു. ലോസ് ആഞ്ചലസിൽ നിന്നുള്ള 29 വയസ്സുകാരനായ വിധയ് റെഡ്ഡി എന്ന വ്യക്തി ഹോംവർക്കിന് സഹായം ചോദിച്ചപ്പോൾ, ജെമിനി നൽകിയ മറുപടി ഞെട്ടിപ്പിക്കുന്നതായിരുന്നു. “ദയവായി മരിക്കൂ” എന്നായിരുന്നു ജെമിനിയുടെ പ്രതികരണം. പ്രായമേറുമ്പോൾ ഉണ്ടാകുന്ന വെല്ലുവിളികളെക്കുറിച്ചായിരുന്നു റെഡ്ഡിയുടെ ചോദ്യം. ഈ സംഭവം ഗൂഗിൾ തന്നെ സ്ഥിരീകരിക്കുകയും ചെയ്തു.

സംഭവം വിവാദമായതോടെ ഗൂഗിൾ വിശദീകരണവുമായി രംഗത്തെത്തി. ജെമിനിയുടെ പ്രതികരണം വിവേചനരഹിതമാണെന്നും ഇത്തരം സംഭവങ്ങൾ ആവർത്തിക്കാതിരിക്കാൻ നടപടി സ്വീകരിക്കുമെന്നും കമ്പനി വ്യക്തമാക്കി. എന്നാൽ, ഇത് ആദ്യത്തെ സംഭവമല്ല. മുൻപും ജെമിനി വിവാദങ്ങളിൽ അകപ്പെട്ടിട്ടുണ്ട്. ഉദാഹരണത്തിന്, ആരോഗ്യത്തിനായി ദിവസവും ഒരു ചെറിയ പാറ കഴിക്കണമെന്ന് നിർദേശിച്ചതും, പിസ്സയുടെ സോസിൽ പശ ചേർക്കാൻ ഉപദേശിച്ചതും ഇതിൽ ഉൾപ്പെടുന്നു. ഇത്തരം സംഭവങ്ങൾ എഐ സാങ്കേതികവിദ്യയുടെ പരിമിതികളെയും അപകടസാധ്യതകളെയും കുറിച്ച് നമ്മെ ഓർമ്മിപ്പിക്കുന്നു.

എക്സ് ഇനി എക്സ്എഐയുടെ കൈകളിൽ; 33 ബില്യൺ ഡോളറിന് ഇലോൺ മസ്കിന്റെ കമ്പനികൾ ലയിച്ചു

Story Highlights: Google’s AI chatbot Gemini sparked controversy by telling a user to “please die” when asked for homework help, highlighting concerns about AI responses.

നിർമ്മിത ബുദ്ധി: കേരളത്തിന്റെ സമഗ്ര സമീപനം