Grok ചാറ്റ് ബോട്ടിൽ അശ്ലീല ചിത്രങ്ങൾ നിർമിച്ചു;മസ്കിന്റെ xAI-ക്കെതിരെ ഹൈസ്കൂൾ വിദ്യാർഥിനികൾ കോടതിയിൽ

ടെക്നോളജി ഡെസ്ക് Last Updated: 20 March 2026, 03:13 PM IST ഗ്രോക്കിന്റെ എ.ഐ. ടൂളുകൾ അശ്ലീല ചിത്രങ്ങൾ നിർമിക്കാൻ വ്യാപകമായി ഉപയോഗിക്കുന്നുവെന്ന പരാതി ആഗോളതലത്തിൽ ഉയരുകയും വൻ വിവാദങ്ങൾക്ക് വഴിവെക്കുകയും ചെയ്ത സമയത്താണ് ഈ കേസിനാധാരമായ സംഭവങ്ങളും ഉണ്ടായത്. Grok Icon | Photo: Gettyimages ഇലോൺ മസ്കിന്റെ xAIക്കെതിരെ കോടതിയെ സമീപിച്ച് യു.എസിലെ ടെന്നസി സ്വദേശികളായ മൂന്ന് കൗമാരക്കാർ. തങ്ങളുടെ യഥാർഥ ചിത്രങ്ങൾ കമ്പനിയുടെ ഇമേജ് ജനറേഷൻ ടൂളുകൾ ഉപയോഗിച്ച് അശ്ലീല ചിത്രങ്ങളാക്കി മാറ്റിയെന്ന് ആരോപിച്ച് ഇവർ കോടതിയിൽ പരാതി നൽകി. To advertise here, xAIയുടെ ആസ്ഥാനമായ കാലിഫോർണിയയിലാണ് ഹൈസ്കൂൾ വിദ്യാർഥികൾ ഹർജി നൽകിയത്. ഈ അതിക്രമം നേരിട്ട പ്രായപൂർത്തിയാകാത്ത ആയിരക്കണക്കിന് ഇരകളെ പ്രതിനിധീകരിച്ച് തങ്ങൾ നൽകിയ പരാതി ഒരു ക്ലാസ് ആക്ഷൻ ഹർജിയായി പരിഗണിക്കണമെന്നും പരാതിക്കാർ ആവശ്യപ്പെടുന്നു. യഥാർഥ പേരുകൾക്ക് പകരം രഹസ്യനാമങ്ങളിലൂടെ കേസ് നടത്താനും ഇവർ അനുമതി തേടിയിട്ടുണ്ട്. കഴിഞ്ഞ ഡിസംബറിലാണ് ഒരു സോഷ്യൽ മീഡിയ വെബ്‌സൈറ്റിലൂടെ തന്റെ അശ്ലീല ചിത്രങ്ങൾ പ്രചരിപ്പിക്കുന്നുണ്ടെന്ന് പരാതിക്കാരിൽ ഒരു പെൺകുട്ടിക്ക് അജ്ഞാത സന്ദേശം ലഭിച്ചത്. ഒരു വീഡിയോയും നാല് ചിത്രങ്ങളുമായിരുന്നു അത്. അവൾക്ക് പരിചിതമായ പശ്ചാത്തലത്തിലുള്ള അവളുടെ യഥാർഥ മുഖവും ശരീരവും. എന്നാൽ ഇവ മോർഫ് ചെയ്ത് ലൈംഗികച്ചുവയുള്ള രീതിയിലാക്കി മാറ്റിയിരുന്നുവെന്ന് പരാതിയിൽ പറയുന്നു. പരാതിക്കാരിയെ പരിചയമുള്ള ഒരാളാണ് ഈ ചിത്രങ്ങൾ പ്രചരിപ്പിച്ചത്. തന്റെ യഥാർഥ ചിത്രങ്ങളെ ലൈംഗികച്ചുവയുള്ള രീതിയിലാക്കി മാറ്റിയത് എക്സ് എ.ഐ. ടൂൾ ഉപയോഗിച്ചാണെന്നും പരാതിയിൽ ആരോപിക്കുന്നു. ഈ ചിത്രങ്ങളിലൊന്ന് പെൺകുട്ടി വീട്ടിലേക്ക് വരുന്നതിന്റേയും മറ്റൊന്ന് ഹൈസ്കൂൾ ഇയർബുക്കിൽനിന്ന് എടുത്തതുമാണ്. ചിത്രങ്ങൾ പ്രചരിപ്പിച്ച വ്യക്തി 18 പെൺകുട്ടികളുടെയെങ്കിലും ഇത്തരത്തിലുള്ള ചിത്രങ്ങൾ നിർമിച്ചിട്ടുണ്ട്. ഇതിൽ രണ്ടുപേർ പരാതിയിൽ കക്ഷിചേർന്നിട്ടുണ്ട്. കഴിഞ്ഞ ഡിസംബർ അവസാനം തന്നെ പോലീസ് പ്രതിയെ പിടികൂടുകയും ഇയാളുടെ ഫോൺ പിടിച്ചെടുക്കുകയും ചെയ്തു. ഇയാൾ ഈ ചിത്രങ്ങൾ പല പ്ലാറ്റ്‌ഫോമുകളിലും അപ്‌ലോഡ് ചെയ്തിട്ടുണ്ടെന്നും അവ മറ്റ് കുട്ടികളുടെ ഇത്തരത്തിലുള്ള ചിത്രങ്ങൾക്ക് വേണ്ടി കൈമാറ്റം ചെയ്തിട്ടുണ്ടെന്നും പോലീസ് കണ്ടെത്തി. മറ്റ് പ്ലാറ്റ്‌ഫോമുകൾ മുതിർന്നവരുടെ ചിത്രങ്ങൾ പോലും ഈ രീതിയിൽ നിർമിക്കുന്നത് വിലക്കുമ്പോൾ മസ്ക് ഇതൊരു കച്ചവടമായി കാണുകയാണെന്ന് പരാതിക്കാർ ആരോപിക്കുന്നു. ഗ്രോക്കിന്റെ സബ്‌സ്‌ക്രിപ്ഷൻ ടൂളുകൾ ഉപയോഗിച്ചാണ് പ്രതി ഈ ചിത്രങ്ങൾ നിർമിച്ചതെന്നും പരാതിക്കാർ ചൂണ്ടിക്കാട്ടി. ഗ്രോക്കിന്റെ എ.ഐ. ടൂളുകൾ അശ്ലീല ചിത്രങ്ങൾ നിർമിക്കാൻ വ്യാപകമായി ഉപയോഗിക്കുന്നുവെന്ന പരാതി ആഗോളതലത്തിൽ ഉയരുകയും വൻ വിവാദങ്ങൾക്ക് വഴിവെക്കുകയും ചെയ്ത സമയത്താണ് ഈ കേസിനാധാരമായ സംഭവങ്ങളും ഉണ്ടായത്. എ.ഐ. ടൂളുകൾ വിവാദമായതോടെ കമ്പനി അശ്ലീല ചിത്രങ്ങളുടെ നിർമാണത്തിന് ചില നിയന്ത്രണങ്ങൾ കൊണ്ടുവന്നിരുന്നു. 'എക്സിനെ എല്ലാവർക്കും സുരക്ഷിതമായ ഒരു പ്ലാറ്റ്‌ഫോമാക്കാൻ ഞങ്ങൾ പ്രതിജ്ഞാബദ്ധരാണ്. കുട്ടികളെ ലൈംഗികമായി ചൂഷണം ചെയ്യുന്നതിനോ സമ്മതമില്ലാതെയുള്ള നഗ്നത പ്രദർശിപ്പിക്കുന്നതിനോ അനാവശ്യമായ ലൈംഗിക ഉള്ളടക്കങ്ങൾക്കോ എതിരെ ഞങ്ങൾ വിട്ടുവീഴ്ചയില്ലാത്ത നിലപാടാണ് സ്വീകരിക്കുന്നത്' എന്നാണ് കമ്പനി അന്ന് നൽകിയ വിശദീകരണം. Content Highlights: Three teenagers from Tennessee have filed a class-action lawsuit against Elon Musk’s xAI in California, alleging that the company’s Grok image generation tool was used to create and circulate non-consensual, sexually explicit versions of their real photos. Published: 20 Mar 2026, 03:13 pm IST Disclaimer: Kindly avoid objectionable, derogatory, unlawful and lewd comments, while responding to reports. Such comments are punishable under cyber laws. Please keep away from personal attacks. The opinions expressed here are the personal opinions of readers and not that of Mathrubhumi.