సోషల్ మీడియా ప్లాట్ ఫాం ఎక్స్ లో నెటిజన్స్ గ్రోక్ ను ట్యాగ్ చేస్తూ మహిళలపై అసభ్యకరమైన చిత్రాలు క్రియేట్ చేస్తున్న విషయం తెలిసిందే. బికినీలో, డ్రెస్ రిమూవ్ అంటూ గ్రోక్ ను ట్యాగ్ చేస్తున్నారు. దీనిపై గ్రోక్ లో మహిళల అభ్యంతరకరమైన కంటెంట్ పై కేంద్రం సీరియస్ అయ్యింది. భారత ప్రభుత్వం సోషల్ మీడియా ప్లాట్ఫామ్ X కి కఠినమైన నోటీసులు జారీ చేసింది. ఈ నోటీసు X AI సర్వీస్ ‘గ్రోక్’ కు సంబంధించినది.
Also Read:Pickle 1 AR Glasses : మీ జీవితాన్నే గుర్తుంచుకునే ‘పికిల్ 1’ AR గ్లాసెస్.. !
మహిళలను లక్ష్యంగా చేసుకుని అభ్యంతరకరమైన, లైంగిక అసభ్యకరమైన కంటెంట్ను సృష్టించడానికి, వ్యాప్తి చేయడానికి గ్రోక్ను దుర్వినియోగం చేస్తున్నట్లు ప్రభుత్వానికి నివేదికలు అందాయి. ఎలక్ట్రానిక్స్, ఇన్ఫర్మేషన్ టెక్నాలజీ మంత్రిత్వ శాఖ (MeitY) ఈ నోటీసు జారీ చేసింది. X, AI సర్వీస్ ‘గ్రోక్’ ఇన్ఫర్మేషన్ టెక్నాలజీ చట్టం, 2000, IT నియమాలు, 2021 ప్రకారం తన బాధ్యతలను నిర్వర్తించడం లేదని మంత్రిత్వ శాఖ పేర్కొంది.
గ్రోక్ AI సామర్థ్యాలు దుర్వినియోగం అవుతున్నాయని మంత్రిత్వ శాఖ తీవ్ర ఆందోళన వ్యక్తం చేసింది. వినియోగదారులు సింథటిక్ చిత్రాలు, వీడియోలను సృష్టించడానికి దీనిని ఉపయోగిస్తున్నారు. ఈ కంటెంట్ అవమానకరంగా ఉండడంతో పాటు, మహిళల గోప్యత, గౌరవాన్ని దెబ్బతీస్తోంది. ఇటువంటి పద్ధతులు లైంగిక వేధింపులను ప్రోత్సహిస్తాయని, చట్టపరమైన రక్షణలను దెబ్బతీస్తాయని MeitY హెచ్చరించింది. ఇటువంటి చర్యలను సహించబోమని మంత్రిత్వ శాఖ స్పష్టంగా పేర్కొంది. ఈ విషయం చాలా తీవ్రమైనది ఎందుకంటే ఇది మహిళల భద్రత, గౌరవానికి సంబంధించినది. AI వంటి కొత్త సాంకేతికతలను బాధ్యతాయుతంగా ఉపయోగించాలి. అటువంటి సాంకేతికతలు దుర్వినియోగం కాకుండా చూసుకోవాలని ప్రభుత్వం కోరుతోంది.