గ్రోక్ ఏఐ దుర్వినియోగం పై కఠిన చర్యలు

ఎక్స్ ప్లాట్‌ఫామ్‌లోని ఏఐ అసిస్టెంట్ గ్రోక్‌ను దుర్వినియోగం చేస్తూ కొందరు ఆకతాయిలు మహిళల ఫోటోలను అసభ్యంగా మార్ఫింగ్ చేయడం ఇటీవల పెద్ద వివాదంగా మారింది. సాధారణ ఫొటోలను బికినీ లేదా న్యూడ్ చిత్రాలుగా మార్చే విధానం సోషల్ మీడియాలో ఏఐ బికినీ ట్రెండ్ గా వైరల్ కావడంతో ప్రపంచవ్యాప్తంగా తీవ్ర విమర్శలు వెల్లువెత్తాయి.

ఈ పరిణామాల నేపథ్యంలో భారత ప్రభుత్వం కఠినంగా స్పందించింది. గ్రోక్ ఏఐ ద్వారా సృష్టించిన అసభ్య, అశ్లీల, చట్టవిరుద్ధ కంటెంట్‌ను 72 గంటల్లో తొలగించాలని X ను ఆదేశించింది. దీనికి స్పందించిన ఎక్స్ తన ప్లాట్‌ఫామ్‌లో చర్యలు చేపట్టి సుమారు 600 ఖాతాలను డిలీట్ చేయగా, 3500 కి పైగా పోస్టులను బ్లాక్ చేసింది.

ఎలాన్ మస్క్‌కు చెందిన xAI రూపొందించిన గ్రోక్ ఏఐని ఉపయోగించి ప్రముఖుల ఫోటోలను సైతం అసభ్యంగా మార్చుతున్నారని ఆరోపణలు వచ్చాయి. ఈ వ్యవహారం మహిళలను లక్ష్యంగా చేసుకుని జరుగుతోందన్న విమర్శలతో సంస్థ పై ఒత్తిడి పెరిగింది.

ఈ అంశం పై స్పందించిన ఎలాన్ మస్క్, ఎక్స్‌లో అసభ్య కంటెంట్‌ను ఎట్టి పరిస్థితుల్లోనూ సహించబోమని తెలిపారు. అలాగే గ్రోక్‌తో ఇమేజ్ జనరేషన్ చేసే ఫీచర్‌ పై పరిమితులు విధిస్తూ, దాన్ని కేవలం ప్రీమియం సబ్‌స్క్రైబర్లకే అందుబాటులో ఉంచినట్లు ప్రకటించారు.

ఇదే సమయంలో ఎలక్ట్రానిక్స్ అండ్ ఇన్ఫర్మేషన్ టెక్నాలజీ మంత్రిత్వ శాఖ (MeitY) కూడా ఆందోళన వ్యక్తం చేసింది. ప్రాంప్ట్‌లు, ఇమేజ్ మానిప్యులేషన్ ద్వారా మహిళలను లక్ష్యంగా చేసుకుని అసభ్య చిత్రాలు రూపొందించడం సమాచార సాంకేతిక చట్టం–2000 మరియు సంబంధిత ఐటీ నిబంధనలకు విరుద్ధమని స్పష్టం చేసింది.

సోషల్ మీడియా సంస్థలు ఐటీ చట్టాలను తప్పనిసరిగా పాటించాలని, లేకపోతే చట్టపరమైన చర్యలు తప్పవని కేంద్రం హెచ్చరించింది. ఈ క్రమంలో గ్రోక్ ఏఐ పై సాంకేతిక, గవర్నెన్స్ స్థాయిలో సమగ్ర సమీక్ష నిర్వహించాలని, వినియోగదారుల పాలసీలను మరింత కఠినంగా అమలు చేయాలని ఆదేశాలు జారీ చేసింది.