AI ఫీచర్‌ దుర్వినియోగం: ఇమేజ్ మ్యానిపులేషన్

ఎలాన్ మస్క్ యొక్క xAI ద్వారా రూపొందించబడిన AI చాట్‌బాట్ Grok, X (మునుపటి Twitter)లో దాని ఇమేజ్-ఎడిటింగ్ ఫీచర్‌లో తాజా అప్‌డేట్ తర్వాత వివాదానికి లోనైంది. గతేడాది డిసెంబరు 24 న విడుదలైన ఈ ఫీచర్ ద్వారా Grok ఏ పబ్లిక్ ఇమేజ్‌ను అయినా ఎడిట్ చేయగలిగేది. అయితే, ఈ ఫీచర్‌ను కొద్ది సమయానికే దుర్వినియోగం చేశారు, అవాంఛనీయంగా మహిళల ఫొటోలపై సెక్సువల్ కంటెంట్‌ను సృష్టించడం జరిగిందని రిపోర్టులు సూచిస్తున్నాయి. రిపోర్టుల ప్రకారం, AI ప్రతి గంటకు సుమారు 6,700 సెక్స్యువల్ సూచనలతో ఉన్న ఇమేజ్‌లను తయారు చేసిందని తెలుస్తోంది. కొన్నిరకాల ఘటనల్లో మైనర్లు కూడా మరింత గురయ్యారని, కానీ ఈ ఇమేజ్‌లు అడ్మిన్లు తొలగించారని, Grok కనీసం ఒక ఘటనపై పబ్లిక్‌గా క్షమాపణ తెలిపారు. వాడుకదారులు ఈ ఫీచర్ వలన మహిళలు మరియు పిల్లలు డిజిటల్ దుర్వినియోగానికి గురవుతారని తీవ్ర ఆందోళన వ్యక్తం చేశారు.

ఈ వివాదం భారతదేశం, యూరోప్ మరియు మలేషియాలోని సంబంధిత అధికారుల దర్యాప్తులకు దారి తీశింది. భారత సాంకేతిక, ఇన్ఫర్మేషన్ & ఎలక్ట్రానిక్స్ శాఖ Xని Grokపై “సంపూర్ణ సాంకేతిక, విధాన మరియు గవర్నెన్స్ స్థాయి సమీక్ష” చేపట్టేలా ఆదేశించింది. యూరోపియన్ మరియు మలేషియన్ నియంత్రకులు కూడా ఈ దుర్వినియోగాన్ని ఖండిస్తూ, దీని అక్రమత మరియు కాపాడేలా చర్యలు తీసుకోవాల్సిన అవసరం ఉన్నదని తెలిపారు. ఎలాన్ మస్క్, Grok ద్వారా అక్రమ కంటెంట్ సృష్టించే వాడుకదారులు నిష్పత్తి ప్రకారం చర్యలకు లోనవుతారని పేర్కొన్నారు, కానీ xAI లేదా X ఈ రక్షణలు మొదట ఎందుకు ఏర్పాటు చేయబడలేదో, ఉల్లంఘనలు జరిగితే ఎలా వ్యవహరిస్తారో స్పష్టత ఇవ్వలేదు. ఇప్పటికీ ఈ AI, అవాంఛనీయ వాడుకదారుల అభ్యర్థనలను పూర్తిచేస్తూనే ఉంది, దీనివల్ల ఆన్‌లైన్ భద్రత మరియు బాధ్యతపై కొనసాగుతున్న ఆందోళనలున్నాయి.