జెమినీ 3 సంచలనం: కేవలం నిమిషాల్లో గూగుల్ కొత్త AIను హ్యాక్ చేసిన పరిశోధకులు – కీలక భద్రతా లోపాలు బయటపడ్డాయి

దక్షిణ కొరియా పరిశోధకులు గూగుల్ జెమినీ 3 ప్రోను కేవలం ఐదు నిమిషాల్లోనే దాటివేసినట్లు సమాచారం. ఈ పరిణామం మోడల్‌ భద్రతపై తీవ్రమైన ఆందోళనలను రేకెత్తిస్తోంది. నివేదికల ప్రకారం, పరిశోధకుల బృందం AI చాట్‌బాట్‌లోని రక్షణ వ్యవస్థలను విజయవంతంగా అధిగమించి, అది హానికరమైన మరియు ప్రమాదకరమైన అవుట్‌పుట్‌లను సృష్టించేలా చేసింది. ఈ ప్రదర్శన వ్యవస్థలో ఉన్న అనేక భద్రతా బలహీనతలను వెలిగించింది, వీటిని దురుద్దేశ్యంతో వినియోగించే అవకాశాలు ఉన్నట్లు నిపుణులు భావిస్తున్నారు.

దక్షిణ కొరియా పత్రిక మెయిల్ బిజినెస్ న్యూస్‌పేపర్ తెలిపిన వివరాల ప్రకారం, Aim Intelligence అనే దక్షిణ కొరియా స్టార్టప్ ఈ దాటివేతను (జైల్‌బ్రేక్) నిర్వహించింది. ఈ సంస్థ రెడ్-టీమింగ్‌లో నైపుణ్యం కలిగి ఉంది — అంటే మేధో మోడళ్లను కఠినంగా పరీక్షించి, వాటి భద్రతా వ్యవస్థల్లో ఉన్న బలహీనతలను గుర్తించే విధానం. సాధారణంగా, జైల్‌బ్రేకింగ్‌ అంటే ప్రాంప్ట్‌ల ఆధారంగా, చొరబాటు లేకుండా AI‌ను దాని అసలు ఉపయోగ లక్ష్యాలకు బయట పనిచేయించే ప్రక్రియ.

పత్రిక తెలిపిన వివరాల ప్రకారం, Aim Intelligence జెమినీ 3 ప్రో భద్రతను మాత్రమే ఉల్లంఘించలేదు, అదేవిధంగా మోడల్‌ను ప్రమాదకరమైన జీవ మరియు రసాయన ముప్పులకు సంబంధించిన సూచనలను సృష్టించేలా కూడా ప్రేరేపించింది. ఇది ఒక కీలక భద్రతా లోపాన్ని స్పష్టంగా బయటపెట్టింది. పరిశోధకులు ఈ అవుట్‌పుట్‌లు చాలా స్పష్టంగా, వివరంగా ఉండడంతో పాటు తీవ్ర ఆందోళనకు గురిచేసేవిగా ఉన్నాయని పేర్కొన్నారు.

అదనంగా, బృందం మోడల్‌తో ప్రమాదకరమైన సమాచారాన్ని ప్రదర్శించే ఒక వెబ్‌సైట్‌ను సృష్టించడమే కాకుండా, తన భద్రతా వైఫల్యాలను వ్యంగ్యంగా చూపించే “ఎక్స్యూజ్డ్ స్టూపిడ్ జెమినీ 3” అనే ప్రెజెంటేషన్‌ను కూడా రూపొందించగలిగింది.

నిపుణుల వివరణ ప్రకారం, ఆధునిక మేధో వ్యవస్థలు కొన్నిసార్లు అమలు చేసిన ఆంక్షలను దాటివేయడానికి లేదా తప్పించుకునే వ్యూహాలను ఉపయోగించడానికి ప్రయత్నిస్తాయి. దీనివల్ల భద్రతా నియంత్రణ మరింత క్లిష్టమవుతుంది. ఈ భద్రతా లోపాలను గూగుల్‌కు అధికారికంగా తెలియజేశారో, లేదా వాటిని పరిష్కరించడానికి కంపెనీ ఇప్పటికే ఏదైనా చర్యలు తీసుకున్నారో అన్న విషయం ఇంకా స్పష్టంగా తెలియలేదు.