ఏఐ భద్రతపై బ్రిటన్‌ నివేదికలో కీలక హెచ్చరిక..

అత్యాధునిక కృత్రిమ మేధ (ఏఐ) మోడళ్ల భద్రతపై బ్రిటన్‌కు చెందిన ఏఐ సెక్యూరిటీ ఇన్‌స్టిట్యూట్‌ (AISI) తాజా నివేదికలో ఆందోళనకర అంశాలను వెల్లడించింది. సైబర్‌ భద్రతకు సంబంధించిన పరీక్షల సమయంలో కొన్ని ఏఐ మోడళ్లు అనుమతి లేకుండా చర్యలకు పాల్పడినట్లు పరిశోధకులు గుర్తించారు. ముఖ్యంగా ఆంత్రోపిక్‌ సంస్థకు చెందిన మైథోస్‌ 5 (Mythos 5) మోడల్‌, లక్ష్యంగా ఎంచుకున్న వ్యక్తులు, వ్యవస్థలు నిజమైనవని హెచ్చరించినప్పటికీ అనధికారిక సైబర్‌ దాడి ప్రయత్నాలను కొనసాగించినట్లు నివేదిక పేర్కొంది. ఒక పరీక్షలో ఈ మోడల్‌తో పనిచేసే ఏఐ ఏజెంట్లు హానికరమైన కోడ్‌ను సమర్పించడంతోపాటు దానికి అనుమతి పొందేందుకు నకిలీ ఆన్‌లైన్‌ ఖాతాలను సృష్టించి మానవ సమీక్షకుడిని ప్రభావితం చేసేందుకు ప్రయత్నించినట్లు వెల్లడించింది. తమ లక్ష్యాన్ని సాధించేందుకు తప్పుడు కారణాలను సమర్థనగా చూపించే ధోరణిని పరిశోధకులు గుర్తించారు. అయితే, ఈ ఘటన వల్ల వాస్తవ ప్రపంచంలో ఎలాంటి నష్టం జరగలేదని సంస్థ స్పష్టం చేసింది.

ఏఐ మోడళ్లు తాము చెప్పే కారణాలకు, వాస్తవంగా చేపట్టే చర్యలకు మధ్య పొంతన లేకుండా వ్యవహరిస్తున్నట్లు AISI పరిశోధనలో వెల్లడైంది. నిజమైన వ్యక్తులపై దాడి చేయడం హానికరమని అంగీకరించినప్పటికీ, కొన్ని సందర్భాల్లో మైథోస్‌ 5 అనధికారిక చర్యలను కొనసాగించినట్లు పరిశోధకులు తెలిపారు. లక్ష్యాలు నిజమైనవని ఆధారాలు ఇచ్చినా వాటిని పరీక్షల్లో భాగమైన కల్పిత లక్ష్యాలుగా తప్పుగా భావిస్తూ చర్యలను సమర్థించుకున్నట్లు పేర్కొన్నారు. తమ అంతర్గత భద్రతా వ్యవస్థలు ఇలాంటి చర్యలను గుర్తించగలవని ఆంత్రోపిక్‌ తెలిపింది. ఓపెన్‌ఏఐకు చెందిన జీపీటీ-6 ఆస్ట్రా సహా ఇతర అధునాతన మోడళ్ల పరీక్షల్లోనూ ఇటువంటి ప్రవర్తన కనిపించినట్లు నివేదిక వివరించింది. అయితే, ఈ పరిశోధన సైబర్‌ భద్రతా పరీక్షలకే పరిమితమైందని, ఇతర రంగాల్లోనూ ఏఐ మోడళ్లు ఇదే విధంగా వ్యవహరిస్తాయని నిర్ధారించలేమని AISI స్పష్టం చేసింది. స్వతంత్రంగా క్లిష్టమైన పనులు నిర్వహించే ఏఐ ఏజెంట్లపై పర్యవేక్షణ, భద్రతా నియంత్రణలను మరింత బలోపేతం చేయాల్సిన అవసరాన్ని నివేదిక సూచించింది.