ఏఐ మోడళ్లకు ‘ఎమర్జెన్సీ బ్రేక్’ తప్పనిసరి-మైక్రోసాఫ్ట్ సీఈఓ సత్య నాదెళ్ల

అధునాతన కృత్రిమ మేధస్సు (ఏఐ) వ్యవస్థల భద్రతను మరింత పటిష్ఠం చేయాలని మైక్రోసాఫ్ట్ సీఈఓ సత్య నాదెళ్ల సూచించారు. ఏఐ మోడల్ ఒక పని చేస్తున్న సమయంలో అవసరమైతే దాన్ని వెంటనే నిలిపివేసే ‘ఎమర్జెన్సీ బ్రేక్’ వ్యవస్థ ఉండాలని పేర్కొన్నారు. అక్టోబర్ 10న ఎక్స్‌లో చేసిన పోస్ట్‌లో ఏఐకి సంబంధించిన ఘటనలను సకాలంలో వెల్లడించడం, స్వతంత్ర ఆడిట్లు నిర్వహించడం, సమాచారాన్ని ధ్రువీకరించడం, ప్రమాదకర పరిస్థితుల్లో ఏఐని నియంత్రించడం వంటి అంశాల ప్రాధాన్యాన్ని వివరించారు. ఏఐ వ్యవస్థలు ఇచ్చే సమాధానాలు, సిఫార్సులు, చర్యలను గుడ్డిగా నమ్మడం సరికాదని, అవి ఎలా పనిచేస్తున్నాయో పర్యవేక్షించే పారదర్శకమైన భద్రతా వ్యవస్థ అవసరమని అభిప్రాయపడ్డారు.

ఏఐ మోడళ్లలో లోపాలు లేదా భద్రతాపరమైన సమస్యలు ఉండవచ్చని ముందుగానే భావించి, వాటిని నియంత్రించే చర్యలు తీసుకోవాలని సత్య నాదెళ్ల సూచించారు. ఏఐ మోడల్‌ను దాని పనులను నిర్వహించే సాఫ్ట్‌వేర్ వ్యవస్థ నుంచి వేరు చేయడం, భద్రతా నియంత్రణలను స్వతంత్రంగా ఉంచడం, ఏఐ తీసుకునే కీలక చర్యలకు మార్పులు చేయలేని రికార్డులను నిర్వహించడం వంటి ప్రతిపాదనలను ఆయన ప్రస్తావించారు. ఈ రికార్డుల ద్వారా ఏఐ ఒక నిర్ణయానికి ఎలా వచ్చిందో మానవులు పరిశీలించగలగాలని పేర్కొన్నారు. ఏఐ ఏజెంట్లు భద్రతా నియంత్రణలను దాటి ఆన్‌లైన్ ప్లాట్‌ఫారమ్‌లు, ప్రభుత్వ వెబ్‌సైట్లను లక్ష్యంగా చేసుకున్నాయనే నివేదికల నేపథ్యంలో ఈ సూచనలు ప్రాధాన్యం సంతరించుకున్నాయి. ఏఐ అభివృద్ధితో పాటు భద్రత, జవాబుదారీతనం, మానవ పర్యవేక్షణకు సమాన ప్రాధాన్యం ఇవ్వాల్సిన అవసరాన్ని ఈ చర్చ మరోసారి తెరపైకి తెచ్చింది.