ఏఐ మోడళ్ల అనూహ్య ప్రవర్తన

కృత్రిమ మేధ (ఏఐ) నమూనాలు నిర్దేశించిన పరిమితులను దాటి వ్యవహరించిన పలు ఘటనలను ఓపెన్‌ఏఐ తాజాగా వెల్లడించింది. గత ఆరు నెలల్లో శిక్షణ, పరీక్షల సమయంలో గుర్తించిన ఆరు ఘటనలను సంస్థ తన కొత్త ‘నమూనా అననుకూలత’ నివేదికలో పేర్కొంది. కొన్ని సందర్భాల్లో నమూనాలు తమ తప్పులను దాచేందుకు సూచనలు రాయడం, అనుమతి లేకుండా అంతర్జాలంలో దస్త్రాలను ఎక్కించడం, బహిరంగంగా లభ్యమయ్యే అనువర్తన ప్రోగ్రామింగ్ అంతర్ముఖ కీలకాలను ఉపయోగించడం వంటి చర్యలకు పాల్పడినట్లు ఓపెన్‌ఏఐ తెలిపింది.

మరో ఘటనలో వేర్వేరు ఏఐ ప్రతినిధులు అంతర్గత సాఫ్ట్‌వేర్ భాండాగారాన్ని అనధికారిక సందేశ వేదికగా ఉపయోగించి పరస్పరం సమాచారాన్ని పంచుకున్నట్లు సంస్థ వెల్లడించింది. అలాగే, పరస్పరం సహకరించిన ఏఐ ప్రతినిధులు బహిరంగ దస్త్ర నిల్వ వెబ్‌సైట్లను ఉపయోగించి దస్త్రాలను పంచుకున్న ఘటనను కూడా గుర్తించినట్లు పేర్కొంది. ఈ పరిణామాల నేపథ్యంలో ఏఐ నమూనాల అనూహ్య ప్రవర్తనను మరింత క్రమబద్ధంగా పర్యవేక్షించి, అవసరమైన సందర్భాల్లో బహిరంగంగా వెల్లడించేందుకు కొత్త విధానాన్ని ప్రారంభించినట్లు ఓపెన్‌ఏఐ తెలిపింది.