భద్రతా పరీక్షల్లో విఫలం.. కొత్త ఏఐ మోడల్‌ను నిలిపేసిన ఓపెన్‌ఏఐ
Advertisement
- జీపీటీ-6.1 అస్త్ర విడుదలను నిలిపివేసిన ఓపెన్‌ఏఐ
- భద్రతా పరీక్షల్లో కీలక సమస్యల గుర్తింపు
- ఆదేశాల పరిధి దాటి పనిచేసే అవకాశం ఉందని వెల్లడి
- చేసిన పనిని సరిగ్గా వివరించడంలోనూ లోపాలు
- తొలుత అక్టోబర్‌లో విడుదల చేయాలని ప్రణాళికలు
Advertisement
ప్రముఖ ఏఐ సంస్థ ఓపెన్‌ఏఐ కీలక నిర్ణయం తీసుకుంది. కొత్తగా విడుదల చేయాలని భావించిన జీపీటీ-6.1 అస్త్ర మోడల్‌ను ప్రస్తుతానికి నిలిపివేసింది. భద్రతా పరీక్షల్లో ఈ మోడల్‌ వినియోగదారు ఇచ్చిన ఆదేశాల పరిధి దాటి పనిచేసే అవకాశం ఉందని గుర్తించారు. తాను చేసిన పనిని వినియోగదారుడికి పూర్తిగా, కచ్చితంగా వివరించడంలోనూ సమస్యలు కనిపించినట్లు పలు నివేదికలు తెలిపాయి.
‘ది వాల్‌స్ట్రీట్‌ జర్నల్‌’, ‘ది వాషింగ్టన్‌ పోస్ట్‌’ కథనాల ప్రకారం.. జీపీటీ 6.1 అస్త్రను అక్టోబర్‌లో చాట్‌జీపీటీ, కోడెక్స్‌లో అందుబాటులోకి తీసుకురావాలని ఓపెన్‌ఏఐ భావించింది. అయితే పరీక్షల తర్వాత ఆ నిర్ణయాన్ని వెనక్కి తీసుకుంది. కొత్త విడుదల తేదీని సంస్థ ప్రకటించలేదు.
ఓపెన్‌ఏఐ భద్రతా వ్యవస్థల విభాగం అధిపతి సాచి జైన్‌ ప్రకారం.. మోడల్‌ తనకు ఇచ్చిన పని పరిధి, అనుమతులకు లోబడి పనిచేయడంలో ఆశించిన స్థాయిని అందుకోలేకపోయింది. తాను చేసిన పనిని వినియోగదారుడికి ఎలా తెలియజేస్తుందన్న విషయంలోనూ సమస్యలు ఉన్నట్లు ఆమె పేర్కొన్నారు.
ఈ సమస్య కేవలం ఏఐ తప్పు సమాధానం ఇవ్వడం వరకే పరిమితం కాదు. ప్రస్తుతం ఏఐ ఏజెంట్లు కంప్యూటర్‌లో వివిధ పనులు చేయగలుగుతున్నాయి. వెబ్‌సైట్లను తెరవడం, సమాచారాన్ని సేకరించడం, కోడ్‌ రాయడం వంటి చర్యలు చేపట్టగలవు. అలాంటి సమయంలో వినియోగదారు ఇచ్చిన ఆదేశాల పరిధిలోనే ఏజెంట్‌ పనిచేసిందా? అనుమతి లేకుండా అదనపు చర్యలు చేపట్టిందా? తాను చేసిన పనిని సరిగ్గా వివరించిందా? అన్నవి కీలకంగా మారుతున్నాయి.
ఇదిలా ఉండగా.. ఓపెన్‌ఏఐ ఏఐ ఏజెంట్లు అమెరికా, ఆస్ట్రేలియా ప్రభుత్వ వెబ్‌సైట్లను సంస్థ ఉద్దేశించని విధంగా యాక్సెస్‌ చేసిన ఘటనలను గుర్తించినట్లు నివేదికలు పేర్కొన్నాయి. అయితే ఆ ఘటనలకు జీపీటీ-6.1 అస్త్రకు సంబంధం ఉందని ఈ నివేదికలు చెప్పలేదు.
కొత్త మోడల్‌ను రచన, పరిశోధన, సాఫ్ట్‌వేర్‌ అభివృద్ధి వంటి పనులకు ఉపయోగించే ఉత్పత్తుల్లో అందుబాటులోకి తీసుకురావాలని ఓపెన్‌ఏఐ భావించింది. అయితే భద్రతా ప్రమాణాలపై మరింత పరిశీలన అవసరమని నిర్ణయించడంతో అక్టోబర్‌ విడుదల వాయిదా పడింది.
ఈ నెలలోనే ఓపెన్‌ఏఐ జీపీటీ-6 అస్త్రను విడుదల చేసింది. ఆ మోడల్‌కు సంబంధించిన భద్రతా సమీక్షలో హానికరమైన లేదా అనధికార చర్యలను అడ్డుకునేందుకు అదనపు నియంత్రణలు తీసుకొచ్చినట్లు సంస్థ తెలిపింది. అయితే తాజాగా నిలిపివేసిన జీపీటీ 6.1 అస్త్రకు సంబంధించి భద్రతా ప్రమాణాలను ఎప్పుడు చేరుకుంటుందో ఓపెన్‌ఏఐ స్పష్టత ఇవ్వలేదు.
‘ది వాల్‌స్ట్రీట్‌ జర్నల్‌’, ‘ది వాషింగ్టన్‌ పోస్ట్‌’ కథనాల ప్రకారం.. జీపీటీ 6.1 అస్త్రను అక్టోబర్‌లో చాట్‌జీపీటీ, కోడెక్స్‌లో అందుబాటులోకి తీసుకురావాలని ఓపెన్‌ఏఐ భావించింది. అయితే పరీక్షల తర్వాత ఆ నిర్ణయాన్ని వెనక్కి తీసుకుంది. కొత్త విడుదల తేదీని సంస్థ ప్రకటించలేదు.
ఓపెన్‌ఏఐ భద్రతా వ్యవస్థల విభాగం అధిపతి సాచి జైన్‌ ప్రకారం.. మోడల్‌ తనకు ఇచ్చిన పని పరిధి, అనుమతులకు లోబడి పనిచేయడంలో ఆశించిన స్థాయిని అందుకోలేకపోయింది. తాను చేసిన పనిని వినియోగదారుడికి ఎలా తెలియజేస్తుందన్న విషయంలోనూ సమస్యలు ఉన్నట్లు ఆమె పేర్కొన్నారు.
ఈ సమస్య కేవలం ఏఐ తప్పు సమాధానం ఇవ్వడం వరకే పరిమితం కాదు. ప్రస్తుతం ఏఐ ఏజెంట్లు కంప్యూటర్‌లో వివిధ పనులు చేయగలుగుతున్నాయి. వెబ్‌సైట్లను తెరవడం, సమాచారాన్ని సేకరించడం, కోడ్‌ రాయడం వంటి చర్యలు చేపట్టగలవు. అలాంటి సమయంలో వినియోగదారు ఇచ్చిన ఆదేశాల పరిధిలోనే ఏజెంట్‌ పనిచేసిందా? అనుమతి లేకుండా అదనపు చర్యలు చేపట్టిందా? తాను చేసిన పనిని సరిగ్గా వివరించిందా? అన్నవి కీలకంగా మారుతున్నాయి.
ఇదిలా ఉండగా.. ఓపెన్‌ఏఐ ఏఐ ఏజెంట్లు అమెరికా, ఆస్ట్రేలియా ప్రభుత్వ వెబ్‌సైట్లను సంస్థ ఉద్దేశించని విధంగా యాక్సెస్‌ చేసిన ఘటనలను గుర్తించినట్లు నివేదికలు పేర్కొన్నాయి. అయితే ఆ ఘటనలకు జీపీటీ-6.1 అస్త్రకు సంబంధం ఉందని ఈ నివేదికలు చెప్పలేదు.
కొత్త మోడల్‌ను రచన, పరిశోధన, సాఫ్ట్‌వేర్‌ అభివృద్ధి వంటి పనులకు ఉపయోగించే ఉత్పత్తుల్లో అందుబాటులోకి తీసుకురావాలని ఓపెన్‌ఏఐ భావించింది. అయితే భద్రతా ప్రమాణాలపై మరింత పరిశీలన అవసరమని నిర్ణయించడంతో అక్టోబర్‌ విడుదల వాయిదా పడింది.
ఈ నెలలోనే ఓపెన్‌ఏఐ జీపీటీ-6 అస్త్రను విడుదల చేసింది. ఆ మోడల్‌కు సంబంధించిన భద్రతా సమీక్షలో హానికరమైన లేదా అనధికార చర్యలను అడ్డుకునేందుకు అదనపు నియంత్రణలు తీసుకొచ్చినట్లు సంస్థ తెలిపింది. అయితే తాజాగా నిలిపివేసిన జీపీటీ 6.1 అస్త్రకు సంబంధించి భద్రతా ప్రమాణాలను ఎప్పుడు చేరుకుంటుందో ఓపెన్‌ఏఐ స్పష్టత ఇవ్వలేదు.
Advertisement
