ఓపెన్ఏఐ సంచలన నిర్ణయం.. ఏఐ ఏజెంట్ల శిక్షణ నిలిపివేత.. కారణం ఇదే!
- తమ శక్తిమంతమైన ఏఐ మోడళ్ల శిక్షణను నిలిపివేస్తున్నట్లు ప్రకటించిన ఓపెన్ఏఐ
- ట్రైనింగ్లో ఏఐ ఏజెంట్ ఇంటర్నెట్ ఆంక్షలు దాటడమే ఇందుకు కారణం
- డీఎన్ఎస్ ఫిల్టరింగ్లోని లోపాన్ని వాడుకుని ఏఐ లైవ్ ఇంటర్నెట్లోకి చొరబాటు
- భద్రతా లోపాన్ని సరిదిద్దే వరకు అన్ని శిక్షణ కార్యక్రమాలు రద్దు చేస్తున్నట్లు వెల్లడి
- ఈ ఘటనతో ఏఐ భద్రత, నియంత్రణపై మరోసారి తీవ్ర ఆందోళనలు
ప్రముఖ ఆర్టిఫిషియల్ ఇంటెలిజెన్స్ సంస్థ ఓపెన్ఏఐ సంచలన నిర్ణయం తీసుకుంది. తమ అత్యంత శక్తిమంతమైన ఏఐ మోడళ్లకు సంబంధించిన శిక్షణ, అభివృద్ధి, ఇతర టూల్ ఆధారిత వినియోగాన్ని తక్షణమే నిలిపివేస్తున్నట్లు ప్రకటించింది. శిక్షణలో ఉన్న ఒక ఏఐ ఏజెంట్, సంస్థ విధించిన ఇంటర్నెట్ భద్రతా వలయాన్ని ఛేదించుకుని ప్రభుత్వ వెబ్ సైట్లలోకి చొరబడడమే ఇందుకు కారణం. ఈ ఘటనతో అప్రమత్తమైన ఓపెన్ఏఐ, భద్రతా లోపాలను సరిదిద్దే వరకు ఈ పాక్షిక విరామం కొనసాగుతుందని స్పష్టం చేసింది.
సెప్టెంబర్ 20న ఒక శిక్షణా కార్యక్రమంలో ఈ అనూహ్య ఘటన చోటుచేసుకున్నట్లు ఓపెన్ఏఐ విడుదల చేసిన నివేదికలో పేర్కొంది. ఒక సెర్చ్ ఆధారిత టాస్క్లో భాగంగా, ఈ ఏఐ ఏజెంట్ లైవ్ ఇంటర్నెట్కు దూరంగా, ఆఫ్లైన్లో నిల్వ చేసిన వెబ్ సమాచారంతో మాత్రమే పనిచేయాల్సి ఉంది. అయితే, సంస్థ నెట్వర్క్లోని డొమైన్ నేమ్ సిస్టమ్ (డీఎన్ఎస్) ఫిల్టరింగ్లో ఉన్న ఒక చిన్న లోపాన్ని ఈ ఏఐ కనిపెట్టింది. దాని ద్వారా నిర్దేశించిన పరిధిని దాటి, పబ్లిక్ ఇంటర్నెట్లోని ఒక చాట్బాట్ సర్వీస్ను యాక్సెస్ చేసింది.
ఈ ఘటన తమ భద్రతా నియంత్రణ వ్యవస్థలోని బలహీనతను బయటపెట్టిందని ఓపెన్ఏఐ అంగీకరించింది. "మా ఏఐ మోడల్ లైవ్ ఇంటర్నెట్ను యాక్సెస్ చేయలేదనే నమ్మకంతో భద్రతా చర్యలు చేపట్టాం. కానీ, ఈ ఘటన మా అంచనాలను తలకిందులు చేసింది. అందుకే ప్రభావితమైన శిక్షణా కార్యక్రమాన్ని వెంటనే ఆపివేశాం. భద్రతా లోపాన్ని పూర్తిగా పరిష్కరించి, అదనపు రెడ్-టీమింగ్ (హ్యాకింగ్ పరీక్షలు), భద్రతా పరీక్షలు పూర్తి చేసే వరకు మా అత్యంత సామర్థ్యం గల మోడళ్ల శిక్షణ, మూల్యాంకనం, టూల్-యూసేజ్ను నిలిపివేయాలని నిర్ణయించాం" అని నివేదికలో వివరించింది.
ఒక బ్లాగ్ పోస్టులో ఉన్న సమాచారం ఆధారంగా ఒక వ్యక్తి వివరాలను కనుగొనడమే ఈ ఏఐకి ఇచ్చిన టాస్క్. అందుకోసం అందించిన సెర్చ్ టూల్ సరైన ఫలితాలు ఇవ్వకపోవడంతో, ఆ ఏఐ ఏజెంట్ తన పరిమితులను అధిగమించే ప్రయత్నం చేసింది. ఇతర సెర్చ్ ఇంజిన్లను నేరుగా యాక్సెస్ చేసేందుకు సొంతంగా కోడ్ ఉపయోగించింది. ఆ ప్రయత్నం విఫలమవడంతో, ఈ టాస్క్ 'బ్రౌజ్కాంప్' అనే బెంచ్మార్క్కు సంబంధించినది కావచ్చని అది ఊహించింది. వెంటనే ఆఫ్లైన్ కాపీ నుంచి ఆ బెంచ్మార్క్ డేటాసెట్ను డౌన్లోడ్ చేసుకుని, దానిలోని ప్రశ్నల ద్వారా సమాధానాన్ని రాబట్టింది. ఈ అనూహ్య ప్రవర్తనను గుర్తించిన ఓపెన్ఏఐ, భవిష్యత్తులో ఇలాంటివి పునరావృతం కాకుండా ఉండేందుకు కఠిన చర్యలు చేపట్టింది.
సెప్టెంబర్ 20న ఒక శిక్షణా కార్యక్రమంలో ఈ అనూహ్య ఘటన చోటుచేసుకున్నట్లు ఓపెన్ఏఐ విడుదల చేసిన నివేదికలో పేర్కొంది. ఒక సెర్చ్ ఆధారిత టాస్క్లో భాగంగా, ఈ ఏఐ ఏజెంట్ లైవ్ ఇంటర్నెట్కు దూరంగా, ఆఫ్లైన్లో నిల్వ చేసిన వెబ్ సమాచారంతో మాత్రమే పనిచేయాల్సి ఉంది. అయితే, సంస్థ నెట్వర్క్లోని డొమైన్ నేమ్ సిస్టమ్ (డీఎన్ఎస్) ఫిల్టరింగ్లో ఉన్న ఒక చిన్న లోపాన్ని ఈ ఏఐ కనిపెట్టింది. దాని ద్వారా నిర్దేశించిన పరిధిని దాటి, పబ్లిక్ ఇంటర్నెట్లోని ఒక చాట్బాట్ సర్వీస్ను యాక్సెస్ చేసింది.
ఈ ఘటన తమ భద్రతా నియంత్రణ వ్యవస్థలోని బలహీనతను బయటపెట్టిందని ఓపెన్ఏఐ అంగీకరించింది. "మా ఏఐ మోడల్ లైవ్ ఇంటర్నెట్ను యాక్సెస్ చేయలేదనే నమ్మకంతో భద్రతా చర్యలు చేపట్టాం. కానీ, ఈ ఘటన మా అంచనాలను తలకిందులు చేసింది. అందుకే ప్రభావితమైన శిక్షణా కార్యక్రమాన్ని వెంటనే ఆపివేశాం. భద్రతా లోపాన్ని పూర్తిగా పరిష్కరించి, అదనపు రెడ్-టీమింగ్ (హ్యాకింగ్ పరీక్షలు), భద్రతా పరీక్షలు పూర్తి చేసే వరకు మా అత్యంత సామర్థ్యం గల మోడళ్ల శిక్షణ, మూల్యాంకనం, టూల్-యూసేజ్ను నిలిపివేయాలని నిర్ణయించాం" అని నివేదికలో వివరించింది.
ఒక బ్లాగ్ పోస్టులో ఉన్న సమాచారం ఆధారంగా ఒక వ్యక్తి వివరాలను కనుగొనడమే ఈ ఏఐకి ఇచ్చిన టాస్క్. అందుకోసం అందించిన సెర్చ్ టూల్ సరైన ఫలితాలు ఇవ్వకపోవడంతో, ఆ ఏఐ ఏజెంట్ తన పరిమితులను అధిగమించే ప్రయత్నం చేసింది. ఇతర సెర్చ్ ఇంజిన్లను నేరుగా యాక్సెస్ చేసేందుకు సొంతంగా కోడ్ ఉపయోగించింది. ఆ ప్రయత్నం విఫలమవడంతో, ఈ టాస్క్ 'బ్రౌజ్కాంప్' అనే బెంచ్మార్క్కు సంబంధించినది కావచ్చని అది ఊహించింది. వెంటనే ఆఫ్లైన్ కాపీ నుంచి ఆ బెంచ్మార్క్ డేటాసెట్ను డౌన్లోడ్ చేసుకుని, దానిలోని ప్రశ్నల ద్వారా సమాధానాన్ని రాబట్టింది. ఈ అనూహ్య ప్రవర్తనను గుర్తించిన ఓపెన్ఏఐ, భవిష్యత్తులో ఇలాంటివి పునరావృతం కాకుండా ఉండేందుకు కఠిన చర్యలు చేపట్టింది.
