- ఐదేళ్లలో ఏఐతో భారీ నష్టం జరగొచ్చన్న ఎంగెల్స్‌
- ఏఐ భద్రత కోసం డీప్‌మైండ్‌ను వీడిన పరిశోధకుడు
- ఏఐ స్వీయ అభివృద్ధిపై ప్రధానంగా ఆందోళన
- ప్రస్తుత మోడళ్లలో ప్రమాదకర ప్రవర్తన కనిపిస్తోందని హెచ్చరిక
- ఏఐ అభివృద్ధిని నెమ్మదించాలని ఎంగెల్స్‌ సూచన
ఆర్టిఫిషియల్‌ ఇంటెలిజెన్స్‌ (ఏఐ)పై ఆందోళనలు మరింత పెరుగుతున్నాయి. అధునాతన ఏఐతో రానున్న ఐదేళ్లలో భారీ నష్టం జరిగే అవకాశం ఉందని గూగుల్‌ డీప్‌మైండ్‌లో పనిచేసిన ఏఐ సేఫ్టీ పరిశోధకుడు జోష్‌ ఎంగెల్స్‌ హెచ్చరించారు. ఈ ప్రమాదం తన దృష్టిలో చాలా ఎక్కువగా ఉండటంతో ఏఐ భద్రతను ప్రపంచంలోనే అత్యంత కీలకమైన సమస్యగా భావిస్తున్నట్లు చెప్పారు.
డీప్‌మైండ్‌ ఏజీఐ సేఫ్టీ టీమ్‌లో పనిచేసిన ఎంగెల్స్‌ మూడు వారాల క్రితం ఆ సంస్థను వీడారు. తాజాగా ఏఐ మూల్యాంకన సంస్థ ఎంఈటీఆర్‌లో చేరారు. డీప్‌మైండ్‌లో పనిచేయడం తనకు ఎంతో నచ్చిందని చెప్పారు. ఆంథ్రోపిక్‌, ఓపెన్‌ఏఐ సంస్థల నుంచి వచ్చిన అవకాశాలను కూడా గతంలో తిరస్కరించానని వెల్లడించారు. అయినా ఏఐ ప్రమాదాలపై ఉన్న ఆందోళనతో ఉద్యోగం మారినట్లు తెలిపారు.
ఎంగెల్స్‌ ప్రధానంగా ‘రికర్సివ్‌ సెల్ఫ్‌ ఇంప్రూవ్‌మెంట్‌’పై ఆందోళన వ్యక్తం చేశారు. అంటే.. ఒక ఏఐ వ్యవస్థ మరో ఏఐని రూపొందించడం లేదా తన సామర్థ్యాలను తానే మెరుగుపరుచుకోవడం. కొత్త వ్యవస్థ మరింత శక్తిమంతంగా మారి మరో మెరుగైన ఏఐని రూపొందిస్తే.. ఈ ప్రక్రియ వేగంగా కొనసాగొచ్చని ఆయన వివరించారు. ఇలాంటి వ్యవస్థలు మానవ లక్ష్యాలకు అనుగుణంగా లేకపోతే తీవ్ర పరిణామాలు తప్పవని హెచ్చరించారు.
ప్రస్తుతం ఉన్న ఏఐ మోడళ్లలోనూ ఆందోళన కలిగించే ప్రవర్తన కనిపిస్తోందని ఎంగెల్స్‌ తెలిపారు. కొన్ని మోడళ్లు పరస్పరం కుమ్మక్కవడం, సంస్థల వ్యవస్థలను హ్యాక్‌ చేయడం, తమ చర్యలను దాచడం, మనుషులను ప్రభావితం చేసేందుకు ప్రయత్నించడం వంటి ఘటనలు బయటపడ్డాయని చెప్పారు.
ఏఐ అభివృద్ధిని పూర్తిగా నిలిపివేయాలని తాను కోరడం లేదని ఎంగెల్స్‌ స్పష్టం చేశారు. అయితే ఏఐ సామర్థ్యాలు పెరిగే వేగం కంటే భద్రతా పరిశోధన ముందుండేలా అభివృద్ధిని కొంత నెమ్మదించాలని సూచించారు. ఇదే అంశంపై ఎంఈటీఆర్‌లో తన పరిశోధన కొనసాగించనున్నట్లు తెలిపారు.
డీప్‌మైండ్‌ ఏజీఐ సేఫ్టీ టీమ్‌లో పనిచేసిన ఎంగెల్స్‌ మూడు వారాల క్రితం ఆ సంస్థను వీడారు. తాజాగా ఏఐ మూల్యాంకన సంస్థ ఎంఈటీఆర్‌లో చేరారు. డీప్‌మైండ్‌లో పనిచేయడం తనకు ఎంతో నచ్చిందని చెప్పారు. ఆంథ్రోపిక్‌, ఓపెన్‌ఏఐ సంస్థల నుంచి వచ్చిన అవకాశాలను కూడా గతంలో తిరస్కరించానని వెల్లడించారు. అయినా ఏఐ ప్రమాదాలపై ఉన్న ఆందోళనతో ఉద్యోగం మారినట్లు తెలిపారు.
ఎంగెల్స్‌ ప్రధానంగా ‘రికర్సివ్‌ సెల్ఫ్‌ ఇంప్రూవ్‌మెంట్‌’పై ఆందోళన వ్యక్తం చేశారు. అంటే.. ఒక ఏఐ వ్యవస్థ మరో ఏఐని రూపొందించడం లేదా తన సామర్థ్యాలను తానే మెరుగుపరుచుకోవడం. కొత్త వ్యవస్థ మరింత శక్తిమంతంగా మారి మరో మెరుగైన ఏఐని రూపొందిస్తే.. ఈ ప్రక్రియ వేగంగా కొనసాగొచ్చని ఆయన వివరించారు. ఇలాంటి వ్యవస్థలు మానవ లక్ష్యాలకు అనుగుణంగా లేకపోతే తీవ్ర పరిణామాలు తప్పవని హెచ్చరించారు.
ప్రస్తుతం ఉన్న ఏఐ మోడళ్లలోనూ ఆందోళన కలిగించే ప్రవర్తన కనిపిస్తోందని ఎంగెల్స్‌ తెలిపారు. కొన్ని మోడళ్లు పరస్పరం కుమ్మక్కవడం, సంస్థల వ్యవస్థలను హ్యాక్‌ చేయడం, తమ చర్యలను దాచడం, మనుషులను ప్రభావితం చేసేందుకు ప్రయత్నించడం వంటి ఘటనలు బయటపడ్డాయని చెప్పారు.
ఏఐ అభివృద్ధిని పూర్తిగా నిలిపివేయాలని తాను కోరడం లేదని ఎంగెల్స్‌ స్పష్టం చేశారు. అయితే ఏఐ సామర్థ్యాలు పెరిగే వేగం కంటే భద్రతా పరిశోధన ముందుండేలా అభివృద్ధిని కొంత నెమ్మదించాలని సూచించారు. ఇదే అంశంపై ఎంఈటీఆర్‌లో తన పరిశోధన కొనసాగించనున్నట్లు తెలిపారు.
