‘ఈ దశాబ్దంలోనే ఏఐ మనల్ని చంపొచ్చు’.. ఆంథ్రోపిక్ మాజీ పరిశోధకుడి హెచ్చరిక!
- ఏఐ మానవాళిని అంతం చేయొచ్చని జాకబ్ కాక్సన్ హెచ్చరిక
- సూపర్ ఇంటెలిజెన్స్పై కాక్సన్ తీవ్ర ఆందోళన
- ప్రమాదం నిజమేనని ఆంథ్రోపిక్లోని కీలక వ్యక్తి అంగీకారం
- పదేళ్లలో ప్రమాదం 10 శాతానికి మించి ఉండొచ్చని అంచనా
- సూపర్ ఇంటెలిజెన్స్కు పరిష్కారం లేదని వెల్లడి
ఏఐ ప్రపంచంలో పనిచేస్తున్న 27 ఏళ్ల పరిశోధకుడు జాకబ్ కాక్సన్ సంచలన వ్యాఖ్యలు చేశారు. ఆంథ్రోపిక్లో మూడేళ్ల పనిచేసిన తర్వాత ఆయన రాజీనామా చేశారు. అనంతరం ‘ఎక్స్’ వేదికగా ఏఐ భవిష్యత్తుపై తీవ్ర ఆందోళన వ్యక్తం చేశారు. ఏఐ సంస్థలు ప్రమాదాలను గుర్తిస్తున్నా.. పోటీలో వెనుకబడిపోతామనే భయంతో ముందుకు వెళ్తున్నాయని ఆరోపించారు.
కాక్సన్ గతంలో ఓపెన్ఏఐ, ఆంథ్రోపిక్లో ప్రీ-ట్రైనింగ్ పరిశోధనలు చేశారు. ఏఐ రంగంలో పనిచేస్తున్న పలువురు నిపుణులు ఈ సాంకేతికత ఈ దశాబ్దం ముగిసేలోపే మానవాళికి ప్రాణాంతకంగా మారొచ్చని నిజంగానే నమ్ముతున్నారని చెప్పారు. ఈ విషయం బయట మాట్లాడేటప్పుడు మాత్రం కొందరు చాలా జాగ్రత్తగా వ్యవహరిస్తున్నారని పేర్కొన్నారు.
త్వరలో మనుషుల కంటే ఎంతో శక్తిమంతమైన ఏఐ వ్యవస్థలు రావచ్చని కాక్సన్ హెచ్చరించారు. అవి సైబర్ దాడులు చేయగలవని, ఎన్నో రంగాలను ఒక్కసారిగా మార్చగలవని అన్నారు. అంతేకాదు, వాస్తవ ప్రపంచంలో ప్రభావం పెంచుకునే స్థాయికి చేరవచ్చని తెలిపారు.
ఆంథ్రోపిక్ అలైన్మెంట్ సైన్స్ లీడ్ ఇవాన్ హ్యూబింగర్ కూడా కాక్సన్ వ్యాఖ్యలను సమర్థించారు. భవిష్యత్తులో ఏఐ మానవాళిని అంతం చేసే అవకాశం ఉందని తాము నిజంగానే భావిస్తున్నామని చెప్పారు. వచ్చే పదేళ్లలో ఆ ప్రమాదం 10 శాతానికి మించి ఉంటుందని తన వ్యక్తిగత అంచనా అని తెలిపారు.
ప్రస్తుతం ఉన్న ఏఐ మోడళ్లతో ప్రమాదం తక్కువేనని హ్యూబింగర్ స్పష్టం చేశారు. అయితే ఏఐ తన సామర్థ్యాలను తానే పెంచుకునే స్థాయికి చేరితే పరిస్థితి చాలా ప్రమాదకరంగా మారొచ్చని హెచ్చరించారు. సూపర్ ఇంటెలిజెన్స్ కోసం అలైన్మెంట్ సమస్యకు పరిష్కారం చూపే స్పష్టమైన ప్రణాళిక తమ వద్ద ఇంకా లేదని అంగీకరించారు.
ఏఐ సంస్థలు ప్రపంచవ్యాప్తంగా పోటీకి దిగే పరిస్థితిని అడ్డుకోవడం కష్టమని కాక్సన్ అన్నారు. అవసరమైతే ఏఐ మోడళ్ల సామర్థ్యాలను పెంచే పనిపై తాత్కాలిక నిషేధం విధించాల్సి రావచ్చని సూచించారు.
కాక్సన్ గతంలో ఓపెన్ఏఐ, ఆంథ్రోపిక్లో ప్రీ-ట్రైనింగ్ పరిశోధనలు చేశారు. ఏఐ రంగంలో పనిచేస్తున్న పలువురు నిపుణులు ఈ సాంకేతికత ఈ దశాబ్దం ముగిసేలోపే మానవాళికి ప్రాణాంతకంగా మారొచ్చని నిజంగానే నమ్ముతున్నారని చెప్పారు. ఈ విషయం బయట మాట్లాడేటప్పుడు మాత్రం కొందరు చాలా జాగ్రత్తగా వ్యవహరిస్తున్నారని పేర్కొన్నారు.
త్వరలో మనుషుల కంటే ఎంతో శక్తిమంతమైన ఏఐ వ్యవస్థలు రావచ్చని కాక్సన్ హెచ్చరించారు. అవి సైబర్ దాడులు చేయగలవని, ఎన్నో రంగాలను ఒక్కసారిగా మార్చగలవని అన్నారు. అంతేకాదు, వాస్తవ ప్రపంచంలో ప్రభావం పెంచుకునే స్థాయికి చేరవచ్చని తెలిపారు.
ఆంథ్రోపిక్ అలైన్మెంట్ సైన్స్ లీడ్ ఇవాన్ హ్యూబింగర్ కూడా కాక్సన్ వ్యాఖ్యలను సమర్థించారు. భవిష్యత్తులో ఏఐ మానవాళిని అంతం చేసే అవకాశం ఉందని తాము నిజంగానే భావిస్తున్నామని చెప్పారు. వచ్చే పదేళ్లలో ఆ ప్రమాదం 10 శాతానికి మించి ఉంటుందని తన వ్యక్తిగత అంచనా అని తెలిపారు.
ప్రస్తుతం ఉన్న ఏఐ మోడళ్లతో ప్రమాదం తక్కువేనని హ్యూబింగర్ స్పష్టం చేశారు. అయితే ఏఐ తన సామర్థ్యాలను తానే పెంచుకునే స్థాయికి చేరితే పరిస్థితి చాలా ప్రమాదకరంగా మారొచ్చని హెచ్చరించారు. సూపర్ ఇంటెలిజెన్స్ కోసం అలైన్మెంట్ సమస్యకు పరిష్కారం చూపే స్పష్టమైన ప్రణాళిక తమ వద్ద ఇంకా లేదని అంగీకరించారు.
ఏఐ సంస్థలు ప్రపంచవ్యాప్తంగా పోటీకి దిగే పరిస్థితిని అడ్డుకోవడం కష్టమని కాక్సన్ అన్నారు. అవసరమైతే ఏఐ మోడళ్ల సామర్థ్యాలను పెంచే పనిపై తాత్కాలిక నిషేధం విధించాల్సి రావచ్చని సూచించారు.
