Neil Thompson: ఏఐ రెండంచుల కత్తి... మనిషి కంట్రోల్ దాటితే పెను ప్రమాదం: ఎంఐటీ నిపుణుడి హెచ్చరిక
- ఏఐని మంచి, చెడు రెండింటికీ వాడొచ్చన్న ఎంఐటీ నిపుణుడు నీల్ థాంప్సన్
- ఏఐ ఎప్పుడూ 100 శాతం కచ్చితమైనది కాదని వ్యాఖ్య
- యుద్ధాల్లో ఏఐ వాడకంపై నియంత్రణ లేకపోతే పెను ముప్పు తప్పదని హెచ్చరిక
ఆర్టిఫిషియల్ ఇంటెలిజెన్స్ (ఏఐ) ప్రజలకు శక్తినిచ్చే అద్భుతమైన సాధనమని, అయితే దాన్ని మంచికి, చెడుకు కూడా ఉపయోగించే ప్రమాదం ఉందని ఎంఐటీకి చెందిన నిపుణుడు నీల్ థాంప్సన్ హెచ్చరించారు. ఏఐ అనేది రెండంచులు ఉన్న కత్తిలాంటిదని, దాని వాడకాన్ని బట్టి తీవ్రమైన పరిణామాలు ఉంటాయని ఆయన అభిప్రాయపడ్డారు. ప్రముఖ వార్తా సంస్థ ఎన్డీటీవీ నిర్వహించిన ‘వరల్డ్ సమ్మిట్ 2025’లో ఆయన ఈ కీలక వ్యాఖ్యలు చేశారు.
ఎన్డీటీవీ ప్రతినిధి శివ్ అరూర్తో జరిగిన ఒక చర్చా కార్యక్రమంలో థాంప్సన్ మాట్లాడుతూ.. ఏఐ వల్ల ఎదురయ్యే కొన్ని భయానకమైన పరిస్థితులను ఉదహరించారు. "ఏదైనా ఒక సంస్థపై అసంతృప్తిగా ఉన్న ఒక వ్యక్తి, ఏఐని ఉపయోగించి ప్రతిచోటా లక్షలాదిగా చెడు రివ్యూలతో ముంచెత్తితే పరిస్థితి ఎలా ఉంటుందో ఊహించుకోండి. అలాగే, నిజమో కాదో తేల్చుకోలేని రీతిలో మీ ఈ-మెయిల్స్ బాక్సు నిండిపోతే అది ఎంత భయంకరంగా ఉంటుంది?" అని ఆయన ప్రశ్నించారు. కంప్యూటర్ల శక్తి పెరిగేకొద్దీ, వాటిని నియంత్రించడం ఒక పెద్ద సవాలుగా మారుతుందని ఆయన పేర్కొన్నారు.
ఏఐ వల్ల ఉత్పాదకత పెరుగుతుందని అంగీకరిస్తూనే, ఉద్యోగాల భద్రతపై ఆందోళనలను ప్రస్తావించారు. ఏదైనా ఒక ఉద్యోగం ఆటోమేషన్ అవుతుందనే భయం ఉంటే, సాంకేతిక సామర్థ్యాల అభివృద్ధికి, వాటిని పూర్తిగా అమలు చేయడానికి మధ్య ఉన్న వ్యత్యాసాన్ని అర్థం చేసుకోవాలని సూచించారు. దీనినే ఆయన "ఏఐ లాస్ట్ మైల్ కాస్ట్స్" అని అభివర్ణించారు. కొత్త ఆలోచనల కోసం ఏఐని వాడటం అద్భుతమే అయినా, అది వంద శాతం కచ్చితమైనది కాదనే విషయాన్ని గుర్తుంచుకోవాలని హెచ్చరించారు. "ఏఐ చేసే చిన్న పొరపాట్లు కూడా ఊహించని తీవ్ర నష్టాలకు దారితీయవచ్చు" అని ఆయన స్పష్టం చేశారు.
యుద్ధ క్షేత్రంలో ఏఐ వాడకంపై తలెత్తే నైతిక సందిగ్ధాల గురించి కూడా థాంప్సన్ మాట్లాడారు. "రెండు దేశాల మధ్య యుద్ధం లేదా మార్కెట్లో ప్రత్యర్థుల మధ్య పోటీ ఉన్నప్పుడు, వారు తమ సామర్థ్యాలను పెంచుకోవడానికి తీవ్రంగా ప్రయత్నిస్తారు. ఈ క్రమంలో, నిర్ణయాలు తీసుకోవడంలో మానవ ప్రమేయం ఆలస్యానికి కారణమవుతోందని భావిస్తే, ఆ నియంత్రణను ఏఐకి వదిలేసే ప్రమాదం ఉంది. ఇది నిజంగా పెను సవాళ్లను సృష్టిస్తుంది. దీనిని ఎలా నియంత్రించాలనే దానిపై మనం తీవ్రంగా ఆలోచించాలి" అని థాంప్సన్ వివరించారు. ఈయన ఎంఐటీలోని కంప్యూటర్ సైన్స్ అండ్ ఆర్టిఫిషియల్ ఇంటెలిజెన్స్ ల్యాబ్లో ఫ్యూచర్టెక్ రీసెర్చ్ ప్రాజెక్ట్కు డైరెక్టర్గా వ్యవహరిస్తున్నారు.
ఎన్డీటీవీ ప్రతినిధి శివ్ అరూర్తో జరిగిన ఒక చర్చా కార్యక్రమంలో థాంప్సన్ మాట్లాడుతూ.. ఏఐ వల్ల ఎదురయ్యే కొన్ని భయానకమైన పరిస్థితులను ఉదహరించారు. "ఏదైనా ఒక సంస్థపై అసంతృప్తిగా ఉన్న ఒక వ్యక్తి, ఏఐని ఉపయోగించి ప్రతిచోటా లక్షలాదిగా చెడు రివ్యూలతో ముంచెత్తితే పరిస్థితి ఎలా ఉంటుందో ఊహించుకోండి. అలాగే, నిజమో కాదో తేల్చుకోలేని రీతిలో మీ ఈ-మెయిల్స్ బాక్సు నిండిపోతే అది ఎంత భయంకరంగా ఉంటుంది?" అని ఆయన ప్రశ్నించారు. కంప్యూటర్ల శక్తి పెరిగేకొద్దీ, వాటిని నియంత్రించడం ఒక పెద్ద సవాలుగా మారుతుందని ఆయన పేర్కొన్నారు.
ఏఐ వల్ల ఉత్పాదకత పెరుగుతుందని అంగీకరిస్తూనే, ఉద్యోగాల భద్రతపై ఆందోళనలను ప్రస్తావించారు. ఏదైనా ఒక ఉద్యోగం ఆటోమేషన్ అవుతుందనే భయం ఉంటే, సాంకేతిక సామర్థ్యాల అభివృద్ధికి, వాటిని పూర్తిగా అమలు చేయడానికి మధ్య ఉన్న వ్యత్యాసాన్ని అర్థం చేసుకోవాలని సూచించారు. దీనినే ఆయన "ఏఐ లాస్ట్ మైల్ కాస్ట్స్" అని అభివర్ణించారు. కొత్త ఆలోచనల కోసం ఏఐని వాడటం అద్భుతమే అయినా, అది వంద శాతం కచ్చితమైనది కాదనే విషయాన్ని గుర్తుంచుకోవాలని హెచ్చరించారు. "ఏఐ చేసే చిన్న పొరపాట్లు కూడా ఊహించని తీవ్ర నష్టాలకు దారితీయవచ్చు" అని ఆయన స్పష్టం చేశారు.
యుద్ధ క్షేత్రంలో ఏఐ వాడకంపై తలెత్తే నైతిక సందిగ్ధాల గురించి కూడా థాంప్సన్ మాట్లాడారు. "రెండు దేశాల మధ్య యుద్ధం లేదా మార్కెట్లో ప్రత్యర్థుల మధ్య పోటీ ఉన్నప్పుడు, వారు తమ సామర్థ్యాలను పెంచుకోవడానికి తీవ్రంగా ప్రయత్నిస్తారు. ఈ క్రమంలో, నిర్ణయాలు తీసుకోవడంలో మానవ ప్రమేయం ఆలస్యానికి కారణమవుతోందని భావిస్తే, ఆ నియంత్రణను ఏఐకి వదిలేసే ప్రమాదం ఉంది. ఇది నిజంగా పెను సవాళ్లను సృష్టిస్తుంది. దీనిని ఎలా నియంత్రించాలనే దానిపై మనం తీవ్రంగా ఆలోచించాలి" అని థాంప్సన్ వివరించారు. ఈయన ఎంఐటీలోని కంప్యూటర్ సైన్స్ అండ్ ఆర్టిఫిషియల్ ఇంటెలిజెన్స్ ల్యాబ్లో ఫ్యూచర్టెక్ రీసెర్చ్ ప్రాజెక్ట్కు డైరెక్టర్గా వ్యవహరిస్తున్నారు.
