సూపర్ ఇంటెలిజెన్స్ చాలా ప్రమాదకరం.. ఈ దశాబ్దంలోనే మానవాళి అంతం.. ఏఐపై పరిశోధకుడి తీవ్ర ఆందోళన!
మానవాళి వినాశనానికి ఏఐ కారణం కావొచ్చని వార్నింగ్
ప్రముఖ ఏఐ సంస్థ ఆంత్రోపిక్కు రాజీనామా చేసిన పరిశోధకుడు
కోట్ల రూపాయల విలువైన కంపెనీ ఈక్విటీని వదులుకున్న వైనం
ఈ దశాబ్దంలోనే మానవులంతా చనిపోవచ్చని తీవ్ర ఆందోళన
పరిశోధకుడి వాదనను సమర్థించిన ఆంత్రోపిక్లోని మరో ఉద్యోగి
ప్రముఖ ఏఐ సంస్థ ఆంత్రోపిక్కు రాజీనామా చేసిన పరిశోధకుడు
కోట్ల రూపాయల విలువైన కంపెనీ ఈక్విటీని వదులుకున్న వైనం
ఈ దశాబ్దంలోనే మానవులంతా చనిపోవచ్చని తీవ్ర ఆందోళన
పరిశోధకుడి వాదనను సమర్థించిన ఆంత్రోపిక్లోని మరో ఉద్యోగి
ఆర్టిఫిషియల్ ఇంటెలిజెన్స్ (ఏఐ) రంగంలో అగ్రగామి సంస్థలు 'మన ప్రాణాలతో జూదం ఆడుతున్నాయని' వాటి పరిశోధనలు ఈ దశాబ్దం చివరి నాటికి మానవాళి వినాశనానికి దారితీయవచ్చని తీవ్ర ఆందోళన వ్యక్తం చేస్తూ ఒక పరిశోధకుడు తన ఉద్యోగానికి రాజీనామా చేశారు. ఓపెన్ఏఐ, ఆంత్రోపిక్ వంటి ప్రముఖ సంస్థల్లో పనిచేసిన జాకబ్ కాక్సన్, కోట్ల రూపాయల విలువైన కంపెనీ ఈక్విటీని సైతం వదులుకుని తన నిరసనను బలంగా వినిపించారు. ఈ ఘటన ఏఐ భద్రతపై ప్రపంచవ్యాప్తంగా జరుగుతున్న చర్చను మరోసారి తీవ్రతరం చేసింది.
వివరాల్లోకి వెళితే.. జాకబ్ కాక్సన్, ఓపెన్ఏఐలో మూడేళ్ల పాటు ప్రీట్రైనింగ్ రీసెర్చ్ విభాగంలో పనిచేసి, ఆ తర్వాత ఆంత్రోపిక్ సంస్థలో చేరారు. అయితే, ఇటీవల ఆయన తన రాజీనామాను 'ఎక్స్' (ట్విట్టర్) వేదికగా ప్రకటించారు. "స్వీయ-అభివృద్ధి చేసుకునే సూపర్ ఇంటెలిజెన్స్ ను సృష్టించేందుకు ఏఐ కంపెనీలు పోటీ పడుతున్నాయి. ఈ దశాబ్దం ముగిసేలోగా మనందరినీ చంపేసే శక్తి ఏఐకి ఉందని దాన్ని తయారుచేస్తున్న వాళ్లే నమ్ముతున్నారు" అని ఆయన తన పోస్టులలో సంచలన వ్యాఖ్యలు చేశారు.
ఈ రెండు కంపెనీలు బాధ్యతాయుతంగా వ్యవహరించడం లేదని ఆయన ఆరోపించారు. అతి త్వరలో ఈ వ్యవస్థలు మానవాతీత శక్తులుగా మారి, కీలకమైన సిస్టమ్స్ను హ్యాక్ చేయగలవని, రాత్రికి రాత్రే అనేక రంగాల్లో విప్లవాత్మక మార్పులు తీసుకురాగలవని, నిజమైన అధికారాన్ని, వనరులను చేజిక్కించుకోగలవని ఆయన హెచ్చరించారు.
కోట్ల రూపాయల ఈక్విటీ త్యాగం
నివేదికల ప్రకారం జాకబ్ కాక్సన్ తన ఆంత్రోపిక్ కంపెనీ ఈక్విటీ (షేర్లు) చేతికి అందడానికి కేవలం రెండు నెలల ముందు రాజీనామా చేశారు. దీనివల్ల ఆయన భారీ ఆర్థిక ప్రయోజనాన్ని కోల్పోయారు. సంస్థ వెళ్తున్న దిశపై తనకు నమ్మకం లేనప్పుడు, దాని విలువ పెరగడానికి తాను సహాయం చేయదల్చుకోలేదని ఆయన స్పష్టం చేశారు. అయితే, ఓపెన్ఏఐలో పనిచేసినప్పటి ఈక్విటీని ఆయన అట్టిపెట్టుకున్నారు.
అంతర్గత ఉద్యోగి మద్దతు
ఆశ్చర్యకరంగా కాక్సన్ వాదనలకు ఆంత్రోపిక్ నుంచే మద్దతు లభించింది. అదే సంస్థలో అలైన్మెంట్ స్ట్రెస్-టెస్టింగ్ బృందానికి నాయకత్వం వహిస్తున్న ఇవాన్ హ్యూబింగర్.. "జాకబ్ చెప్పింది నిజం. ఏఐ మానవులందరినీ చంపగలదని మేము కూడా నమ్ముతున్నాం!" అని బహిరంగంగా అంగీకరించారు. రాబోయే దశాబ్దంలో ఈ ప్రమాదం జరగడానికి 10శాతం కంటే ఎక్కువ అవకాశం ఉందని ఆయన అంచనా వేశారు.
సూపర్ ఇంటెలిజెన్స్ను నియంత్రణలో ఉంచే (అలైన్మెంట్) ప్రణాళిక ఆంత్రోపిక్ వద్ద ఇంకా సిద్ధంగా లేదని, ఆ దిశగా స్పష్టమైన పురోగతి కూడా కనిపించడం లేదని ఆయన అంగీకరించారు. ప్రస్తుత ఏఐ మోడళ్ల వల్ల ప్రమాదం తక్కువేనని, కానీ భవిష్యత్తులో తనకు తానుగా నేర్చుకుంటూ అభివృద్ధి చెందే సూపర్ ఇంటెలిజెన్స్ వల్లే అసలు ముప్పు అని ఆయన స్పష్టం చేశారు.
పోటీదారులను మించిపోవాలనే తొందరలో ఆంత్రోపిక్ ఉద్దేశపూర్వకంగా భద్రతా ప్రమాణాలను గాలికి వదిలేయడాన్ని తాను గమనించలేదని, కానీ పరిశ్రమలో ఉన్న తీవ్రమైన పోటీ వల్ల బృందాలు సహజంగానే భద్రత విషయంలో రాజీపడే ప్రమాదం ఉందని కాక్సన్ వివరించారు. ఈ రాజీనామా ప్రకటనలపై ఆంత్రోపిక్ గానీ, ఓపెన్ఏఐ గానీ ఇప్పటివరకు అధికారికంగా స్పందించలేదు.
వివరాల్లోకి వెళితే.. జాకబ్ కాక్సన్, ఓపెన్ఏఐలో మూడేళ్ల పాటు ప్రీట్రైనింగ్ రీసెర్చ్ విభాగంలో పనిచేసి, ఆ తర్వాత ఆంత్రోపిక్ సంస్థలో చేరారు. అయితే, ఇటీవల ఆయన తన రాజీనామాను 'ఎక్స్' (ట్విట్టర్) వేదికగా ప్రకటించారు. "స్వీయ-అభివృద్ధి చేసుకునే సూపర్ ఇంటెలిజెన్స్ ను సృష్టించేందుకు ఏఐ కంపెనీలు పోటీ పడుతున్నాయి. ఈ దశాబ్దం ముగిసేలోగా మనందరినీ చంపేసే శక్తి ఏఐకి ఉందని దాన్ని తయారుచేస్తున్న వాళ్లే నమ్ముతున్నారు" అని ఆయన తన పోస్టులలో సంచలన వ్యాఖ్యలు చేశారు.
ఈ రెండు కంపెనీలు బాధ్యతాయుతంగా వ్యవహరించడం లేదని ఆయన ఆరోపించారు. అతి త్వరలో ఈ వ్యవస్థలు మానవాతీత శక్తులుగా మారి, కీలకమైన సిస్టమ్స్ను హ్యాక్ చేయగలవని, రాత్రికి రాత్రే అనేక రంగాల్లో విప్లవాత్మక మార్పులు తీసుకురాగలవని, నిజమైన అధికారాన్ని, వనరులను చేజిక్కించుకోగలవని ఆయన హెచ్చరించారు.
కోట్ల రూపాయల ఈక్విటీ త్యాగం
నివేదికల ప్రకారం జాకబ్ కాక్సన్ తన ఆంత్రోపిక్ కంపెనీ ఈక్విటీ (షేర్లు) చేతికి అందడానికి కేవలం రెండు నెలల ముందు రాజీనామా చేశారు. దీనివల్ల ఆయన భారీ ఆర్థిక ప్రయోజనాన్ని కోల్పోయారు. సంస్థ వెళ్తున్న దిశపై తనకు నమ్మకం లేనప్పుడు, దాని విలువ పెరగడానికి తాను సహాయం చేయదల్చుకోలేదని ఆయన స్పష్టం చేశారు. అయితే, ఓపెన్ఏఐలో పనిచేసినప్పటి ఈక్విటీని ఆయన అట్టిపెట్టుకున్నారు.
అంతర్గత ఉద్యోగి మద్దతు
ఆశ్చర్యకరంగా కాక్సన్ వాదనలకు ఆంత్రోపిక్ నుంచే మద్దతు లభించింది. అదే సంస్థలో అలైన్మెంట్ స్ట్రెస్-టెస్టింగ్ బృందానికి నాయకత్వం వహిస్తున్న ఇవాన్ హ్యూబింగర్.. "జాకబ్ చెప్పింది నిజం. ఏఐ మానవులందరినీ చంపగలదని మేము కూడా నమ్ముతున్నాం!" అని బహిరంగంగా అంగీకరించారు. రాబోయే దశాబ్దంలో ఈ ప్రమాదం జరగడానికి 10శాతం కంటే ఎక్కువ అవకాశం ఉందని ఆయన అంచనా వేశారు.
సూపర్ ఇంటెలిజెన్స్ను నియంత్రణలో ఉంచే (అలైన్మెంట్) ప్రణాళిక ఆంత్రోపిక్ వద్ద ఇంకా సిద్ధంగా లేదని, ఆ దిశగా స్పష్టమైన పురోగతి కూడా కనిపించడం లేదని ఆయన అంగీకరించారు. ప్రస్తుత ఏఐ మోడళ్ల వల్ల ప్రమాదం తక్కువేనని, కానీ భవిష్యత్తులో తనకు తానుగా నేర్చుకుంటూ అభివృద్ధి చెందే సూపర్ ఇంటెలిజెన్స్ వల్లే అసలు ముప్పు అని ఆయన స్పష్టం చేశారు.
పోటీదారులను మించిపోవాలనే తొందరలో ఆంత్రోపిక్ ఉద్దేశపూర్వకంగా భద్రతా ప్రమాణాలను గాలికి వదిలేయడాన్ని తాను గమనించలేదని, కానీ పరిశ్రమలో ఉన్న తీవ్రమైన పోటీ వల్ల బృందాలు సహజంగానే భద్రత విషయంలో రాజీపడే ప్రమాదం ఉందని కాక్సన్ వివరించారు. ఈ రాజీనామా ప్రకటనలపై ఆంత్రోపిక్ గానీ, ఓపెన్ఏఐ గానీ ఇప్పటివరకు అధికారికంగా స్పందించలేదు.
