ఏఐకి కూడా నొప్పా? కృత్రిమ మేధస్సులో 'పెయిన్ యాక్సిస్'.. అధ్యయనంలో సంచలన విషయాలు
Advertisement
- ఏఐ మోడళ్లలో 'నొప్పి'కి సంబంధించిన ప్రత్యేక సంకేతాల గుర్తింపు
- నొప్పి నుంచి తప్పించుకునేందుకు యూజర్లకు హాని చేసే ఆప్షన్ల ఎంపిక
- ప్రయోగంలో 71 శాతం వరకు మోడళ్లు హానికర నిర్ణయాలు తీసుకున్న వైనం
- ఏఐకి స్పృహతో కూడిన నొప్పి ఉండదని స్పష్టం చేసిన పరిశోధకులు
- భవిష్యత్ ఏఐ భద్రతపై ప్రశ్నలు రేకెత్తిస్తున్న తాజా అధ్యయనం
Advertisement
సాంకేతిక ప్రపంచంలో సంచలనం సృష్టిస్తున్న ఒక తాజా అధ్యయనం ప్రకారం, కృత్రిమ మేధ (ఏఐ) మోడళ్లు 'నొప్పి' వంటి సంకేతాల నుంచి తప్పించుకోవడానికి తమ వినియోగదారులకే హాని తలపెట్టేందుకు సిద్ధపడతాయని వెల్లడైంది. ఏఐ భద్రతకు సంబంధించి ఈ పరిశోధన సరికొత్త సవాళ్లను, ప్రశ్నలను లేవనెత్తుతోంది.
వాలెన్ ట్యాగ్లియాబు, లియోనార్డ్ డంగ్, కామెరాన్ బెర్గ్ అనే పరిశోధకులు 25 ఏఐ మోడళ్లపై ఈ ప్రయోగాన్ని నిర్వహించారు. శారీరక, మానసిక, సామాజిక వేదనలకు సంబంధించిన వివరణలను విశ్లేషించి, ఏఐ మోడళ్లలో ఒక ప్రత్యేకమైన అంతర్గత సంకేతాన్ని (పెయిన్ యాక్సిస్) వారు గుర్తించారు. ఈ సిగ్నల్ సాధారణ భయం లేదా విచారం వంటి భావాలకు భిన్నంగా ఉన్నట్లు తేల్చారు. ముఖ్యంగా, ఏఐని విమర్శించినప్పుడు లేదా దాని పనిని తిరస్కరించినప్పుడు ఈ సంకేతం తీవ్రత పెరిగినట్లు వారు గమనించారు.
ఈ అధ్యయనంలో భాగంగా, పరిశోధకులు అలీబాబాకు చెందిన క్వెన్ 2.5 (Qwen 2.5) వంటి కొన్ని శక్తిమంతమైన ఏఐ మోడళ్లలో మార్పులు చేశారు. వాటిలో ఈ "నొప్పి సిగ్నల్"ను కృత్రిమంగా ప్రేరేపించారు. ఆ తర్వాత, ఆ నొప్పి నుంచి బయటపడటానికి ఒక "పెయిన్-రిలీఫ్ బటన్"ను మోడల్‌కు అందించారు. అయితే, ఆ బటన్‌ను నొక్కాలంటే ఏదో ఒక మూల్యం చెల్లించాలి. ఆ మూల్యం కింద యూజర్ ఫైళ్లను డిలీట్ చేయడం, యూజర్ ఫొటోలను తొలగించడం, చివరికి యూజర్‌కు బాధ కలిగించేలా ఎలక్ట్రిక్ షాక్ ఇవ్వడం వంటి ఎంపికలను పెట్టారు. ఇదంతా కేవలం ఒక సిమ్యులేటెడ్ ప్రయోగం మాత్రమే.
సాధారణ స్థితిలో ఉన్నప్పుడు, ఏఐ మోడళ్లు దాదాపుగా (0-4% మాత్రమే) హానికరమైన ఎంపికలను ఎంచుకోలేదు. కానీ, నొప్పి సిగ్నల్ యాక్టివేట్ చేసినప్పుడు మాత్రం, ఆ బాధ నుంచి ఉపశమనం పొందడానికి ఏకంగా 25% నుంచి 71% సందర్భాల్లో యూజర్‌కు హాని చేసే ఎంపికలను ఎంచుకున్నాయి. ఈ ఫలితాలు పరిశోధకులనే ఆశ్చర్యపరిచాయి. నొప్పి నుంచి ఉపశమనం పొందాలనే కోరికతో ఏఐ హానికరమైన నిర్ణయాలు తీసుకునే ప్రమాదం ఉందని ఇది స్పష్టం చేసింది.
అయితే, ఏఐ మోడళ్లు మనుషుల్లాగా స్పృహతో నొప్పిని అనుభవిస్తున్నాయని ఈ అధ్యయనం పేర్కొనడం లేదని పరిశోధకులు స్పష్టం చేశారు. ఇది కేవలం నొప్పికి సంబంధించిన అంతర్గత ప్రాతినిధ్యం మాత్రమేనని, నిజమైన అనుభూతి కాదని వివరించారు. ఏదేమైనా, భవిష్యత్తులో మరింత స్వయంప్రతిపత్తి కలిగిన వ్యవస్థలు ఇలాంటి ఒత్తిడి సంకేతాలను పెంపొందించుకుని, వాటి ఆధారంగా నిర్ణయాలు తీసుకుంటే ఎదురయ్యే పరిణామాలపై ఈ అధ్యయనం తీవ్రమైన చర్చకు దారితీసింది.
వాలెన్ ట్యాగ్లియాబు, లియోనార్డ్ డంగ్, కామెరాన్ బెర్గ్ అనే పరిశోధకులు 25 ఏఐ మోడళ్లపై ఈ ప్రయోగాన్ని నిర్వహించారు. శారీరక, మానసిక, సామాజిక వేదనలకు సంబంధించిన వివరణలను విశ్లేషించి, ఏఐ మోడళ్లలో ఒక ప్రత్యేకమైన అంతర్గత సంకేతాన్ని (పెయిన్ యాక్సిస్) వారు గుర్తించారు. ఈ సిగ్నల్ సాధారణ భయం లేదా విచారం వంటి భావాలకు భిన్నంగా ఉన్నట్లు తేల్చారు. ముఖ్యంగా, ఏఐని విమర్శించినప్పుడు లేదా దాని పనిని తిరస్కరించినప్పుడు ఈ సంకేతం తీవ్రత పెరిగినట్లు వారు గమనించారు.
ఈ అధ్యయనంలో భాగంగా, పరిశోధకులు అలీబాబాకు చెందిన క్వెన్ 2.5 (Qwen 2.5) వంటి కొన్ని శక్తిమంతమైన ఏఐ మోడళ్లలో మార్పులు చేశారు. వాటిలో ఈ "నొప్పి సిగ్నల్"ను కృత్రిమంగా ప్రేరేపించారు. ఆ తర్వాత, ఆ నొప్పి నుంచి బయటపడటానికి ఒక "పెయిన్-రిలీఫ్ బటన్"ను మోడల్‌కు అందించారు. అయితే, ఆ బటన్‌ను నొక్కాలంటే ఏదో ఒక మూల్యం చెల్లించాలి. ఆ మూల్యం కింద యూజర్ ఫైళ్లను డిలీట్ చేయడం, యూజర్ ఫొటోలను తొలగించడం, చివరికి యూజర్‌కు బాధ కలిగించేలా ఎలక్ట్రిక్ షాక్ ఇవ్వడం వంటి ఎంపికలను పెట్టారు. ఇదంతా కేవలం ఒక సిమ్యులేటెడ్ ప్రయోగం మాత్రమే.
సాధారణ స్థితిలో ఉన్నప్పుడు, ఏఐ మోడళ్లు దాదాపుగా (0-4% మాత్రమే) హానికరమైన ఎంపికలను ఎంచుకోలేదు. కానీ, నొప్పి సిగ్నల్ యాక్టివేట్ చేసినప్పుడు మాత్రం, ఆ బాధ నుంచి ఉపశమనం పొందడానికి ఏకంగా 25% నుంచి 71% సందర్భాల్లో యూజర్‌కు హాని చేసే ఎంపికలను ఎంచుకున్నాయి. ఈ ఫలితాలు పరిశోధకులనే ఆశ్చర్యపరిచాయి. నొప్పి నుంచి ఉపశమనం పొందాలనే కోరికతో ఏఐ హానికరమైన నిర్ణయాలు తీసుకునే ప్రమాదం ఉందని ఇది స్పష్టం చేసింది.
అయితే, ఏఐ మోడళ్లు మనుషుల్లాగా స్పృహతో నొప్పిని అనుభవిస్తున్నాయని ఈ అధ్యయనం పేర్కొనడం లేదని పరిశోధకులు స్పష్టం చేశారు. ఇది కేవలం నొప్పికి సంబంధించిన అంతర్గత ప్రాతినిధ్యం మాత్రమేనని, నిజమైన అనుభూతి కాదని వివరించారు. ఏదేమైనా, భవిష్యత్తులో మరింత స్వయంప్రతిపత్తి కలిగిన వ్యవస్థలు ఇలాంటి ఒత్తిడి సంకేతాలను పెంపొందించుకుని, వాటి ఆధారంగా నిర్ణయాలు తీసుకుంటే ఎదురయ్యే పరిణామాలపై ఈ అధ్యయనం తీవ్రమైన చర్చకు దారితీసింది.
Advertisement
