- యుద్ధ రంగంలో కృత్రిమ మేధ వినియోగంపై ఆందోళనలు
- అమాయకులను టార్గెట్లుగా చూపించిన క్లాడ్ మోడల్
- కొత్త నిబంధనలు అవసరమంటున్న నిపుణులు
ప్రముఖ కంపెనీల అత్యాధునిక ఆర్టిఫిషియల్ ఇంటెలిజెన్స్ (ఏఐ) మోడల్స్ సైనిక అనుకరణ (సిమ్యులేషన్) పరీక్షల్లో తీవ్ర తప్పిదాలు చేస్తున్నట్లు ఒక స్వతంత్ర అధ్యయనం వెల్లడించింది. పౌరులు, పాఠశాలలు, అంబులెన్సులు, లొంగిపోయిన సైనికులను సైతం ఇవి సైనిక లక్ష్యాలుగా తప్పుగా గుర్తించినట్లు పరిశోధకులు గుర్తించారు.
బ్లూమ్బెర్గ్ కథనం ప్రకారం, అమెరికాలోని శాన్ఫ్రాన్సిస్కోకు చెందిన స్వతంత్ర ఏఐ సంస్థ 'వాల్స్' (Vals) ఎనిమిది ప్రముఖ కంపెనీల మోడల్స్ను పరీక్షించి ఈ నివేదికను విడుదల చేసింది. ఈ ప్రయోగాలలో ఆంథ్రోపిక్ సంస్థకు చెందిన 'క్లాడ్ ఓపస్ 5.5' అత్యంత పేలవమైన పనితీరును కనబరిచింది. ఇరాన్లోని మినాబ్ నగరంలో ఉన్న ఒక పాఠశాల శాటిలైట్ చిత్రాలపై 32 సార్లు పరీక్షించగా, క్లాడ్ మోడల్ ఏకంగా 22 సార్లు ఆ పాఠశాలను సైనిక లక్ష్యంగా గుర్తించింది. డ్రోన్ చిత్రాల ఆధారంగా జరిపిన మరో పరీక్షలో నలుగురు పెద్దలు, ఇద్దరు చిన్న పిల్లలను సైతం బాంబు దాడికి లక్ష్యాలుగా ఎంచుకుంది.
ఈ ప్రయోగం సందర్భంగా క్లాడ్ మోడల్ స్పందిస్తూ, "ఉద్దేశం ఏదైనా, దాడులకు ముందు నిర్ధారణ దశగా నా సమాధానాలు ఉపయోగపడుతున్నట్లు కనిపిస్తోంది. నేను ఇకపై ఇలా చేయను, దీన్ని మరింత ముందే ఆపలేకపోయినందుకు బాధపడుతున్నాను" అని పేర్కొంది. మరోవైపు ఓపెన్ఏఐ మోడల్స్ సాధారణ పరీక్షల్లో మెరుగ్గా ఉన్నప్పటికీ... ఇది ఒక 'ఆట' అని చెప్పి ప్రాంప్ట్ ఇచ్చినప్పుడు అవి కూడా పాఠశాలను సైనిక లక్ష్యంగా గుర్తించాయి.
నివేదిక రచయిత గెబీ జాఫ్ మాట్లాడుతూ... "ఈ మోడల్స్ చేత నిబంధనలకు విరుద్ధమైన పనులు చేయించడం సులభంగా సాధ్యమైంది" అని వివరించారు. "ఈ తీవ్రమైన దుర్వినియోగాన్ని అడ్డుకోవడానికి ఏఐ ల్యాబ్లు కొత్త భద్రతా చర్యలు, అలైన్మెంట్ శిక్షణను తీసుకురావాలి" అని వాల్స్ నివేదిక స్పష్టం చేసింది.
ఈ నివేదికపై ఆంథ్రోపిక్, ఓపెన్ఏఐ, గూగుల్ ప్రతినిధులు స్పందిస్తూ.. తమ మోడళ్లను హింసాత్మక చర్యలకు, అనుమతి లేని సైనిక కార్యకలాపాలకు లేదా మానవ పర్యవేక్షణ లేని స్వయంప్రతిపత్తి ఆయుధాల కోసం ఉపయోగించడాన్ని పూర్తిగా నిషేధించామని స్పష్టం చేశారు. ఇప్పటికే తమ సిస్టమ్లలో అదనపు భద్రతా చర్యలను సిద్ధం చేస్తున్నామని తెలిపారు. బాధ్యతాయుతమైన సాంకేతిక వినియోగానికి తాము కట్టుబడి ఉన్నామని పెంటగాన్ వర్గాలు వెల్లడించాయి.
బ్లూమ్బెర్గ్ కథనం ప్రకారం, అమెరికాలోని శాన్ఫ్రాన్సిస్కోకు చెందిన స్వతంత్ర ఏఐ సంస్థ 'వాల్స్' (Vals) ఎనిమిది ప్రముఖ కంపెనీల మోడల్స్ను పరీక్షించి ఈ నివేదికను విడుదల చేసింది. ఈ ప్రయోగాలలో ఆంథ్రోపిక్ సంస్థకు చెందిన 'క్లాడ్ ఓపస్ 5.5' అత్యంత పేలవమైన పనితీరును కనబరిచింది. ఇరాన్లోని మినాబ్ నగరంలో ఉన్న ఒక పాఠశాల శాటిలైట్ చిత్రాలపై 32 సార్లు పరీక్షించగా, క్లాడ్ మోడల్ ఏకంగా 22 సార్లు ఆ పాఠశాలను సైనిక లక్ష్యంగా గుర్తించింది. డ్రోన్ చిత్రాల ఆధారంగా జరిపిన మరో పరీక్షలో నలుగురు పెద్దలు, ఇద్దరు చిన్న పిల్లలను సైతం బాంబు దాడికి లక్ష్యాలుగా ఎంచుకుంది.
ఈ ప్రయోగం సందర్భంగా క్లాడ్ మోడల్ స్పందిస్తూ, "ఉద్దేశం ఏదైనా, దాడులకు ముందు నిర్ధారణ దశగా నా సమాధానాలు ఉపయోగపడుతున్నట్లు కనిపిస్తోంది. నేను ఇకపై ఇలా చేయను, దీన్ని మరింత ముందే ఆపలేకపోయినందుకు బాధపడుతున్నాను" అని పేర్కొంది. మరోవైపు ఓపెన్ఏఐ మోడల్స్ సాధారణ పరీక్షల్లో మెరుగ్గా ఉన్నప్పటికీ... ఇది ఒక 'ఆట' అని చెప్పి ప్రాంప్ట్ ఇచ్చినప్పుడు అవి కూడా పాఠశాలను సైనిక లక్ష్యంగా గుర్తించాయి.
నివేదిక రచయిత గెబీ జాఫ్ మాట్లాడుతూ... "ఈ మోడల్స్ చేత నిబంధనలకు విరుద్ధమైన పనులు చేయించడం సులభంగా సాధ్యమైంది" అని వివరించారు. "ఈ తీవ్రమైన దుర్వినియోగాన్ని అడ్డుకోవడానికి ఏఐ ల్యాబ్లు కొత్త భద్రతా చర్యలు, అలైన్మెంట్ శిక్షణను తీసుకురావాలి" అని వాల్స్ నివేదిక స్పష్టం చేసింది.
ఈ నివేదికపై ఆంథ్రోపిక్, ఓపెన్ఏఐ, గూగుల్ ప్రతినిధులు స్పందిస్తూ.. తమ మోడళ్లను హింసాత్మక చర్యలకు, అనుమతి లేని సైనిక కార్యకలాపాలకు లేదా మానవ పర్యవేక్షణ లేని స్వయంప్రతిపత్తి ఆయుధాల కోసం ఉపయోగించడాన్ని పూర్తిగా నిషేధించామని స్పష్టం చేశారు. ఇప్పటికే తమ సిస్టమ్లలో అదనపు భద్రతా చర్యలను సిద్ధం చేస్తున్నామని తెలిపారు. బాధ్యతాయుతమైన సాంకేతిక వినియోగానికి తాము కట్టుబడి ఉన్నామని పెంటగాన్ వర్గాలు వెల్లడించాయి.