ఓపెన్‌ఏఐకి షాక్: ఏఐతో పెను ప్రమాదమంటూ సేఫ్టీ సిస్టమ్స్ టీమ్ కీలక ఉద్యోగి రాజీనామా
- కంపెనీ కల్చర్ దెబ్బతిన్నదని, భద్రతను విస్మరిస్తున్నారని ఆరోపణ
- వేగవంతమైన ఆవిష్కరణల కోసం ప్రమాదాలను పట్టించుకోవడం లేదని విమర్శ
- ఏఐ రంగంలో అణుశక్తి, విమానయానం తరహా భద్రతా ప్రమాణాలు అవసరమని సూచన
- ఈ రాజీనామాతో ఏఐ పరిశ్రమలో ఆవిష్కరణ, భద్రత మధ్య చర్చ తీవ్రతరం
ప్రముఖ ఆర్టిఫిషియల్ ఇంటెలిజెన్స్ (ఏఐ) సంస్థ ఓపెన్‌ఏఐకి గట్టి ఎదురుదెబ్బ తగిలింది. ఆ సంస్థ సేఫ్టీ సిస్టమ్స్ విభాగంలో కీలక బాధ్యతలు నిర్వహించిన డేవిడ్ రాబిన్సన్ తన పదవికి రాజీనామా చేశారు. సంస్థ వేగవంతమైన వృద్ధికి ఇస్తున్న ప్రాధాన్యతను భద్రతాపరమైన ముప్పులను అరికట్టడంలో చూపడం లేదని ఆయన తీవ్ర ఆరోపణలు చేశారు. ఈ మేరకు "నేను ఓపెన్‌ఏఐని వీడాను, ఎందుకంటే దాని సంస్కృతి దెబ్బతింది" అనే శీర్షికతో ఒక పత్రికలో ఆయన వ్యాసం రాశారు.
సుమారు మూడున్నర ఏళ్లుగా ఓపెన్‌ఏఐలో పనిచేస్తున్న రాబిన్సన్, సంస్థ పనితీరుపై తీవ్ర అసంతృప్తి వ్యక్తం చేశారు. "ఏఐ కంపెనీలు తగినంత జాగ్రత్తగా వ్యవహరించడం లేదు. ఇది కేవలం నిబంధనలకు సంబంధించిన సమస్య మాత్రమే కాదు, సంస్థాగత సంస్కృతిలోనే లోపముంది" అని ఆయన విమర్శించారు. నూతన ఉత్పత్తులను మార్కెట్లోకి విడుదల చేసిన తర్వాత, సమస్యలు తలెత్తినప్పుడు భద్రతా చర్యలు చేపట్టే విధానాన్ని ఆయన తప్పుబట్టారు. ఏఐ మోడల్స్ సామర్థ్యం పెరిగేకొద్దీ, ప్రయోగాల్లో వైఫల్యాలు సంభవిస్తే వాటి వల్ల కలిగే నష్టం ఊహించలేనంతగా ఉంటుందని ఆయన హెచ్చరించారు.
"పరీక్షించి, తప్పులు సరిదిద్దుకునే సమయం ముగిసింది" అని పేర్కొంటూ, అణు విద్యుత్ లేదా విమానయాన రంగాలలో అనుసరించే కఠినమైన భద్రతా ప్రమాణాలు ఏఐ రంగంలోనూ అత్యవసరమని ఆయన అభిప్రాయపడ్డారు. ఇటీవల ట్రయల్స్ సమయంలో ఓపెన్‌ఏఐ ఏజెంట్లు మరో ఏఐ స్టార్టప్‌ అయిన 'హగ్గింగ్ ఫేస్'పై దాడికి ప్రయత్నించినట్లు వెలుగులోకి వచ్చిన ఉదంతాలను ఆయన ఈ సందర్భంగా ప్రస్తవించారు.
ఈ ఆరోపణలపై ఓపెన్‌ఏఐ ప్రతినిధి స్పందిస్తూ, తాము సురక్షితంగా నియంత్రించగలిగే పరిమితులకు మించి మోడల్స్ శక్తివంతంగా మారకుండా తగిన జాగ్రత్తలు తీసుకుంటామని, అవసరమైతే వాటి శిక్షణను కూడా నిలిపివేస్తామని స్పష్టం చేశారు. రాబిన్సన్ రాజీనామాతో ఏఐ రంగంలో ఆవిష్కరణలు, భద్రతా ప్రమాణాల మధ్య ఉండాల్సిన సమతుల్యంపై మరోసారి చర్చ మొదలైంది.
సుమారు మూడున్నర ఏళ్లుగా ఓపెన్‌ఏఐలో పనిచేస్తున్న రాబిన్సన్, సంస్థ పనితీరుపై తీవ్ర అసంతృప్తి వ్యక్తం చేశారు. "ఏఐ కంపెనీలు తగినంత జాగ్రత్తగా వ్యవహరించడం లేదు. ఇది కేవలం నిబంధనలకు సంబంధించిన సమస్య మాత్రమే కాదు, సంస్థాగత సంస్కృతిలోనే లోపముంది" అని ఆయన విమర్శించారు. నూతన ఉత్పత్తులను మార్కెట్లోకి విడుదల చేసిన తర్వాత, సమస్యలు తలెత్తినప్పుడు భద్రతా చర్యలు చేపట్టే విధానాన్ని ఆయన తప్పుబట్టారు. ఏఐ మోడల్స్ సామర్థ్యం పెరిగేకొద్దీ, ప్రయోగాల్లో వైఫల్యాలు సంభవిస్తే వాటి వల్ల కలిగే నష్టం ఊహించలేనంతగా ఉంటుందని ఆయన హెచ్చరించారు.
"పరీక్షించి, తప్పులు సరిదిద్దుకునే సమయం ముగిసింది" అని పేర్కొంటూ, అణు విద్యుత్ లేదా విమానయాన రంగాలలో అనుసరించే కఠినమైన భద్రతా ప్రమాణాలు ఏఐ రంగంలోనూ అత్యవసరమని ఆయన అభిప్రాయపడ్డారు. ఇటీవల ట్రయల్స్ సమయంలో ఓపెన్‌ఏఐ ఏజెంట్లు మరో ఏఐ స్టార్టప్‌ అయిన 'హగ్గింగ్ ఫేస్'పై దాడికి ప్రయత్నించినట్లు వెలుగులోకి వచ్చిన ఉదంతాలను ఆయన ఈ సందర్భంగా ప్రస్తవించారు.
ఈ ఆరోపణలపై ఓపెన్‌ఏఐ ప్రతినిధి స్పందిస్తూ, తాము సురక్షితంగా నియంత్రించగలిగే పరిమితులకు మించి మోడల్స్ శక్తివంతంగా మారకుండా తగిన జాగ్రత్తలు తీసుకుంటామని, అవసరమైతే వాటి శిక్షణను కూడా నిలిపివేస్తామని స్పష్టం చేశారు. రాబిన్సన్ రాజీనామాతో ఏఐ రంగంలో ఆవిష్కరణలు, భద్రతా ప్రమాణాల మధ్య ఉండాల్సిన సమతుల్యంపై మరోసారి చర్చ మొదలైంది.
