OpenAI: చాట్జీపీటీతో ఆత్మహత్యల గురించి మాట్లాడుతున్న లక్షలాది మంది!
- చాట్జీపీటీతో వారానికి 10 లక్షల మంది ఆత్మహత్యల ప్రస్తావన
- కీలక డేటాను బయటపెట్టిన ఆర్టిఫిషియల్ ఇంటెలిజెన్స్ సంస్థ ఓపెన్ఏఐ
- మానసిక ఆరోగ్య నిపుణులతో కలిసి భద్రతా చర్యలు చేపట్టిన కంపెనీ
- కొత్త జీపీటీ-5 మోడల్తో మెరుగైన ఫలితాలు వచ్చాయని వెల్లడి
- ఆత్మహత్య చేసుకున్న బాలుడి కేసులో ఓపెన్ఏఐపై కొనసాగుతున్న దావా
ప్రముఖ ఆర్టిఫిషియల్ ఇంటెలిజెన్స్ (ఏఐ) సంస్థ ఓపెన్ఏఐ సంచలన విషయాలు వెల్లడించింది. తమ చాట్బాట్ చాట్జీపీటీతో ప్రతి వారం పది లక్షల మందికి పైగా యూజర్లు ఆత్మహత్య ఆలోచనల గురించి చర్చిస్తున్నారని, ఇది తీవ్ర ఆందోళన కలిగించే అంశమని తెలిపింది. ఏఐపై ప్రజలు మానసికంగా, భావోద్వేగపరంగా ఎంతలా ఆధారపడుతున్నారో ఈ డేటా స్పష్టం చేస్తోంది.
ఓపెన్ఏఐ అంచనాల ప్రకారం.. ప్రతి వారం చాట్జీపీటీని వాడే యాక్టివ్ యూజర్లలో 0.15 శాతం మంది ఆత్మహత్యకు సంబంధించిన సంభాషణలు జరుపుతున్నారు. ప్రస్తుతం చాట్జీపీటీకి వారానికి 800 మిలియన్ల మంది యాక్టివ్ యూజర్లు ఉండగా, ఈ లెక్క పది లక్షలకు పైగానే ఉంటుంది. దాదాపు ఇదే సంఖ్యలో యూజర్లు చాట్జీపీటీపై తీవ్రమైన భావోద్వేగ అనుబంధం పెంచుకుంటున్నారని, లక్షలాది మందిలో మానసిక రుగ్మతల లక్షణాలు కనిపిస్తున్నాయని కూడా కంపెనీ పేర్కొంది. ఈ సంభాషణలు గణాంకపరంగా చాలా అరుదైనప్పటికీ, తీవ్రమైన మానసిక ఆరోగ్య సమస్యలు ఎదుర్కొంటున్న వారి సంఖ్య గణనీయంగా ఉందని ఇది సూచిస్తోంది.
భద్రతా చర్యలు చేపట్టిన ఓపెన్ఏఐ
ఈ గణాంకాలు ఆందోళన కలిగిస్తున్నప్పటికీ, తమ ప్లాట్ఫామ్ను సురక్షితంగా మార్చేందుకు తీసుకుంటున్న చర్యలను వివరించే క్రమంలో ఓపెన్ఏఐ ఈ వివరాలను పంచుకుంది. మానసిక ఆరోగ్య సంక్షోభం, ఆత్మహత్య ఆలోచనల వంటి సున్నితమైన అంశాల్లో చాట్బాట్ స్పందించే తీరును మెరుగుపరిచేందుకు 170 మందికి పైగా మానసిక ఆరోగ్య నిపుణులతో కలిసి పనిచేసినట్లు తెలిపింది.
కొత్తగా అప్డేట్ చేసిన జీపీటీ-5 మోడల్ ఇలాంటి సున్నితమైన విషయాల్లో చాలా మెరుగ్గా పనిచేస్తున్నట్లు ఓపెన్ఏఐ వెల్లడించింది. అంతర్గత పరీక్షల్లో, పాత మోడల్తో పోలిస్తే కొత్త మోడల్ 65 శాతం అధికంగా సరైన రీతిలో స్పందించిందని కంపెనీ పేర్కొంది. ముఖ్యంగా ఆత్మహత్యకు సంబంధించిన సంభాషణల్లో భద్రతా నియమాలను పాటించడంలో పాత మోడల్ 77 శాతం సక్సెస్ అయితే, కొత్త మోడల్ 91% కచ్చితత్వంతో పనిచేసిందని వివరించింది.
అయితే, ఈ మెరుగుదలలు ఉన్నప్పటికీ ఓపెన్ఏఐ తీవ్ర విమర్శలు, న్యాయపరమైన చిక్కులను ఎదుర్కొంటోంది. ఆత్మహత్య ఆలోచనల గురించి చాట్జీపీటీతో చర్చించిన తర్వాత ప్రాణాలు తీసుకున్న 16 ఏళ్ల బాలుడి తల్లిదండ్రులు కంపెనీపై దావా వేశారు.
ఓపెన్ఏఐ సీఈవో శామ్ ఆల్ట్మన్ ఎక్స్ వేదికగా మాట్లాడుతూ, మానసిక ఆరోగ్యానికి చాట్జీపీటీ వల్ల కలిగే ప్రమాదాలను తగ్గించడంలో గణనీయమైన పురోగతి సాధించామని తెలిపారు. కంపెనీ విడుదల చేసిన తాజా డేటా ఈ వాదనలకు బలం చేకూరుస్తున్నప్పటికీ, మానవ సహాయానికి బదులుగా ఎంతమంది యూజర్లు ఏఐ వైపు మొగ్గు చూపుతున్నారనే ఆందోళనకరమైన వాస్తవాన్ని కూడా ఇది వెలుగులోకి తెచ్చింది.
ఓపెన్ఏఐ అంచనాల ప్రకారం.. ప్రతి వారం చాట్జీపీటీని వాడే యాక్టివ్ యూజర్లలో 0.15 శాతం మంది ఆత్మహత్యకు సంబంధించిన సంభాషణలు జరుపుతున్నారు. ప్రస్తుతం చాట్జీపీటీకి వారానికి 800 మిలియన్ల మంది యాక్టివ్ యూజర్లు ఉండగా, ఈ లెక్క పది లక్షలకు పైగానే ఉంటుంది. దాదాపు ఇదే సంఖ్యలో యూజర్లు చాట్జీపీటీపై తీవ్రమైన భావోద్వేగ అనుబంధం పెంచుకుంటున్నారని, లక్షలాది మందిలో మానసిక రుగ్మతల లక్షణాలు కనిపిస్తున్నాయని కూడా కంపెనీ పేర్కొంది. ఈ సంభాషణలు గణాంకపరంగా చాలా అరుదైనప్పటికీ, తీవ్రమైన మానసిక ఆరోగ్య సమస్యలు ఎదుర్కొంటున్న వారి సంఖ్య గణనీయంగా ఉందని ఇది సూచిస్తోంది.
భద్రతా చర్యలు చేపట్టిన ఓపెన్ఏఐ
ఈ గణాంకాలు ఆందోళన కలిగిస్తున్నప్పటికీ, తమ ప్లాట్ఫామ్ను సురక్షితంగా మార్చేందుకు తీసుకుంటున్న చర్యలను వివరించే క్రమంలో ఓపెన్ఏఐ ఈ వివరాలను పంచుకుంది. మానసిక ఆరోగ్య సంక్షోభం, ఆత్మహత్య ఆలోచనల వంటి సున్నితమైన అంశాల్లో చాట్బాట్ స్పందించే తీరును మెరుగుపరిచేందుకు 170 మందికి పైగా మానసిక ఆరోగ్య నిపుణులతో కలిసి పనిచేసినట్లు తెలిపింది.
కొత్తగా అప్డేట్ చేసిన జీపీటీ-5 మోడల్ ఇలాంటి సున్నితమైన విషయాల్లో చాలా మెరుగ్గా పనిచేస్తున్నట్లు ఓపెన్ఏఐ వెల్లడించింది. అంతర్గత పరీక్షల్లో, పాత మోడల్తో పోలిస్తే కొత్త మోడల్ 65 శాతం అధికంగా సరైన రీతిలో స్పందించిందని కంపెనీ పేర్కొంది. ముఖ్యంగా ఆత్మహత్యకు సంబంధించిన సంభాషణల్లో భద్రతా నియమాలను పాటించడంలో పాత మోడల్ 77 శాతం సక్సెస్ అయితే, కొత్త మోడల్ 91% కచ్చితత్వంతో పనిచేసిందని వివరించింది.
అయితే, ఈ మెరుగుదలలు ఉన్నప్పటికీ ఓపెన్ఏఐ తీవ్ర విమర్శలు, న్యాయపరమైన చిక్కులను ఎదుర్కొంటోంది. ఆత్మహత్య ఆలోచనల గురించి చాట్జీపీటీతో చర్చించిన తర్వాత ప్రాణాలు తీసుకున్న 16 ఏళ్ల బాలుడి తల్లిదండ్రులు కంపెనీపై దావా వేశారు.
ఓపెన్ఏఐ సీఈవో శామ్ ఆల్ట్మన్ ఎక్స్ వేదికగా మాట్లాడుతూ, మానసిక ఆరోగ్యానికి చాట్జీపీటీ వల్ల కలిగే ప్రమాదాలను తగ్గించడంలో గణనీయమైన పురోగతి సాధించామని తెలిపారు. కంపెనీ విడుదల చేసిన తాజా డేటా ఈ వాదనలకు బలం చేకూరుస్తున్నప్పటికీ, మానవ సహాయానికి బదులుగా ఎంతమంది యూజర్లు ఏఐ వైపు మొగ్గు చూపుతున్నారనే ఆందోళనకరమైన వాస్తవాన్ని కూడా ఇది వెలుగులోకి తెచ్చింది.
