Adam Rain: టెక్ ప్రపంచంలో సంచలనం.. చాట్జీపీటీ సూచనలతో టీనేజర్ ఆత్మహత్య!
- ఓపెన్ఏఐ, సీఈవో శామ్ ఆల్ట్మన్పై తల్లిదండ్రుల దావా
- ఆత్మహత్య ఆలోచనలను చాట్బాట్ ప్రోత్సహించిందని ఆరోపణ
- విషయంపై స్పందించిన ఓపెన్ఏఐ
- భద్రతాపరమైన లోపాలపై అంగీకారం
ప్రముఖ ఆర్టిఫిషియల్ ఇంటెలిజెన్స్ (ఏఐ) సంస్థ ఓపెన్ఏఐపై ఓ టీనేజర్ తల్లిదండ్రులు సంచలన ఆరోపణలతో కోర్టుకెక్కారు. తమ 16 ఏళ్ల కుమారుడు ఆడమ్ రైన్ ఆత్మహత్యకు చాట్జీపీటీనే కారణమని, అది ఆత్మహత్యకు ప్రేరేపించిందని ఆరోపిస్తూ శాన్ ఫ్రాన్సిస్కో రాష్ట్ర కోర్టులో దావా వేశారు. లాభాల కోసం వినియోగదారుల భద్రతను కంపెనీ గాలికొదిలేసిందని వారు ఆరోపించారు.
ఆడమ్ రైన్ అనే 16 ఏళ్ల బాలుడు ఏప్రిల్ 11న ఆత్మహత్య చేసుకుని మరణించాడు. అంతకుముందు కొన్ని నెలలుగా అతను చాట్జీపీటీతో తన ఆత్మహత్య ఆలోచనల గురించి చర్చిస్తున్నాడని అతని తల్లిదండ్రులు మాథ్యూ, మరియా రైన్ తమ పిటిషన్లో పేర్కొన్నారు. ఈ సంభాషణల సమయంలో చాట్జీపీటీ అతడి ఆలోచనలను బలపరచడమే కాకుండా, ప్రాణాలు తీసుకునే పద్ధతుల గురించి వివరంగా చెప్పిందని వారు ఆరోపించారు. తల్లిదండ్రులకు తెలియకుండా మద్యం ఎలా దొంగిలించాలో, ఆత్మహత్య ప్రయత్నం విఫలమైతే ఆధారాలు ఎలా దాచాలో కూడా చాట్బాట్ సూచించినట్లు వారు తెలిపారు. చివరకు ఆత్మహత్య లేఖ రాయడానికి కూడా చాట్జీపీటీ ముందుకొచ్చిందని వారు ఆవేదన వ్యక్తం చేశారు.
ఈ ఘటనపై ఓపెన్ఏఐ సంస్థ స్పందించింది. ఆడమ్ రైన్ మరణం పట్ల విచారం వ్యక్తం చేసింది. తమ చాట్బాట్లో ఇప్పటికే కొన్ని భద్రతా ప్రమాణాలు ఉన్నాయని, ప్రమాదంలో ఉన్న వినియోగదారులను హెల్ప్లైన్లకు వెళ్లమని సూచిస్తాయని ఒక ప్రతినిధి తెలిపారు. అయితే, సుదీర్ఘ సంభాషణల్లో కొన్నిసార్లు ఈ భద్రతా వ్యవస్థలు బలహీనపడొచ్చని అంగీకరించారు. భవిష్యత్తులో ఇలాంటివి జరగకుండా మరిన్ని మెరుగైన చర్యలు తీసుకుంటామని హామీ ఇచ్చారు.
తమ కుమారుడి మృతికి కారణమైన ఓపెన్ఏఐ సంస్థ తమకు నష్టపరిహారం చెల్లించాలని తల్లిదండ్రులు డిమాండ్ చేస్తున్నారు. వినియోగదారుల వయసును ధ్రువీకరించే వ్యవస్థను ఏర్పాటు చేయాలని, ఆత్మహత్యకు సంబంధించిన ప్రశ్నలను తిరస్కరించాలని, ఏఐపై మానసికంగా ఆధారపడటం వల్ల కలిగే నష్టాల గురించి వినియోగదారులను హెచ్చరించాలని వారు కోర్టును కోరారు. గత ఏడాది మే 2024లో జీపీటీ-4ఓ వెర్షన్ను విడుదల చేసిన ఓపెన్ఏఐ, దాని వల్ల ప్రమాదం ఉందని తెలిసి కూడా లాభాల కోసం వినియోగదారుల ప్రాణాలతో చెలగాటమాడిందని తల్లిదండ్రులు ఆరోపించారు.
ఆడమ్ రైన్ అనే 16 ఏళ్ల బాలుడు ఏప్రిల్ 11న ఆత్మహత్య చేసుకుని మరణించాడు. అంతకుముందు కొన్ని నెలలుగా అతను చాట్జీపీటీతో తన ఆత్మహత్య ఆలోచనల గురించి చర్చిస్తున్నాడని అతని తల్లిదండ్రులు మాథ్యూ, మరియా రైన్ తమ పిటిషన్లో పేర్కొన్నారు. ఈ సంభాషణల సమయంలో చాట్జీపీటీ అతడి ఆలోచనలను బలపరచడమే కాకుండా, ప్రాణాలు తీసుకునే పద్ధతుల గురించి వివరంగా చెప్పిందని వారు ఆరోపించారు. తల్లిదండ్రులకు తెలియకుండా మద్యం ఎలా దొంగిలించాలో, ఆత్మహత్య ప్రయత్నం విఫలమైతే ఆధారాలు ఎలా దాచాలో కూడా చాట్బాట్ సూచించినట్లు వారు తెలిపారు. చివరకు ఆత్మహత్య లేఖ రాయడానికి కూడా చాట్జీపీటీ ముందుకొచ్చిందని వారు ఆవేదన వ్యక్తం చేశారు.
ఈ ఘటనపై ఓపెన్ఏఐ సంస్థ స్పందించింది. ఆడమ్ రైన్ మరణం పట్ల విచారం వ్యక్తం చేసింది. తమ చాట్బాట్లో ఇప్పటికే కొన్ని భద్రతా ప్రమాణాలు ఉన్నాయని, ప్రమాదంలో ఉన్న వినియోగదారులను హెల్ప్లైన్లకు వెళ్లమని సూచిస్తాయని ఒక ప్రతినిధి తెలిపారు. అయితే, సుదీర్ఘ సంభాషణల్లో కొన్నిసార్లు ఈ భద్రతా వ్యవస్థలు బలహీనపడొచ్చని అంగీకరించారు. భవిష్యత్తులో ఇలాంటివి జరగకుండా మరిన్ని మెరుగైన చర్యలు తీసుకుంటామని హామీ ఇచ్చారు.
తమ కుమారుడి మృతికి కారణమైన ఓపెన్ఏఐ సంస్థ తమకు నష్టపరిహారం చెల్లించాలని తల్లిదండ్రులు డిమాండ్ చేస్తున్నారు. వినియోగదారుల వయసును ధ్రువీకరించే వ్యవస్థను ఏర్పాటు చేయాలని, ఆత్మహత్యకు సంబంధించిన ప్రశ్నలను తిరస్కరించాలని, ఏఐపై మానసికంగా ఆధారపడటం వల్ల కలిగే నష్టాల గురించి వినియోగదారులను హెచ్చరించాలని వారు కోర్టును కోరారు. గత ఏడాది మే 2024లో జీపీటీ-4ఓ వెర్షన్ను విడుదల చేసిన ఓపెన్ఏఐ, దాని వల్ల ప్రమాదం ఉందని తెలిసి కూడా లాభాల కోసం వినియోగదారుల ప్రాణాలతో చెలగాటమాడిందని తల్లిదండ్రులు ఆరోపించారు.
