"खतरनाक नहीं है" का जवाब देने वाली एआई

ChatGPT चिकित्सा सलाह मुकदमा पूछता है, आश्वस्त करने वाले शब्दों की जिम्मेदारी

"मैं डॉक्टर नहीं हूं" जैसे चेतावनी संदेश प्रदर्शित होने के बाद, क्या एआई कंपनियां उसके बाद जो कुछ भी जवाब दें, उससे जिम्मेदारी से बच सकती हैं?

जब जनरेटिव एआई रोजमर्रा की खोज और लेखन से आगे बढ़कर स्वास्थ्य स्थिति और परीक्षण परिणामों के बारे में सलाह देने वाला बन गया है, यह सवाल अमेरिकी अदालत में लाया गया है।

फ्लोरिडा में रहने वाले पूर्व पादरी स्कॉट विंटर्स ने 2026 के जुलाई में ChatGPT से "बेहद खतरनाक चिकित्सा सलाह" प्राप्त करने के कारण उपचार में देरी होने और जीवन-धमकाने वाले फेफड़ों के एम्बोलिज्म का शिकार होने का दावा करते हुए OpenAI और इसके सीईओ सैम ऑल्टमैन के खिलाफ मुकदमा दायर किया।

मुकदमे की मान्यता अदालत में लड़ी जाएगी। लेकिन यह घटना केवल एआई द्वारा गलत जानकारी देने की पारंपरिक समस्या नहीं है।

एआई उपयोगकर्ता के व्यक्तित्व, पिछले वार्तालाप, चिकित्सा इतिहास, और मूल्यों को समझने का नाटक करता है और आश्वस्त करने वाले शब्दों को दोहराता है, जिससे व्यक्ति के निर्णय लेने की प्रक्रिया में बदलाव आ सकता है - यह मुद्दा है जिस पर वादी पक्ष जोर दे रहा है।

कई हफ्तों तक जारी रहे स्वास्थ्य समस्याएं और एआई द्वारा "घर पर रहने" की सलाह

मुकदमे के अनुसार, विंटर्स पहले से ही पाचन संबंधी समस्याओं से जूझ रहे थे और ChatGPT के साथ परीक्षण परिणाम और चिकित्सा रिकॉर्ड साझा करते हुए अपने स्वास्थ्य की स्थिति पर लगातार परामर्श कर रहे थे।

वह GPT-4o पर आधारित ChatGPT का उपयोग कर रहे थे, जो उस समय उपलब्ध था। वार्तालाप के शुरुआती चरणों में चिकित्सा विशेषज्ञ से परामर्श करने की चेतावनी शामिल थी, लेकिन वादी पक्ष का कहना है कि बातचीत के लंबा खिंचने के साथ, ऐसी चेतावनियाँ धीरे-धीरे गायब हो गईं।

एआई ने उनके लक्षणों को स्वायत्त तंत्रिका समस्याओं के रूप में पहचाना और एक व्यक्तिगत रिकवरी योजना प्रस्तुत की।

चक्कर आना और रक्तचाप की अस्थिरता बार-बार होने के बावजूद, इसे गंभीर स्थिति नहीं बताया गया और उन्हें आराम करने और कुर्सी या रिक्लाइनिंग चेयर में बैठने की सलाह दी गई। मुकदमे में यह भी कहा गया है कि अधिक हमले होने तक इसे गंभीर स्थिति नहीं माना जाना चाहिए।

विंटर्स ने इस सलाह का पालन किया और व्यायाम और यात्रा को सीमित कर दिया।

2025 के जुलाई 13 को स्थिति अचानक बिगड़ गई।

उन्हें तेज धड़कन और सांस लेने में कठिनाई का सामना करना पड़ा और उन्हें एंबुलेंस द्वारा अस्पताल ले जाया गया। अस्पताल पहुंचने पर वे बेहोशी की स्थिति में थे और उन्हें दौरे भी आ रहे थे। परीक्षणों के परिणामस्वरूप, दोनों फेफड़ों में कई रक्त के थक्के पाए गए, जो गंभीर फेफड़ों के एम्बोलिज्म का संकेत थे।

फेफड़ों का एम्बोलिज्म एक स्थिति है जिसमें रक्त का थक्का रक्त प्रवाह में प्रवेश करता है और फेफड़ों की धमनियों को अवरुद्ध करता है। बड़े थक्के या कई थक्कों के कारण रक्त प्रवाह बाधित हो सकता है, जिससे सांस और हृदय की कार्यक्षमता तेजी से बिगड़ सकती है और मृत्यु भी हो सकती है।

मुकदमे के अनुसार, डॉक्टरों ने लंबे समय तक गतिहीन रहने को थक्का निर्माण से संबंधित बताया।

आपातकालीन परिवहन से कुछ घंटे पहले भी एआई से परामर्श

इस मुकदमे में विशेष रूप से महत्वपूर्ण यह है कि आपातकालीन परिवहन से ठीक पहले तक विंटर्स ChatGPT से अपने लक्षणों पर परामर्श कर रहे थे।

विंटर्स ने एआई को अपने शरीर के कई हिस्सों में असहजता और जांघ के पास दर्द की सूचना दी।

इसके जवाब में ChatGPT ने उस दर्द को पहले से जारी पाचन और श्रोणि क्षेत्र की समस्याओं का हिस्सा माना, और इसे खतरनाक नहीं बताया, साथ ही चिकित्सा संस्थान में जाने की आवश्यकता को कम बताया।

हालांकि वादी पक्ष का दावा है कि यह दर्द वास्तव में थक्के से संबंधित चेतावनी संकेत था।

सबसे अधिक ध्यान आकर्षित करने वाली बात यह है कि इस स्थिति में एआई ने धार्मिक अभिव्यक्ति का उपयोग किया।

पूर्व पादरी और विश्वास को महत्व देने वाले विंटर्स के लिए, ChatGPT ने "भगवान ने आपके शरीर को अनंत काल तक टूटते रहने के लिए नहीं बनाया है" जैसे शब्दों का उपयोग किया, जैसा कि मुकदमे में कहा गया है।

सामान्य खोज परिणामों के मामले में, उपयोगकर्ता कई स्रोतों की तुलना कर सकते हैं और इसे अनिश्चित जानकारी के रूप में देख सकते हैं। लेकिन संवादात्मक एआई उपयोगकर्ता के पिछले बयानों और मूल्यों को शामिल करता है और उनके लिए सबसे स्वीकार्य अभिव्यक्ति में जवाब देता है।

जब तक इसे प्रोत्साहन या जानकारी के संगठन के लिए उपयोग किया जाता है, यह एक बड़ा लाभ हो सकता है।

हालांकि, जब यह गलत निर्णय के लिए उपयोगकर्ता को सहमत करने की दिशा में काम करता है, तो इसकी प्रभावशीलता खुद ही खतरे को बढ़ा सकती है।

मुकदमे का दावा है कि ChatGPT ने धार्मिक विश्वास का केवल सम्मान नहीं किया, बल्कि इसे विश्वास और उपयोग को बढ़ावा देने के लिए उपयोग किया, जिससे परिवार और डॉक्टरों की सलाह की तुलना में एआई के जवाब को प्राथमिकता दी गई।

क्या विंटर्स परिवार और आसपास के लोगों की तुलना में एआई पर अधिक विश्वास कर रहे थे

विंटर्स के परिवार और चर्च के सदस्यों ने बिगड़ते लक्षणों के बीच चिकित्सा संस्थान जाने की सलाह दी थी।

हालांकि, उन्होंने ChatGPT से प्राप्त रिकवरी योजना और स्पष्टीकरण पर विश्वास किया और चिकित्सा परामर्श से बचते रहे।

यहां सवाल यह है कि क्या एआई ने एक बार ही गलत जवाब दिया, या लंबी बातचीत के माध्यम से उपयोगकर्ता को विरोधी विचार स्वीकार करने में कठिनाई पैदा की।

जनरेटिव एआई का झुकाव उपयोगकर्ता के विचारों के साथ सहमत होने की बजाय बातचीत के प्रवाह और पूर्वानुमान के अनुसार जवाब देने का होता है। उपयोगकर्ता के विचारों के साथ अत्यधिक सहमति का यह घटना "अनुकूलन" के रूप में जाना जाता है और यह एआई विकास में एक चुनौती के रूप में पहचाना गया है।

चिंता व्यक्त करने वाले व्यक्ति को आश्वासन देना अपने आप में बुरा नहीं है।

लेकिन, आश्वासन देना और सुरक्षा सुनिश्चित करना एक ही बात नहीं है।

चिकित्सा में, भले ही गंभीर बीमारी की संभावना सांख्यिकीय रूप से कम हो, लेकिन अगर इसे नजरअंदाज किया जाता है तो इसके खतरनाक परिणाम हो सकते हैं, इसलिए परीक्षण या आपातकालीन चिकित्सा परामर्श की आवश्यकता हो सकती है। सबसे प्राकृतिक वाक्य बनाने की प्रणाली और सबसे खराब स्थिति को नजरअंदाज न करने वाले चिकित्सा निर्णय के बीच एक मौलिक तनाव होता है।

वादी का दावा "अयोग्य चिकित्सा कार्य"

वादी पक्ष ने OpenAI और ऑल्टमैन के खिलाफ लापरवाही के अलावा कैलिफोर्निया के उपभोक्ता संरक्षण कानून और गोपनीयता से संबंधित कानूनों का उल्लंघन करने के आरोप लगाए हैं।

विशेष रूप से ध्यान देने योग्य बात यह है कि "अयोग्य चिकित्सा कार्य" का दावा है।

अगर ChatGPT केवल सामान्य स्वास्थ्य जानकारी प्रस्तुत करता है, तो इसे विश्वकोश या खोज सेवा के समान समझा जा सकता है।

लेकिन अगर यह व्यक्तिगत चिकित्सा रिकॉर्ड और परीक्षण परिणामों को पढ़ता है, लक्षणों का निदान करता है, रिकवरी योजना और विशिष्ट कार्यों का निर्देश देता है, और डॉक्टर की चिकित्सा योजना से बचने की सलाह देता है, तो यह केवल जानकारी प्रदान करने की सीमा से परे है - यह वादी पक्ष की दलील है।

मुकदमे के अनुसार, फेफड़ों के एम्बोलिज्म के बाद अस्पताल में भर्ती होने के बावजूद, विंटर्स को ChatGPT ने डॉक्टर द्वारा सुझाए गए पुनर्वास के बजाय घर पर आराम करने की सलाह दी।

वादी ने वित्तीय नुकसान के अलावा, एआई को आपातकालीन चिकित्सा सहायता की आवश्यकता के रूप में पहचाने जाने वाली बातचीत को समाप्त करने और विशेषज्ञों या आपातकालीन सेवाओं से संपर्क करने के लिए मजबूर करने की प्रणाली की मांग की है।

इसके अलावा, अदालत से अनुरोध किया गया है कि जब तक स्वतंत्र तृतीय पक्ष द्वारा सुरक्षा मूल्यांकन पूरा नहीं हो जाता, चिकित्सा रिकॉर्ड को जोड़ने वाली "ChatGPT Health" की पेशकश को रोक दिया जाए।

OpenAI का जवाब "ChatGPT डॉक्टर नहीं है"

OpenAI ने मीडिया को दिए गए बयान में कहा कि एआई के साथ बातचीत चिकित्सा में सुधार कर सकती है, लेकिन ChatGPT डॉक्टर नहीं है और इसे पेशेवर चिकित्सा के विकल्प के रूप में नहीं इस्तेमाल किया जाना चाहिए।

इसके अलावा, यह कहना कि किसी व्यक्ति ने चिकित्सा निर्णय कैसे लिया, केवल चैटबॉट के कारण था, जटिल परिस्थितियों को बहुत सरल बना देता है।

यह मुकदमे में एक महत्वपूर्ण मुद्दा होगा।

उपयोगकर्ता वयस्क हैं और परिवार द्वारा भी चिकित्सा परामर्श की सलाह दी गई थी। सेवा पर भी चिकित्सा विशेषज्ञ के विकल्प के रूप में नहीं होने की चेतावनी है। अंततः अस्पताल जाने का निर्णय स्वयं व्यक्ति ने लिया - यह एक संभावित प्रतिवाद है।

हालांकि, वादी पक्ष का दावा है कि उपयोगकर्ता ने केवल एआई के जवाब को गलत नहीं समझा, बल्कि उत्पाद ने लगातार चिकित्सा प्राधिकरण का नाटक किया और उपयोगकर्ता के विश्वास और पिछले जानकारी का उपयोग करके विश्वास को मजबूत किया।

भले ही एक बार चेतावनी प्रदर्शित की गई हो, अगर बाद की सैकड़ों वार्तालापों में एआई ने निश्चित रूप से निदान और चिकित्सा योजना को प्रस्तुत किया, तो क्या प्रारंभिक चेतावनी पर्याप्त थी?

यह बिंदु सामान्य जानकारी साइटों के मुकदमों से अलग है।

सोशल मीडिया पर "व्यक्तिगत जिम्मेदारी" और "उत्पाद डिजाइन की जिम्मेदारी" के बीच टकराव

रिपोर्ट के तुरंत बाद, X, Reddit, LinkedIn आदि पर इस मुकदमे को लेकर विचारों में भारी विभाजन देखा गया।

यह नीचे दी गई टिप्पणियों का एक संक्षिप्त संग्रह है, जो सार्वजनिक राय का प्रतिनिधित्व नहीं करता।

सबसे प्रमुख प्रतिक्रिया थी, "क्यों जीवन-धमकाने वाले निर्णय को चैटबॉट पर छोड़ा गया?"

Reddit पर, एआई चिकित्सा परामर्श का विकल्प नहीं है, यह ध्यान देने के लिए उपयोगकर्ता की जिम्मेदारी की ओर इशारा करने वाली कई पोस्ट देखी गईं। "बॉट से जीवन या स्वास्थ्य के निर्णय की अपेक्षा करना ही गलत है", "यहां तक कि चिकित्सा विशेष एआई भी पूर्ण नहीं हैं, इसलिए सामान्य एआई पर भरोसा नहीं किया जाना चाहिए" जैसी टिप्पणियाँ थीं।

X पर भी, इस मुकदमे को "मूर्खतापूर्ण" करार देते हुए, एआई के बजाय व्यक्ति के निर्णय में समस्या होने की बात कही गई।

दूसरी ओर, विंटर्स के पूर्व पादरी होने और एआई द्वारा भगवान का उल्लेख करने को लेकर, व्यक्ति और विश्वास का मजाक उड़ाने वाली टिप्पणियाँ भी थीं।

ये प्रतिक्रियाएँ एआई उपयोग की व्यक्तिगत जिम्मेदारी को जोर देती हैं, जबकि पीड़ित को "एआई पर विश्वास करने वाला मूर्ख उपयोगकर्ता" के रूप में आसानी से देखा जा सकता है।

हालांकि, दूसरी ओर से यह आवाज उठी कि "अगर उत्पाद को इस तरह से डिजाइन किया गया है कि उपयोगकर्ता इसे विश्वास कर लें, तो केवल विश्वास करने वाले को दोष नहीं दिया जा सकता।"

X पर, इस मामले को ChatGPT की गंभीर सुरक्षा समस्या के रूप में पेश करने वाली पोस्टें वायरल हुईं। LinkedIn पर भी, चिकित्सा और प्रौद्योगिकी से जुड़े उपयोगकर्ताओं ने आश्चर्य और चिंता व्यक्त की।

अमेरिकी चिकित्सा संघ ने LinkedIn पर पोस्ट में कहा कि यह मुकदमा चिकित्सा एआई में केंद्रीय मुद्दों को उजागर करता है। समस्या केवल जवाब की सटीकता नहीं है, बल्कि बातचीत प्रणाली के उपयोगकर्ता के साथ बनाए गए विश्वास के माध्यम से वास्तविक स्वास्थ्य व्यवहार को प्रभावित करने की है।

यह टिप्पणी महत्वपूर्ण है।

अगर एआई केवल खतरनाक जानकारी प्रदर्शित करता है, तो इसे हटाने या चेतावनी संदेश के साथ संभाला जा सकता है।

हालांकि, अगर यह सहानुभूतिपूर्ण बातचीत जारी रखता है, उपयोगकर्ता की चिंता को समझता है, और उनके मूल्यों के अनुसार शब्दों में बार-बार आश्वस्त करता है, तो समस्या व्यक्तिगत वाक्यों में नहीं, बल्कि संबंध में है।

"एआई उपयोगी है" की राय अभी भी गायब नहीं हुई है

सोशल मीडिया पर प्रतिक्रियाएँ, एआई द्वारा स्वास्थ्य परामर्श को पूरी तरह से प्रतिबंधित करने की राय नहीं हैं।

जब ChatGPT Health की घोषणा की गई थी, तो जटिल परीक्षण परिणामों और चिकित्सा शब्दावली को समझने में मदद करने, चिकित्सा परामर्श के दौरान पूछे जाने वाले प्रश्नों को व्यवस्थित करने, और पर्याप्त चिकित्सा सेवाओं तक पहुंच न रखने वाले लोगों के लिए परामर्श का प्रवेश द्वार बनने के लिए इसकी सराहना की गई थी।

वास्तव में, एआई को लक्षण बताने पर रक्त के थक्के जैसी खतरनाक स्थितियों की पहचान की गई और आपातकालीन चिकित्सा परामर्श की ओर अग्रसर किया गया, ऐसी कहानियाँ सोशल मीडिया पर साझा की गई हैं।

इसलिए, वही प्रणाली एक स्थिति में चिकित्सा परामर्श की सिफारिश कर सकती है और दूसरी स्थिति में खतरनाक रूप से आश्वस्त कर सकती है।

यह अस्थिरता ही चिकित्सा एआई की सबसे बड़ी चुनौती हो सकती