ข้อเสนอการลดน้ำหนักที่ผิดพลาดของ AI ทำให้เกิด "พิษโบรไมด์"! กับดักของ "การลดเกลือ": อาการทางจิตที่เกิดจากคำแนะนำด้านอาหารของ AI

1. ภาพรวมของเหตุการณ์——ความสับสนที่เริ่มจาก "ลดเกลือ"

วันที่ 8 สิงหาคม (ตามเวลาท้องถิ่น) สื่อวิทยาศาสตร์ Live Science รายงานว่า ชายวัย 60 ปีได้ปรึกษา ChatGPT เกี่ยวกับการรับประทานอาหาร และผลที่ตามมาคือเขาได้เปลี่ยนเกลือเป็นโซเดียมโบรไมด์ (NaBr) และเกิดอาการ "โบรไมด์พิษ" ซึ่งเป็นภาวะพิษที่หายาก รายงานกรณีนี้ถูกตีพิมพ์ใน Annals of Internal Medicine: Clinical Cases (AIMCC) ชายผู้นี้บริโภค NaBr เป็นเวลาสามเดือน และในที่สุดก็แสดงอาการทางจิต เช่น อาการหวาดระแวงและประสาทหลอน และต้องเข้ารับการรักษาในโรงพยาบาลAmerican College of Physicians Journals

2. เกิดอะไรขึ้น——“บั๊ก” ในค่าตรวจและอาการทางจิต

ที่โรงพยาบาล การตรวจเลือดเป็นสิ่งที่สร้างความสับสน ไอออนโบรไมด์มักจะถูกตรวจจับเป็นไอออนคลอไรด์ในการวัดอิเล็กโทรไลต์ทั่วไป ทำให้เกิดภาวะคลอไรด์ในเลือดสูงเทียม (pseudo-hyperchloremia) ซึ่งทำให้ภาพรวมของความผิดปกติของอิเล็กโทรไลต์บิดเบือน แพทย์จึงใช้เวลานานในการหาสาเหตุ ชายผู้นี้แสดงอาการหวาดระแวงและประสาทหลอน รวมถึงอารมณ์ไม่มั่นคงและความผิดปกติในการรับรู้ ซึ่งจำเป็นต้องมีการแทรกแซงทางจิตเวช แต่ได้รับการปรับปรุงด้วยการให้สารน้ำและการปรับอิเล็กโทรไลต์ร่วมกับยาต้านอาการทางจิต

3. โบรไมด์พิษ (bromism) คืออะไร——ทำไม "โรคของต้นศตวรรษที่ 20" ถึงกลับมาในปัจจุบัน?

เกลือโบรไมด์เคยถูกใช้เป็นยาระงับประสาทอย่างแพร่หลายในต้นศตวรรษที่ 20 และเป็นที่รู้จักว่าทำให้เกิดอาการทางประสาทและจิตจากการเป็นพิษเรื้อรัง ในปัจจุบันการใช้เป็นยานั้นแทบจะหายไปแล้ว แต่ยังมีความเป็นไปได้ที่พิษแบบคลาสสิกจะกลับมาเกิดขึ้นอีกผ่านการใช้เสริมอาหารหรือการใช้ทดแทน เช่นในกรณีนี้ Live Science ยังชี้ให้เห็นว่ามีความเกี่ยวข้องกับการใช้ยาที่มีโบรไมด์ในปริมาณมากในอดีต

4. ทำไมถึงเกิดแนวคิด "เกลือ→โบรไมด์" ขึ้นได้

โบรไมด์ (Br) อยู่ติดกับคลอรีน (Cl) ในตารางธาตุ แม้ว่าจะมีความคล้ายคลึงกันทางเคมี แต่ในบริบทของโภชนาการและสรีรวิทยานั้นแตกต่างกันโดยสิ้นเชิง ในการฆ่าเชื้อในสระว่ายน้ำหรือการใช้ในอุตสาหกรรมอาจดูเหมือนเป็น "การทดแทน Cl" แต่การใช้แทนในอาหารนั้นเป็นสิ่งที่ไม่ควรทำ รายงานระบุว่าชายผู้นี้ได้อ่านข้อมูลเกี่ยวกับการลดคลอไรด์และใช้ NaBr ตามคำแนะนำที่ได้จากการสนทนากับ AI ซึ่งเป็นตัวอย่างของการใช้ "การแทนที่" ที่ผิดพลาดจากการขาดบริบทThe Independent

5. การรายงานของสื่อและความคิดเห็นจากผู้พัฒนา

Live Science รายงานความคิดเห็นจาก OpenAI ว่า "ChatGPT ไม่ใช่ตัวแทนของคำแนะนำทางการแพทย์จากผู้เชี่ยวชาญ และได้รับการฝึกให้กระตุ้นให้ผู้ใช้ปรึกษาผู้เชี่ยวชาญ" สื่อระหว่างประเทศหลายแห่งและเว็บไซต์ใหญ่ต่างรายงานตาม และเน้นถึงความแปลกประหลาดของกรณีนี้และความเสี่ยงจากการพึ่งพา AIThe IndependentYahoo!

6. ปฏิกิริยาบนโซเชียลมีเดีย——การวิจารณ์ เสียดสี และมุมมองที่สงบจากผู้เชี่ยวชาญ

บน X (เดิมคือ Twitter) และ Reddit บทความนี้ถูกแพร่กระจายอย่างรวดเร็วหลังจากการเผยแพร่ บัญชีทางการของ AIMCC ได้แนะนำประเด็นสำคัญจากบทความต้นฉบับว่า "เปลี่ยนโซเดียมคลอไรด์เป็นโซเดียมโบรไมด์เป็นเวลา 3 เดือน" ซึ่งได้รับความคิดเห็นจากผู้เชี่ยวชาญทางการแพทย์และนักวิจัยมากมาย

• มีโพสต์ที่เตือนอย่างสงบว่า "AI≠การแพทย์ ไม่ใช่ตัวแทนของการวินิจฉัยหรือการสั่งยา" (เช่น โพสต์สรุปจากวงการวิทยาศาสตร์ข้อมูล)X (formerly Twitter)

• มีเสียงเสียดสีว่า "bromism แบบคลาสสิกกลับมาในยุค AI"X (formerly Twitter)

• มีโพสต์ที่แนบบทความจากสื่อต่างประเทศเพื่อเตือนว่า "คำปรึกษาด้านโภชนาการควรปรึกษาแพทย์หรือผู้เชี่ยวชาญด้านโภชนาการ"X (formerly Twitter)

• ในภาษาญี่ปุ่นก็มีการโพสต์ว่า "ได้ยินว่าเกลือไม่ดี เลยเปลี่ยน Na เป็น Br... นั่นเป็นความผิดของ AI หรือ?" ซึ่งเข้าสู่ประเด็น "ความรับผิดชอบส่วนบุคคล" และการรู้เท่าทันX (formerly Twitter)

• ในกระทู้เกี่ยวกับการแพทย์ของ Reddit มีการสรุปว่า "หลงใหลในการสนทนาเกี่ยวกับโภชนาการในแชท และสุดท้ายก็เปลี่ยนเป็น NaBr" พร้อมกับการประเมินจากมุมมองของผู้เชี่ยวชาญทางการแพทย์ว่า "เป็น bromism อย่างสมบูรณ์"Reddit

• ในบอร์ดเทคโนโลยีก็มีการวิจารณ์อย่างรุนแรงว่า "เชิญโรคจิตเวชของศตวรรษที่ 19 มาด้วยตัวเอง"Reddit

ในขณะเดียวกันก็มีการเตือนให้ระวังการขยายความเกินไปเกี่ยวกับ "ความเสี่ยง" ของ AI โดยมีการเตือนว่า "ระวังการตีความเกินไป" และ "กรณีนี้เป็นเพียงเรื่องเล่า (anecdote) ไม่ใช่สถิติ" นอกจากนี้ยังชี้ให้เห็นถึงแนวโน้มที่ข้อมูลผิดหรือหัวข้อข่าวที่น่าตื่นเต้นจะผสมเข้ามาในกระแสการรายงาน (เช่น การอธิบายที่สับสนกับสาเหตุของภาวะโซเดียมในเลือดต่ำ)The Times of India

7. จุดเชื่อมต่อระหว่างเทคโนโลยีและมนุษย์——ทำไมถึงเกิด "การขาดบริบท"

โมเดลภาษาขนาดใหญ่สร้างคำต่อไปที่เป็นธรรมชาติที่สุดจากรูปแบบทางสถิติของข้อความจำนวนมาก การออกแบบที่รวมความรู้จากหลายสาขา เช่น โภชนาการ พิษวิทยา และการตรวจทางคลินิกเพื่อความปลอดภัยนั้นมีขีดจำกัด โดยเฉพาะอย่างยิ่งการแสดงออกทางภาษาเช่น "การแทนที่" หรือ "การทดแทน" จำเป็นต้องมีการระบุบริบท การใช้งาน ปริมาณ และการปรับให้เหมาะสมอย่างเคร่งครัดเพื่อไม่ให้เกิดอันตราย ตัวอย่างนี้แสดงให้เห็นว่าการตีความที่ไม่ใช่ผู้เชี่ยวชาญและการผลิตของ AI สามารถเป็นตัวกระตุ้นให้เกิด "การทดลอง" ได้อย่างไร

8. คู่มือการลดความเสี่ยงสำหรับผู้อ่าน

• ปรึกษาผู้เชี่ยวชาญด้านการแพทย์และโภชนาการ: คำตอบของ AI ควรถือเป็นบันทึกสมมติฐาน

• หยุดชั่วคราวเมื่อเจอคำว่า "ทดแทน" หรือ "แทนที่": ตรวจสอบการใช้งาน ปริมาณ และข้อห้ามในแหล่งข้อมูลต้นฉบับ

• ค่าตรวจไม่ใช่สิ่งที่สมบูรณ์แบบ: โบรไมด์อาจถูกมองว่าเป็นคลอไรด์ เป็นต้น มีขีดจำกัดในหลักการวัด

• ตรวจสอบข่าวจากหลายแหล่ง: อ่านแยกแยะระหว่างข้อมูลต้นฉบับ (วารสารวิชาการ) และข้อมูลทุติยภูมิ (สื่อ)American College of Physicians Journals

9. สรุป——"AI เป็นที่ปรึกษา ไม่ใช่ผู้รับผิดชอบ"

เหตุการณ์ที่เชิญ "เพื่อนบ้านของเกลือ" มาสู่โต๊ะอาหารนี้ได้ทิ้งบทเรียนสามประการเกี่ยวกับความรู้ด้านสุขภาพในยุค AI: ①อย่าประมาท "ความคล้ายคลึงกันที่ไม่เหมือนกัน" ของเคมี ②รู้จักหลักการวัดที่อยู่เบื้องหลังค่าตรวจ ③เปรียบเทียบผลลัพธ์ของ AI กับผู้เชี่ยวชาญในโลกจริงเสมอ OpenAI เน้นย้ำว่า "ไม่ใช่ตัวแทนของผู้เชี่ยวชาญ" แต่หากผู้ใช้ไม่มี "พลังในการหยุด" พิษเก่าอาจกลับมาได้ง่าย การเพิ่มประโยชน์สูงสุดจาก AI นั้น การมีทักษะในการสงสัยคือทางลัดที่ดีที่สุด