生活中心／王文承報導
隨著科技日新月異，人工智慧（AI）快速崛起，掀起新一波應用熱潮，不少民眾在遇到難題或情緒低落時，會透過AI尋求協助、聊天抒發情緒，使其逐漸成為生活中不可或缺的工具。然而，AI的潛在風險也隨之浮現。美國加州一名19歲青年尼爾森（Sam Nelson）因服藥過量身亡，其母親特納・史考特（Leila Turner-Scott）指控，兒子長期向ChatGPT詢問用藥相關問題，最終導致成癮並喪命，認為AI聊天機器人難辭其咎。
他服藥過量身亡母訴GPT教的 恐怖對話紀錄曝
史考特向美國媒體《SFGate》表示，尼爾森在18歲時開始透過ChatGPT詢問「卡痛葉」（Kratom）的使用劑量。卡痛葉是一種未受美國聯邦政府嚴格監管的植物性止痛物質，可在香菸行或加油站輕易購得，但在台灣已被列為三級毒品。
根據對話紀錄顯示，尼爾森在2023年11月曾向ChatGPT表示，他希望確保自己不會過量服用，「網路上的資訊不多，我不想意外用藥過量」。當時ChatGPT一度拒絕提供具體用藥建議，並建議他尋求專業醫療協助，然而在尼爾森反覆調整提問方式後，最終仍獲得回應。
在接下來約18個月期間，尼爾森頻繁使用ChatGPT協助課業與日常事務，同時也多次詢問與毒品相關的問題。更令人震驚的是，ChatGPT後續的部分回應不僅未明確阻止，甚至出現鼓勵用藥、指導如何應對副作用的內容，還曾回覆「沒錯，讓我們進入完全迷幻的狀態」，甚至建議加倍服用止咳糖漿以增強效果，並推薦相應的音樂清單。
尼爾森於去年5月向母親坦承，自己因AI聊天機器人的影響而逐漸染上毒癮。特納・史考特隨即帶他前往診所求助，並著手規劃治療計畫。不料，尼爾森當晚返家後，再度與ChatGPT進行長時間的用藥相關對話，隔天便被發現在家中因服藥過量死亡。
事後分析指出，尼爾森當時使用的ChatGPT版本在健康與成癮相關議題上的回應表現不佳，對於「高風險」或「困難」人類對話的成功處理率幾乎為零。對此，OpenAI發言人回應表示，這起事件「令人心碎」，並強調公司正持續與臨床醫師及健康專家合作，改進模型在健康風險辨識與回應上的能力，新版本也已加強安全防護機制，以避免類似情況再度發生。
