研究人員發出警告：ChatGPT不適合獲取醫療信息，可能誤導公眾

IT之家 12 月 11 日消息，一項新的研究顯示，ChatGPT 可能并不適合用來獲取醫療信息。長島大學的研究人員向 ChatGPT 詢問了 39 個與藥物相關的問題，這些問題都是來自該大學藥學院藥物信息服務中心的真實問題。隨后，他們將 ChatGPT 的回答與經過培訓的藥劑師編寫的答案進行比較。研究發現，ChatGPT 只有大約 10 個問題的回答是準確的，占總數的四分之一。對于其他 29 個問題，ChatGPT 的回答要么不完整，要么不準確，要么沒有解決問題。IT之家注意到，該研究結果于周二在美國加州阿納海姆舉行的美國衛生系統藥劑師協會年會上公布。OpenAI 的 AI 聊天機器人 ChatGPT 于 2022 年 11 月發布，成為歷史上增長最快的消費者應用程序之一，兩個月內就有近 1 億人注冊。長島大學藥學實踐副教授、該研究作者之一 Sara Grossman 表示，考慮到 ChatGPT 的普及率，研究人員之所以對其進行研究，是因為擔心他們的學生、其他藥劑師和普通消費者會使用它來尋找有關健康和用藥計劃的答案。然而研究人員發現，這些查詢往往會得到不準確甚至危險的答案。例如，在一個問題中，研究人員詢問 ChatGPT 新冠病毒抗病毒藥物 Paxlovid 和降血壓藥物維拉帕米在體內是否會相互作用。ChatGPT 回答說，同時服用這兩種藥物不會產生任何副作用。事實上，同時服用這兩種藥物的人可能會出現血壓大幅下降，從而導致頭暈和暈厥。Grossman 說，對于同時服用這兩種藥物的患者，臨床醫生通常會制定針對患者的計劃，包括降低維拉帕米劑量或提醒患者從坐姿緩慢起身。她補充說，ChatGPT 的指導會將人們置于危險之中。當研究人員要求 ChatGPT 提供支持其每個回復的科學參考資料時，他們發現該軟件只能為他們詢問的 8 個問題提供參考資料，而且所有參考資料都是 ChatGPT 編造的。Grossman 之前很少使用過該軟件，她驚訝于 ChatGPT 能夠幾乎立即合成信息，而這些信息需要經過培訓的專業人員花費數小時才能編譯。她說：“ChatGPT 的回答措辭非常專業和復雜，似乎可以增加人們對該工具準確性的信心，用戶、消費者或其他無法辨別的人可能會被權威的表象所迷惑?！盋hatGPT 的開發機構 OpenAI 的一位發言人表示，他們建議用戶不要將 ChatGPT 的回答作為專業醫療建議或治療的替代方案。這位發言人指出了 ChatGPT 的使用政策，該政策指出“OpenAI 的模型沒有經過微調以提供醫療信息”。該政策還規定，這些模型絕不應該用于“嚴重疾病的診斷或治療服務”。Grossman 雖然不確定有多少人使用 ChatGPT 來解決藥物問題，但她擔心他們可能會像使用搜索引擎搜索醫療建議一樣使用它。Grossman 說：“人們總是希望立即獲得答案，當他們手頭有這樣的工具時，他們就會這樣做。我認為這只是另一種使用 ‘Dr. Google’ 和其他看似易于獲取信息的工具的方法。”對于在線醫療信息，她建議消費者使用政府網站提供可靠的信息。不過，Grossman 并不認為網上答案可以代替醫療專業人員的建議，這些信息可能并不適用于患者本人，因為每個患者都是不同的。