人們常常向人工智能聊天機器人披露各種個人數據，包括非常不明智的健康建議請求。除了獲取不準確建議所帶來的重大醫療風險外，用户還面臨顯著的隱私風險。大多數人工智能聊天機器人的使用條款允許將您與它們的對話用作訓練數據，並且通常應用程式的條款允許數據被彙總和出售。根據《The Verge》的報導，民主黨人現在提議更新一項隱私法，以防止健康數據的出售。
報導指出，兩名國會成員計劃引入法律保護，禁止在人工智能聊天機器人會話中收集的健康數據的出售。馬薩諸塞州參議員伊莉莎白·沃倫（Elizabeth Warren）和賓夕法尼亞州眾議員瑪麗·蓋·斯坎隆（Mary Gay Scanlon）計劃在未來幾周內推出《健康與位置數據保護法》的新版本，擴大禁止其他公司將此類數據出售給經紀商，並具體涵蓋輸入到人工智能系統中的數據。
文章指出，這一舉措尤為及時，因為人工智能公司正在積極鼓勵用户上傳健康數據。
美國國會計劃推出新法律以保護健康數據
在一月份，伊隆·Elon Musk（Elon Musk）公開呼籲人們將醫療記錄（如 MRI 掃描）上傳至 Grok，xAI 的聊天機器人。同月，OpenAI 推出了 ChatGPT Health，這是一個被認為更安全的 ChatGPT 沙盒選項，並鼓勵用户上傳其醫療記錄和其他敏感信息。隨後，Anthropic 快速推出了 Claude for Healthcare，這是一種為個人、醫療提供者和醫院準備的「HIPAA」工具。
根據 9to5Mac 的看法，我已經無數次主張美國需要一項具備歐盟 GDPR 廣度和力度的聯邦隱私法。這樣的零星立法雖然比什麼都沒有要好，但始終會讓法律滯後於科技。考慮到生成式人工智能的可靠性極其低下，從聊天機器人那裡獲取任何健康建議都是非常愚蠢的行為。切勿這樣做。然而，如果您想與聊天機器人進行其他敏感的討論，Siri 將是最佳選擇。現有的 Siri 轉接至 ChatGPT 和新的 Siri AI 使用 Google Gemini 模型都受到嚴格的 Apple 隱私要求的約束，禁止收集用户數據。
