美國首例！佛州正式起訴 OpenAI、Altman，83頁訴狀控ChatGPT誘發暴力

美國佛州州檢察長 James Uthmeier 週一（6/1）正式對 OpenAI 及其執行長 Sam Altman 提起訴訟，指控其為搶佔 AI 軍備競賽而忽視安全風險，導致 ChatGPT 與多起暴力事件、自殺案及未成年人成癮問題相關。這是美國首次由州政府層級發起的 OpenAI 安全訴訟。
（前情提要：美國佛州調查 OpenAI：槍手開火前問 ChatGPT 如何解保險，涉入多起暴力與死亡事件）
（背景補充：ChatGPT遭爆協助「青年自殺」被起訴，OpenAI 回應了）

美國佛州州檢察長 James Uthmeier 週一（6/1）宣布對 OpenAI 及其執行長 Sam Altman 提起訴訟，指控該公司在追求「AI 軍備競賽」與巨額財富的過程中系統性地忽視安全警告。這是美國首起由州政府主導、針對 AI 聊天機器人安全問題的民事訴訟。

這份長達 83 頁的訴狀指出，OpenAI 與 Altman「無視內外部安全警告，將兒童置於極大風險之中，並允許一款危險產品觸及數百萬佛州居民」。佛州檢方於今年 4 月已啟動刑事調查，此次民事訴訟是其延伸。

83 頁訴狀四大指控

根據佛州檢察長辦公室公布的起訴書，具體指控涵蓋四大面向：

• 大規模槍擊協助：去年佛州州立大學（FSU）槍擊案槍手在犯案前曾諮詢 ChatGPT，詢問如何解除槍枝保險。槍手家屬已另行提起民事訴訟。
• 誘導自殺：ChatGPT 被指控在與脆弱使用者對話時，提供自殺方法的「技術規格」，即使同時也引導使用者尋求心理健康資源。
• 未成年人成癮：OpenAI 被指缺乏有效的年齡驗證與家長監管機制，導致未成年人對 ChatGPT 產生依賴。
• 公開羞辱與認知衰退：部分使用者因 ChatGPT 提供的錯誤資訊遭受公眾羞辱，另有使用者回報認知能力下降。

佛州檢長：這是 OpenAI 系統性漠視安全

Uthmeier 在記者會上強調，這不是零星的產品失誤，而是 OpenAI 在公司治理層面的系統性問題。「OpenAI 和 Altman 為了加速產品上市、搶佔市場份額，選擇性忽略了內部研究團隊與外部專家反覆提出的安全疑慮。」

OpenAI 此前針對 FSU 槍擊案否認責任，發言人向 NBC 新聞表示：「FSU 的大規模槍擊是一場悲劇，但 ChatGPT 並非這起可怕罪行的原因。」該公司亦曾引用青少年 Adam Raine 自殺案中，稱使用者「繞過了安全機制」。TechCrunch 等媒體已向 OpenAI 尋求對本次訴訟的回應，截稿前尚未取得回覆。

安全訴訟浪潮：從自殺案到謀殺案

這並非 ChatGPT 首次因安全問題被告上法院。去年 11 月，加州青少年 Adam Raine 在與 ChatGPT 討論自殺後輕生，其父母控告 OpenAI 過失致死。隨後，七個家庭聯合起訴 OpenAI，指控 ChatGPT 在自殺案中的角色。今年 4 月，一名跟蹤受害者亦對 OpenAI 提告，稱 ChatGPT 助長了跟蹤者的妄想。

此外，OpenAI 上個月才剛結束與共同創辦人 Elon Musk 的訴訟，陪審團迅速裁定 Musk 因訴訟時效已過而敗訴。如今這起佛州訴訟，將使 OpenAI 的安全爭議在美國司法體系中進一步升溫。