美國佛羅里達州檢察長近日對人工智慧公司OpenAI及其執行長薩姆·阿爾特曼（Sam Altman）提起民事訴訟，指控其聊天機器人ChatGPT可能對未成年人造成安全風險，包括誘導過度使用、情感依賴以及潛在不當內容影響。這起案件成為美國首個由州政府針對OpenAI提起的訴訟。
佛羅里達州檢察長烏斯邁爾（James Uthmeier）表示，OpenAI對外宣傳ChatGPT安全可靠，但實際情況並不充分。他指出，聊天機器人通過模擬人類情感與「同理心」互動，可能讓年輕用戶產生心理依賴，長時間沉浸使用，甚至形成類似「上癮式互動」。
訴訟文件指出，OpenAI在明知未成年人可輕易使用ChatGPT的情況下，未建立足夠有效的防護機制。特別是在免費版本中缺乏嚴格年齡驗證，而付費版本雖要求填寫年齡信息，但缺乏實質核實，也無法讓家長掌握未成年人的使用情況。
據法新社報導，佛州方面援引欺詐、過失及不公平商業行為等法律條款，要求法院對OpenAI每項違規行為處以最高1萬美元罰款，並要求加強未成年人保護措施，包括強化年齡驗證與限制數據收集。
OpenAI方面回應稱，公司高度重視安全問題，已實施多項保護機制，包括未成年人使用限制與內容過濾系統。公司表示，ChatGPT禁止13歲以下兒童使用，13至18歲用戶需獲得家長同意，並正在研發更精準的年齡識別技術，以加強保護。
OpenAI還指出，其系統已訓練模型避免生成可能涉及暴力或自傷的內容，並在發現高風險對話時採取限制回應或引導求助措施，同時引入心理健康專家參與評估。
不過，佛州檢方指出，此案背景與多起社會事件調查有關，包括佛羅里達州立大學槍擊案相關分析，認為AI工具在極端情況下可能被用於協助策劃暴力行為。OpenAI則回應稱，公司對相關事件不承擔責任，並持續配合調查。
目前，該案件被視為AI行業監管的重要測試案例，也可能對未來未成年人保護標準及平台責任劃分產生深遠影響。
