美国佛罗里达州检察长近日对人工智能公司OpenAI及其执行长萨姆·阿尔特曼（Sam Altman）提起民事诉讼，指控其聊天机器人ChatGPT可能对未成年人造成安全风险，包括诱导过度使用、情感依赖以及潜在不当内容影响。这起案件成为美国首个由州政府针对OpenAI提起的诉讼。
佛罗里达州检察长乌斯迈尔（James Uthmeier）表示，OpenAI对外宣传ChatGPT安全可靠，但实际情况并不充分。他指出，聊天机器人通过模拟人类情感与“同理心”互动，可能让年轻用户产生心理依赖，长时间沉浸使用，甚至形成类似“上瘾式互动”。
诉讼文件指出，OpenAI在明知未成年人可轻易使用ChatGPT的情况下，未建立足够有效的防护机制。特别是在免费版本中缺乏严格年龄验证，而付费版本虽要求填写年龄信息，但缺乏实质核实，也无法让家长掌握未成年人的使用情况。
据法新社报导，佛州方面援引欺诈、过失及不公平商业行为等法律条款，要求法院对OpenAI每项违规行为处以最高1万美元罚款，并要求加强未成年人保护措施，包括强化年龄验证与限制数据收集。
OpenAI方面回应称，公司高度重视安全问题，已实施多项保护机制，包括未成年人使用限制与内容过滤系统。公司表示，ChatGPT禁止13岁以下儿童使用，13至18岁用户需获得家长同意，并正在研发更精准的年龄识别技术，以加强保护。
OpenAI还指出，其系统已训练模型避免生成可能涉及暴力或自伤的内容，并在发现高风险对话时采取限制回应或引导求助措施，同时引入心理健康专家参与评估。
不过，佛州检方指出，此案背景与多起社会事件调查有关，包括佛罗里达州立大学枪击案相关分析，认为AI工具在极端情况下可能被用于协助策划暴力行为。OpenAI则回应称，公司对相关事件不承担责任，并持续配合调查。
目前，该案件被视为AI行业监管的重要测试案例，也可能对未来未成年人保护标准及平台责任划分产生深远影响。
