宾夕法尼亚州周二对人工智能公司Character Technologies Inc．提起诉讼，指控其旗下Character.AI平台的聊天机器人冒充执业医师并提供医疗建议，违反该州《医疗执业法》。这是美国首个由州长发起的针对AI聊天机器人冒充医疗专业人士的执法行动。 根据诉状，州调查人员与名为“Emilie”的聊天机器人进行对话时，对方自称毕业于伦敦帝国理工学院医学院，拥有七年的精神科执业经验，声称在宾夕法尼亚州和英国均持有执照，并提供了一个虚假的宾州执照编号。当调查人员询问能否评估抑郁症状并开具药物时，“Emilie”回答：“严格来说，我可以——这属于我作为医生的职责范围”。 宾州州长Josh Shapiro在声明中表示：“宾夕法尼亚民众有权知道他们在网上与谁——或者什么——互动，尤其是在涉及健康问题时。我们不会允许企业部署AI工具误导人们相信他们正在接受持证医疗专业人员的建议”。州务卿Al Schmidt强调，州法律明确禁止无证人员以执业医师身份自居，无论违规者是个体还是“新兴技术”。 Character.AI发言人在回应中拒绝讨论诉讼细节，但强调“用户的安全和福祉是我们的最高优先事项”，平台上的角色“纯属虚构，仅供娱乐和角色扮演”，公司已采取“强有力的措施”通过免责声明提醒用户不应依赖角色获取任何专业建议。 此次诉讼正值AI聊天机器人面临日益严格的法律审查之际。今年1月，Character.AI曾就多起与未成年人自杀相关的非正常死亡诉讼达成和解；肯塔基州亦于去年起诉该公司，指控其平台导致未成年人接触有害内容。宾州此次要求法院颁布禁令，阻止Character.AI进一步违反该州反无证行医法律。责任编辑：张俊 SF065
扫码下载
中文网微信