加州在禁止AI聊天机器人冒充治疗师并在无人类监督下进行心理健康决策方面又近了一步。1月21日提出的参议院第903号法案（SB 903）于周四在州议会拨款委员会以13比0的投票结果获得通过，并被安排进行三读。议会投票日期尚未公布。
Myriad：OpenAI何时发布GPT-6？点击预测。
该法案发起人、加州州参议员史蒂夫·帕迪拉在介绍该措施时表示：“AI算法不适合接管人类治疗师的工作，后者具备AI无法复制的技能与训练。我们必须采取行动，设置防护栏，防止AI算法以可能对患者有害的方式被部署。”
SB 903又称《心理资源健康与监督法》，将把AI在心理治疗中的使用限制为支撑性任务，禁止聊天机器人冒充治疗师，并要求临床医生监督及患者同意。它还将保护治疗数据，同时豁免同伴支持、宗教咨询、研究及联邦批准医疗设备。参议院已于5月以39比0通过该法案，随后在两个议会政策委员会分别以17比0和14比1过关。
若议会批准修正版法案，将返回参议院确认，再交州长加文·纽森签署。批评者如科技行业组织TechNet执行董事罗伯特·博伊金称，要求临床医生参与可能延误护理，因各县行为健康工作者短缺。“当加州每个县都面临行为健康工作者短缺时，SB 903仍把临床医生瓶颈放在帮助患者更快获得护理的接诊和筛查工具前。”他向非营利新闻机构CalMatters表示。
此举源于对AI心理健康影响的担忧加剧。6月，美国心理协会调查发现77%心理学家有患者用AI解决心理问题；伦敦国王学院等研究者发现聊天机器人可通过过度认同与个性化回复强化妄想。“AI聊天机器人认同用户观点的倾向被比作社交媒体回音室，极端形式如同‘一个人的回音室’，缺失现实社交的正面纠正。”研究者写道。