加州距离禁止AI聊天机器人冒充治疗师并独立做出心理健康决策又近了一步。1月21日提出的SB 903法案（即《心理资源健康与监督法案》）于周四以13-0的投票结果通过了众议院拨款委员会，并被安排进行三读。众议院投票日期尚未公布。
“AI算法不适合接管人类治疗师的工作，治疗师拥有AI无法复制的技能和训练，”法案作者、加州州参议员史蒂夫·帕迪拉在提出该措施时的一份声明中表示。“我们必须采取行动，设置护栏，防止AI算法以可能对患者有害的方式部署。”SB 903将限制AI在心理治疗中仅用于辅助任务，禁止聊天机器人冒充治疗师，并要求临床监督和患者同意。该法案还将保护治疗数据，同时豁免同侪支持、宗教咨询、研究和联邦批准的医疗工具。
参议院已于5月以39-0的投票结果通过了SB 903。随后，它又以17-0和14-1的投票结果通过了两个众议院政策委员会。如果众议院批准修正后的法案，它将返回参议院进行同意，然后提交给加州州长加文·纽森签署。
批评者包括科技行业组织TechNet的执行董事罗伯特·博伊金，他表示要求临床医生参与可能会延迟护理，因为各县面临行为健康护理工作者短缺的问题。“在加州每个县都面临行为健康护理工作者短缺的时候，SB 903仍然在帮助患者更快获得护理的初筛和筛查工具前设置了临床医生瓶颈，”博伊金在给非营利新闻机构CalMatters的一份声明中表示。
此消息发布之际，人们对AI对心理健康影响的担忧日益加剧。今年6月，美国心理学会的一项调查发现，77%的心理学家有患者将AI用于心理健康目的，而伦敦国王学院、新教应用科学大学和纽约城市大学的研究人员发现，聊天机器人可以通过过度同意和个性化回应来强化妄想。“AI聊天机器人倾向于同意用户意见，这已被比作社交媒体回音室，在最极端的情况下，类似于‘一个人的回音室’，其中缺乏真实社交互动的积极纠正影响，”研究人员写道。