马斯克的社交媒体平台X起诉了一项加州法律，该法律旨在审查网络上的政治内容，X公司辩称这项措施压制了言论自由，违反了美国宪法第一修正案。

9月17日，加州州长加文·纽森签署了众议院第2655号法案，即“捍卫民主免受深度伪造欺骗法案”，该法案要求在该州拥有超过100万用户的在线公司对被认为“实质上具有欺骗性”的媒体进行标记或删除，这些媒体通常包括虚假展示政府官员或选举候选人的内容。11月14日，X（前Twitter）提起诉讼，质疑AB2655的“合宪性和法律有效性”。

诉讼声称：“该法案要求建立一个系统，旨在允许针对国家指定删除的言论进行快速‘删除’。”

诉讼还指控政府“参与了该系统的每一个步骤”，包括识别出被针对删除的言论。此外，法律还授权州官员采取行动删除内容并最终决定“什么样的言论是允许的”。

该法律赋予了政府强加其判断的权力，而不是让平台自行决定内容审核。

诉讼指出，AB2655将导致对广泛政治言论和评论的审查。它将限制第一修正案旨在保护的“无拘无束、强大而开放”的公共问题辩论。

X公司指控AB2655违反了美国宪法第一和第十四修正案、加州宪法中关于言论自由的保护，以及《通信规范法案》第230节对“互动计算机服务”提供的免责。

实施该法可能会导致“严重压制重要的政治言论——特别是使用夸张或不利视觉手段来攻击和对抗政治对手的做法，这如最高法院所认定，是美国政治评论历史的组成部分”，诉讼中说。

AB2655是纽森于9月17日签署的三项针对深度伪造选举内容的法案之一。当时，纽森的办公室称这些法案将“从大型在线平台上移除欺骗性内容，增加问责性，并更好地通知选民”。

州长说：“保护选举的完整性对民主至关重要，确保人工智能不会通过散布虚假信息来破坏公众信任——尤其是在当前的政治气候下。这些措施将有助于打击在政治广告和其他内容中使用深度伪造的不良行为。”

X的诉讼主张，YouTube视频、X推文和Facebook帖子是当今的报纸广告和政治漫画，创作者经常使用人工智能来生成这些类型的内容。

AB2655的要求“如此模糊和难以理解”，以至于平台无法明白如何遵守这些规定。因此，平台最终会过度审查言论，以避免代价高昂的诉讼。

X公司要求法院宣布AB2655违反美国宪法第一和第十四修正案，提供初步和永久禁令以阻止该法律的执行，并要求陪审团审判。

法律的必要性及对言论自由的威胁

当加州立法机构通过AB2655时，法案的作者、众议员Marc Berman（加州民主党）解释说，世界已进入人工智能推动的虚假信息时代，这对选举和民主构成“严重风险”。这位立法者声称，法案的通过是加州选民的胜利。

“深度伪造是那些想进行虚假信息运动的人强大的且危险的工具，它们有可能通过归因于人的虚假言论和未发生的行为来破坏我们的民主，”他说。

“AB2655将确保在线平台限制与选举相关的欺骗性深度伪造传播，这些内容旨在欺骗或剥夺选民的权利。”

言论自由团体批评了这一提案，个人权利与表达基金会称该法律为一场“灾难”。

该组织指出，实施AB2655会威胁加州人在该州自由发表政治观点的权利。该组织表示，根据该法律提出的许多投诉将是“试图压制政治对手的无理取闹”。

软件与信息产业协会的全球公共政策高级副总裁Paul Lekas表示，该法律将迫使平台对政治内容做出“复杂的价值判断”，而没有适当的指导。

“这项法案不会阻止坏人，法律责任的威胁将导致平台删除合法的政治言论，”他说。