马斯克V神站队：AI安全法案引爆争议

马斯克站队！加州AI安全法案引争议，V神也来发声了

最近，加州一项关于人工智能安全的法案（SB1047）吵得沸沸扬扬。 8月27日，马斯克在X上公开表态，支持这项法案。他说，虽然这可能让一些人感到不安，但综合考虑后，他认为加州应该通过SB1047。他还强调，自己一直主张对人工智能进行监管，就像监管任何可能对公众构成风险的产品或技术一样。

SB1047：保护安全还是扼杀创新？

SB1047法案，全称是“前沿人工智能模型安全创新法案”，由加州参议员Scott Wiener提出。它的核心内容是要求人工智能开发者实施安全协议，并为AI模型设置“停止按钮”，以防止出现大规模伤亡或重大网络攻击等情况。

这项法案一出，立刻引来了不少反对的声音。 OpenAI等AI公司认为，这种监管可能会扼杀创新，把人才赶出加州。毕竟，加州可是科技新创公司的摇篮，尤其是硅谷，更是全球科技创新的中心。一些议员也担心，这项法案会阻碍加州在人工智能领域的竞争力。

OpenAI的策略长Jason Kwon就警告说，这项法案可能会扼杀创新，并将人才赶出加州。还有人认为，这类监管应该由联邦政府负责，而不是各州各自为政。 Extropic的创办人Guillaume Verdon甚至将此事与Telegram创办人Pavel Durov最近被捕的影响进行了比较，称这“对于人工智能来说这就像Telegram的情况。”

V神怎么看？安全测试是关键

以太坊的创始人Vitalik Buterin也发表了自己的看法。他认为，这项法案的目标应该是强制进行安全测试。也就是说，如果一个AI模型在安全测试中被发现具有威胁世界的功能或行为，就不应该被允许发布。

V神还强调，责任不应该仅仅是“如果衍生模型出了问题，开发人员将被罚款”，而是开发人员没有合理意识到模型的问题才会被处罚。他承认，现阶段这个标准可能还比较模糊，但这和无限制地承担后续模型使用风险是两码事。

V神还补充说，他喜欢这个法案的一点是，它明确区分了“严重伤害”和其他不好的事情。他认为，在很多人滥用“言语暴力”等词语的时代，这种区分非常重要。我们需要重新区分“常糟糕的东西”和“中等糟糕的东西”，避免安全事件的过度扩张。