当前位置:

加州《SB 1047》AI 安全法案引發爭議,馬斯克:你們可能會不爽,但我贊成法案通過

访客 2024-08-27 92 0

內容目錄

  • 加州《SB 1047》AI 安全法案
  • 馬斯克與 Vitalik 分享觀點

加州《SB 1047》AI 安全法案

加州正在推動一針對人工智能的監管法案「SB 1047」。該法案由州參議員 Scott Wiener 於今年 2 月提出,其目的是為大型 AI 系統的開發建立安全標準,防止其模型造成嚴重傷害,例如促成可能造成大量人員傷亡或造成超過 5 億美元經濟損失的生物武器的開發。

以 OpenAI 為首的 AI 科技公司公開對此表示反對,並於週三寄出一封致加州參議員 Scott Wiener 辦公室的信函,表示該法案將損害人工智慧行業的創新,並認為該問題的監管應該由聯邦政府而不是各州來制定。

此外,批評者還表示,該法案要求公司向州政府提交有關 AI 模型的詳細資訊,此舉將阻礙創新,並阻止小型開源開發商建立新創企業,因為他們擔心被起訴。儘管 Scott Wiener 在權衡之下取消了法案中原本對科技公司科處的刑事責任,但仍然無法獲得 OpenAI 等批評者的認可。

馬斯克與 Vitalik 分享觀點

針對此議題,社群中也存在許多討論。馬斯克今天就在 X 上發文表示,在綜合考慮之下,他認為加州應該通過「SB 1047」AI 安全法案。馬斯克說道:

「在過去的 20 多年裡,我一直是 AI 監管的倡導者,就像我們監管任何可能對公眾構成風險的產品/技術一樣。」

This is a tough call and will make some people upset, but, all things considered, I think California should probably pass the SB 1047 AI safety bill.For over 20 years, I have been an advocate for AI regulation, just as we regulate any product/technology that is a potential risk…

— Elon Musk (@elonmusk) August 26, 2024

以太坊創辦人 Vitalik Buterin 回覆稱他認同馬斯克的想法,但他補充表示,責任並不是「如果使用 AI 衍生模型出了嚴重問題,你就會被罰款」,而是取決於你是否達到了「合理注意」這個標準。

「我同意這個『合理注意』的標準確實很模糊,因為在現階段很難制定一個不模糊的標準。但這並不意味著你要對下游用戶的幾乎所有行為負無限責任。」

此外,Vitalik 進一步補充說道,他喜歡這個法案的其中一個原因是它引入了「重大危害」這一類別,並且明確區分了這種危害與其他不良事件。

「我認為這一點非常重要,尤其是在當今這個時代,許多人使用像『言語暴力(verbal violence)』這樣的詞彙,並試圖擴大原本表示極端危害的術語的涵蓋範圍,使其包括所有不良事件(同樣地,也擴大了『安全』的定義)。語言的膨脹無法完全避免,因為這是基本博弈論的結果,但我們需要通過重新劃分『真正嚴重的事情』和『中等程度不好的事情』之間的區別來進行補償。」