SB 1047的大幕落下，州長的否決以及李飛飛等人的新使命
這場爭論真是好戲連台，圍繞SB 1047的討論持續了整整大半年，終於迎來了落幕時刻。加州的州長Gavin Newsom果斷否決了這項法案，令不少人松了一口氣。
SB 1047，全名是【前沿人工智慧模型安全創新法案】，其初衷是希望為高風險的人工智慧模型制定一套明確的安全標準，以防止可能的濫用和災難性後果。具體來說，這項法案試圖在模型層面對人工智慧進行監管，適用於在特定的計算和成本閾值之上進行訓練的模型。然而，如果嚴格按照這些標準來評估，那麽眼下市場上一些流行的大型模型都可能被標記為「潛在危險」。更重要的是，法案規定模型背後的開發公司需要對模型在下遊的使用和修改承擔法律責任，這樣一來，許多開發者恐怕會因此止步不前，產生「寒蟬效應」。
這項法案的提出可以追溯到今年2月，經過長時間爭論，李飛飛、Yann LeCun和吳恩達等知名學者紛紛站出來表示反對。李飛飛甚至寫了文章，深入分析了法案的潛在負面影響。此外，加州大學的數十名師生也聯合簽署了一封信函以表達反對態度，力圖維護開放和自由的科學環境。不過，支持這一法案的人士包括馬斯克、Hinton和Bengio，他們也各自在積極表達自己的觀點。
送出給州長之前，各方展開了激烈的辯論，如今結果已塵埃落定。州長Newsom在否決法案時列舉了多個影響他決策的因素，包括此法案對人工智慧公司造成的負擔，以及對加州在這一領域的領導地位和對法案過於寬泛的批評。在訊息釋出後，Yann LeCun代表開源社群表示了對州長的感謝，而吳恩達則贊揚了Yann在解釋法案弊端方面的努力。對此法案的發起人，參議員Scott Wiener顯得非常失望，認為這一否決是對所有關註大公司行為的人的一次打擊，畢竟這些大企業正在做出影響公共安全和未來的關鍵決策。
需要說明的是，盡管SB 1047被否決，但並不意味著加州會對AI安全問題置之不理。州長Newsom在聲明中也提到，李飛飛等人將會協助制定負責任的生成式人工智慧套用措施。
在給定的否決聲明中，州長Newsom闡述了自己的擔憂，認為SB 1047誇大了對人工智慧部署可能帶來的威脅。辯論的焦點在於，監管的標準是應基於開發模型所需的成本和計算能力，還是應關註系統的實際風險。隨著人工智慧的能力飛速拓展，相關的解決方案也在同步發展。Newsom指出，法案只註重最昂貴、規模最大的模型，可能會讓公眾對快速發展的技術產生誤解的安全感。較小、專業化模型的危險性同樣不容忽視。
Newsom表示，法律的出發點是良好的，但它並未充分考慮到AI系統是否處於高風險環境，是否涉及關鍵決策或敏感資訊。法案要求對某些功能設定過於嚴格的標準，這並不是最佳的保護公眾安全的方法。他強調，加州不會放棄對公眾的責任，同時必須采納切實可行的安全協定，建立框架來監測新技術的進展。
對於批評者提出加州未能解決這些問題的聲音，州長表示完全不同意。他相信，只有透過科學證據和實證基礎，才能在確保安全的同時不阻礙創新。近期他還提到，已經要求全球領先的生成式AI專家幫助加州開發相關的安全措施。值得關註的是，參與這個計劃的專家包括李飛飛，以及其他幾位頂尖的學者。
總之，雖然SB 1047已否決，但加州在AI安全方面的努力並未止步，反而將在未來迎來新的機遇與挑戰。最終，責任與創新將會交織在一起，形成一個更加安全的AI生態。
