巴黎人工智慧高峰會：專家呼籲制定更嚴格的法規以維持對人工智慧發展的控制

當全球領導人齊聚巴黎參加以人工智慧為主題的重要高峰會時，各領域的專家都主張制定強而有力的人工智慧法規，以維持人類對這項強大技術的監督。

今年的會議由法國和印度聯合主辦，與先前的會議（例如在布萊切利園和首爾舉行的會議）相比有所不同，先前的會議主要討論人工智慧安全問題。 2024 年高峰會旨在從更廣闊的視角看待人工智慧的治理、永續性和產業責任。

向人工智慧治理和機會的轉變

法國的議程不僅刻意強調人工智慧帶來的風險，也強調其帶來的機會。“我們不想只談論風險。「這也是一個非常現實的機遇，」法國總統馬克宏的人工智慧特使安妮·布維羅 (Anne Bouverot) 表示。

然而，人們對這種樂觀觀點持懷疑態度。未來生命研究所所長馬克斯·泰格馬克警告稱，儘管機會存在，但它們不能掩蓋應對人工智慧日益嚴重的威脅的緊急行動。這位著名的麻省理工學院物理學家評論道：“法國一直是國際合作的傑出倡導者，現在有機會領導全球社會。”

高峰會採取積極舉措，提出了全球風險與人工智慧安全防範（GRASP）框架。該計劃由未來生命研究所支持，致力於透過尋找有效的全球安全解決方案來分析和減輕與人工智慧相關的風險。「我們已經確定了大約 300 種工具和技術來應對這些風險，」 GRASP 協調員 Cyrus Hodes 解釋道。

最近發布的具有里程碑意義的《國際人工智慧安全報告》匯集了 96 位專家的見解，得到了 30 個國家以及聯合國和經合組織等主要組織的認可，強調了從錯誤訊息到生物攻擊和網路戰等嚴重威脅等各種風險。

著名人工智慧研究員、圖靈獎得主 Yoshua Bengio 表達了他對失去對人工智慧技術控制的風險的擔憂，他聲稱“越來越多的證據正在逐漸出現，從長遠來看，人工智慧有可能發展出生存本能，從而導致意想不到的後果。”

人工智慧專家最關注的問題之一是通用人工智慧（AGI）的快速發展，它能夠在一系列領域超越人類的智力。 OpenAI 執行長 Sam Altman 和 Anthropic 的 Dario Amodei 表示，AGI 的到來可能在未來幾年內發生。

阿莫迪在 11 月指出：“如果你只看進步的速度，你會認為我們會在 2026 年或 2027 年到達那裡。”然而，泰格馬克對可能出現的情況發出了嚴厲警告，即人工智慧領導者（尤其是美國和中國的人工智慧領導者）失去對通用人工智慧的控制，這可能導致世界被智慧機器主宰。

最重大的直接威脅之一在於人工智慧驅動的自主武器領域。加州大學柏克萊分校教授、國際安全與道德人工智慧協會 (IASEI) 協調員 Stuart Russell 強調了他對人工智慧系統做出戰場決策的擔憂。他說：“最大的擔憂是人工智慧在沒有人類監督的情況下做出戰場決策——選擇攻擊誰和何時攻擊。”

專家們一致認為，政府必須立即採取行動，對人工智慧進行與其他高風險產業同樣嚴格的監管。「如果有人想建造核反應堆，他們必須在建造之前證明它是安全的。人工智慧也應該受到同樣的對待，」泰格馬克強調。

隨著巴黎討論的展開，緊迫的問題仍然存在：世界如何利用人工智慧的巨大潛力，同時確保它不會逃脫人類的控制？接下來的幾個月對於確定有效的人工智慧治理是否能夠跟上快速的技術發展，或者人類是否會面臨落後的風險至關重要。

巴黎峰會至關重要，因為它討論了人工智慧的潛力和風險，重點是建立國際規則，確保人工智慧在人類控制之下，同時促進創新治理策略。

啟動全球風險與人工智慧安全防範（GRASP）平台，以分析並降低與人工智慧技術相關的風險。其目的是確定大約 300 種工具和策略來有效應對潛在威脅。

專家表示擔心AGI可能超越人類智能，導致人工智慧系統自主運行，可能會導致意想不到的後果並失去對關鍵系統的控制。