隨著人工智慧對人類社會的影響日益加深，市場對其潛在風險的擔憂也隨之升溫。微軟(MSFT)共同創辦人比爾蓋茲近日在NBC長青節目「Meet The Press」中發出嚴厲警告，指出AI技術已強大到足以導致至少十億人喪生。他強調，即便這種極端情況發生的機率不到百分之百，但當心懷不軌的人結合最新的AI工具時，將產生前所未見的強大殺傷力。

業界領袖呼籲放緩AI發展腳步

70歲的蓋茲是呼籲立法機構介入監管的最知名科技人士之一。他認為單靠企業自律遠遠不夠，執法與立法部門必須共同建立規範。他坦言這會為產業帶來一些額外負擔，但不至於大幅放慢技術推進的步伐。除了蓋茲之外，Anthropic(ANTHRO)執行長Dario Amodei也公開呼籲AI產業應放慢模型升級的腳步。這項觀點獲得了OpenAI(OPENAI)執行長Sam Altman與SpaceX(SPCX)執行長馬斯克的認同，皆表示產業確實需要適度減速。

微軟AI高層力挺建立安全防護網

微軟(MSFT)AI部門負責人Mustafa Suleyman也對放緩發展的提議表示支持。他強調，儘管美國正面臨來自中國的激烈競爭，但這不應成為阻礙美國建立AI安全防護網的藉口。先前，Anthropic(ANTHRO)前研究員Jacob Coxon離職時曾警告，開發AI的人員正拿人類未來進行賭博，並相信AI可能在十年內毀滅人類。Anthropic(ANTHRO)科學對齊負責人Evan Hubinger對此表示認同，評估未來十年內發生的機率大於10%，並坦言目前業界尚未有確保超級智慧行為符合人類價值觀的具體解決方案。

輝達與Meta持反對意見拒絕減速

然而，科技巨頭之間對此議題並未達成共識。Meta Platforms(META)執行長祖克柏與輝達(NVDA)執行長黃仁勳皆對「放緩AI發展」的呼籲表達反對立場，認為不需要刻意減慢技術推進的速度。這種分歧顯示出美國科技巨頭在面對AI潛在極端風險與龐大商業利益時，內部存在著截然不同的戰略考量與風險評估標準。

川普強調美國需維持AI領先優勢

在政治層面，美國總統川普同樣拒絕了放緩AI產業發展的提議。川普向媒體表示，美國目前在AI領域領先中國，且必須保持這種領先地位，因為「誰贏得AI，誰就贏得未來」。儘管他不贊成刻意減速，但也認同可以設立適當的防護措施。此外，川普正計畫任命一位「AI沙皇」來協助監控產業並引入新的安全實踐規範，並於近期澄清財政部長Scott Bessent不會接任此關鍵職位。

權知道

我們重視「知」的權利 不惜抽絲剝繭、深入調查 只為讓投資人不錯過重要的投資訊息