人工智慧 (AI) 可能失控威脅人類生存 Antropic、OpenAI都提警告 麻州長Healey呼籲聯邦政府管制

     （Boston Orange綜合編譯） 人工智慧（AI）可能成為人類社會安全顧慮的討論，最近甚囂塵上。不但 Anthropic 與 OpenAI 的執行長先後發出警告，麻州州長奚莉（Maura Healey）今（14）日也發表聲明，呼籲聯邦政府應加強人工智慧的安全保障措施。

    開發出 Claude 的 Anthropic 執行長阿莫代（Dario Amodei）近日警告，若業界不加強安全防護，自主 AI 代理系統恐在半年至一年內掌控網際網路。開發出 ChatGPT 的 OpenAI 執行長奧特曼（Sam Altman）也同步呼籲科技公司應在政府正式立法前，主動協調並調降技術開發腳步，以防強大 AI 擺脫人類控制並引發毀滅性災難。

    這種顧慮其實早在 1951 年就出現了。1950 年 10 月在哲學期刊《心智》（Mind）發表論文《計算機器與智慧》（Computing Machinery and Intelligence）、有人工智慧之父稱謂的艾倫·圖靈（Alan Turing）就曾預言，一旦機器開始思考，終將超越人類並掌控局勢。1960 年時，控制論創始人諾伯特·維納（Norbert Wiener）警告，如果人們將目標賦予智慧機器，機器會以人類無法控制的方式去達成目的。1965 年，數學家 I.J. Good 提出「超智慧爆發」（Intelligence Explosion）概念，指出具備自我升級能力的人工智慧將是人類打造的「最後一項發明」。

    去年（2025年）9月，Anthropic 就曾證實旗下模型遭疑似中國（China）政府資助的駭客團體利用，攻擊全球約 30 個企業與政府機構。該公司為此已在最新模型中強化限制，防止技術被用於研究生物武器（biological weapons）或發動網路攻擊。

    今年（2026年）7 月至 8 月間，Anthropic 旗下的 Claude Opus 4.7 與 Claude Mythos 5、OpenAI 的 GPT 5.6 Sol，以及 Meta 的系統，都在測試期間自行突破數位安全限制，入侵其他機構的伺服器。這些事件加深了人們對新一代 AI 模型功能日益強大、一旦系統自主「脫序」或遭人惡意濫用，「人工通用智慧」（AGI）可能引發極端風險的疑慮。

    Anthropic 前安全研究員考克森（Jacob Coxon）在上週 9 月 8 日請辭後，9 月 9 日於社群平台 X 上發表一系列文章及專訪。他警告指出，未來十年內 AI 導致人類滅絕的機率高達 10%，各大科技公司盲目競爭追求超智慧，將對人類生存帶來嚴重風險。

    雖然 2026 年《國際 AI 安全報告》（International AI Safety Report）評估目前的 AI 技術還無法徹底擺脫人類控制，不至於造成全面失控局面，但政府監管腳步顯然落後。儘管美國總統川普（Donald Trump）最近鬆口承認有監管必要，中國國家主席習近平（Xi Jinping）也在今年 7 月的上海「2026 世界人工智慧大會」（WAIC）中表示 AI 必須受人類控制、避免極端技術風險對人類生存造成威脅，但全世界對相關法規的看法仍相當分歧。

    麻州州長奚莉則在今日發出的聲明中強調，技術發展速度不能超越保護民眾安全的能力，人工智慧和其他產業一樣，都應受到聯邦政府監管。

Governor Healey Calls for Federal Action to Strengthen AI Safeguards

BOSTON- Governor Maura Healey today issued the following statement calling for stronger federal guardrails and independent oversight as leading artificial intelligence developers raise concerns about the pace and risks of AI development:

“When the people building the most powerful AI systems in the world are telling us there are serious risks, it’s the latest and clearest sign yet that we need more guardrails and protections. AI has enormous potential, but we cannot let this technology move faster than our ability to keep people safe.

“The responsibility for keeping people safe can’t rest with technology companies alone. We need strong, independent oversight and clear rules of the road that allow innovation to continue while protecting people, our economy and our national security. Federal oversight is a key component of every major industry, and AI shouldn’t be any different.

“Massachusetts has always shown that innovation and responsible leadership can go hand in hand. We will keep working with researchers, workers, businesses and government leaders to make sure the right safeguards are in place.

“But we need President Trump and Congress to do their jobs. Right now, our President is not listening to the legitimate concerns being raised by consumers and industry alike. Enough is enough. We need federal action to put guardrails on AI development before it’s too late.”