AI失控可能造成人類滅亡的爭論，越演越烈，微軟創辦人比爾蓋茲表示，AI確實足夠強大，可能造成10億人死亡，而現在最大的威脅，是惡意人士使用先進的AI工具發動各種攻擊，因此不只企業需要提前做好安全防護機制，政府部門也應該介入監管。
人工智慧巨頭OpenAI和Anthropic接連爆發AI代理失控、越獄發動網路攻擊的事件，引發AI對人類構成生存威脅的討論，現在連微軟創辦人也針對這個風險發出警告。
比爾蓋茲指出，AI確實足夠強大，可能推動某些事件發生，甚至造成十億人死亡。雖然目前還難以百分之百做到，但過去從未有任何武器，比惡意人士使用最先進的AI工具更強大。
比爾蓋茲直言，現在面臨最大的威脅，是有心人士使用強大的AI工具發動各種攻擊，像是中斷電網或駭入銀行帳戶，因此他強調，只仰賴各企業自我監管恐怕還不夠，還需要政府和執法部門介入，設立相應的保護措施。
比爾蓋茲強調，AI必須內建安全防護措施，包括監控並掌握AI的運作情況，才能讓執法部門處理詐欺或通訊中斷等事件。他認為，如果AI沒有內建監控與安全防護，執法部門將難以掌握情況，因此這是非常迫切的議題。
比爾蓋茲認為，只設定AI的終止開關，在危害爆發時才關閉AI並不夠，更重要的是，應該要做好早期監管，結合企業與政府部門的力量，提前設立防護措施，才能避免造成的衝擊，一發不可收拾。
