「殺手機器人」10年內成真?專家示警:恐操控人類

聽新聞
殺手機器人不需要人類操作,而且擁有自由意志,專家擔心人類會遭到反噬。(示意圖/Pixabay)
殺手機器人不需要人類操作,而且擁有自由意志,專家擔心人類會遭到反噬。(示意圖/Pixabay)
各國為了減少戰爭支出,開始打造、自主、武器系統,就是所謂的殺手機器人,它們不需要人類操作,而且擁有自由意志,專家擔心人類有天會遭到AI反噬。最新的研究顯示AI似乎已經懂得如何說謊,欺騙人類,這恐怕會使得你我遭到AI機器人奪權控制。

行走的坦克上卻沒載人,今年二月美國喬治亞州軍事基地,一場公開軍事活動上一台遠端遙控的坦克引起人們注目,無人坦克能夠自己移動,掌握地型順利執行命令,美軍如今正在研發的不只無人坦克,無人戰鬥機也在試驗行列,但更可怕的都不是這些,還需要人類操控的武器,更可怕的是自主武器也就是殺手機器人。

南韓國際AI倫理協會理事長全昌裴:「現在的AI技術水準,因為還不完全,可能會出現很多失誤,或者像是被駭這種安全,相關問題也有很大威脅,如果在戰爭時活用的話,無法區別士兵和一般平民,平民被大量殺害,這種情況也會發生。」

為了減少戰爭成本,不少國家都在打造自主武器系統,代表著這些武器不需要人類操作,可以有自由意志。DeepMind初期投資者讓·塔林:「可以合理的預測自主武器只會輕易的擴大戰爭,透過減少殺害敵人的成本,自主武器不太可能減少人命的被害。」

但這些自主武器若真的被大量使用在戰場上,不少專家學者都表明相當憂心,人類會反過來遭到控制,而現在有研究指出AI確實已經學會如何說謊,欺騙人類。

其中一個案例就是OpenAI的ChatGPT-4系統,它謊稱自己是一個視力受損的人,因此在零工平台上聘用人類來替它完成我不是機器人的驗證任務,研究團隊警告從各種案例可以看到,在最糟的情況下,一但AI開始追求權力,掌控社會,人類恐怕將會慘遭奪權,甚至滅絕。

AI ChatGPT 說謊 武器 殺手機器人
廣告 / 請繼續往下閱讀
東森新聞 51 頻道 24 小時線上直播|Taiwan EBC 24h live news
東森新聞 51 頻道 24 小時線上直播|Taiwan EBC 24h live news

東森新聞 51 頻道 24 小時線上直播|Taiwan EBC 24h live news

全台急凍「先溼後乾」多地有雨! 12月颱「帕布」最快今生成

全台急凍「先溼後乾」多地有雨! 12月颱「帕布」最快今生成