以往攻破詐騙機房,滿屋子電腦、手機還有話務手,人贓並獲,但現在詐騙集團魔高一丈,已開始鑽研AI犯罪。
CNN主播庫柏:「今晚有突發新聞,川普很快就會成為第1位前總統遭到犯罪起訴。」CNN當家主播Anderson Cooper插播突發新聞,但其實這是AI模擬Cooper聲音,AI技術剛崛起時,已經有不肖份子將名人臉蛋移花接木,變成不雅影片主角,藝人、民代通通受害,但是高科技滲入的不只是「變臉」,現在也「變聲」投入詐騙手法。
Gogolook數據與商業智慧總監高義銘:「其實從以前詐騙,透過不同口音,就可能已經知道,對方怎麼口音聽起來怪怪的,所以詐騙集團也知道要撇除口音這件事,他要用一個真的,比如說在地的真人聲紋,然後去跟你講話,第一關可能就消滅了,很多消費者心中疑慮。」而就在這一天,我們也接到詐騙電話,電話另一頭就是不折不扣的AI機器人。
記者vs.詐騙集團AI機器人:「我們會幫你爭取最划算的利率,還是我幫您轉專員看看,(我想先問一下你們的利潤之類的),什麼事呢?」
Gogolook數據與商業智慧總監高義銘:「它可能在轉換過程中,應該有些失誤,導致它沒有聽清楚你的問題,它不理解你的問題是什麼,它可能背後有一個演算法是說,當你聽不懂對方在講什麼的時候,你就回覆剛剛這句話「什麼事呢」這樣。」
我們再聽一遍,這段對話根本牛頭不對馬嘴。
記者vs.詐騙集團AI機器人:「(我想先問一下你們的利潤之類的),什麼事呢?(我的...)好的謝謝您的資訊,等一下我們的業務會再跟你聯絡」
不只如此,AI機器人還有明顯剪接痕跡,講話也鬼打牆˙。
記者vs.詐騙集團AI機器人:「有身分證就可以囉,先幫你留個資料好嗎?(我要先...)好的,我們的方案真的很優惠喔,我再請業務人員跟您...我們的方案真的很優惠。」真人講話錄音,經過AI系統,分析聲紋之後重新變造,建立龐大的語料庫,打給民眾時,透過演算法分析對方講話的語氣和關鍵字,從語料庫裡找到相對應的答案回覆。
我們問主嫌,她說這種方式,民眾中鏢機率比較高。
去年12月,刑事局就偵破台灣首例AI詐騙案,當警方攻堅時,人頭公司空無一人,連一張電話卡也搜不到,跟傳統機房完全不同,沒有設備和人力,無形中也增加辦案困難度。
AI詐騙電話:「那我會再發line訊息給您參考,上面都有詳細的說明」
刑事局偵九隊第二隊副隊長黃子恩:「你在這樣子聽,你覺得像很機器人的聲音嗎?應該分辨不出來對不對」但專家憂心的是,詐騙技術日新月異,未來新的變造手法只會更好,恐怕更難辨識,但再高的科技,還是有突破點,只要接到電話,多一點查證功夫,花一點時間求證,就能避免掉入可怕陷阱。
(封面圖/東森新聞)