Hot Topics 娛樂追蹤
Deepvoice AI 偽造你聲音 連你爸媽都能騙 恐成詐騙新招
2023-06-24 (星期六)
近年AI 技術越發成熟,之前跟大家分享過 AI 生成的照片和影片,原來連聲音都能生成!當你接到不法人士用 AI 仿聲的家人電話,你有自信可以分辨出真偽嗎?
AI technology is getting more and more mature these days. Not only can they generate photos that we shared before, but they can also generate videos and sounds! Do you have the confidence to distinguish your family members or just AI on the other side of the phone?
據網頁 Zing Gadget 報導,AI 模擬逝者的聲音,讓家屬可以和逝者跨時空再次對話,這項技術在近期已經不稀奇了。此項技術的發達自然有好有壞,落到不法分子手上,感人的跨時空對話就成了詐騙的手段之一。
一項由美國資安公司 McAfee Labs Research 針對美國等 9 個國家共 7,000 人的跨國民調當中,有大約 25% 的人表示自己遭遇過 AI 語音詐騙,或聽聞身邊的人有類似的經驗。此外,民調還顯示有 70% 的受訪者表示在接到類似的照片電話,他們恐怕沒有信心能夠分辨 AI 語音的真假。
Blackbird.AI 人工智慧公司執行長卡利德也指出,目前網路能搜索到多款免費 App,能用於合成模擬語音。只需本人短短幾秒的講話聲音,即可複製合成。所以平日在社群平台上傳的影音,都有可能被歹徒偷去用於電話詐騙。這些「複製」的人聲能通過傳送語音訊息,直接在電話中跟人對話。
美國當局也警告,最常見的 AI 詐騙電話是「爺奶詐騙」,例如以孫子孫女的語音打電話給老人家,謊稱需要急用錢,像是發生車禍、被員警扣留、需要籌措保險金等,向老人家求助。而許多老人家在聽到親人的聲音的當下都會深信不疑,立刻進行匯款。
網絡安全公司 McAfee 公布的調查中,發現包括美國在內全球 9 個國家、約 7,000 名受訪者中,有四份一人曾親身經歷或知道有人曾遭遇 AI 聲音詐騙案,約七成的受訪者更表明自己沒有信心分辨來電是真人或 AI。(Photo by Pixabay) |
此外,AI 新創公司 ElevenLabs 也坦言自家的語音合成工具可被用於「惡意用途」。先前就有用戶發佈透過「深偽技術」合成的語音,假冒英國女星 Emma Watson 讀出希特勒的自傳《我的奮鬥》。
對此,官方就表示世界已經到了在網路上看到的東西都不能輕易相信的程度。而創投公司 Team 8 科技主管也指出:「人類需要研發一種技術,能讓人分辨跟你說話的,是一件物件,抑或是你認識的真人。」
值得一提的是,近期美國就出現了新型的詐騙,有許多歹徒直接用了網路上唾手可得、幾可亂真的 AI 語音複製工具,假冒家庭成員來詐騙親人。
其中一個案例為美國亞利桑那州女兒綁架案。一位母親某天接到女兒遭到綁架的電話:「媽,救我!」裡頭哭泣的聲音讓她毫無懷疑。而綁匪要求她匯出 100 萬美元贖款。所幸她隨後聯絡上女兒,證實了稍早的電話全是 AI 合成的模擬語音。
受訪時,該位母親就表示當時女兒在外地滑雪,她接到那通電話時就「100%」確認那是她 15 歲的女兒。她表示:「問題不是那是誰,那就是她的聲音,她哭起來就是那樣,我沒有一秒鐘懷疑過。」 所幸最後她聯繫上真正的女兒,才沒有陷入這個騙局。她也將案件通報了警方調查,但這案例也充分顯示出利用 AI「複製」 真人語音的網路犯罪有多可怕。
芝加哥亦有一宗 AI 聲音詐騙個案,一名祖父被 AI 生成的 19 歲「孫仔」瞞騙,指發生了交通意外需籌錢,祖父甚至考慮加按物業,幸好謊言及時被揭穿。(Photo by Pexels) |
專家指稱,AI 最大的危險就是模糊了真實和虛幻的界線,讓網路罪犯能以廉價又有效的技術來散播假訊息。科技是把雙面刃,使用 AI 合成模擬語音已經是當前新型的詐騙手段,請各位務必小心。
詐騙集團利用人性最脆弱的一面犯罪實不可取。人們在緊張時的判斷力會下降,在 AI 出現前就已經有不少類似的詐騙手段,科技的進步更無疑幫了他們一把。現在已經是個就算「眼見」都不能「為憑」的時代,隨時提高警覺是最好的方法。只要電話內容中提及金錢,都先冷靜的思考一下再做下一步行動,避免遺憾終生。
-
2024-04-28Dental Health 4 月「牙齒健康月」刷牙不當小心牙齦萎縮!
2024-04-27Apple 警告 : 睡覺時 iPhone 充電有危險
2024-04-26Olympics 2024 巴黎奧運各國隊服公開 為何美國隊服被炎上?
2024-04-25Meiji 萌爆日本明治「蘑菇山藍牙耳機」配備 AI 翻譯功能 開售不足 10 分鐘即賣光
2024-04-24Health 這些我們自認為「身體好」的表現 其實都是錯的!
2024-04-23Red Beans 七大紅豆的神奇效果讓你更年輕
2024-04-22Fish oil 魚油這個時間吃效果最好!兩族群應避免
2024-04-21Lake 加拿大最美湖泊排名
2024-04-20Hotel 旅遊住飯店 這些東西少碰為妙 這些最好再洗一下
2024-04-19Choking 兒童進食鯁喉可窒息致命 兒科醫生分享急救法 身為家長你要知
2024-04-18iPhone 裸機比用手機殼更好?
2024-04-17營養師: OT 捱夜會讓人越來越肥胖
2024-04-16全世界通曉的品牌「UNIQLO」名字竟來自一個筆誤!
2024-04-15Music 聯合首播 - 徐若瑄《先聽我說完》
2024-04-14Balenciaga 怪奇潮物巨頭巴黎世家推天價「封箱膠帶手鐲」網民:智商稅?
-
2024-04-13Tissue bread 韓國「紙巾麵包」爆紅!一層層撕開 薄到透光超可口
2024-04-12Constipation 便秘吃甚麼?蔬菜和水果皆有助排便 但功能大不同
2024-04-11Fridge 冰箱膠邊老化耗電又讓食物易壞 在家輕鬆檢測一下
2024-04-10Social media game 誰贏 2 張 Bobfather 棟篤笑 $168 門票?答案在此
2024-04-10Shin Ramyun 日版辛辣麵比韓版辛辣麵更大更多配料 韓網民:專坑自己人
2024-04-09Hands 手麻可能是身體在求救!憑手麻位置和症狀判讀原因
2024-04-08Pistachio 多吃開心果 可以讓你更開心 更健康
2024-04-07Solar Eclipse 大溫明早 10:40-12:20 看日偏蝕 日蝕冷知識
2024-04-06號稱能顛覆 iPhone 的 Ai Pin 究竟是甚麼?
2024-04-05Guava 芭樂籽可以吃下肚嗎?會讓你便祕還是助你排便?
2024-04-04Toxic Shock Syndrome 日本中毒性休克綜合症大爆發 死亡率高達 30% 成因不明
2024-04-03Social media game 送 Bobfather 廣東話棟篤笑 $168 門票
2024-04-02Senior home 90 後男子生意失敗入住養老院 理想生活?
2024-04-01Music 全球首播 - 蔡健雅《善良的我們》
2024-04-01Reel 2 Real 電影節 加拿大中文電台送 免費早餐 + 兒童動畫製作坊