文 / 謝璦竹    AI圖片生成 / 江玉涵

AI（人工智慧）帶來的便利尚未普及，但AI犯罪的威力已無孔不入。股神巴菲特去（2024）年5月在波克夏公司（Berkshire Hathaway）年度股東大會預言，AI詐騙恐將成為高速成長產業，他形容「世界已經將精靈從瓶子中釋放出來」，新聞更將AI犯罪比喻為核武級的威脅。

AI使得真相越來越不可得，更挑戰民主社會的底線。2019年美劇《暗網謎蹤》中，強大的AI知道每個人所做的壞事，還可以指使人對其私刑。去年的韓劇《7人的逃脫》與今年後續的《7人的復活》中，超級電腦滲透通訊軟體與交通指揮設施等，均描繪出AI世代下「後真相世界」的可畏。

上述固然是影劇想像，但AI發展日新月異，深偽技術可以偽造影像、聲音，在YouTube或短影音平台上，充斥偽造的影片，名人「被死亡」司空見慣，宗教團體、藝人被抹黑或追捧，種種亂象不一而足。眼見不再為憑，即使是直播，也可能反而助長抹黑或造謠，就如前述韓劇中所呈現。

在Google時代，搜尋的是「事實」，至於真相的拼湊，則仍待個人的挖掘。然而，到了AI世代，由於AI不但和人類大腦一樣，會「一本正經地說謊」，且若有心人士刻意製造幾可亂真的AI假影片散播，加上AI不像搜尋引擎會標示出處、來源，人腦原本就傾向只相信想要相信的內容，後果很可能極嚴重。

自新冠疫情以來，不論是私人、企業或國家之間，使用視訊溝通的機會大增，但視訊影片會不會、有沒有遭到竄改？新聞與自媒體更直接面對信任危機，尤其在衝突與緊急狀態下，將嚴重威脅民主社會的健全。

舉例來說，刑事局近期破獲一犯罪集團，利用AI生成技術，混合不肖買家與真實護照持有人臉孔的照片，利用兩者臉型相似特性，向外交部申辦換發新護照，竟成功核發，說明外交部受理檢核系統無法偵測AI深偽照片。

不可能的任務

防範深偽影片，需要開發出深偽辨識軟體，或是讓AI作品加註標示。數發部數位政府司司長王誠明坦言，截至目前，比較高深的深偽防詐技術還在發展，主要仍依賴傳統防詐。

他說，美國雖然已有技術，可在政府官方影片放入類似隱形暗記或QR Code圖示，觀眾可以掃碼連結到政府官網辨識是否為真實影片。但此方法有賴觀眾自主查詢，最怕是民眾收到影片看完就信了。

對此，前台北商業大學校長、叡揚資訊數位轉型大使張瑞雄說，這種類似在影片中蓋上「浮水印」的做法，由於人眼無法直接辨識，除非人人都使用具有浮水印辨識功能的播放軟體才有用，「因此需要透過法律來強制加入辨識功能，加上必須跨國界執法，所以幾乎是不可能的任務。」

「就像核子武器協議，光是幾個國家之間簽訂沒有用，總是有北韓或其他未簽協議的國家會去製造，深偽辨識道理相同。」張瑞雄說。

訂閱數位電子雜誌  暢讀精彩全文 

√禪天下官網雜誌全閱讀 √每月新增3-5篇文章可「線上聽禪」 √每月簡訊通知當期電子雜誌連結

　 會員登入　　 前往訂閱