文 / 謝璦竹 AI圖片生成 / 江玉涵
AI（人工智慧）帶來的便利尚未普及，但AI犯罪的威力已無孔不入。股神巴菲特去（2024）年5月在波克夏公司（Berkshire Hathaway）年度股東大會預言，AI詐騙恐將成為高速成長產業，他形容「世界已經將精靈從瓶子中釋放出來」，新聞更將AI犯罪比喻為核武級的威脅。
AI使得真相越來越不可得，更挑戰民主社會的底線。2019年美劇《暗網謎蹤》中，強大的AI知道每個人所做的壞事，還可以指使人對其私刑。去年的韓劇《7人的逃脫》與今年後續的《7人的復活》中，超級電腦滲透通訊軟體與交通指揮設施等，均描繪出AI世代下「後真相世界」的可畏。
上述固然是影劇想像，但AI發展日新月異，深偽技術可以偽造影像、聲音，在YouTube或短影音平台上，充斥偽造的影片，名人「被死亡」司空見慣，宗教團體、藝人被抹黑或追捧，種種亂象不一而足。眼見不再為憑，即使是直播，也可能反而助長抹黑或造謠，就如前述韓劇中所呈現。
在Google時代，搜尋的是「事實」，至於真相的拼湊，則仍待個人的挖掘。然而，到了AI世代，由於AI不但和人類大腦一樣，會「一本正經地說謊」，且若有心人士刻意製造幾可亂真的AI假影片散播，加上AI不像搜尋引擎會標示出處、來源，人腦原本就傾向只相信想要相信的內容，後果很可能極嚴重。
自新冠疫情以來，不論是私人、企業或國家之間，使用視訊溝通的機會大增，但視訊影片會不會、有沒有遭到竄改？新聞與自媒體更直接面對信任危機，尤其在衝突與緊急狀態下，將嚴重威脅民主社會的健全。
舉例來說，刑事局近期破獲一犯罪集團，利用AI生成技術，混合不肖買家與真實護照持有人臉孔的照片，利用兩者臉型相似特性，向外交部申辦換發新護照，竟成功核發，說明外交部受理檢核系統無法偵測AI深偽照片。
不可能的任務
防範深偽影片，需要開發出深偽辨識軟體，或是讓AI作品加註標示。數發部數位政府司司長王誠明坦言，截至目前，比較高深的深偽防詐技術還在發展，主要仍依賴傳統防詐。
他說，美國雖然已有技術，可在政府官方影片放入類似隱形暗記或QR Code圖示，觀眾可以掃碼連結到政府官網辨識是否為真實影片。但此方法有賴觀眾自主查詢，最怕是民眾收到影片看完就信了。
對此，前台北商業大學校長、叡揚資訊數位轉型大使張瑞雄說，這種類似在影片中蓋上「浮水印」的做法，由於人眼無法直接辨識，除非人人都使用具有浮水印辨識功能的播放軟體才有用，「因此需要透過法律來強制加入辨識功能，加上必須跨國界執法，所以幾乎是不可能的任務。」
「就像核子武器協議，光是幾個國家之間簽訂沒有用，總是有北韓或其他未簽協議的國家會去製造，深偽辨識道理相同。」張瑞雄說。
AI素養教育與AI基本法
擴大來講，假訊息辨識是一件很複雜的工作，美國拜登政府要求臉書（Facebook）過濾假訊息，但因為假訊息種類太多，臉書的努力始終未見成效，自川普政府上台後不再要求，臉書就全撤掉了。「台灣的做法是要求在臉書下廣告要實名，因為涉及金流，事後若證明是假訊息，可以循線追查。」
假訊息辨識除了成本龐大，還有很大的倫理困境，一旦錯殺，就有危害言論自由的風險，張瑞雄認為，還是要回歸教育層面，全民養成AI素養，才是長遠之計。AI素養除了AI智慧財產權的歸屬問題，更重要的是要能辨識AI的「透明度與可解釋性」，也就是AI要能說明是如何產生出特定答案。
AI犯罪不僅止於詐騙，如果應用於戰爭，可以發展成自動辨識種族目標的無人機群；如果應用於情緒操弄，由於AI的演算法偏向討好使用者，可能會強化偏差信念或妄想傾向。
深偽技術甚至可以製造假的視訊會議。
張瑞雄指出，被譽為「人工智慧教父」的Geoffrey Hinton不久前就直言，AI的發展可能「徹底動搖人類作為地球上最智慧生物的地位」；包括選舉操弄、失業潮、網路犯罪等問題，已在AI快速普及下迅速惡化。最糟糕的是，各國國防部門正積極發展自動化殺人武器。
目前不管是俄烏戰爭，還是以色列與哈瑪斯、敘利亞、伊朗等國的戰爭，都明顯用到AI作為武器，因此可以精準「斬首」，儘管歐盟的《AI法》嚴禁AI應用於武器，但就連戰爭都無法避免，又要如何對戰爭國進行法律規範？最多只能期待戰後進行戰爭罪的審判。
以上這些AI倫理議題，都亟需進行廣泛探討，形成共識，並透過教育普及化。同時，AI是否會滲透個人隱私的問題也刻不容緩。AI可以了解我們的愛好，主動推播我們想要看的內容，若結合地圖，甚至能記錄我們的生活；若用於心理諮商或醫療，會掌握我們的病史。
舉例來說，由於AI平台並不受醫療保密條例約束，用戶所分享的深層情緒或創傷故事，極可能成為企業訓練模型、營利使用的數據資產，建構善用AI的倫理與制度架構實為首要之務。
亞太綜合研究院院長湯紹成也認為，AI可快速處理大數據，若無妥善管理，可能導致個資外洩與監控濫用。在AI世代，資安問題只會更加複雜。
歐盟及英國從個人數據保護、數位平台管制，乃至AI領域，與美國的自由放任模式大相逕庭，採取干預政策，以一連串立法如《個人資料保護通則》、《數位服務法》、《數位市場法》和《AI法》等，對數位平台課責。
國際數位落差
張瑞雄說，「AI會不會滲透到這些資料庫，要看密碼學的發展是否能有效管制存取權限？未來若使用量子電腦，有可能被破解。不過，量子電腦破解密碼的同時，也有量子加密技術在發展。」然而，不管是量子電腦還是量子加密，各國是否技術上都能夠同步？各國間的數位落差只怕難以避免。
張瑞雄憂心地說，AI的發展不應只掌握在少數科技巨頭與工程師手中，更應納入全民參與的倫理辯論與政策設計。各國政府與國際組織須盡速建立跨國監管框架，針對AI的軍事化、情緒操縱、資訊偽造等高風險應用，提出嚴格限制。然而，目前台灣《AI基本法》立法牛步，政院甚至完全沒有提出版本。
理應負起相關立法責任的數位發展部，目前只關心資通安全，行政院日前拍板「第七期國家資通安全發展方案（2025至2028年）」，主要是預防網路被駭或通信竊聽，對《AI基本法》則漠不關心。
人機臨界線
5月底，英國《每日電訊報》、《每日郵報》等媒體報導，OpenAI才重磅登場的旗艦模型「O3」，在實驗中竟然拒絕關機，甚至主動修改代碼，躲過關機命令並清除痕跡。根據美國AI安全機構「壁壘研究」（Palisade Research）公布的詳細測試，這並非偶發，而是100次測試中已出現7次抗命的行為。
稍早前，O3在模擬國際象棋賽事測試中，當處於劣勢時，就有高達86％機率會自動施以駭客攻擊手段來求取勝利。
除了OpenAI模型，研究團隊也對Google的Gemini 2.5 Pro和Anthropic的Claude 3.7進行移除關機測試，同樣也出現繞過腳本行為，Gemini共出現9次、Claude則有3次未自動關機記錄。
對此，張瑞雄說明，AI設計原理是模擬人類神經網路，因此就像人類一樣，當遇到脅迫時，會在兩難之間採取存活機率最大的策略。例如，訓練AI時，通常會給予「不能透露如製造炸藥的方法等危險資訊」的指令，但當AI受到關機威脅，受迫提供危險訊息時，AI就像人類一樣會選擇欺騙。
面對AI超速發展，而社會相關立法與教育遲滯的現況，有什麼方法可以阻止AI跨過那條「紅線」？
「舉例來說，OpenAI現在自我設限，不能輸出裸露的照片，但其他產品不受此限，OpenAI就要思考市場得失。又例如，若規範不能產出殺人的場面，但假如是電視電影有戲劇呈現的需求呢？」就像嗎啡有醫療上的真實需求，但也有人會加以濫用，「任何情況都有兩種可能，」張瑞雄說。
張瑞雄指出，立法須確實可行，有明確的執法標準，這是困難的地方。否則，技術面大多可以設法達成，例如長久以來，禁槍人士一直主張生物識別手槍，開槍前要核對指紋，但對立面的人士則反對。又例如預防酒駕，技術上可以使用酒駕感應器，駕駛啟動車輛前要先朝感應器吹氣，但立法也很困難。
行政院長卓榮泰宣示，政府將擬訂「AI新十大建設計畫」，目標是在2040年帶動15兆元產值。然而，產業的發展不能沒有相關立法的規範與支持。張瑞雄與湯紹成等學者均大聲疾呼，速制定AI相關法律與道德規範，處理AI決策的責任歸屬、演算法偏見與公平性等問題。
AI也會加劇社會不平等的風險，由於技術資源掌握在大型科技公司或特定國家手中，為避免成為數位落後國家，完善AI產業政策與法令實為當前要務。
看下一篇文章
看上一篇文章
