在2017年，Reddit這個知名的娛樂、社交及新聞網站中的一位名為"deepfakes"的會員發佈了一個由AI合成的名人偽造視頻，從此開始這種AI合成技術被稱為Deepfake。Deepfake一詞由"Deep Learning"和"Fake"組合而成，它是一種利用人工智能深度學習模型的技術。其原理是通過兩個神經網絡相互對抗，經過交替優化訓練後，生成的內容可以與真實人物難以區分。 

最初，Deepfake技術主要用於宣傳和創意用途，並且在大多數影片中，作者都會聲明其影片是假的。此外，Deepfake甚至被用於彌補原本無法實現的事情，其中最著名的應用是在好萊塢電影《玩命關頭7》和《星際大戰》中的主角保羅·沃克。沃克在拍攝期間意外身亡，他的角色由他的弟弟代替完成，然後使用Deepfake技術連接電影中的場景，最終使電影完成並上映。 

然而，儘管這種技術表面上看起來無害且有著良好的意圖，但它卻帶來了許多法律問題和信息風險。隨著技術的發展，任何人都可以輕易製作假影片或假聲音，其中可能包含不良意圖。由於Deepfake可以模仿任何人的外貌和聲音，這意味著任何人，尤其是知名人士，都可能被放置在虛假的情境中，從而造成名譽損害。此外，Deepfake技術可能被濫用於政治操作、偽造新聞和商業領域，這些都可能成為其負面影響的例子。而最接近普通人的可能就是由Deepfake技術產生的詐騙。 

由Deepfake產生的詐騙主要可以分為三種。首先是電話詐騙，主要是模仿親朋好友的聲音，以此來騙取金錢和個人信息。詐騙者不僅模仿聲音，還能模仿說話的語調、斷句和口音。其次是視訊詐騙，由於Deepfake技術可以合成影片和語音，這意味著你可能會接到看似是你認識的人打來的視訊通話。第三種是恐嚇詐騙，主要是通過合成不雅照片或影片來恐嚇並勒索當事人。 

在接下來難辦真相的網絡世界中，Deepfake只是當今科技社會所面臨的一個問題，法律和社會規範應該如何跟上這一步？如何解決其中涉及的著作權和倫理問題？這些都是需要進行深入討論和驗證的重要課題。 



尹展軒 
Senior IT Consultant