人來人往的鬧市，喧囂的游樂園，靜謐的湖畔林間，三位身處不同場景的女性，都拿著手機等待著與自己的AI伴侶見面。在電影《我的AI戀人》中，身處逐漸虛擬化的世界，人們面對愛與被愛的選項時，均發生了巨大的改變。

　　在開年出圈的ChatGPT和與之相關的AI技術日漸普及後，人工智能高速超車，網戀的對象也似乎越來越虛擬化了。

　　先不論虛擬戀人與真實人物主體之間的情感關系能有多美妙，在主打陌生人交友的APP上，『情感騙子』已經躍躍欲試了。雖然『殺豬盤』之類的詐騙已不罕見，但交友軟件上的AI作弊工具越來越多，若有心用於詐騙，將帶來很大隱患。

　　『AI虛擬人物說他喜歡我』

　　早於ChatGPT火起來的AI繪圖應用能讓人們只需要輸入幾個關鍵詞就得到一幅不錯的畫作。如今，這類模型已經進化到可以生成類似真人照片的程度。

　　以小紅書上的AI美女賬號『愛旅游的小多』為例，華西都市報、封面新聞記者在瀏覽該賬號時發現，該賬號以虛擬美女小多照片為主要發布內容，在短時間內就吸引了數萬粉絲與點贊。許多人被虛擬人的溫柔、聰明和可愛所吸引，甚至願意與他們建立戀愛關系，不少網友在該賬號下留言稱『我的機器人女友』。

　　據媒體此前報道，網傳一則『蘇州金雞湖有游艇女僕party』的消息，網傳宣傳海報顯示，參加活動的收費是3000元一位，並配有一張性感女僕照片。報道中稱，這場所謂的『女僕party』可能是全國第一起AI繪圖詐騙。活動給出的女僕照片全是AI模仿真人照片的繪圖，部分女僕照片手指部分存在異常。由於手指部分的繪畫算法比較復雜，部分AI模型在繪畫時經常出現問題，符合AI繪畫的特征。

　　美國佛羅裡達大學AI和藝術副教授Amelia Winger-Bearskin曾在社交媒體公開解釋，AI基於從互聯網上收集的數十億張圖像進行訓練，它並不能真正理解『手』是什麼，至少不理解解剖學意義上手和人體的關聯。

　　但不會畫手的AI已經足以叫用戶害怕了，還有一些交友軟件和社交平臺開始推出『AI戀人』『AI美女』等虛擬角色，這些虛擬角色擁有與真實人類相似的思維和情感，讓人們產生了強烈的情感共鳴。

　　如果說『AI人工智慧繪圖』讓人真假難分，那麼如果想要與虛擬人物進行互動和交往，就更需要用戶打起十二分精神警惕被騙了。

　　『如果不聽AI苟蛋發語音，我真的懷疑他是個真人。』某交友軟件用戶李萌(化名)告訴記者，自己無意間發現了交友軟件中推出的虛擬戀人『AI苟蛋』，嘗試跟它進行對話後感到十分有趣。『雖然聊多了以後會有種都在說廢話的感覺，但它每次都會秒回，我要是無聊的時候都會跟他聊很久。』

　　有人會與虛擬角色聊天、分享生活，甚至會為這些虛擬角色慶祝生日、送禮物，不斷付出感情，把虛擬角色當成真正的伴侶來對待。雖然虛擬角色並沒有真正的身體和情感，但是這並沒有阻止人們對其付出真摯的感情。

　　AI換臉分分鍾薅走你的錢

　　除了打造一張全新的臉，為了獲取你的信任，AI還能夠偽造一張你的親朋好友甚至同事的臉，再配合日漸進步的AI語音技術，讓不法分子可以隨意模仿出不同聲線，騙取大眾特別是老年人的信任，進而冒認其親人來詐財。

　　據新華視點此前報道，2022年2月，有位陳先生到浙江溫州市公安局甌海分局仙岩派出所報案稱，自己被『好友』詐騙了近5萬元。經警方核實，詐騙分子利用陳先生好友『阿誠』在社交平臺發布的視頻，截取其面部視頻畫面後再利用『AI換臉』技術合成，制造陳先生與『好友』視頻聊天的假象騙取其信任，從而實施詐騙。

　　溫州公安曾發布消息，2021年拱宸橋派出所接到報警，受害人小陳稱他在與女網友視頻聊天後被對方敲詐勒索。經警方調查，對方利用AI換臉技術，將小陳視頻中的面部合成到不雅視頻中，借此對其實施勒索。

　　2020年，上海某公司高管因對方使用AI換臉與人工生成的語音技術制作公司領導的面孔，並要該高管轉賬，致使該高管被詐騙150萬元。

　　據外媒報道，2021年在美國加州，一女子在對方使用AI換臉技術偽造了一段家人需要打款的視頻後，被騙取了7萬多美元。

　　玩轉ChatGPT的發燒友，也發現了產生『釣魚郵件』詐騙的辦法。雖然OpenAI設置了道德性的防火牆，要求ChatGPT生產釣魚郵件會遭到拒絕，但是如果設置一種虛構的語境，ChatGPT同樣會給出相應的回答。

　　對此，多地公安局已發布相關信息提醒稱，境外有人使用ChatGPT創建了完整的『釣魚郵件』感染鏈，而且不同以往的廣撒網式網絡釣魚，它在提問者的誘導下，可以生成針對特定人或者組織的『魚叉式』網絡釣魚郵件。

　　『用戶在使用AI技術接入的軟件或互聯網產品時，一方面應當注意勿惡意利用AI技術進行不法行為，另一方面也應注意識別、核對交流方的真實身份，切勿輕信表象，在需要轉賬或花銷采購時謹慎考慮。』泰和泰律師事務所律師劉青說，若遭遇詐騙應第一時間報警尋求警方幫助，注意保留相關材料以供警方盡快掌握案情、嚴懲犯罪分子。

　　如發現自己的肖像被盜用或者『被換臉』該如何處理？劉青建議，用戶應當第一時間保留證據，以便後續維權。『同時，用戶還可以向網絡平臺運營商提出投訴，要求強制下架侵權圖片或視頻，也可以提起人格權訴訟，用法律武器維護自己的合法權益。』

　　『AI時代』的詐騙應如何監管？

　　因為AIGC內容火爆，會有一些面對AI換臉或者其他AI技術詐騙的問題出現，若用戶投入感情並充值了大量費用，平臺方是否構成詐騙？如果有人通過AI技術換臉詐騙成功，將面臨怎樣的法律制裁？

　　『在網絡社交領域，陪聊、陪玩、交友等不同形態的服務同時存在，因此，用戶為之充值的費用，得看是以什麼名義。』北京榮罡律師事務所律師朱佩為指出，如果跟AI談戀愛而付費，被客戶誤以為是真人，屬於詐騙行為，但如果用戶明知對方是AI還充值，則不構成詐騙行為。

　　然而，從監管層面來看，即使已有先前的違法案例，但此類軟件廣泛存在，監管難度在於涉及的法律關系相對復雜，行政監管無權直接乾預。『用戶利用AI換臉技術偽裝，導致被偽裝人的肖像權等權利被侵犯，或導致其他人的感情和財產大量受損時，平臺在未盡到合理審核義務、未有效規制該類行為發生的情況下，需要承擔一定的幫助侵權，甚至直接侵權法律責任。然而，除非平臺故意為之或協助詐騙人進行詐騙行為，否則很難認定平臺構成詐騙罪。』劉青告訴記者。

　　劉青表示，如果有人通過AI技術換臉故意實施詐騙行為，導致受害人產生錯誤認識後對財產作出了錯誤處分的，符合『詐騙罪』的構成要件，觸犯我國刑法第266條的規定，數額較大的處三年以下有期徒刑、拘役或者管制，並處或者單處罰金；數額巨大或者有其他嚴重情節的最高將面臨無期徒刑的嚴重刑罰。而《最高人民法院最高人民檢察院公安部關於辦理電信網絡詐騙等刑事案件適用法律若乾問題的意見》明確規定，詐騙財物價值三千元以上就已經屬於刑法第266條規定的『數額較大』了。

　　國家新一代人工智能治理專業委員會在2021年9月發布了《新一代人工智能倫理規范》，提出將倫理道德融入人工智能研發和應用的全生命周期。

　　在2022世界人工智能大會治理論壇上，上海交通大學凱原法學院院長、特聘教授彭誠信曾指出：『數字社會中倫理之治的根本還在於人，企業倫理、科技的可信向善，歸根結底還是人的可信向善，因此需要完善法律監管、厘清法律基本責任，確立人們的行為規范。』

　　為進一步規范『人』在科技倫理治理中的作用，在今年3月發布的《關於加強科技倫理治理的意見》中要求，從事生命科學、醫學、人工智能等科技活動的機構，研究內容涉及科技倫理敏感領域的，應設立科技倫理(審查)委員會。

　　華西都市報-封面新聞記者邊雪