閑魚上，AI“復活”的一些產品和報價。圖/網絡截圖
“要做的話提前做，清明節(jié)忙不過來?！?/p>
近日，一位活躍在閑魚平臺上的AI（人工智能）“復活”商家向新京報貝殼財經記者透露。
AI“復活”灰色產業(yè)已經起步，多位被AI“復活”的明星親屬紛紛發(fā)聲表示受到情感傷害，技術“潘多拉魔盒”已能窺見其中一角。與此同時，包小柏鉆研AI技術“復活”女兒，湯曉鷗教授再次“現(xiàn)身”商湯科技年會，這些場景也點燃了人們利用AI“復活”親人的技術希望。
“任何一種技術，特別是人工智能，我們必須假設它可能不被善意使用、出現(xiàn)失控的情況?！眹鴥饶臣翌I先人工智能團隊高管告訴新京報貝殼財經記者。從現(xiàn)有技術條件和法律環(huán)境來看，數(shù)字生命走向現(xiàn)實還有很長的路。
記者體驗
電商平臺AI“復活”存隱私暴露風險
隨著AI的持續(xù)發(fā)展，通過一張照片或一段視頻就能讓照片原主人“開口講話”的技術已經出現(xiàn)并逐漸普及，這讓一些人思念家人的情感得以找到宣泄的渠道，隨著清明節(jié)臨近，“數(shù)字永生”產品升溫。
3月28日，在AI“復活”領域創(chuàng)業(yè)的張澤偉透露，近20天的訂單數(shù)量是之前的兩倍，目前也在對接醫(yī)院、殯葬和養(yǎng)老等行業(yè)，“這些行業(yè)的客戶有一定需求”。
貝殼財經記者以AI“復活”為關鍵詞在閑魚、淘寶平臺進行搜索，發(fā)現(xiàn)市面上出現(xiàn)不少提供AI“復活”的商家。
記者以買家身份咨詢數(shù)位商家后發(fā)現(xiàn)，商家們主要提供三類產品，并且按時長進行梯度收費。
第一類是沒有聲音，只有嘴巴、眼睛等局部部位“動起來”的動態(tài)圖片，價格在10元-50元不等，持續(xù)時間在5秒-13秒之間；第二類是上述動態(tài)圖片搭配AI合成聲音的產品，價格從幾十元到幾百元的都有，持續(xù)時間大多在1分鐘以內；第三類是在動態(tài)圖片基礎上，用AI克隆親人聲音的產品，價格百元起步，時間也大多在1分鐘之內。
根據(jù)商品頁面說明及商家普遍說法，這三類產品只需要用戶提供一張五官全面、清晰的正臉照片即可。
淘寶商家提供的AI復活產品梯度收費價目表。
還有商家表示能夠提供具有交互功能的產品，售價1999元。該商家稱，此類產品通過手機應用實現(xiàn)交互，賬號僅限一人使用，制作周期需要一周左右，“快的話可能3天到5天”。
值得注意的是，這些商家的客戶隱私保護意識參差不齊。
當記者以買家身份詢問是否能夠提供產品示例時，這些商家大多向記者發(fā)送了自己的客單，有的商家甚至向記者提供文案參考時暴露了客單中的真實名字。在記者咨詢的商家中，只有一家表示頁面展示視頻是自家老人，并以“涉及隱私”的理由回絕了記者提供其他案例的要求。
在記者與商家溝通過程中，商家并未主動就素材和生成內容使用范圍與記者進行約定，商品頁面也無明顯相關說明，其中一家店鋪在商品頁面做了免責聲明。在記者提及對數(shù)據(jù)濫用擔憂時，一些商家才以口頭形式向記者保證不會泄露隱私。
對此，北京大成律師事務所肖颯律師團隊骨干律師袁承鵬建議，購買此類服務的消費者要充分知悉AI“復活”服務的性質、可能風險，以及服務提供者的資質信息等，同時也要關注自己提供的隱私信息是否得到妥善處理。
“確定交易可信后，也要盡可能留存證據(jù)，以便在發(fā)生爭議時維護自己的權益?！敝袊磐ㄔ赫吲c經濟研究所高級工程師、人工智能產業(yè)發(fā)展聯(lián)盟政策法規(guī)工作組秘書長程瑩補充道。
AI“復活”變形
已不局限于逝者的親屬，逝世明星“復活”成引流工具
為了賺錢，商家們已將AI“復活”的業(yè)務范圍擴展到了逝者的親屬之外，自詡“AI復活師”的小剛（化名）就是其中之一。
小剛告訴貝殼財經記者，有人在他這做“明星祝福視頻”，不過，在他發(fā)出的案例中，有不少是已逝世明星，包括李玟、姚貝娜等。而當記者表示自己要“復活”某一明星時，對方并沒有任何核實，立刻接受了要求，表示“照片或視頻發(fā)來”。
根據(jù)小剛發(fā)給記者的AI復活“價目表”，只提供一張照片，讓照片動起來的，只需要9.9元，照片加聲音是29.9元，照片加自定義聲音則是49.9元。而使用視頻素材制作更加精良AI復活視頻的，則要598元。
貝殼財經記者發(fā)現(xiàn)，發(fā)布“復活”明星的視頻成為吸引流量的一種方式。3月15日，小剛的一則使用AI“復活”科比說話的視頻在B站獲得了14.9萬的播放量，后續(xù)他又陸續(xù)“復活”了黃家駒、張國榮、吳孟達、鄧麗君。
在B站，一則“AI復活coco李玟”的視頻獲得了12萬次播放和845個評論，評論區(qū)內“授權了嗎？”“等著收律師函吧”被頂?shù)搅饲傲小?/p>
3月28日，已故知名歌手李玟的母親委托廣東夢海律師事務所就部分網絡用戶制作、傳播“AI復活李玟”相關短視頻事宜，公開發(fā)布了一則律師聲明稱：嚴正警告涉嫌侵權責任人7日內下架、刪除含有上述侵權內容的相關圖片、視頻及文章，立即停止實施相應侵權行為。
4月1日，新京報貝殼財經記者再次搜索上述李玟相關視頻發(fā)現(xiàn)，作者已經將其下架。
北京市中聞律師事務所合伙人趙虎在接受新京報貝殼財經記者采訪時表示，AI“復活”涉及多方面的法律問題，比較核心的是肖像權和涉及聲音的權益，“要‘復活’他人，就要使用他人的面貌，從而侵犯了他人的肖像權。但肖像權人去世后，肖像利益由他的親人、家屬享有，所以應該經過家屬的同意，沒有經過家屬同意就是一種侵權行為。如果加上配音的話，就侵犯了其有關聲音的權益，與肖像權同理，這在《民法典》中有明確規(guī)定。
對于在未經逝者家屬授權的前提下，在網絡平臺出于漲粉目的發(fā)布“復活”逝者視頻的行為，趙虎認為這屬于侵權行為，如果逝者的親人認為侵權并主張權益，視頻發(fā)布者就要承擔侵權責任，包括停止侵權（刪除視頻）、賠禮道歉、賠償損失。
“AI技術還可能引發(fā)額外的問題，比如使用AI模仿明星發(fā)表本不屬于其言論造謠，這就會擴展到名譽權的問題，還有可能構成違法犯罪。我認為AI復活技術在使用時應該遵守法律規(guī)定，不能侵犯他人合法權益，更不能拿來違法犯罪，否則就要承擔相應的法律責任。”趙虎說。
程瑩表示，AI“復活”還受到相關行政法律法規(guī)的調整，企業(yè)未盡信息內容安全義務的，將被追究行政責任。
生意擴容
招代理、收徒、賣課
通過各種方式的引流，“AI復活師”小剛的業(yè)務多到“忙不過來”。
“今日接單，接不過來，急需收徒！”“有客戶的照片五官看不清晰，我花了做5單的時間去調試，因為我和您一樣，希望最大限度幫助您圓夢?！毙偟呐笥讶铮洺Ｄ芸吹竭@樣的感慨。
商家AI“復活”生意擴容，包括招代理、收徒等。
“代理199元，半價拿貨；收徒399元，教授所有AI‘復活’、視頻剪輯以及短視頻運營，并且派單給你。技術指導是大廠的程序員和聲音工程師。”他表示。
除了親自帶徒弟，“AI復活師”也制作了教學視頻在網絡上發(fā)行。記者在閑魚和淘寶平臺上發(fā)現(xiàn)不少AI“復活”視頻制作教學課程。在課程“講師”口中，AI“復活”視頻成了一門可以利用信息差和情緒營銷手段促成的生意。
AI“復活”教程實際操作演示。圖/AI“復活”教程視頻截圖
記者分別以3.99元、4.68元和9.9元在兩個平臺向不同商家購買了三份教程，都收到了名稱相同的課程文件夾。記者分別查閱三份文件后發(fā)現(xiàn)，它們內容基本一致，都包含相同的教學視頻、對標自媒體賬號、對標AI“復活”短視頻、工具網址等。
在教學過程中，“講師”以“數(shù)字包容”（包小柏女兒）視頻效果為例，聲稱要做出這類“AI畫面強”“自然的”視頻。但在操作演示時只使用一些人工智能生成或深度學習的開源網站、國內短視頻剪輯軟件作為制作工具，最終通過一張照片呈現(xiàn)出簡單的動態(tài)圖片搭配AI配音的視聽效果。
“同行基本定價199元一個視頻，一個視頻時長在3分鐘以內，3分鐘199元，你一天接5單，一天接近1000塊”。
記者觀看課程內容時注意到，第一節(jié)課上，“講師”在介紹項目時多次強調“需求量大”，表示“現(xiàn)在競爭不那么激烈，沒那么多人會制作這類視頻”，還提到“這類視頻漲粉比較快”“目標人群消費能力強”。
“接商單、收徒，粉絲量達到一定程度還可以賣號?！彼谡n程中總結了上述變現(xiàn)方法，還從賬號名稱、頭像、簡介、更新頻率、經營粉絲群等方面?zhèn)魇诎b平臺賬號和獲取流量的經驗，實際上都是常見的情緒營銷和引流“套路”。
記者發(fā)現(xiàn)，實際上，AI“復活”只是此前不少“讓中國明星說英語”視頻的翻版，不少人生成視頻背后使用的工具是提供AI換聲服務的外國公司HeyGen。該公司自2023年 9 月7日上線視頻翻譯功能后，在國外社交平臺上迅速走紅，其靠免費試用攬客，排隊人數(shù)眾多，想要跳過排隊或者享受更多的服務則需要充值。
實際上，不少進行AI“復活”生意的人在早期正是通過HeyGen來招攬顧客，只不過隨著相關技術的普及，越來越多國內公司也擁有了類似的技術，AI“復活”生意人找到了更便宜的接口，AI“復活”的價格也越來越低。
AI“復活”技術不是障礙 法律程序才是
AI“復活”市場熱度升溫之際，不同技術團隊也做出不同的選擇。
“國內面臨老齡化趨勢，年輕人工作繁忙，在物質條件基本滿足的條件下，人越來越趨近追求精神和情感層面的滿足，技術能夠解決這樣的需求”。去年3、4月開始涉足AI“復活”業(yè)務的張澤偉對貝殼財經表示，他的團隊目前已經完成了1000張左右的訂單。
3月28日，他透露，近20天的訂單數(shù)量是之前的兩倍，目前也在對接醫(yī)院、殯葬和養(yǎng)老等行業(yè)，“這些行業(yè)的客戶有一定需求”。
有的團隊認為，技術擁有方在這一市場需求面前也得考慮其是否值得商業(yè)化。
國內某家領先人工智能團隊高管周天成（化名）表示，復生去世親人的商業(yè)價值并沒有那么大，更多在于提供撫慰個人情感的作用。而“一旦把它納入商業(yè)化考量，團隊可能就會每年設定一個關于復生去世親人業(yè)務的收入預期，在營銷的時候可能就會壓貨，跟用戶強調‘還剩最后6單’，出現(xiàn)兜售焦慮的問題。”
他認為把它作為迭代技術的訓練機會是一種較為合適的做法，AI“復活”親人是一個難度高、落地容忍度低的項目，“我們能夠在這樣的環(huán)節(jié)里獲得所謂‘還原人的標準’到底是什么”。
“我們早就可以實現(xiàn)AI‘復活’了，而且效果肯定比市面上其他家要好。”某國內頭部大模型公司的數(shù)字人銷售人員告訴貝殼財經記者，“技術上只要對方提供逝者生前視頻，我們就可以制作AI數(shù)字人，其效果和AI復活無異，但出于謹慎考慮我們一直沒有開展這項業(yè)務?！?/p>
該名銷售人員對記者表示，按照常規(guī)真人數(shù)字人的業(yè)務辦理流程，AI可以通過學習對方提供的真人視頻生成數(shù)字人，讓數(shù)字人說話的實現(xiàn)方式是找到類似其本人的唇形，再將唇形替換上去，“幾乎可以做到以假亂真”，但進行該業(yè)務的前提是要本人簽字，“對于AI復活，技術不是障礙，法律程序才是?！?/p>
曾完成AI“復活”包容（包小柏女兒）的小冰團隊表示，其相關復生技術研究迄今已有7年，2021年，其相關專利獲得批準。
事實上，在小冰團隊內部，該項技術研究也有三項倫理原則，包括：當本人在世時，AI復生項目應當僅由本人自由意志決定，而非任何其他相關第三方；本人不在世的，應當沿襲法律所判定的繼承人順序。具體實施中，應遵循訓練數(shù)據(jù)最小化原則，避免數(shù)據(jù)濫用；在上述前提下所產生的小冰AI復生克隆人，應接受全社會監(jiān)督，以確保不被濫用。
在周天成看來，目前AI“復活”親人已經出現(xiàn)了技術濫用。他多次向貝殼財經記者描述這樣一種可能的場景。一位父親用AI克隆了自己的聲音給孩子念繪本故事，有一天這個聲音可能會對孩子說：明天爸爸沒有辦法去接你，幼兒園門口有一輛白色面包車，放學后你就跟著這輛車走?！斑@個孩子可能就信了?！?/p>
“這些濫用往往來自市場上的劣幣”。周天成說。而放任劣幣發(fā)展，“最終可能導致好貓壞貓一塊被打死，整個社會都不再相信人工智能，你做的這件事情（人工智能行業(yè)）也就不復存在?！?/p>
對此，受訪者大都認為，法律法規(guī)對行業(yè)發(fā)展來說很重要?！叭裘つ繛榱藬U大規(guī)模、意圖非法牟利，AI‘復活’產業(yè)斷然不能長久?！痹轩i說。
程瑩建議AI“復活”服務提供者定期做好風險評估、倫理審查、使用者賬戶處置等工作，監(jiān)管部門做好監(jiān)測預警、合規(guī)指導等監(jiān)管工作。
在照顧到用戶利用新技術緬懷親人訴求的同時，她還建議私法層面能夠有效保護死者人格利益和近親屬權利，避免新技術應用違反公序良俗、沖擊倫理秩序，確保技術向善。
新京報貝殼財經記者 韋英姿 羅亦丹
編輯 岳彩周
校對 薛京寧
