▲女子“用AI流浪漢騙老公”，結(jié)果丈夫信以為真，當(dāng)即報(bào)警求助。圖/都市快報(bào)視頻截圖
女子用AI制作“流浪漢闖入家中”圖片，丈夫嚇到報(bào)警。這不是小說(shuō)情節(jié)，而是真實(shí)發(fā)生的現(xiàn)實(shí)。
據(jù)安徽商報(bào)報(bào)道，近日，安徽一女子用AI工具生成了高度逼真的“流浪漢臥坐餐廳”等圖片，發(fā)給在外聚餐的丈夫想測(cè)試其反應(yīng)，沒(méi)想到丈夫信以為真，當(dāng)即報(bào)警求助。而在媒體的相關(guān)報(bào)道中，用AI制作“流浪漢闖入家中”圖片、視頻來(lái)整蠱家人的帖子，也在社交平臺(tái)走紅。
需明確的是，這不是什么好玩的事，AI的使用是有邊界的，夫妻或者家人之間的感情，也沒(méi)必要用AI來(lái)測(cè)試。AI整蠱，這種看似荒誕的操作，實(shí)則存在不少隱患。
如今，AI換臉、語(yǔ)音合成等技術(shù)正在改變?nèi)藗兩畹姆椒矫婷?，但同時(shí)也讓制造虛假信息變得輕而易舉?！傲骼藵h闖入家中”這類謊言，之所以能起到以假亂真的效果，一方面說(shuō)明AI工具的生成功能強(qiáng)大，足夠以假亂真，另一方面也意味著，AI的使用門檻在變低，使得人們可以輕易用AI整蠱、開(kāi)玩笑。
技術(shù)本是中性的，一種技術(shù)的被發(fā)明創(chuàng)造，初衷總是為服務(wù)于人。但當(dāng)其可以被大范圍、低門檻地使用時(shí)，就面臨著“異化”的風(fēng)險(xiǎn)。
用AI流浪漢騙老公或者其他親人事件的出現(xiàn)，就發(fā)出了這樣一種警示。使用者或許只是出于好奇、好玩的心理，想著開(kāi)個(gè)玩笑、無(wú)傷大雅。但這類玩笑本身已是對(duì)雙方信任關(guān)系的消耗，也是對(duì)家庭成員的不尊重。
而這類玩笑中，AI的工具屬性從“服務(wù)人”變成了“戲弄人”。此舉一旦引發(fā)模仿效應(yīng)，無(wú)疑將帶來(lái)更多的AI濫用問(wèn)題。
事實(shí)上，據(jù)新聞報(bào)道可知，近期多地已出現(xiàn)類似AI整蠱引起的鬧劇，有的引發(fā)整棟樓逐層排查，有的導(dǎo)致親屬緊急“奔襲”。
從法律層面看，這種“玩笑”也暗藏巨大風(fēng)險(xiǎn)。根據(jù)《中華人民共和國(guó)治安管理處罰法》相關(guān)規(guī)定，對(duì)謊報(bào)警情的違法行為有著明確的罰款、拘留規(guī)定。而刑法中也有“編造、故意傳播虛假信息罪”，規(guī)定“造成嚴(yán)重后果的，處3年以上7年以下有期徒刑?！?/p>
今年7月，就有一男子為博取關(guān)注使用AI大模型生成了“女兒被人抱走”的“尋人啟事”并發(fā)布到社交平臺(tái)，最終被行政拘留。
這類法律規(guī)定、處罰教訓(xùn)足以說(shuō)明，技術(shù)濫用的代價(jià)從來(lái)不是 “一句玩笑”就能抹平的。
遏制AI濫用亂象，需要多維度的協(xié)同發(fā)力。此前，中央網(wǎng)信辦部署開(kāi)展“清朗·整治AI技術(shù)濫用”專項(xiàng)行動(dòng)取得顯著成效，但技術(shù)治理的長(zhǎng)效機(jī)制仍需持續(xù)完善。
相應(yīng)的制度規(guī)范要“長(zhǎng)出牙齒”，對(duì)濫用技術(shù)造成危害的行為依法嚴(yán)懲。平臺(tái)層面也需加強(qiáng)對(duì)AI生成內(nèi)容的標(biāo)識(shí)管理，一旦這種AI整蠱的圖片、視頻在平臺(tái)出現(xiàn)，就得及時(shí)予以核實(shí)規(guī)制，防止其擴(kuò)散后產(chǎn)生示范效應(yīng)。
AI的價(jià)值不在于制造虛假，而在于賦能真實(shí)。而讓AI真正服務(wù)于生活，而非成為破壞信任、傷害感情的工具，或許是AI時(shí)代每個(gè)人都須具備的“媒介素養(yǎng)”。
撰稿 / 流水（媒體人）
編輯 / 柯銳
校對(duì) / 楊利
