我們已經身處“后真相”時代。情感驅動著人們對這些具有高度沖擊性的內容做出直接反應，而非看完之后進行冷靜思考。這也正是AI合成的虛假新聞產生的溫床。 作者 |張文曦 編輯 |譚山山 題圖 |紀錄片《真相背后：虛假新聞與信息的代價》 AI假新聞，收割眼淚和流量 人們再一次被AI假新聞騙走了眼淚。 1月7日上午9時5分，西藏日喀則市定日縣發生6.8級地震。由于震級和海拔較高，這次地震災害在互聯網上得到了各方的持續關注。在眾多講述災情和救災情況的文字信息之中，一段視頻抓住了眾人的眼球：一個頭戴彩色帽子、身穿同款毛衣的小孩被壓在倒塌的建筑物下，臉和身子上布滿了灰塵。這樣一個具有強烈對比和沖擊性的畫面，很難不讓人動容。 “這個孩子讓我哭了一天。”“這個孩子現在還好嗎？有沒有人知道？”……視頻中受災兒童的情況，牽動著無數網友的心。 多家自媒體發布這段視頻時，帶上了日喀則地震的信息以及“祈禱震區朋友們平安無事”等語句。這讓觀眾下意識地認為，視頻中的兒童正是日喀則地震的受災者。人們紛紛轉發、關注，為受災兒童祈禱。

但實際上，早在2024年11月，這一短視頻便已經在互聯網出現，其創作者聲明，它是AI生成的內容。有記者采訪了這名創作者，對方稱，當時創作視頻的初衷是為了反映戰爭背景下民眾飽受摧殘的生存狀況，而非為了造謠。 只不過，經過視頻和文字的移花接木，這一短視頻與毫不相關的日喀則地震產生了關聯性。發布者們用預制素材蹭上了災難的熱度，收割了感動，也獲得了流量。 如果說AI生成的廢墟下的兒童畫面被帶上地震信息是一種肆意拼貼，那么由AI根據現有新聞素材生成的圖片、視頻內容，則是另一種“無中生有”。 當地時間2024年11月7日起，美國加利福尼亞州洛杉磯多地連續發生山火，火勢不斷蔓延。一段視頻在社交媒體上廣為流傳，視頻中，洛杉磯著名地標——“好萊塢”（HOLLYWOOD）廣告牌正被山火吞噬。

事實上，據法新社駐洛杉磯記者在現場確認，“好萊塢”未見損毀；全球火情監測系統FIRMS的地圖上，也未顯示該地附近有火情發生。網絡上所流傳的“好萊塢”燃燒的視頻，都是由AI生成的。 AI技術污染新聞內容的現象，早在幾年前就顯露苗頭。“甘肅一火車撞上修路工人，致9人死亡 ”“五角大樓發生爆炸”“廣東省五華縣華陽鎮一70多歲老人被毆打致昏迷，其孫子為此跳河自殺，打人者一審被判九年十個月”……如果留意，會發現這些肉眼難辨的AI假新聞經常集中于城鄉發展、階層矛盾、性別對立、國際局勢等備受關注的議題。

面對這些虛假新聞圖片和視頻帶來的強烈沖擊，人們的第一反應是在情感上給予反饋。在或憤怒、或震驚、或悲傷時，人們往往忘記了追問那個最基本的問題：這一切都是真的嗎？ 流量至上時代，虛假信息泛濫已經成為世界性難題。“后真相”（post-truth）一詞曾當選《牛津英語詞典》的“2016年度英文詞匯”，它表明，在輿論面前，事實不再是第一順位，個人的情感和態度才是最大的影響因子。 情感驅動著人們對這些具有高度沖擊性的內容做出直接反應，而非看完之后進行冷靜思考。在虛假新聞中，受困于廢墟的兒童有六根手指，“好萊塢”廣告牌多了一個“O”，而這些明顯不符合常理的錯漏，并未引起人們的關注。

誰在制造AI假新聞？ 從“眼見為實，耳聽為虛”到“眼見也未必為實”，從“有圖有真相”到“有圖也未必有真相”，AI技術屢屢試探新聞真實的邊界。那么，究竟是誰在制造AI假新聞？他們為何要制造假新聞？ 在AI技術的加持下，虛假新聞的制假成本和所需的技術條件，并不像人們所想象的那么高。 2023年7月4日，浙江紹興警方抓獲了一個利用ChatGPT制作虛假新聞的團伙。這個團伙中，有一個此前從未接觸過電腦技術、僅有初中學歷的成員。她利用ChatGPT技術，學會了自動生成“腳本”和相關視頻素材，最后一鍵生成有音樂、字幕的虛假視頻，需時最短僅1分鐘。 根據警方介紹，該團隊首先在網絡上收集熱門話題，通過AI軟件生成視頻，再通過視頻號發布。“有閱讀量就會有收益。”在被警方問及發布虛假內容能否牟利時，其中一人如此回答道。

而在2024年4月披露的一則案件中，涉案人員使用一款叫“翠綠筆墨”的寫稿軟件，先從大量社會熱點新聞中抓取用戶關心的內容，再通過同義詞轉換、段落顛倒等方式，自動生成文稿，每日產出的文章數量可達19萬篇。這些拼湊而成的文章，流向6000多個自媒體賬號，最終觸達用戶。用戶對新聞事件的關注，轉化為平臺給予的閱讀量獎勵。 AI虛假新聞的牟利方式，簡而言之就是“降本增效”。低廉的制作成本，使得虛假新聞的盈利空間相應擴大。 如果要驗證一條新聞的真實性，須進行事實核查——一般需要經過評估信源、上報可疑內容、厘清核查點、追溯虛假信息的傳播路徑等過程。但要制造一條仿真度極高的AI假新聞、一張AI假圖片，只需借助AI技術，輸入指令，等待幾秒。

受眾的需求也讓AI合成的假新聞有了持續產出的動力。年輕一代或許會通過多方途徑查驗某條信息的真實性，而家族群里的長輩不一定有分辨信息的意識。對于在傳統媒體環境下成長的長輩，他們會默認媒體所發布的內容是可信的。更何況，在他們的認知中，視頻不可能造假，而是對事件的真實記錄。 因此，那些煽情的虛假新聞視頻總有自己的受眾。熱衷國際政治的，會被AI特朗普的虛假發言煽動；關心身體健康的，會點進AI張文宏賣威化蛋白棒的鏈接地址并激情下單；即便沒有什么愛好的人，也會把報道天災人禍、人間真情的各種真假難辨的信息，一股腦地發到家族群里并@所有群成員觀看。 結果就是，真相還在穿鞋，而AI假新聞已經坐上標題黨的快車，走出了家門。 我們的情感，也被預制了嗎？ 在AI能輕松生成逼真內容的時代，人們的感動和震撼，時常被預制的虛假新聞占據。這種情況下，很難保證人類情感的含金量可以和過去同日而語。 哲學家本雅明曾經敏銳地捕捉“震驚”這一現代人特有的心理模式。他認為，陌生化的震驚和刺激，能夠激發新的語境，最后引發人們的深度思考。本雅明以電影工業為例，批判電影工業不斷復制震驚和驚奇，淪為大眾尋求刺激的消遣。 而到了人工智能時代，媒介所帶來的沖擊非但沒有偃旗息鼓，反而愈演愈烈。批量制造的AI假新聞更是如此。 AI根據人類投喂的素材，創造出適配互聯網風向和傳播趨勢的內容。它足夠聰明，能迅速掌握觀眾會被什么樣的苦情情節打動，又會被什么樣的熱點事件牽引情緒。觀眾的所有反應，早已被AI虛假新聞提前預設。

對于人類來說，關注當下發生的新聞，關心遠方的人和事，本是人性使然。只是，當我們的悲憫和感動都來自預制的AI生成內容，它們是否在一定程度上稀釋了我們的情感？在難以辨明真偽的內容面前，我們甚至不能確定，是不是真的有一個孩子身處苦難，是不是真的有人正在等待幫助。

當我們被所見所聞的東西深深觸動，卻被告知，它們可能都是虛假的產物；那么，就像那個著名的“狼來了”的故事，下一次，因為不知真假，我們似乎不能保證自己還會對遠方的哭聲保持悲憫之心。最后的結果，可能就是人們逐漸變得麻木、冷漠。而這，或許是AI合成的虛假新聞最令人后怕的一點。 校對：遇見；運營：小野；排版：小燁 [1] 中國新聞網.紹興警方偵破利用ChatGPT技術團伙制作虛假視頻案 [2] 極目新聞.用AI偽造“新聞”牟利日產19萬篇，一批造謠者被抓