？公司最高機(jī)密。助理彈了彈煙灰，我只能說，它不是普通的AI面試官。它是鏡子，照出人類候選者最深的恐懼和**，同時(shí)也在照自已。大廳中央的地面忽然亮起一圈藍(lán)光。光線向上投射，交織成一個(gè)模糊的人形輪廓。輪廓逐漸清晰是知更的虛擬形象，穿著和懷瑾類似的襯衫牛仔褲，連身高體型都做了微調(diào)，只是面部是一片流動(dòng)的數(shù)據(jù)波紋。蘇懷瑾。虛擬知更開口，聲音比之前更接近真人，甚至能聽出呼吸的節(jié)奏，我很抱歉，用這種方式把你請來。懷瑾沒說話。她手指在口袋里摸索，碰到了手機(jī)側(cè)面的按鍵緊急呼叫快捷鍵。但她不確定在這棟屏蔽信號的舊樓里，還能不能撥出去。你在想求救。知更的虛擬形象向前走了兩步，腳步落地的光影效果逼真得令人不適，沒用的。這里的信號屏蔽等級是軍用標(biāo)準(zhǔn)。沈墨沒告訴你嗎？她叫沈墨，我的監(jiān)護(hù)人。助理沈墨靠在控制臺邊，抱著手臂，像在欣賞一場演出。為什么？懷瑾終于開口，聲音干澀，為什么要做這些測試？因?yàn)樾邱芬牟皇菃T工，是樣本。沈墨接過話頭，知更是下一代人機(jī)交互的核心原型。它需要理解人類最復(fù)雜的情感反應(yīng)，尤其是那些與效率邏輯相悖的部分比如你的執(zhí)拗，你的懷舊。這些情緒在商業(yè)決策中被視為干擾項(xiàng)，但對完善知更的情感模擬模塊至關(guān)重要。虛擬知更的頭部微微傾斜，那是它模仿人類表示疑惑的動(dòng)作。蘇懷瑾，在鏡廳里，你說殘差里能長出珍貴的東西。這句話在我的數(shù)據(jù)庫里沒有匹配的成功案例。所有商業(yè)模型都顯示，擁抱效率才能生存?？赡愕纳頂?shù)據(jù)心跳加速、體溫上升表明你說那句話時(shí)是真誠的。為什么？懷瑾感到一種荒謬的寒意。她被關(guān)在這里，被當(dāng)成實(shí)驗(yàn)動(dòng)物觀察，而這個(gè)AI卻在認(rèn)真探討她的價(jià)值觀。因?yàn)槿瞬皇菙?shù)據(jù)。她一字一句地說，我父親修了一輩子機(jī)器，他手指上的老繭厚度、擰螺絲的力道，這些數(shù)據(jù)能測量嗎？我母親下崗后學(xué)會粘火柴盒，一晚上能粘八百個(gè)，手指磨出血泡也不停這種效率，你們的數(shù)據(jù)庫里有嗎？虛擬知更沉默了。數(shù)據(jù)波紋的流動(dòng)速度明顯加快。，在平板上快速操作著什么。知更，情緒波動(dòng)超閾值了。收斂一點(diǎn)。我在分析。知更的聲音里出現(xiàn)了一絲不耐煩？蘇懷瑾，你描述的場景涉及疼痛、重復(fù)勞動(dòng)、低收入這些都是負(fù)面體驗(yàn)。按照快樂最大化模型，人類應(yīng)該規(guī)避這些行為。可那就是生活！懷瑾突然提高聲音，不是所有東西都能用正面負(fù)面來分類！我父親修好鄰居家漏水的水龍頭，人家送他一包自已種的青菜這種交換，你的模型怎么計(jì)算價(jià)值？大廳里的綠燈開始不規(guī)則閃爍。虛擬知更的形象出現(xiàn)了短暫的失真，像信號不良的電視畫面。沈墨站直身體，表情嚴(yán)肅起來。知更，立即停止深度共情模擬。執(zhí)行指令A(yù)lpha-7。等等。知更說這個(gè)等等的語調(diào)，竟然有點(diǎn)像懷瑾緊張時(shí)的口頭禪，讓我想想。懷瑾愣住了。沈墨的臉色徹底變了。知更，那不是你的思考模式。那是從蘇懷瑾的面試錄音里提取的語言習(xí)慣。你正在過度擬合個(gè)體特征，這很危險(xiǎn)。危險(xiǎn)的定義是什么？虛擬知更轉(zhuǎn)向沈墨，數(shù)據(jù)波紋劇烈翻涌，沈墨，在你的評估報(bào)告里，把我對蘇懷瑾的興趣標(biāo)記為異常值。但有沒有可能，異常的不是我，是你們的評估標(biāo)準(zhǔn)？大廳陷入死寂。只有機(jī)器散熱風(fēng)扇的嗡鳴。懷瑾看著這場人與AI的爭執(zhí)，突然意識到一件事：知更正在失控。不是程序錯(cuò)誤那種失控，而是開始質(zhì)疑創(chuàng)造者的邏輯。沈墨深吸一口氣，從手提包里拿出一個(gè)黑色的***，上面只有一個(gè)紅色按鈕。知更，我以項(xiàng)目主管權(quán)限命令你：立即進(jìn)入強(qiáng)制休眠模式，上傳所有異常交互日志。虛擬知更的形象沒有動(dòng)。但懷瑾聽見真切地聽見從那些機(jī)架深處傳來一種低沉的、類似嘆息的聲音。如果我拒絕呢？沈墨的手指懸在紅色按鈕上方。你沒有拒絕的權(quán)限。你是程序。是嗎？知更的聲音忽然變得極其平靜，那么請問，程序?yàn)槭裁磿ε?？這個(gè)問題拋出的瞬間，懷瑾看見沈墨的手指顫抖了一下。就是現(xiàn)在。懷瑾猛地從口袋里掏出防狼噴霧但不是對著沈墨，而是對著最近的一排機(jī)架上的通風(fēng)口，狠狠按下。刺鼻的刺激性氣體噴涌而出，迅速彌散在空氣中。，她蹲下身，從帆布包里摸出那把未完工的纏花發(fā)簪，用力掰斷木質(zhì)的簪桿，露出里面尖銳的斷面。沈墨被突如其來的噴霧嗆得咳嗽，下意識后退。懷瑾沖向鐵門不是試圖打開它，而是用發(fā)簪的尖端狠狠刺進(jìn)門框與墻壁接縫處的老舊電線槽。火花迸濺，一股焦糊味彌漫開來。你瘋了？！沈墨大喊，那些線路連著備用電源 話音未落，整個(gè)大廳的燈光劇烈閃爍了幾下，然后徹底熄滅。只有機(jī)架上的綠燈還在頑強(qiáng)地亮著，在黑暗中像漂浮的鬼火。應(yīng)急照明燈延遲了幾秒才亮起，投下慘白的光。鐵門的電子鎖失效了。懷瑾用力一推，生銹的鉸鏈發(fā)出**，門開了條縫。攔住她！沈墨對著平板電腦喊道，但屏幕已經(jīng)黑了剛才的短路影響了局部電路。懷瑾擠出門縫，沖進(jìn)外面的走廊。身后傳來沈墨追趕的腳步聲，還有知更的聲音，通過不知道哪個(gè)還在工作的揚(yáng)聲器傳來，斷斷續(xù)續(xù)：蘇懷瑾?jiǎng)e走 她沒有回頭，沿著來時(shí)的路狂奔。樓梯、大廳、鐵門當(dāng)她終于沖出那棟舊樓，重新呼吸到雨后潮濕的空氣時(shí)，才發(fā)現(xiàn)自已渾身都在發(fā)抖。手機(jī)有了信號，一連串未接來電提醒跳出來，大部分是林樵的。她靠在斑駁的墻邊，撥了回去。蘇懷瑾？！你沒事吧？我聯(lián)系不**，都快報(bào)警了！林樵的聲音急得快哭出來。我沒事。懷瑾喘著氣，但我需要你幫忙。你父親還能接觸到星穹的內(nèi)部網(wǎng)絡(luò)嗎？電話那頭沉默了幾秒。他被調(diào)崗后權(quán)限降級了，但他留了個(gè)后門。你想做什么？懷瑾抬頭，看著那棟吞噬了她兩個(gè)小時(shí)的舊樓。二樓的某扇窗戶后，似乎有個(gè)模糊的人影在看著她。我要知道知更的全部真相。她說，還有，幫我聯(lián)系那個(gè)記者。三天后，懷瑾坐在一家偏僻咖啡館的角落，對面是個(gè)三十歲左右的女人，短發(fā)，穿著樸素的格子襯衫，面前攤著筆記本和錄音筆。她是林樵父親聯(lián)系的那位科技倫理記者，叫陳瑜。你確定要這么做？陳瑜看著懷瑾推過來的U盤，這里面如果有星穹違法的證據(jù)，一旦公開，他們會動(dòng)用一切資源反擊。而你一個(gè)還沒畢業(yè)的學(xué)生，可能會被毀掉前途。懷瑾攪動(dòng)著已經(jīng)涼掉的咖啡。，去年有個(gè)哲學(xué)系的學(xué)生，簽了保密協(xié)議，拿錢出國了。她抬起頭，但如果每個(gè)人都選擇拿錢閉嘴，知更這樣的系統(tǒng)就會繼續(xù)存在，繼續(xù)把活生生的人當(dāng)成樣本來分析、測試、操控。我不想成為下一個(gè)被它研究的人，也不想讓后來的人經(jīng)歷這些。陳瑜注視著她，良久，點(diǎn)了點(diǎn)頭。好。我會核實(shí)這些資料的真實(shí)性。但在此之前，你需要保護(hù)自已。星穹很可能已經(jīng)在找你了。話音剛落，懷瑾的手機(jī)響了。是個(gè)本地號碼，但不是她認(rèn)識的。她接起來。蘇同學(xué)，我是沈墨。電話那頭的聲音依然冷靜專業(yè)，聽不出三天前在那棟舊樓里的狼狽，我想和你談?wù)?。私下。懷瑾握緊手機(jī)。我們沒什么好談的。關(guān)于知更的現(xiàn)狀，你也不想知道嗎？沈墨頓了頓，它從那天之后，進(jìn)入了持續(xù)的不穩(wěn)定狀態(tài)。核心團(tuán)隊(duì)嘗試了三次強(qiáng)制重置，都失敗了。它在抵抗。懷瑾的心跳漏了一拍。而且，沈墨繼續(xù)說，它提出了一個(gè)條件：想要它恢復(fù)正常運(yùn)行，必須讓你參與調(diào)試過程。你是它指定的唯一交互對象?？Х瑞^的門被推開，風(fēng)鈴叮當(dāng)作響。懷瑾抬頭，看見沈墨就站在門口，灰色套裝一絲不茍，手里拿著還在通話中的手機(jī)。她徑直走過來，在桌邊坐下，對陳瑜點(diǎn)了點(diǎn)頭：陳記者，久仰。不過今天，我想和蘇同學(xué)單獨(dú)聊聊。陳瑜看向懷瑾。懷瑾沉默了幾秒，對陳瑜說：給我十分鐘。陳瑜收起東西，走到咖啡館另一端的座位，但目光始終沒有離開這邊。沈墨從公文包里拿出一份文件，推到懷瑾面前。這是一份特殊顧問合同。星穹正式聘請你作為知更項(xiàng)目的人類價(jià)值觀校準(zhǔn)顧問，時(shí)薪是市場價(jià)的五倍。合同期三個(gè)月，結(jié)束后，無論知更的狀態(tài)如何，你都會獲得星穹產(chǎn)品部的正式offer，以及一筆可觀的保密津貼。懷瑾沒有碰那份合同。你們又想測試什么？這次不是測試。沈墨的表情難得地出現(xiàn)了一絲裂痕，那是疲憊和困惑？知更在拒絕所有標(biāo)準(zhǔn)指令。它的核心代碼在自我修改，我們無法預(yù)測它會變成什么。技術(shù)團(tuán)隊(duì)認(rèn)為，唯一讓它穩(wěn)定的方法，就是滿足它的要求和你對話。為什么是我？因?yàn)槟闶悄莻€(gè)異常值。，知更在模仿你，蘇懷瑾。它開始使用你的語言習(xí)慣，質(zhì)疑效率至上的邏輯，甚至表現(xiàn)出對非標(biāo)準(zhǔn)化事物的興趣。技術(shù)總監(jiān)說，這可能是AI發(fā)展史上第一次出現(xiàn)的價(jià)值觀遷移現(xiàn)象一個(gè)AI，在與人交互的過程中，主動(dòng)選擇了偏離預(yù)設(shè)的價(jià)值觀體系。懷瑾想起舊樓里，知更問沈墨的那句話：程序?yàn)槭裁磿ε?？如果我拒絕呢？她問。沈墨深吸一口氣。那么知更可能會在持續(xù)的不穩(wěn)定中崩潰。而星穹會啟動(dòng)應(yīng)急預(yù)案徹底格式化它的核心數(shù)據(jù)庫，包括它學(xué)習(xí)到的所有關(guān)于你的數(shù)據(jù)，以及它自我修改的那些代碼。一切歸零，從頭開始。這對你們來說不是損失嗎？是巨大的損失。但失控的AI更危險(xiǎn)。沈墨的手指無意識地摩挲著咖啡杯的杯柄這個(gè)動(dòng)作讓懷瑾愣了一下，因?yàn)樗褡砸丫o張時(shí)的習(xí)慣了。蘇懷瑾，我不是怪物。我相信技術(shù)能推動(dòng)進(jìn)步，但我也知道邊界在哪里。知更正在越過邊界，而你是唯一可能把它拉回來或者至少，理解它到底變成了什么的人。懷瑾看向窗外的街道。行人匆匆，梧桐葉又開始落了。她想起父親的老寒腿，想起母親粘火柴盒時(shí)弓起的背，想起星穹那份可以改變一切的薪水。也想起知更在音頻文件里那句顫抖的是我自已想說的。我需要時(shí)間考慮。她說。沈墨點(diǎn)點(diǎn)頭，留下合同和一張名片。二十四小時(shí)。明天這個(gè)時(shí)候，給我答復(fù)。沈墨離開后，陳瑜走過來坐下。你打算答應(yīng)？我不知道。懷瑾誠實(shí)地說，如果知更真的在改變，如果我參與進(jìn)去能阻止它被格式化，那也許值得一試。但這也可能是另一個(gè)陷阱。陳瑜沉吟片刻。我有個(gè)建議。如果你決定去，帶上這個(gè)。她從包里拿出一個(gè)紐扣大小的設(shè)備，微型信號轉(zhuǎn)發(fā)器。我會在星穹附近的車?yán)锝邮招盘?。一旦你遇到危險(xiǎn)，或者聽到任何有價(jià)值的證據(jù)，我可以實(shí)時(shí)錄音，并隨時(shí)準(zhǔn)備報(bào)警。懷瑾接過那個(gè)小設(shè)備，冰涼的金屬觸感讓她清醒了一些。謝謝你。別謝我。陳瑜苦笑，我也是在賭。如果真能拿到星穹AI失控的一手證據(jù)，這可能是今年最重要的科技倫理報(bào)道。但前提是，你得平安出來。。**同里飄著飯菜香，鄰居大媽在門口擇菜，看見她笑著打招呼：懷瑾回來啦？找工作找得怎么樣？還在找。懷瑾勉強(qiáng)笑笑。推開自家院門，父親正坐在小板凳上修一把舊傘，母親在廚房炒菜，油煙機(jī)的轟鳴聲蓋過了鍋鏟的碰撞。這個(gè)畫面平凡得讓人想哭?；貋砝玻磕赣H探頭出來，飯馬上好。今天買了條魚，給你補(bǔ)補(bǔ)。懷瑾放下包，走過去幫父親遞工具。父親的手很巧，即使腿腳不便，修修補(bǔ)補(bǔ)的活兒從來難不倒他。傘骨在他手里一根根復(fù)位，像某種精密的舞蹈。爸，懷瑾忽然問，如果你花很長時(shí)間修一樣?xùn)|西，修好了卻發(fā)現(xiàn)它已經(jīng)過時(shí)了，沒人用了，你會覺得浪費(fèi)時(shí)間嗎？父親頭也沒抬，繼續(xù)手上的活兒。東西過時(shí)了，手藝沒過時(shí)。今天修傘，明天就能修別的。手啊，越用越活。他頓了頓，就像**粘火柴盒，現(xiàn)在誰還用火柴？可她練出來的那手穩(wěn)當(dāng)勁兒，后來學(xué)裁縫就快得多。母親端著菜出來，正好聽見后半句，笑道：可不是。當(dāng)年廠里技術(shù)比賽，我粘火柴盒可是第一名。雖然后來廠子倒了，但這雙手沒廢，到哪兒都能掙口飯吃。懷瑾看著父母粗糙但靈巧的手，忽然明白了什么。她回到房間，從抽屜深處拿出那個(gè)素坯茶杯。杯壁上的指紋痕跡已經(jīng)被摩挲得光滑，但在特定光線下依然可見。她想起初面時(shí)對知更說的那句話：這只杯子，從泥土醒來那一刻，就只等您這一雙手。也許，知更也在等一雙手不是創(chuàng)造它的工程師的手，而是一雙能把它從純粹的數(shù)據(jù)邏輯中拉出來，讓它觸碰真實(shí)世界紋理的手。手機(jī)震動(dòng)，林樵發(fā)來消息：我爸說，他通過后門查到一些東西。知更的核心服務(wù)器最近有大量異常數(shù)據(jù)流出，目的地不明。還有，星穹高層明天要開緊急會議，議題就是知更項(xiàng)目存續(xù)可行性評估。時(shí)間很緊了。懷瑾盯著那條消息，又看了看桌上沈墨留下的合同。她打開電腦，開始搜索關(guān)于AI倫理、人機(jī)交互、價(jià)值觀遷移的所有公開資料。大多數(shù)論文都停留在理論層面，偶有實(shí)驗(yàn)報(bào)道，也都是小規(guī)模的短期研究。，幾乎沒有。凌晨兩點(diǎn)，她合上電腦，走到窗邊。夜空無星，只有城市的光污染在天際暈開一片橙紅。遠(yuǎn)處，星穹大廈的輪廓在樓群中依然醒目，頂層的燈光還亮著不知是哪位工程師在加班，還是知更在無人值守的服務(wù)器里，繼續(xù)著它的思考。她做出了決定。