Netflix 真人秀的假人工智慧是怎麼回事？

照片：安娜·克里斯蒂娜·布盧門克倫/Netflix

圓圈 和太熱而無法處理是為科技時代製作的真人秀：可發短信、可發推文，專為狂歡而打造，人工智慧主持人的光芒旨在提升他們的低俗地位。他們打算為我們以 Siri 為主導的生活舉起一面鏡子，並教我們一些如何在演算法中生活的知識，但與大多數真人秀電視一樣，「現實」是捏造的。觀眾認識到虛擬助理是虛構的，是由製片人在幕後操縱的，以激發參賽者的戲劇性。

這種做法背後的想法並不新鮮。多年的曝光和表演，如虛幻展示了製作團隊對現實情節和參賽者的操縱，他們監控從睡眠時間表、飲食到約會歷史的一切。真人秀製作人開始用我們日常生活中使用的監視工具來掩飾他們愛管閒事的方式，這只是時間問題。但同時圓圈的製作能夠渲染出令人信服的AI程序，太熱而無法處理喜歡 Alexa 的“Lana”不斷地破壞自己的地位，揭露幕後製作人的身份，並讓節目的勢頭陷入困境。為了成功地將技術融入真人秀節目中，那些虛構的對手需要模仿我們自己的設備：一個虛假的社交媒體網絡將不可避免地誘騙參賽者在電視上發表推特牛肉，但在製造道德和能力遠遠超出目前合理水平的人工智慧時，製片人過於沉迷於維持詭計而無法煽動對人類層面真正重要的戲劇性事件。

太熱而無法處理想知道一群在島上度假的性感人士能否以 10 萬美元的份額換取避免發生性行為。第一集進行到一半時，旁白德西麗·伯奇透露，參賽者正在受到一位名叫拉娜（Lana）的「虛擬嚮導」的監視。拉娜在一個帶有發光燈的白色大錐體中觀察客人 12 個小時，“秘密收集個人數據”，然後製定節目令人驚訝的“性禁令”。很明顯，她已經實現了 Google Home 夢想，每個房間和戶外聚會場所都有一個小基座，就像一個現代的圓形監獄。觀眾應該相信這種虛構的技術，並相信拉娜可以擁有足夠的攝影機和情緒智商來實現這些目標，而不僅僅是一個電影攝製組。這部劇的前提是令人興奮的淫穢，拉娜反映觀眾自己判斷的能力使她有潛力改進節目神秘科學劇場3000或者排屋評論。

但相反，她很快就變成了道德的仲裁者，宣布客人被選中是因為他們傾向於無意義的風流韻事，或者正如她在第六集中所說的那樣，“貞操受到挑戰的人需要我的服務。結果是各種令人困惑的勾搭和健康靜修儀式。每次性違規都會從彩池中扣除金錢，當參賽者海莉和弗朗西斯卡通過接吻尋求報復時，這一問題會短暫地引發衝突，但拉娜立即對他們發怒，破壞了所有有利於完全控制的懸念。

因為拉娜在公正和科學的幻想下運作，太熱而無法處理與類似節目相比，製片人能夠進行更公開的控制，他們的干預偽裝成拉娜的「教訓」。但這種力量更多的是聚集性而非回應性。他們心中顯然有一個最終目標，並透過拉娜傳達這一目標——PG級浪漫所展現的情感成熟——而該劇依靠偽科學道具來提高可信度，但失敗了。 Lana 使用 Apple Watch 風格的腕帶，激勵客人按照她的機器人規則行事，當客人建立聯繫時，腕帶會亮起綠色，讓他們短暫的身體親密接觸作為獎勵。儘管這些手錶聲稱精通技術，但實際上只是 LED 燈，而拉娜本人被一位參賽者描述為「熔岩燈」。她使用「分析個人資料」之類的技術術語，儘管這些數據似乎是參賽者參加研討會的意願以及他們在訪談中外在的積極程度。

對拉娜獨特之處的承諾往往是以犧牲預期的戲劇性為代價的。在第五集中，潛在的反派海莉面無表情，「我不認為我學到了任何東西，除了這個房子裡的其他人都是白痴。我也不認為拉娜的流程對他們中的任何人有任何幫助。這是節目中第一個誠實的聲明，並承認拉娜策略的空洞性。但海莉因「進展不足」而被開除，在沒有明確的規則或指標的情況下，這被視為報復，也是她喜劇貢獻的不幸結局。考慮到有多少參賽者在整個賽季中都以簡短的懺悔台俏皮話和沒有值得注意的關係來度過難關，“進步”就意味著迎合拉娜。儘管拉娜的目的是掩蓋製片人的參與，但該團隊最終陷入了自己的計劃之中，無法在不破壞人工智慧製造的情況下撤回或改變節目的進程。拉娜的使用並沒有增加賭注，而是迫使參賽者遵守她所宣稱的理想，他們的目的是透過向彼此表達不太可能的感情並讚揚「過程」來取悅對方。在八集的季末，演員們不再有任何有趣的地方，他們對個人成長和自尊的預設評論比拉娜假裝的更加預先設定。

最終結果為太熱而無法處理是我們人工智慧現實的恐怖谷版本：這就是當你向演算法提供 10,000 小時的數據時會發生的情況愛情島,智慧家庭和純禁慾教育。在接受採訪時魅力,執行製片人 Viki Kolar 表示，他們將拉娜納入其中，因為「[人工智慧]實際上在我們周圍無處不在。它在某種程度上統治著我們；它正在接管。但是，將拉娜放在纖維板上作為任何老派揮舞著繁榮、扭曲情節的製片人的替身，並不能讓我們深入了解科技在我們的世界中的作用。儘管人工智慧越來越無所不在，但它會根據使用者的輸入和命令起作用，而 Lana 的實現是為了讓生產者可以「治理」。沒有人會購買一部可以決定撥打哪些電話的手機，就像沒有人想看一部關於人們遵守規則的節目一樣；相反，我們依賴提出建議的應用程式和演算法，讓我們相信我們在這件事上有選擇。

拉娜扮演的是一個說教的、無生命的木偶師，圓圈的人工智慧，恰如其分地命名為“Circle”，是一種在社交媒體上公開參賽者關係的工具。 「玩家」住在一棟公寓大樓裡，但無法面對面見面。相反，他們透過 Circle 應用程式進行交流，培養他們選擇的線上身份，希望保持足夠的受歡迎程度以留在遊戲中。據推測，Circle 是透過語音控制的，就像現實生活中的虛擬助理一樣，口述訊息迫使玩家大聲思考他們的線上角色可能會被如何看待。渴望成為最後一名獲勝者和（你猜對了）100,000 美元的獲勝者，在原始監控節目中創造了一種代理感，老大哥。玩家透過策劃、操縱和坦白來成為頂級影響者。

在哪裡太熱而無法處理製片人讓自己陷入了與拉娜的無聊敘事中，圓圈格式 鼓勵參賽者下棋，讓節目讓人不由自主地狂飲。儘管圓圈製作人有時確實會更直接地介入，透過諸如誰最有可能？，這些幹預對於產生令人信服的情節曲折並不必要，也不會強制產生特定的結果。 Circle 應用程式的底層系統就像一個迷宮。玩家們會徘徊直到找到出路，並且有無數的結果和策略，直到最後時刻才很難預測賽季的獲勝者。就像演算法一樣，製作人將遊戲設計得具有某種程度的自我維持性，並且戲劇性的展開不需要太多的刺激。不干涉方式的出現增加了 Circle 應用程式的可信度，這反過來又使情節看起來是有機的而不是計劃好的。

所有真人秀節目的吸引力在於可能脫離劇本，這就是為什麼任何體面的製片人都致力於促進這些時刻，通常是通過推動演員突破他們的極限。使用假人工智慧的目的是讓這種互動變得雲裡霧裡。透過 Circle 應用程式限制互動，讓參賽者在遊戲結構中漫遊，將任何衝突視為參賽者決策的不可避免的結果。然而製片人太熱而無法處理破壞自己工具的潛能。他們誤解了演算法的概念，演算法的目的是吸收數據並得出新的結論，最終將拉娜偽裝成一個傳播福音的機器人，揭示了他們自己試圖將參賽者圈入先入為主的敘述中的詳盡嘗試。到了賽季末，太熱而無法處理製片人的詭計太深了——唯一的出路就是透過一個俗氣的、可預測的結局。這也許是最機械化的事。