谷歌人工智慧概述智慧的另一個例子 截圖:AV Club/Google

作為網路的居民,我們經常看到一則新聞,它是如此荒謬,以至於讓我們思考:「這似乎是一個洋蔥標題。但作為真正的人類,我們大多數人都有能力辨別現實和諷刺。不幸的是,Google新推出的「AI概覽」缺乏這項關鍵能力。該功能推出不到兩週(用戶無法選擇退出),在頁面頂部的任何其他線上資源上方提供了某些查詢的答案。這它根據從網路上合成的知識來創建答案,這會很棒,但並非網路上的所有內容都是真實或準確的。明顯地

我們前姊妹網站的新所有者之一 Ben Collins 在他的社交媒體上指出了《AI Overview》中一些最嚴重的錯誤。當被問及「我每天應該吃多少塊石頭」時,概述說地質學家建議「每天至少吃一塊小石頭」。當然,這種語言幾乎是從 2021 年的洋蔥標題。另一項搜尋“中央情報局使用什麼顏色的螢光筆”,提示概述回答“黑色”,這是一個洋蔥2005年的笑話。

作家帕克莫洛伊進行了進一步的測試結果發現谷歌的人工智慧根本無法區分新聞和諷刺。但其他例子顯示該工具不知道如何篩選出不良資訊。一項關於如何防止起司從披薩上滑落的病毒式搜尋得到了嘗試使用無毒膠水的回應,這顯然是從 Reddit 上十年前的評論中挑選出來的。 (凱蒂·諾托普洛斯商業內幕實際上製作並吃了膠水披薩——你可以跟隨她的旅程這裡.) 可以預見,有些答案更險惡。例如,一位用戶搜尋過“美國有幾位穆斯林總統?”結果是,“美國有一位穆斯林總統,巴拉克·侯賽因·歐巴馬。”

在一個聲明給美國全國廣播公司財經頻道,Google發言人為該產品辯護。 「絕大多數人工智慧概述提供了高品質的信息,並提供了在網路上進行更深入挖掘的鏈接,」他們說。 “我們看到的許多示例都是不常見的查詢,我們還看到了被篡改或無法重現的示例。”該公司聲稱,AI Overview 已經經過了廣泛的測試,谷歌將「根據我們的內容政策在適當的情況下迅速採取行動」。

換句話說,您在社交媒體上看到的愚蠢的病毒式搜尋可能已經被刪除了。然而,隨著「實驗」的繼續,我們不會驚訝地看到更多令人不安的不準確搜尋結果的出現。當然,人工智慧應該隨著你使用它的次數的增加而學習和改進,但如果網路上越來越多地充斥著垃圾和廢話,那麼人工智慧概述會學到什麼呢?整個情況感覺像是從頭條新聞中扯出來的——洋蔥頭條新聞,就是這樣。有時候現實比諷刺更愚蠢。