人工智能何時會完全影響搜索算法？
人工智能是個黑盒子
以一種不太嚴格但容易理解的方式說，深入學習是對現(xiàn)有數(shù)據(jù)(大量數(shù)據(jù))進行標記，然后系統(tǒng)總結(jié)數(shù)據(jù)和結(jié)果之間的關(guān)系(即標記的數(shù)據(jù))，當面對新數(shù)據(jù)時，它可以根據(jù)自己總結(jié)的規(guī)則給出判斷。對于圍棋來說，無論是歷史游戲還是自我游戲，AlphaGo都知道棋盤和結(jié)果(也是一種標簽)。當面對新的棋盤面時，系統(tǒng)將總結(jié)規(guī)則并判斷贏得游戲的概率。然而，人工智能系統(tǒng)發(fā)現(xiàn)數(shù)據(jù)的哪些特征和結(jié)果之間的關(guān)系甚至對創(chuàng)建人工智能的工程師來說都是未知的。因此，目前的人工智能系統(tǒng)是一個黑匣子。我們知道人工智能的判斷有很高的準確率，但是我們不知道為什么或者怎么做。
人工智能在搜索算法上也是如此。百度搜索工程師的聲明很少見到，現(xiàn)在只知道百度全在人工智能。谷歌工程師已經(jīng)明確表示，他們不確定RankBrain到底是如何工作的。在這種情況下，在算法中廣泛使用人工智能會更加麻煩。一旦出現(xiàn)異常結(jié)果，不知道原因是什么就不可能調(diào)試。
我寫這篇文章是因為前幾天我在紐約時報上看到一篇文章，“人工智能能學會解釋自己嗎？”非常有趣。心理學家Michal Kosinski將20萬個社交網(wǎng)絡(luò)賬戶(一個約會網(wǎng)站)的照片和個人信息(包括許多內(nèi)容，如性取向)輸入到面部識別人工智能系統(tǒng)中，發(fā)現(xiàn)人工智能僅在看到照片時判斷性取向的準確性很高。通過照片人工判斷一個人是不是同性戀的準確率為60%，比擲硬幣的準確率高，但人工智能判斷一個人是不是同性戀的準確率高達91%，比判斷一個女人的準確率83%低。
從照片上看，沒有諸如聲調(diào)、語調(diào)、姿勢、日常行為、人際關(guān)系等信息來幫助判斷。同性戀者有純粹的面部特征嗎？我個人的經(jīng)驗是，以貌取人是不可靠的。我以前認識幾個同性戀。他們都很有男子氣概。他們一年到頭都保持健康，禮貌待人，但沒有女性氣質(zhì)。從外表看不到它們。它還能取決于一些服裝特征嗎？表情？背景？人工智能從照片中看到了哪些我們?nèi)祟惪赡軙雎缘奶卣?，或者是人類根本看不到的特征，準確率為91%。我不知道，但我只知道人工智能看起來很精確。
不能解釋自己的AI無法被信任
，一個黑盒特征，有時是不相關(guān)的，比如判斷性取向。有時候你不能這么匆忙，比如去看醫(yī)生。盡管人工智能系統(tǒng)診斷某些癌癥的準確率已經(jīng)達到人類醫(yī)生的水平，但最終的結(jié)論是醫(yī)生仍然需要這樣做，特別是當人工智能不能告訴我們其診斷的原因時。除非人工智能能解釋它為什么在未來做出這種診斷，否則對人工智能100%的信心有一個很大的心理障礙。就在幾天前，新加坡政府開始測試無人駕駛公交車。這顯然是一個正確的方向，我相信這將在不久的將來成為現(xiàn)實。雖然自駕汽車的事故率比人的事故率低，但我們都知道它實際上是比較安全的，但過馬路時，停在附近的公共汽車沒有司機，我會不會有點擔心，怕它突然啟動？開車的時候，我轉(zhuǎn)過頭，發(fā)現(xiàn)公共汽車上沒有司機在我旁邊。我會被嚇一跳，下意識地遠離它嗎？至少最初是這樣。和幾個朋友談?wù)撨@件事既理性又感性。
以前的程序是基于確定性和因果關(guān)系運行的，比如搜索算法中的哪些頁面特征是排名因素，以及每個特征有多少權(quán)重。這是由工程師選擇和決定的。雖然可以通過敲打頭部來決定選擇，但是在監(jiān)測效果和調(diào)整參數(shù)之后，將會達到令人滿意的平衡。人工智能系統(tǒng)并不依賴于工程師對因果關(guān)系的判斷，而是更善于發(fā)現(xiàn)概率和相關(guān)性之間的聯(lián)系。對人們來說，以概率和相關(guān)性為特征的判斷通常很難解釋，例如，它們看起來是否好，取決于情緒。
要求人工智能系統(tǒng)解釋它的判斷不僅是一個心理問題，而且以后可能成為一個道德和法律問題，就像看醫(yī)生一樣。另一個例子涉及到用戶的利益，如貸款，人工智能根據(jù)大量數(shù)據(jù)做出拒絕貸款的決定，但銀行不能解釋為什么拒絕，如何為用戶解釋？今年，歐盟可能會頒布法規(guī)，要求機器做出的決定必須得到解釋。這對谷歌和Facebook等全球企業(yè)來說是一種壓力。在許多領(lǐng)域，比如軍事、法律和金融，所有的決策都需要有人來承擔責任。如果一個決定不能說明原因，恐怕沒有人敢承擔責任。
人工智能需要解釋的另一個原因是，如前所述，人工智能著眼于概率和相關(guān)性，但著眼于相關(guān)性做出決策有時會導致嚴重的錯誤。《紐約時報》的文章舉了一個例子。由數(shù)據(jù)訓練的人工智能系統(tǒng)輔助醫(yī)院急診室分診，整體效果良好，但研究者仍不敢真正應(yīng)用，因為數(shù)據(jù)中的相關(guān)性可能會誤導人工智能做出錯誤的判斷。例如，數(shù)據(jù)顯示患有肺炎的哮喘患者的最終恢復情況好于平均水平，并且這種相關(guān)性是真實的。如果人工智能系統(tǒng)根據(jù)這些數(shù)據(jù)對患有肺炎的哮喘患者給予較低的治療水平，那么可能會發(fā)生事故。這些病人最終健康狀況良好的原因是，他們得到了最高的評分，并在到達時得到了最好和最快的治療。因此，有時真正的原因不能從相關(guān)性中看出。
可解釋人工智能是一個新興的領(lǐng)域，其目的是讓人工智能解釋自己的判斷、決策和過程。去年，國防高級研究計劃局(Darpa)啟動了由大衛(wèi)葛寧博士領(lǐng)導的XAI計劃。谷歌仍然是這個領(lǐng)域的領(lǐng)導者，而深度夢似乎是這項研究的副產(chǎn)品：
回到搜索算法和搜索引擎優(yōu)化，搜索引擎仍然不能完全應(yīng)用人工智能的原因之一可能是人工智能的判斷沒有被解釋或理解。如果該算法使用當前的人工智能，一旦排名異常，工程師將無法知道原因是什么以及如何調(diào)整。
我認為自動駕駛儀是人工智能付諸實踐的第一個領(lǐng)域之一，它與它是否能被解釋有關(guān)。大多數(shù)自動駕駛汽車的決策不需要解釋太多，或者解釋一目了然。它離前車太近了，不能減速或剎車。這種判斷不需要進一步解釋。
搜索引擎優(yōu)化的人可能也有同樣的疑慮，競爭對手的頁面看起來沒什么特別的，內(nèi)容不太好，視覺設(shè)計一般，外鏈常見，頁面優(yōu)化每個人都一樣，為什么排名那么好？現(xiàn)在搜索算法也可以探究原因，搜索工程師可能有內(nèi)部工具來查看排名的合理性。如果搜索工程師看到一個非常糟糕的頁面，而且它在最前面，但他們不知道原因，也找不到答案，他們的內(nèi)心可能會很焦慮。
XAI的研究剛剛開始，這給了搜索引擎優(yōu)化研究者最后的緩沖期。從人工智能系統(tǒng)在其他領(lǐng)域粉碎人類的表現(xiàn)來看，一旦將其應(yīng)用于大規(guī)模搜索，作弊和黑帽搜索引擎優(yōu)化很可能會成為過去。當前常規(guī)的搜索引擎優(yōu)化工作可能變得微不足道。SEOs需要回歸網(wǎng)站的本質(zhì)：沒有其他方法可以提供有用的信息或產(chǎn)品。
