（示意圖/取自pixabay）
像人一樣，似乎是AI發展的最終目標。
然而眾所周知，人類有智慧和愚蠢兩面， AI要像人，是否也需要具備這兩面性呢？
從一開始為測試AI是否能像人一樣而生的圖靈測試來看，人類在完成計算等任務時，算出來的答案可能存在一定的錯誤率，並且需要花一定的時間來完成計算，當能立馬說出正確答案的AI，也模仿人類這樣的計算過程，人類和AI就無從判別，這便是AI模仿人類愚蠢，從而實現「像人」的一個方面。
從人類自身的成長和進化而言，從小時候蹣跚學步被自己絆倒開始，人類一開始犯的錯誤或者說愚蠢，會為未來的經驗和智慧鋪路。因而，看似一無是處的「愚蠢」，可能會為AI變得更加智慧，提供另外一種可能性。
本文便聚焦AI是否也需要向人類一樣擁有愚蠢這一屬性進行了探索，相信會給大家一些思考和啓發。
一. 愚蠢 or 智慧
我們似乎都知道評價一個人很聰明的含義。反之，當給一個人貼上「愚蠢」的標籤時，問題隨之而來，這究竟意味著什麼？例如，愚蠢是否意味著以零和的方式缺乏智慧，或者愚蠢是否佔據了自己的空間，並作為一個平行的等同物與智慧為鄰？
針對這一沈重的問題，我們不妨來做一個思考實驗。假設我們有一個裝滿智慧的桶子，我們把智力當成是有形的東西，可以把它倒進手邊的一個桶子裡，也可能把它從桶子裡倒出來。讓裝滿智慧的水桶倒在地上，還剩下什麼？
一個答案是，桶子現在已經完全空了，桶子裡什麼都沒有了，也就是說，水桶變得空空如也。另一個答案是，水桶里的智慧被清空，便剩下一個由愚蠢組成的殘骸。
換句話說，一旦你喪失了所謂的聰明，剩下的就是愚蠢。
這是一個看似深奧的討論，但稍後你會看到，這一觀點對許多重要的事物都有相當深刻的影響，尤其是對於人工智慧的發展和崛起而言。
智慧可以在沒有愚蠢的情況下存在嗎？或者從實際意義上講，如果智慧與愚蠢並存，又總是必須存在一定數量的愚蠢嗎？有人斷言，智慧和愚蠢是禪宗般的陰陽。 從這個角度講，除非你也有一種可以作為衡量標準的愚蠢的表象，否則將無法洞悉智慧的本質。
據說隨著時間的流逝，人類變得越來越聰明，從而降低了他們的愚蠢標準。你可能認為智慧和愚蠢在玩一個零和遊戲，也就是說，當你的智慧上升的同時，你的愚蠢水平正在下降（同樣，如果你的愚蠢上升，這意味著你的智慧下降）。人類能達到100%的聰明和0%的愚蠢嗎？還是無論我們多麼努力地去變得100%聰明，我們注定總會有一些愚蠢？
回到桶子的比喻，有些人會說，人永遠不會出現徹底而又完全聰明，並且完全擺脫了愚蠢的情況。總會有一些愚蠢在那個桶子裡「正襟危坐」。如果你聰明伶俐並且奮發努力，儘管桶子裡仍然還剩一些愚蠢，你也許可以縮小自己的的愚蠢度。
二. 愚蠢對智慧有利還是有害？
你可能會想當然地認為，任何愚蠢都是壞事，因此我們必須一直努力把它「關」起來，或者避免它的出現。但我們需要問的是，那種把愚蠢歸為「壞」範疇、把智力歸為「好」範疇的簡單觀點，是否有可能遺漏更複雜的東西？你可能會爭辯說，有時候在有限的範圍內變蠢，可能會為提升智慧提供一種途徑。
當你還是個孩子的時候，假設你愚蠢地被自己的腳絆倒了，這樣做之後，你就會意識到，之所以被絆倒是因為你沒有小心地抬起腳。從那時起，你就會開始更加注意如何走路，從而在走路時變得聰明起來。也許在晚年，當你走在一個羊腸小道上時，能夠設法避免自己從路邊摔落，部分原因便是愚蠢引發的早期人生教訓，已成為你智慧的一部分。
當然，愚蠢也會給我們帶來麻煩。儘管你從愚蠢中學會了走路時的小心謹慎，但如果有一天你打算在大峽谷的邊緣昂首闊步，你會摔入深淵。在懸崖邊上這樣走路是明智之舉嗎？顯然不是。
因此，我們要注意到，愚蠢可以是朋友，也可以是敵人，而在任何特定的情形和任何特定的時刻下，究竟是哪一個，取決於智慧部分。你可能會想像到，智慧和愚蠢之間正上演著一場永恆的鬥爭。
另一方面，你可能同樣會想到，聰明和愚蠢雙方是夥伴，彼此拉扯在一起，因而這不是一場特殊的戰鬥，因為這更像是圍繞哪一方佔上風，以及彼此如何協調和互相幫助的一場微妙的舞蹈或者說博弈。
三. 該認真思考下人工愚蠢了
我們每天都聽到關於人工智慧的來臨，如何改變我們的生活的言論。人工智慧技術正在載入我們的智慧型手機、冰箱、汽車等等。如果我們打算把人工智慧融入我們使用的物品中，那就引出了一個問題：我們是否需要考慮「陰中有陽」，特別是我們是否需要充分瞭解人工愚蠢？
大多數人聽到或看到「人工愚蠢」這個詞時都會忍俊不禁，他們認為提到這樣的事情，一定是某位知情者的玩笑。誠然，人造和愚蠢這兩個詞的結合，似乎本身就很愚蠢。
但是，通過回顧之前智慧和愚蠢在人類中所起作用的討論，你可以重塑自己的觀點，並可能發現，每當你進行關於智慧的討論時，不可避免地也需要考慮愚蠢的作用。
有些人建議我們應該使用另一種表達人工愚蠢的方式，來減少大家的竊笑，浮誇的詞組包括人工智障、人工人性、人工遲鈍等等，但這些詞都還沒有深入我心。請容忍我暫且使用「人工愚蠢」的措辭，並且堅信討論「人工愚蠢」其實並不愚蠢。
確實，你可以提出討論人工愚蠢的行為是愚蠢的做法，因為你不願意或不接受這樣一種認識，即愚蠢存在於現實世界中，因此存在於我們試圖重現智慧的電腦系統的虛擬世界中，如此一來你會忽略或忽視原本作為「等式另一半」的愚蠢。
簡而言之，有人說，真正的人工智慧需要將我們現在所認為的「聰明」或者說良好人工智慧與人工愚蠢（毫無掩蓋）進行結合，而這種結合必須以聰明的方式實現。
有觀點認為，通過將人工愚蠢納入人工智慧中，你將從根本上無可挽回地給人工智慧系統引入了愚蠢，因此可能最終會使AI變得愚蠢。事實上，我們可以通過駁斥此觀點，來應對許多人對這個概念的直接下意識反應。
當然，如果你採用愚蠢的方式引入愚蠢，則很有可能有害於AI系統並使它變得愚蠢。另一方面，如果瞭解人類的運作方式，在深思熟慮的情況下，將愚蠢行為引入，最終則有可能會幫助AI提升智慧（想想兒時絆到自己腳摔倒的故事）。
迄今為止AI還遠沒有達到人類的智慧水準，也許實現真正和完整的人工智慧的唯一方法，就是將人工愚蠢融入人工智慧；因此，一旦我們與人工愚蠢保持距離或將其視作棄兒，我們會身陷囹圄，像人類一樣智慧的AI將遙不可及。也就是說，如果把人工愚蠢排除在我們的思維之外，我們可能會阻止AI到達巔峰。這就像是一記重拳並且如此反直覺，以至於常常會阻礙人類往這個方向發展AI 。
然而現實是，越來越多的跡象表明，揭示和利用人工愚蠢（或任何它應該被稱作的稱呼）的重要性， 對AI的發展大有裨益。
我斷定，真正的無人駕駛汽車的誕生，可能就涉及到將人工愚蠢納入到系統之中。這是不是很令人震驚？或許如此。下面我們不妨來剖析一下這件事。
四. 利用人工愚蠢獲益
當談到真正的自動駕駛汽車時，我將重點關注L4和L5級的自動駕駛汽車。這兩個級別的自動駕駛汽車，由人工智慧系統自動駕駛，沒有必要並且通常不配備人類司機。人工智慧負責所有的駕駛操作，所有人類乘坐者都為乘客。
關於人工愚蠢的話題，有必要快速回顧一下術語產生的歷史。在20世紀50年代，著名的數學家、電腦科學先驅艾倫·圖靈（Alan Mathison Turing）提出了眾所周知的AI圖靈測試。
簡而言之，圖靈測試就是，讓你跟一個搭載人工智慧的電腦系統進行交互，並同時與另一個人交互，而你事先沒有被告知哪個是AI，哪個是人類（假設它們都隱藏在視線之外），要求你通過與對方對話，來判定哪一個是AI，哪一個是人類。如果你無法區分這兩個參與者，就可以宣布AI通過了測試。從這個意義上講，AI無法從人類參與者被辨別出來，並且在智慧交互中必須被平等對待。
其實最初的圖靈測試有一個急轉彎。如果提問者很 「狡猾」，要求這兩個參與者將圓周率計算到千分位數。想必，AI會在一眨眼的時間中，十分出色且輕而易舉地告訴你答案，而且非常精確和完全正確。但是人類很難做到這一點，如果用紙和鉛筆費勁地計算，則要花相當長的時間才能回答這個問題，並且最終很可能答案錯誤。
圖靈意識到了這一點，他認為通過提出這樣的算術問題，基本上可以揭開人工智慧的神秘面紗。緊接著他又採取了另一舉措，有人認為這一步打開了潘多拉盒子，並暗示AI可能會故意錯誤地回答算術問題。簡言之，AI可以試圖愚弄提問者，表現得像人類一樣回答問題，比如故意給出錯誤的答案，以及耗費與人類手動計算大致相同的時間。
羅布納獎（Loebner Prize）設立於20世紀90年代初，這是一項類似於圖靈測試的競賽，會給予獲獎者豐厚的現金獎勵。在這項競賽中，人工智慧系統通常會被加入類似人為的錯誤，以蒙騙提問者將AI判斷為人類。但這背後引發了爭議，在此不做過多討論。1991年，《經濟學人》刊登了一篇有關該競賽的經典文章。再次具有諷刺意味的是，引入愚蠢，實際上是為了描繪某種事物是聰明的。這個簡短的歷史經驗，為此次討論的下一要素做好了鋪墊。
讓我們將人工愚蠢的話題，歸結為兩個主要方面或兩種定義：
1.人工愚蠢是有目的地將像人的愚蠢，融入到人工智慧系統中，這樣做是使AI看起來更像人類，目的不在於提高AI本身，而是為了塑造人類對AI的感知，使其看起來更智慧。
2.人工愚蠢是對人類無數缺點的承認，這種「愚蠢」可能以一種聯合的方式，融入AI或與AI齊頭並進，如果處理得當可能會改善AI性能。
關於第一個定義，我想澄清一個常見的誤解，其涉及的假設有些瑕疵，即電腦可能會故意錯誤地計算某些問題。有些人震驚卻又不屑地尖叫著說，可能存在令電腦蓄意尋求錯誤計算的暗示，例如以欠缺準確性的方法計算出圓周率！其實這個定義並不一定意味著這一點。這大概是因為電腦可能會將圓周率正確地計算到千分之一位，然後選擇微調一些數字，再來回答調整後記錄下來的答案，並在眨眼間完成，然後等待與人類手動計算耗費的相同時間量後顯示結果。如此一來，電腦內部其實已經有了正確的答案，只是顯示了似乎有錯誤的答案。
這種情形對那些依賴於電腦所報告數據的人來說，無疑是不利的。但請注意，這與電腦實際上錯誤計算出的數據截然不同！這兩者間的細微差別，其實還有很多內容可以介紹，但現在，讓我們繼續前面的分析。人工愚蠢的這兩個方面，都可以應用到真正的自動駕駛汽車上，但是這樣做會帶來一定的問題，值得斟酌。
五. 人工愚蠢與真正的無人駕駛汽車
如今，在公共道路上試用的自動駕駛汽車，已經憑藉其高超的駕駛造詣名聲大噪。總體來說，無人駕駛汽車像一個年輕的新手司機，對駕駛任務既膽怯又有些猶豫不決。當你看到一輛無人駕駛汽車時，會發現它通常嘗試在其與前方汽車之間創建一個較大的緩衝區，並嘗試遵守我們初學駕照時保持車距的經驗規則。人類司機很少考慮車距的安全區，往往喜歡把其他汽車擠到一邊，其實這樣做容易對自己造成危險。
下面是另一個無人駕駛汽車練習駕駛的例子。當看到停車標誌牌時，無人駕駛汽車通常會完全熄火。它會等著看行駛道是否安全，然後謹慎前行。然而在人類世界，沒有人會在停車標誌處完全熄火，現在滾動停車是一種常態。你可以下結論，人類的駕駛方式是魯莽和有點愚蠢的。由於你的車和前面的車之間沒有足夠的車距，這會提高發生追撞事故的機率。不能在停車牌處完全熄火，會增加與另一輛車或行人相撞的風險。
以圖靈測試的方式，你可以站在人行道上看著從你身邊經過的汽車，僅僅觀察他們的駕駛行為，你就可以確定哪些是AI駕駛的汽車，哪些是人類駕駛的汽車。聽起來熟悉嗎？大致上確是如此，因為這與之前提出的算術精度問題異曲同工。
如何解決這個問題？一種方法是引入上述定義的人工愚蠢。首先，你可以讓車上搭載的AI，故意縮短車距緩衝區，使其看起來像人類一樣在駕駛。同樣，可以設置AI滾動通過停車標誌，這一切都很容易部署。這樣在觀察行駛過的汽車時，究竟是AI還是人類在駕駛便很難區分出來，因為他們兩者在駕駛過程中所犯的錯誤如出一轍。這似乎解決了一個問題，因為它關係到我們人類對自動駕駛汽車AI是否智慧的看法。
但是，等一下，這種做法難道不是在將AI變成風險性更高的「駕駛員」嗎？我們是否是在試圖提高這種人為駕駛導致危險車禍的發生率呢？理智地說，不是。
我們再轉向人工愚蠢的第二個定義，即通過以一種實質性的方式，將這些「愚蠢」的駕駛方法併入AI系統中，使AI在駕駛汽車時能夠考慮這些因素，同時也有強烈的意識，來避免它們或在特殊時刻謹慎應用這些方法。與其讓AI盲目地以人為錯誤的方式駕駛，不如開發AI，使其擁有強大的能力來應對人類駕駛的缺點，發現這些缺點並在有需要的場景下利用好這些缺點，讓AI成為名副其實的安全型「駕駛員」。
六. 結語
當今人工智慧最顯而易見的瓶頸之一，便是它不具備任何常識推理能力，並且完全不具備人類進行整合推理的能力（許多人稱這樣的人工智慧為人工通用智慧或AGI）。因此，有人認為當今的AI更接近「人工愚蠢」的一面，而不是真正「人工智慧」的一面。如果人類擁有二元性的智慧和愚蠢，那麼AI系統要想彰顯出人類一般的智慧，可能也需要具有類似的二元性（但也有聲音說 AI可能不必步人後塵）。
我們正在道路上投放所謂的AI自動駕駛汽車，然而AI沒有知覺，並且不是所有的部分都能夠擁有感知能力。自動駕駛汽車只有在能夠進一步向智慧階梯攀登的情況下才會成功嗎？目前無人知曉，但這絕對不是一個愚蠢的問題。
本文為雷鋒網授權刊登，原文標題為「人類擁有智慧和愚蠢兩面，AI要類人，愚蠢是否也必不可少？」