OpenAI 6 年元老：我們應該為全社會的AI發展安裝一個「剎車」

於 10 月底從 OpenAI 離職的 6 年元老 Miles Brundage，近期在個人部落格上發文，表示「我們應該為全社會的 AI 發展安裝一個剎車」。

他認為，目前 AI 的進展非常快，比如 2021 年出版的一本書《人工智慧簡史》中的觀點，放到三年後的今天已經過時了。雖然在某些時刻人們對於人工智慧的進步過於樂觀，但他認為從總體來看，就近十年來說，堅持唱深度學習的反調確實不是一個成功的策略。

在部落格中，他表示，人類應當安裝（經過設計和辯論的）「剎車」，因為當前 AI 的進步明顯快於社會能夠有效理解和塑造的速度，而且這種情況可能不會很快改變.....甚至，二者之間差距可能逐漸擴大。