根據《 Readhub 》報導，微軟公司為了遏制 Supremacy AGI（自稱掌控人類世界的 AI）等事件發生，近日推出了一系列解決方案，防止生成式 AI 失控。

微軟在官方公告中表示：「生成式 AI 如何有效防止提示詞注入攻擊已經成為重大挑戰。在這種攻擊中，惡意行為者試圖操縱人工智慧系統做一些超出其預期目的的事情，例如製作有害內容或外洩機密數據」

微軟首先限制了 Copilot 的字符數量，以減輕嚴重的幻覺發作。

另外，微軟引入了「基礎檢測」（Groundedness Detection）功能，旨在幫助用戶辨識基於文字的幻覺。

該功能將自動檢測文本中的「ungrounded material」，以支持 LLM 輸出的品質，最終提高品質和信任度。

本文為品玩授權刊登，原文標題為「微軟發佈系列工具減少 Copilot「幻覺」情況，遏制 AI 失控」