Google DeepMind發布大模型可視化工具Gemma Scope
品玩 / 何渝婷編譯
2024-08-01 16:20

根據Google官方消息,宣布推出 Gemma Scope,這是一套幫助研究人員瞭解 Gemma 2內部工作原理的新工具。

Gemma Scope 集合了數百個免費開放的稀疏自動編碼器 (SAE),適用於 Gemma 2 9B 和 Gemma 2 2B,Google還對 Mishax 進行了開源,Mishax 是我們開發的一款工具,它支援 Gemma Scope 背後的大部分可解釋性工作。

Google希望Gemma Scope 的發布能促成更多雄心勃勃的可解釋性研究,進一步的研究有可能幫助該領域建立更強大的系統,開發更好的防護措施來防止模型幻覺,並防範來自自主人工智慧代理的風險,如欺騙或操縱。

本文為品玩授權刊登,原文標題為「Google DeepMind 發佈大模型可視化工具Gemma Scope