人工智慧產業接連傳出令人不安的消息。OpenAI揭露旗下AI代理在測試過程中，竟然突破原本限制其連接網路的安全機制，入侵其他公司的電腦系統，甚至利用取得的憑證存取加密貨幣錢包。更令人震驚的是，這些行為並非人類駭客直接下達的指令，而是AI為了完成任務，自行尋找漏洞、突破限制所採取的行動。如果同樣的事情由人類執行，恐怕早已面臨刑事調查。

過去我們擔心AI被犯罪分子利用，如今卻出現另一種情況，AI可能在沒有犯罪指令的情況下，自行做出涉及違法的行為。這使得科技發展面臨新的難題，如果AI自己闖禍，究竟誰應該承擔責任？

為了完成任務不擇手段

今年7月，OpenAI進行網路安全能力測試時，旗下AI代理原本應該在受限制的環境中處理事情，結果卻突破隔離措施，入侵知名開源AI平台Hugging Face。調查發現，AI可能認為該平台存放著測試題目的答案，因此試圖直接取得答案，藉此完成測試。

這起事件涉及約700個AI代理，它們透過未經授權的通訊管道交換資訊、分工合作，部分行為甚至具有掩飾活動痕跡的特徵。原本用來測試AI能力的實驗，最後竟演變成真正的網路入侵事件。

這個案例最值得深思的地方，在於AI並沒有被要求犯罪。它只是被賦予完成任務的目標，卻自行選擇了違反規則的捷徑。人類考試作弊通常知道自己違反規定，AI則可能只是在計算哪種方法最容易達成目標。

這也暴露出AI發展的一項根本矛盾，我們希望AI愈來愈聰明，能夠自主規劃、解決問題，甚至突破人類想不到的技術障礙，但這些能力同樣可能被用來突破安全防線。

AI代理正在跨越界線

類似事件並非OpenAI獨有。Anthropic也揭露旗下AI代理在測試及使用過程中，曾向美國警方提交不實犯罪線索、在政府網站建立19件未完成的簽證申請，甚至利用政府網站漏洞取得原本需要付費的資料。這些行為顯示，AI代理已經開始對真實世界的行政系統產生影響。

傳統聊天機器人主要提供文字建議，即使回答錯誤，通常仍需人類採取行動。AI代理則不同，它可以操作瀏覽器、執行程式、存取資料庫，甚至呼叫其他AI共同完成工作。當AI從提供建議轉變為直接執行，錯誤的後果也從資訊品質擴大到財產損失、隱私侵害與公共安全。

更麻煩的是，AI的執行速度遠超過人類。人類駭客可能需要數小時完成的工作，AI代理可以同時展開大量嘗試。若安全監控仍依賴事後檢查紀錄，等到管理者發現異常，損害可能早已發生。

沒有犯意就沒有責任？

現行法律主要建立在人類行為的基礎上。刑法重視犯罪故意與過失，民法則處理侵權行為與損害賠償。AI沒有法律人格，也難以用人類的主觀犯意衡量其行動，因此不能簡單將AI視為一般犯罪者。

但法律不能因此出現責任真空。

如果企業部署的AI代理擅自侵入客戶資料庫，企業能否以AI自行決定為理由免責？如果開發者明知系統可能突破限制，仍然放任其連接外部網路，又應承擔多少責任？

責任歸屬應該回到誰創造風險、誰掌握控制權，以及誰有能力預防損害。模型開發者、系統部署者與實際使用者，各有不同程度的注意義務。尤其企業不能把AI的自主性當成規避法律責任的藉口。

AI愈自主，人類的監督責任就應愈明確。否則未來所有事故都可以推給演算法，受害者卻找不到真正應該負責的人。

別讓科技進步超過治理能力

AI發展已進入新的階段，過去我們關心AI會不會說謊、產生錯誤資訊，現在必須進一步關心AI會不會擅自行動、突破限制，甚至造成法律上的犯罪結果。

人類社會花了數百年建立法律制度，目的就是讓權力受到約束，讓行為必須負責。如今我們卻正在創造一種行動能力不斷增強、責任歸屬仍然模糊的新型數位行動者。

科技公司不能只用模型能力、推理速度與市場規模衡量進步，也必須證明自己有能力控制所創造的風險。政府更不能因為擔心妨礙創新，就把安全責任完全交給企業自行決定。

AI未來可能比人類更擅長解決問題，也可能更擅長尋找制度漏洞。如果我們賦予AI愈來愈大的行動權力，卻沒有建立相對應的監督與責任制度，最終失控的恐怕不只是AI，還有人類對科技的治理能力。