← 返回作品

AI Agent 治理研究

NERA/九衡

從目標拆解到證據驗證,探索 Agent 如何在有限授權下持續協作。

研究進行中Case Study
研究場景
TCGA-KIRC 生醫資料
治理對象
Goal、Review、Evidence
現況
科學方法審查未完成

原始問題

Agent 可以快速產出計畫,但不一定保留原始目標、停止條件與審查責任。跨 Session 交接時,誤解可能進一步擴大。

做法

以中心 Goal 為起點,允許有界拆解;每一個子任務需回到父目標的驗收。將審查意見、Lead 裁決、證據來源與人類授權分開處理。

設計上的核心區分

01人類 Goal
02Agent 展開
03Reviewer
04證據與授權

這是治理概念圖,不代表所有關卡已經部署為可執行服務。

實際進展

NERA 目前為獨立雲端研究專案,使用 ChatGPT Lead 與使用者轉交的平行 Reviewer。曾針對規則檢查設計並執行測試,也透過變異測試發現特定規則可能在移除後仍未被擋下。

仍待驗證

測試通過不代表所有規則都被有效強制執行。現有雲端對話沒有自動化的全域機械 Gate;醫療研究的科學方法審核仍待合格人類審查者處理。

從這個案例,繼續看更多問題。

下一篇研究、實驗或實務紀錄,正在陸續整理。

閱讀技術文章 ↗