研究場景
TCGA-KIRC 生醫資料治理對象
Goal、Review、Evidence現況
科學方法審查未完成原始問題
Agent 可以快速產出計畫,但不一定保留原始目標、停止條件與審查責任。跨 Session 交接時,誤解可能進一步擴大。
做法
以中心 Goal 為起點,允許有界拆解;每一個子任務需回到父目標的驗收。將審查意見、Lead 裁決、證據來源與人類授權分開處理。
設計上的核心區分
01人類 Goal
02Agent 展開
03Reviewer
04證據與授權
這是治理概念圖,不代表所有關卡已經部署為可執行服務。
實際進展
NERA 目前為獨立雲端研究專案,使用 ChatGPT Lead 與使用者轉交的平行 Reviewer。曾針對規則檢查設計並執行測試,也透過變異測試發現特定規則可能在移除後仍未被擋下。
仍待驗證
測試通過不代表所有規則都被有效強制執行。現有雲端對話沒有自動化的全域機械 Gate;醫療研究的科學方法審核仍待合格人類審查者處理。
從這個案例,繼續看更多問題。
下一篇研究、實驗或實務紀錄,正在陸續整理。