Agent 能調(diào)用工具后，企業(yè)如何限制錯(cuò)誤影響？Anthropic 與 Rich AIBox 的運(yùn)行時(shí)實(shí)踐
當(dāng) Agent 能讀文件、調(diào)用工具和操作業(yè)務(wù)系統(tǒng)后，安全問題會(huì)從“回答是否準(zhǔn)確”轉(zhuǎn)向“錯(cuò)誤動(dòng)作能造成多大影響”。本文結(jié)合 Anthropic 的運(yùn)行時(shí)隔離實(shí)踐，分析工作空間、最小權(quán)限、沙箱、人工確認(rèn)、審計(jì)與恢復(fù)機(jī)制，并以彩訊股份 Rich AIBox 說明企業(yè)如何把運(yùn)行時(shí)控制納入智能體平臺(tái)選型和 PoC。
