每經(jīng)記者｜宋思艱    每經(jīng)編輯｜廖丹    

當(dāng)前，在各互聯(lián)網(wǎng)大廠紛紛推出OpenClaw（一款開源人工智能體框架，俗稱“龍蝦”）產(chǎn)品、部分企業(yè)嘗試將其接入生產(chǎn)環(huán)境的背景下，“養(yǎng)蝦”所面臨的法律風(fēng)險(xiǎn)也逐漸被推上前臺(tái)：“龍蝦”與普通大模型應(yīng)用所面臨的法律風(fēng)險(xiǎn)有什么不同？如果“龍蝦”在運(yùn)行過程中，誤刪數(shù)據(jù)、錯(cuò)誤下單，責(zé)任算誰的？如果企業(yè)要“養(yǎng)蝦”，如何進(jìn)行合規(guī)管理？

3月19日，《每日經(jīng)濟(jì)新聞》記者（以下簡(jiǎn)稱NBD）就上述問題，書面專訪了北京德和衡（上海）律師事務(wù)所人工智能與自動(dòng)駕駛部主任、高級(jí)合伙人白耀華律師。

白耀華律師 圖片來源：受訪者供圖

應(yīng)遵循“最小必要”原則，并對(duì)高危操作設(shè)置“人工確認(rèn)”強(qiáng)制環(huán)節(jié)

NBD：OpenClaw作為“開源智能體框架”，它和普通大模型應(yīng)用的法律風(fēng)險(xiǎn)有什么不同？

白耀華：OpenClaw作為“開源人工智能體框架”，其法律風(fēng)險(xiǎn)相較于普通大模型應(yīng)用更為復(fù)雜和前置，核心差異在于其“開源”屬性帶來的責(zé)任主體模糊化，以及“智能體”屬性使其從“信息生成者”轉(zhuǎn)變?yōu)椤靶袨閳?zhí)行者”，從而引入了操作失控與行為歸責(zé)的新風(fēng)險(xiǎn)。

具體分析，普通大模型應(yīng)用（如對(duì)話機(jī)器人）的法律風(fēng)險(xiǎn)主要集中在生成內(nèi)容的知識(shí)產(chǎn)權(quán)侵權(quán)、虛假信息傳播、個(gè)人信息處理合規(guī)等方面。而OpenClaw這類框架的風(fēng)險(xiǎn)是復(fù)合與升級(jí)的：

第一，“開源”帶來的責(zé)任網(wǎng)絡(luò)化風(fēng)險(xiǎn)。開源框架允許全球開發(fā)者貢獻(xiàn)代碼、開發(fā)插件，這導(dǎo)致安全管理、數(shù)據(jù)保護(hù)的責(zé)任主體從單一的運(yùn)營(yíng)方擴(kuò)散到一個(gè)松散的生態(tài)。《中華人民共和國(guó)網(wǎng)絡(luò)安全法》要求網(wǎng)絡(luò)運(yùn)營(yíng)者制定并落實(shí)安全管理制度。在開源生態(tài)中，誰是“運(yùn)營(yíng)者”？框架的原始開發(fā)者、二次開發(fā)的企業(yè)、插件的提供者，都可能在不同環(huán)節(jié)承擔(dān)相應(yīng)責(zé)任，這使得責(zé)任界定異常困難。

第二，“智能體”帶來的行為性風(fēng)險(xiǎn)。 普通大模型主要是“說”，而智能體框架驅(qū)動(dòng)的應(yīng)用是“做”——它能自動(dòng)操作外部系統(tǒng)（如下單、刪數(shù)據(jù)），這意味著風(fēng)險(xiǎn)從“言論與信息”領(lǐng)域，延伸到了“行為與操作”領(lǐng)域。一旦發(fā)生錯(cuò)誤，可能直接造成財(cái)產(chǎn)損失、合同違約或系統(tǒng)破壞，其損害后果更直接、更實(shí)質(zhì)。這要求開發(fā)者和使用者必須像管理一個(gè)“數(shù)字員工”一樣，為其設(shè)定嚴(yán)格的權(quán)限邊界和行為準(zhǔn)則。

對(duì)于企業(yè)，我提出如下建議：企業(yè)在采用此類框架時(shí)，首要任務(wù)是厘清技術(shù)供應(yīng)鏈上的各個(gè)法律主體，并通過合同明確各方的安全義務(wù)與責(zé)任邊界；在內(nèi)部治理上，須建立針對(duì)自動(dòng)化執(zhí)行工具的特殊管理制度，將其與普通的內(nèi)容生成AI區(qū)別管理。

NBD：OpenClaw最大的特別之處，是它可能不僅能回答問題，還能自動(dòng)操作網(wǎng)頁(yè)、系統(tǒng)和工具。這樣的能力在法律上意味著什么？

白耀華：自動(dòng)操作能力在法律上意味著OpenClaw驅(qū)動(dòng)的智能體從“輔助工具”升級(jí)為“行為代理”，其法律意義核心在于“行為授權(quán)范圍”與“行為后果的可歸責(zé)性”，可能直接觸發(fā)合同履行、侵權(quán)責(zé)任及更嚴(yán)格的數(shù)據(jù)處理合規(guī)要求。

上述“行為代理”能力使其不再局限于提供建議，而是能代表用戶或開發(fā)者直接與第三方系統(tǒng)交互，產(chǎn)生法律效力。比如：

第一，可能成為合同行為的執(zhí)行方。智能體的自動(dòng)下單、報(bào)價(jià)等操作，在法律上可能被視為用戶或開發(fā)者發(fā)出的要約或承諾，一旦達(dá)成合意，即成立合同關(guān)系。若操作錯(cuò)誤（如錯(cuò)誤報(bào)價(jià)），可能引發(fā)合同糾紛。

第二，構(gòu)成數(shù)據(jù)處理或訪問行為。自動(dòng)操作必然涉及對(duì)系統(tǒng)數(shù)據(jù)的讀取、修改或刪除，這直接落入《中華人民共和國(guó)數(shù)據(jù)安全法》和《中華人民共和國(guó)個(gè)人信息保護(hù)法》的規(guī)制范圍。特別是，如果操作涉及自動(dòng)化決策（例如根據(jù)用戶數(shù)據(jù)自動(dòng)給出不同報(bào)價(jià)），個(gè)人信息處理者必須按照《中華人民共和國(guó)個(gè)人信息保護(hù)法》第五十五條的規(guī)定，事前進(jìn)行個(gè)人信息保護(hù)影響評(píng)估。

第三，侵權(quán)行為的潛在實(shí)施者。如果智能體越權(quán)訪問他人系統(tǒng)、誤刪他人數(shù)據(jù)或發(fā)布誹謗言論，其行為可能構(gòu)成對(duì)網(wǎng)絡(luò)安全、財(cái)產(chǎn)權(quán)或名譽(yù)權(quán)的侵害，相關(guān)責(zé)任需要追溯至其控制者。

對(duì)于企業(yè)，我提出如下建議：企業(yè)必須為智能體劃定清晰、具體的操作權(quán)限清單，遵循“最小必要”原則，禁止其訪問與核心任務(wù)無關(guān)的系統(tǒng)或數(shù)據(jù)；對(duì)于涉及合同訂立、支付、數(shù)據(jù)刪除等高危操作，必須設(shè)置“人工確認(rèn)”強(qiáng)制環(huán)節(jié)，不能完全交由智能體自動(dòng)化處理。

NBD：如果OpenClaw驅(qū)動(dòng)的智能體執(zhí)行錯(cuò)誤，比如誤刪數(shù)據(jù)、錯(cuò)誤下單、錯(cuò)誤報(bào)價(jià)、錯(cuò)誤發(fā)言，責(zé)任應(yīng)如何劃分？

白耀華：責(zé)任劃分無統(tǒng)一標(biāo)準(zhǔn)，需構(gòu)建一個(gè)分層級(jí)的過錯(cuò)分析框架，核心在于舉證證明損害后果與哪一方的過錯(cuò)行為（如設(shè)計(jì)缺陷、管理疏忽、指令錯(cuò)誤）存在因果關(guān)系。通常涉及框架提供者、智能體定制開發(fā)者、插件提供者及最終用戶等多方主體。

參考相關(guān)司法實(shí)踐，責(zé)任劃分可遵循以下思路：

第一，框架提供者/開源社區(qū)的責(zé)任基礎(chǔ)。其通常僅對(duì)框架本身存在的、已知且未修復(fù)的底層安全漏洞負(fù)責(zé)。違反開源協(xié)議與因框架缺陷導(dǎo)致民事侵權(quán)是兩個(gè)相對(duì)獨(dú)立的問題，如果錯(cuò)誤并非源于框架的根本性缺陷，其責(zé)任可能有限。

第二，智能體定制開發(fā)者/集成商的責(zé)任，這是最可能承擔(dān)主要責(zé)任的環(huán)節(jié)。開發(fā)者負(fù)責(zé)具體的業(yè)務(wù)邏輯設(shè)計(jì)、權(quán)限配置和安全測(cè)試。如果因設(shè)計(jì)缺陷（如未對(duì)刪除操作設(shè)置二次確認(rèn)）、對(duì)框架的誤用或測(cè)試不充分導(dǎo)致錯(cuò)誤，其應(yīng)承擔(dān)相應(yīng)責(zé)任。

第三，插件或外部工具提供者的責(zé)任，即對(duì)其提供的特定功能模塊的安全性獨(dú)立負(fù)責(zé)。如果錯(cuò)誤由某個(gè)惡意或有漏洞的插件直接引發(fā)，該提供者應(yīng)承擔(dān)責(zé)任。

第四，最終企業(yè)用戶的責(zé)任。用戶負(fù)有最終的監(jiān)督管理和合規(guī)使用義務(wù)，如果用戶發(fā)出了模糊、錯(cuò)誤的指令，或無視安全警告強(qiáng)行部署，或未對(duì)智能體進(jìn)行必要的權(quán)限管控，則需要承擔(dān)相應(yīng)責(zé)任。

第五，損失范圍的認(rèn)定。如果智能體是企業(yè)核心業(yè)務(wù)（如自動(dòng)交易）不可或缺的組件，其錯(cuò)誤操作導(dǎo)致的損失可能需按整體業(yè)務(wù)影響來評(píng)估，而非僅計(jì)算直接損失。

對(duì)此，我提出以下建議：企業(yè)在委托開發(fā)或采購(gòu)智能體服務(wù)時(shí)，必須在合同中明確約定責(zé)任條款，特別是針對(duì)因設(shè)計(jì)缺陷、算法錯(cuò)誤導(dǎo)致的損失，約定清晰的賠償機(jī)制；企業(yè)務(wù)必要建立并妥善保存全鏈條的操作日志和審計(jì)記錄，這是事后進(jìn)行過錯(cuò)認(rèn)定和責(zé)任劃分的關(guān)鍵證據(jù)。

若使用OpenClaw出現(xiàn)數(shù)據(jù)泄露，不排除企業(yè)將承擔(dān)連帶責(zé)任

NBD：OpenClaw這類框架通常依賴插件、外部工具、瀏覽器自動(dòng)化和代碼執(zhí)行環(huán)境，這會(huì)帶來哪些網(wǎng)絡(luò)安全法律風(fēng)險(xiǎn)？

白耀華：這種高度依賴外部組件的架構(gòu)，會(huì)急劇擴(kuò)大系統(tǒng)的“攻擊面”，主要帶來供應(yīng)鏈安全風(fēng)險(xiǎn)、數(shù)據(jù)泄露風(fēng)險(xiǎn)、連帶合規(guī)責(zé)任風(fēng)險(xiǎn)以及對(duì)第三方的侵權(quán)風(fēng)險(xiǎn)，極易違反網(wǎng)絡(luò)安全等級(jí)保護(hù)制度。

具體分析四類主要風(fēng)險(xiǎn)：

第一，供應(yīng)鏈攻擊風(fēng)險(xiǎn)。惡意插件或受污染的外部工具可能成為“特洛伊木馬”，導(dǎo)致數(shù)據(jù)被竊取、系統(tǒng)被控制。根據(jù)《中華人民共和國(guó)網(wǎng)絡(luò)安全法》第二十四條，“網(wǎng)絡(luò)產(chǎn)品、服務(wù)的提供者不得設(shè)置惡意程序”。使用者若因引入不安全組件導(dǎo)致自身或第三方受損，可能因未盡到審慎審查義務(wù)而承擔(dān)責(zé)任。

第二，數(shù)據(jù)泄露與違規(guī)處理風(fēng)險(xiǎn)。插件和自動(dòng)化工具可能在用戶不知情下收集、傳輸敏感數(shù)據(jù)。若未單獨(dú)明示并取得用戶同意，將違反《中華人民共和國(guó)網(wǎng)絡(luò)安全法》第四十三條、第四十四條關(guān)于個(gè)人信息收集使用的規(guī)定。

第三，連帶合規(guī)責(zé)任風(fēng)險(xiǎn)。根據(jù)《中華人民共和國(guó)數(shù)據(jù)安全法》第二十七條，數(shù)據(jù)處理者應(yīng)“建立健全全流程數(shù)據(jù)安全管理制度”。企業(yè)使用包含諸多外部組件的智能體，法律上可能視其為統(tǒng)一的“數(shù)據(jù)處理活動(dòng)”。任何一個(gè)組件的安全漏洞導(dǎo)致數(shù)據(jù)泄露，企業(yè)作為整體活動(dòng)的組織者都可能面臨行政處罰。

第四，對(duì)第三方的侵權(quán)風(fēng)險(xiǎn)。智能體的自動(dòng)化操作（如批量爬取數(shù)據(jù)）可能超出合理范圍，構(gòu)成對(duì)第三方網(wǎng)站或系統(tǒng)的未經(jīng)授權(quán)訪問，甚至可能被認(rèn)定為網(wǎng)絡(luò)攻擊行為。

對(duì)于企業(yè)，我提出以下建議：建立嚴(yán)格的插件“白名單”管理制度，只允許使用經(jīng)過徹底安全審計(jì)的官方或可信來源插件；對(duì)智能體運(yùn)行環(huán)境進(jìn)行網(wǎng)絡(luò)隔離（沙盒化），限制其網(wǎng)絡(luò)訪問權(quán)限，防止一個(gè)插件的漏洞危及核心業(yè)務(wù)網(wǎng)絡(luò)。

NBD：對(duì)于企業(yè)用戶而言，若要使用OpenClaw，你有哪些合規(guī)方面的建議？

白耀華：企業(yè)應(yīng)以“治理數(shù)字員工”的思維進(jìn)行合規(guī)管理，構(gòu)建覆蓋準(zhǔn)入評(píng)估、權(quán)限管控、過程審計(jì)、應(yīng)急響應(yīng)全生命周期的風(fēng)控體系，并將核心義務(wù)通過合同固化。

在準(zhǔn)入階段，要進(jìn)行深度盡職調(diào)查。仔細(xì)審查OpenClaw及其擬用插件的開源許可證，明確商用限制、代碼開源義務(wù)等；與定制開發(fā)方簽訂權(quán)責(zé)清晰的合同，明確功能標(biāo)準(zhǔn)、安全要求、知識(shí)產(chǎn)權(quán)歸屬、責(zé)任限制與賠償條款。

在部署階段，要貫徹最小權(quán)限與隔離原則。既要權(quán)限最小化，為智能體分配完成特定任務(wù)所需的最少系統(tǒng)權(quán)限和數(shù)據(jù)訪問權(quán)限，也要環(huán)境沙盒化，即在高風(fēng)險(xiǎn)操作場(chǎng)景中，使用隔離的測(cè)試環(huán)境運(yùn)行，待充分驗(yàn)證后再考慮有限部署。

在運(yùn)行階段，要確保全程可審計(jì)與可干預(yù)。第一，要做好完備的日志記錄，記錄智能體的每一個(gè)決策依據(jù)、執(zhí)行動(dòng)作和結(jié)果，日志留存時(shí)間應(yīng)符合《中華人民共和國(guó)網(wǎng)絡(luò)安全法》不少于六個(gè)月的要求；第二，對(duì)關(guān)鍵操作要進(jìn)行人工復(fù)核，即對(duì)涉及資金、合同、核心數(shù)據(jù)刪除等操作，設(shè)置強(qiáng)制的人工審批或確認(rèn)環(huán)節(jié)；第三，要定期進(jìn)行安全評(píng)估，對(duì)智能體系統(tǒng)進(jìn)行安全掃描和合規(guī)審計(jì)，特別是檢查第三方組件的安全更新情況。

此外，還要有做好應(yīng)急和兜底的準(zhǔn)備。一方面是要制定應(yīng)急預(yù)案，明確智能體發(fā)生異常行為（如瘋狂下單、泄露數(shù)據(jù)）時(shí)的緊急處置流程；另一方面要考慮購(gòu)買商業(yè)保險(xiǎn)，可以考慮投保網(wǎng)絡(luò)安全保險(xiǎn)或產(chǎn)品責(zé)任險(xiǎn)，以轉(zhuǎn)移部分潛在的巨額賠償風(fēng)險(xiǎn)。

我認(rèn)為，OpenClaw所代表的技術(shù)方向充滿潛力，但其法律風(fēng)險(xiǎn)也呈幾何級(jí)數(shù)增長(zhǎng)。企業(yè)擁抱創(chuàng)新時(shí)，必須同步構(gòu)建與之匹配的、嚴(yán)謹(jǐn)?shù)姆膳c合規(guī)框架，方能行穩(wěn)致遠(yuǎn)。