某征婚交友平臺(tái)運(yùn)營(yíng)者實(shí)施算法時(shí)認(rèn)定用戶李某為“殺豬盤(pán)”,并對(duì)其進(jìn)行風(fēng)控,導(dǎo)致李某被好友誤認(rèn)為騙子。李某一氣之下將平臺(tái)訴至法院,要求道歉并賠償2萬(wàn)元。
11月10日,北京青年報(bào)記者從北京互聯(lián)網(wǎng)法院獲悉,該院審結(jié)了首例涉及算法風(fēng)控系統(tǒng)引發(fā)人身權(quán)益侵權(quán)糾紛的案件。法院判決平臺(tái)并無(wú)主觀過(guò)錯(cuò),不構(gòu)成侵權(quán),駁回了李某的訴訟請(qǐng)求。
案件
金融人士被網(wǎng)站算法“誤傷”
據(jù)了解,李某為某金融公司員工,注冊(cè)了某征婚交友平臺(tái),提交了真實(shí)照片作為頭像以及實(shí)名認(rèn)證手機(jī)號(hào)。在李某正常使用平臺(tái)期間,征婚平臺(tái)對(duì)其賬戶進(jìn)行了封號(hào)處理,并向其他網(wǎng)友提示稱“賬號(hào)可能存在異常”“不要與之發(fā)生金錢(qián)來(lái)往”等。該情況導(dǎo)致李某多位朋友誤認(rèn)為其是騙子,造成李某名譽(yù)受損。
李某訴至法院,認(rèn)為平臺(tái)運(yùn)營(yíng)的算法技術(shù)造成誤判侵犯其名譽(yù)權(quán),請(qǐng)求法院判令征婚平臺(tái)公開(kāi)向其道歉予以澄清,并賠償損失2萬(wàn)元。
征婚平臺(tái)辯稱,按照法律法規(guī)的規(guī)定,運(yùn)營(yíng)者對(duì)用戶在平臺(tái)的行為進(jìn)行監(jiān)管,履行平臺(tái)主體責(zé)任。李某為其運(yùn)營(yíng)平臺(tái)注冊(cè)用戶,在與平臺(tái)其他用戶聊天過(guò)程中,短期內(nèi)多次被檢測(cè)到出現(xiàn)“金融”“基金”“加微信”等“殺豬盤(pán)”詐騙案件所涉高頻詞匯,因此自動(dòng)觸發(fā)了平臺(tái)風(fēng)控系統(tǒng)的審核規(guī)則,經(jīng)李某致電客服反映情況,平臺(tái)的人工核實(shí)后對(duì)該賬戶進(jìn)行解封。
平臺(tái)認(rèn)為,自己的行為僅是為公共利益依法履行主體監(jiān)管責(zé)任,系統(tǒng)自動(dòng)判定原告賬戶為風(fēng)險(xiǎn)賬號(hào),不存在侵權(quán)行為。
法院
平臺(tái)風(fēng)控行為并無(wú)主觀過(guò)錯(cuò)
該案訴訟過(guò)程中,平臺(tái)還提交了《關(guān)于涉案軟件風(fēng)控審核系統(tǒng)的情況說(shuō)明》及相關(guān)證據(jù),向法庭說(shuō)明其“預(yù)防性風(fēng)控系統(tǒng)”算法邏輯機(jī)理,盡到了相應(yīng)的算法披露義務(wù)。結(jié)合雙方訴辯意見(jiàn),該案中主要爭(zhēng)議點(diǎn)為,平臺(tái)采取涉案算法風(fēng)控行為是否存在主觀過(guò)錯(cuò)。
北京互聯(lián)網(wǎng)法院經(jīng)審理認(rèn)為,平臺(tái)根據(jù)涉案“預(yù)防性風(fēng)控系統(tǒng)”針對(duì)的詞匯和行為可見(jiàn),該系統(tǒng)設(shè)置目的確系為預(yù)防“殺豬盤(pán)”等網(wǎng)絡(luò)詐騙行為,系為實(shí)現(xiàn)法律要求的監(jiān)管義務(wù)和公共利益,具有正當(dāng)性。
同時(shí)算法設(shè)置需在現(xiàn)有技術(shù)條件下合理、合比例,不得存在算法歧視、算法濫用等侵害他人合法權(quán)益的非法手段,根據(jù)已查明的事實(shí)及被告披露算法邏輯過(guò)程,涉案算法設(shè)置系基于特定詞匯和用戶行為的自動(dòng)化反應(yīng)機(jī)制,并不存在對(duì)某類用戶的不當(dāng)歧視。
另外,鑒于涉案平臺(tái)為陌生人網(wǎng)絡(luò)交友戀愛(ài)類平臺(tái),在目前社會(huì)背景下加強(qiáng)“殺豬盤(pán)”等網(wǎng)絡(luò)詐騙犯罪的篩查力度,于平臺(tái)服務(wù)類型來(lái)說(shuō)具有一定合理性。
而平臺(tái)在發(fā)現(xiàn)誤封后,確按照其承諾的人工審核方式,在聲明的期限內(nèi)核查誤判并解除賬戶封禁和風(fēng)險(xiǎn)提示,盡到了與涉案算法風(fēng)險(xiǎn)相匹配的注意義務(wù)。
綜上,平臺(tái)基于法律監(jiān)管要求和公共利益保護(hù)的目的,設(shè)置“預(yù)防性風(fēng)控系統(tǒng)”算法應(yīng)用,對(duì)用戶行為進(jìn)行中立、無(wú)差別的風(fēng)險(xiǎn)篩查,雖因技術(shù)水平所限造成系統(tǒng)誤判,但盡到了與涉案算法風(fēng)險(xiǎn)相匹配的注意義務(wù),并采取了合理的預(yù)防侵權(quán)措施,并無(wú)主觀過(guò)錯(cuò),不構(gòu)成侵權(quán)。
法院判決駁回李某的訴訟請(qǐng)求。一審宣判后,雙方均未上訴,該案判決已生效。
專家
尋求“個(gè)體”與“社會(huì)”平衡點(diǎn)
據(jù)北京互聯(lián)網(wǎng)法院介紹,該案是全國(guó)首次涉及算法風(fēng)控系統(tǒng)引發(fā)人身權(quán)益侵權(quán)糾紛進(jìn)行的審理。針對(duì)該領(lǐng)域,2022年《互聯(lián)網(wǎng)信息服務(wù)算法推薦管理規(guī)定》和《反電信網(wǎng)絡(luò)詐騙法》均規(guī)定了網(wǎng)絡(luò)服務(wù)提供者需履行涉電信網(wǎng)絡(luò)詐騙信息監(jiān)測(cè)、識(shí)別和處置的義務(wù)。在此背景下,網(wǎng)絡(luò)服務(wù)提供者通過(guò)技術(shù)手段,強(qiáng)化對(duì)高危風(fēng)險(xiǎn)賬戶的監(jiān)測(cè)和預(yù)防功能,具有算法技術(shù)運(yùn)用的正當(dāng)性。
中國(guó)社會(huì)科學(xué)院大學(xué)互聯(lián)網(wǎng)法治研究中心執(zhí)行主任劉曉春表示,數(shù)字經(jīng)濟(jì)時(shí)代,算法成為網(wǎng)絡(luò)平臺(tái)進(jìn)行信息交換、資源調(diào)配、內(nèi)部治理的重要途徑,對(duì)于算法的治理和規(guī)范是建構(gòu)網(wǎng)絡(luò)空間綜合治理秩序的重要組成部分。與此同時(shí),平臺(tái)積極運(yùn)用算法參與綜合治理,也需要對(duì)其行為的合理邊界和注意義務(wù)給出標(biāo)準(zhǔn)和指引。
劉曉春表示,本案中,法院一方面承認(rèn)了用戶權(quán)益在平臺(tái)經(jīng)濟(jì)中應(yīng)當(dāng)受到充分保護(hù),另一方面也認(rèn)定了網(wǎng)絡(luò)平臺(tái)依據(jù)法律要求、履行打擊電信詐騙等治理義務(wù)的行為存在合法性基礎(chǔ),當(dāng)兩者出現(xiàn)一定程度的利益沖突時(shí),本案判決為平臺(tái)確立了合理的注意義務(wù)標(biāo)準(zhǔn)及具體認(rèn)定因素,在個(gè)體用戶權(quán)益保護(hù)和實(shí)現(xiàn)社會(huì)治理功能之間尋求精準(zhǔn)的平衡點(diǎn),探索并確立了判斷平臺(tái)治理合理邊界的法律適用標(biāo)準(zhǔn),在確認(rèn)平臺(tái)可以繼續(xù)采取有效措施防范“殺豬盤(pán)”等電信詐騙風(fēng)險(xiǎn)的同時(shí),又確保被算法“誤傷”的個(gè)體權(quán)益可獲得救濟(jì)途徑,從而實(shí)現(xiàn)更大范圍內(nèi)切實(shí)保護(hù)人民群眾切身利益的目標(biāo),為構(gòu)建協(xié)同共治的網(wǎng)絡(luò)空間治理秩序提供法治保障。
(編輯:映雪)