原標(biāo)題：算法是個黑匣子，立法管得住“大數(shù)據(jù)殺熟”嗎

7月21日，上海市十五屆人大常委會第42次會議通過了《上海市消費(fèi)者權(quán)益保護(hù)條例（修訂）》，其中一條劍指“大數(shù)據(jù)殺熟”，即經(jīng)營者不得通過自動化決策實(shí)行不合理差別待遇。

這條硬核條款并不是首創(chuàng)。盤點(diǎn)近一年來出爐的法律法規(guī)，無論是國家層面的《個人信息保護(hù)法》《消費(fèi)者權(quán)益保護(hù)法》，還是去年市人大通過的《上海市數(shù)據(jù)條例》，均對“大數(shù)據(jù)殺熟”作出了限制性規(guī)定。有人說，這給大數(shù)據(jù)時代的消費(fèi)者吃了定心丸，如果再碰到“價格歧視”類似的侵權(quán)風(fēng)險，手里就有“尚方寶劍”護(hù)身了。

所謂“大數(shù)據(jù)殺熟”，從經(jīng)濟(jì)學(xué)的角度來看，是一場生產(chǎn)者利潤與消費(fèi)者剩余之間的博弈。電商通過向算法挖掘消費(fèi)者不同數(shù)據(jù)間的“化學(xué)反應(yīng)”，揭示用戶消費(fèi)能力、消費(fèi)偏好、價格敏感度等隱性信息，描繪消費(fèi)者“千人千面”的現(xiàn)實(shí)形象，從而實(shí)施差別定價。

事實(shí)上，“差別定價”是商業(yè)領(lǐng)域一直存在的銷售策略，你跟小商販之間的討價還價就是一種，但這時你是有心理準(zhǔn)備的，即使知道自己買貴了，也只能責(zé)怪自己砍價技不如人。但是，當(dāng)你被互聯(lián)網(wǎng)平臺“殺熟”時會發(fā)現(xiàn)自己是被動的，自己并不知情，這樣的用戶體驗(yàn)就很差了。這也是消費(fèi)者對“大數(shù)據(jù)殺熟”如此痛恨的原因?？萍荚诓粩噙M(jìn)步，可如果互聯(lián)網(wǎng)公司利用技術(shù)創(chuàng)新只是為了“看人下菜”而榨取最大利潤，這種創(chuàng)新不會為大家所接受。

算法若被合理使用，可以實(shí)現(xiàn)平臺運(yùn)營者和消費(fèi)者的雙贏。比如電商可以清晰把握消費(fèi)者需求，提升效率，壓縮成本。精準(zhǔn)的私人訂制也能為消費(fèi)者節(jié)省時間。個性化推薦的算法若用得好，還能造福人類。比如在醫(yī)學(xué)上的應(yīng)用，每個人對藥物的反應(yīng)可能千差萬別，如果通過大數(shù)據(jù)找到一些和你的生理數(shù)據(jù)、健康狀況、生活習(xí)慣、性格背景都高度相似的個體，看看他的身體對特定藥物和治療方案的反應(yīng)，那么，醫(yī)生就能向你推薦更適合你的治療方案。

這也就提出一個問題：大數(shù)據(jù)時代，我們需要怎么樣的算法，如果實(shí)施算法監(jiān)管，立法管得住嗎？

有人說，算法不是透明的，有些算法本身就是個黑匣子，如果實(shí)施監(jiān)管，那些互聯(lián)網(wǎng)巨頭肯定會想辦法繞過去。有人認(rèn)為，面對“大數(shù)據(jù)殺熟”這樣的技術(shù)倫理困境，應(yīng)該考慮如何用更良善的科技來解決。在這幾部法規(guī)的立法調(diào)研和審議中，類似的博弈討論就不少。如果立法過于嚴(yán)格，不利于技術(shù)創(chuàng)新；如果過于寬松，又不利于消費(fèi)者個體?？梢姡惴ūO(jiān)管的這個度并不好拿捏，頗考驗(yàn)立法者的智慧。

技術(shù)史專家克蘭茲伯格說過一句話：“技術(shù)既無好壞，亦非中立?！奔夹g(shù)本身雖沒有好壞，但有極大的影響力。手握技術(shù)的科技公司有義務(wù)預(yù)判一項(xiàng)新技術(shù)到底會帶來什么樣的影響。你可以用大數(shù)據(jù)給用戶提供便捷，也可以用來“殺熟”?？萍疾⒉槐厝粠砻篮蒙?，帶來美好生活的，是善用科技的人。

從這個意義上，我們的立法初衷就很明確，就是給算法的“目標(biāo)函數(shù)”劃了一條底線?？萍枷蛏?，不是可有可無的個人情懷，而是必須履行的社會責(zé)任和法律義務(wù)。當(dāng)然，立法不是萬能藥，不可能有了這個條款后，馬上就能杜絕不合理算法，但從監(jiān)管目標(biāo)上給互聯(lián)網(wǎng)經(jīng)營者發(fā)出警示，也讓消費(fèi)者有了敢于訴訟的法律依據(jù)。