數字經濟時代呈現出了三個最重要的面相，大數據成為最關鍵的生産資料，人工智能釋放出最強大的生産力，而區塊鍊改變了生産關系（編者注：詳見本刊2018年第9期，p71~79）。這三大改變對于人類社會生活影響深遠，同時也帶來了新問題。這些新問題包括：大數據的發展放大了技術漏洞、數據侵權、數據違約、管理不當等問題；人工智能進化中産生了主體性危機；區塊鍊構建起信任機制存在不确定性。
大數據技術發展放大了數據利用問題
技術漏洞。在大數據技術不斷疊代、黑客攻擊手段多樣的背景下，數據防控、傳輸等多個技術環節如果沒有及時更新，技術漏洞就會存在被利用的風險。而數據洩露的風險随着漏洞被利用而大大提升，并造成社會風險事件。例如，2017年美國證券交易委員會發布聲明，其“埃德加文件系統”于2016年遭到黑客入侵，失竊的大量信息被用于交易。又如同年，由于公司數據庫沒有及時更新，美國最大征信巨頭之一伊奎法克斯公司（Equifax）的數據庫遭黑客入侵，1.46億用戶數據“被非法獲取”。
為了應對這類風險，以烏雲漏洞報告平台為代表的一類安全技術平台應運而生。技術專家通過烏雲平台及時與廠商聯系發現的技術漏洞，促進網絡安全水平。但是諸如烏雲平台這樣一類“白帽子黑客平台”本身也遊走于法律邊緣。發現技術漏洞所采用的技術手段不可避免地會觸及網絡安全，甚至有可能在獲取數據的過程中采用“非法”手段。2016年，烏雲平台就由于涉及“攻擊用戶數據”而停站整頓。
數據侵權。大數據的分析方式決定了其需要對于數據的各類标簽、各方維度做多重使用，使用方式包括二次，甚至多次使用；交叉使用；非法獲取等。數據使用者可能侵犯公民的隐私權、消費者選擇權、知情權、個人信息安全，也可能會侵犯其他公司或組織主體對數據的合法權益。這些行為有可能是數據控制者實施的，例如，一些共享出行平台對于經常使用平台的消費者的“殺熟”行為；也可能由于數據的外溢性，由非商業模式參與者實施侵權行為，例如，數據公司從電信運營商内部人士處獲取用戶原始信息數據，再轉售給小貸公司，小貸公司獲得用戶隐私數據，并将其用于信貸需求分析，推薦産品，甚至開展非法借貸活動。
數據違約。大數據在不同主體之間的流轉和共享一般通過合同約定的方式進行。但是往往會出現合同相對方不按約定用途使用數據的情形。大數據的特性決定了大數據分析和挖掘的監督十分困難，在違約成本極低、收益極高的情況下，大數據合約往往出現效率違約的情形。
管理不當。在新技術領域，由于沒有成熟的規章制度可以依循，公共部門對行業的管理總是落入兩頭：要麼監管不足，要麼監管過度。監管不足時，數據控制方的合法權益一旦受到侵害難以獲得有效、及時的救助；監管過度時，監管措施侵害行業主體的合法權益。例如，當大數據挖掘、交易等行業标準不完善、交易平台定位不明确等問題出現時，行業主體容易出現數據欺瞞行為從而危害市場秩序。值得特别指出的是，大數據依靠技術手段實現的侵權、違約等法律風險的成本往往遠小于收益。以大數據侵犯隐私為例。大數據使得隐私侵權變得十分容易，普遍侵權行為方式變得更加隐秘，侵權性質更難以确定……侵權行為與結果之間的因果關系更松散。
人工智能進化中産生的主體性危機
人工智能帶來多重主體性危機。人工智能的仿生性尤其仿智性，導緻人格主體性問題必将成為一個繞不開的問題。人工智能分為弱人工智能、強人工智能、超人工智能三個階段。在第一個階段，智能體類似于人類輔助工具，沒有人格讨論的必要和餘地。而後兩個階段，尤其是超人工智能階段，因為智能體主體意識和情感意識的覺醒，可能會帶來極大的主體性危機。主體性危機表現在四個方面：（1）哲學上的主體危機：使得理性主義及物理主義下的物質精神二分危機和困惑更加突出，自然主義和人文主義下的精神至上有更加走火入魔、誤入歧途的危險。（2）倫理上的主體危機：控制危機、安全威脅、自由限制、公平喪失、算法歧視、數據隐私、AI犯罪等。（3）法律上的主體危機：主體不明導緻法律上難以歸責，勞動者身份的重構與保護、權利歸屬難題（如AI創作的知識産權歸屬問題）。（4）經濟上的主體危機：人工智能将重構生産、分配、交換、消費四個環節的功能定位和銜接機制（如人工智能賽博物理操作系統AI-CPSOS），讓勞動價值定律失效，難以界定價值和産權歸屬。比如分配方面，“按勞分配”将會進一步受到沖擊和瓦解，可能導緻兩個極端。一是按照二八定律，智能技術和資源集中于極少大資本家和大财團手中，他們得以操縱資本按資分配，極大加劇社會财富差距；另一個是按需分配，進入馬克思主義的經典社會——共産主義，人們從繁重的勞動中解放出來，實現極大的自由。
人和物之間的模糊地帶。解決主體性危機的關鍵在于對“是否以及如何賦予智能體人格”這兩個問題的回答。如果承認人工智能擁有“人格”，那麼人格基礎是什麼？僅僅因為長得像人，或者讓人産生對待人類的感情，是否就可以獲得神聖的人之所以為人的權利？如果否認人工智能的“人格”，那麼又如何安放人類對其産生的同情心和同理心？在人和物之間，是否可以存在一個模糊地帶，這個模糊地帶的存在，是暫時的擱置，還是永久的和解？另外傳統的權利義務、責任獎懲機制是否适用于智能體？例如在智能金融領域，當機器人交易員表現優異時，如何去獎賞他？他們是否也可以疲憊，從而要求休息和度假？他們犯錯了，如何去處罰，“斷電”是不是一種酷刑？
智能體是否被賦予人格，關鍵取決于其是否産生常态化的自我意識。而這一點恐怕現在的人工智能以及将來很長一段時間都不會達到。因為人類還遠沒有所謂“上帝”或自然的手法，人工智能體或許隻能産生程序語言運作而遠非自我意識。那麼現在賦予人格的呼聲或者現實案例（沙特阿拉伯賦予“索菲亞”公民身份資格）僅僅是争相競争和吸引目光的一個噱頭而已。在大數據技術不斷疊代、黑客攻擊手段多樣的背景下，數據防控、傳輸等多個技術環節如果沒有及時更新，技術漏洞存在被利用的風險。
區塊鍊重構起的信任機制存在不确定性
區塊鍊技術能否用算法代替制度？共識機制的存在使得區塊鍊系統本身就是一個擁有一套通行規則的社群。20世紀末期開始，一群密碼朋克的運動家利用加密技術、分布式網絡等技術成立了一個屬于他們的社群，旨在“保護個人的自由”，免除政府的控制。在這些前人思想的指引下，中本聰才在2008年發表了《比特币—一種點對點的電子現金系統》。保護自由、去中心化的靈感來源于密碼朋克。以共識機制為基礎的“社群認證”就是先賢們想出來的對抗之道。共識機制在一定程度上就是通過代碼算法預先設定的一緻性标準。與法律制度有幾分相似，但是它不像制度那樣需要依靠人力去運行、維護。因此在區塊鍊系統中不需要單獨的“立法”“執法”以及“司法”的體系。配合着智能合約，一切制度都可以自動執行。但這一切的發生，卻必須得到現有社會資源分配機制的承認，因此也具有不确定性。
非熟人互信的條件能否得到滿足？如果需要依靠區塊鍊系統這套幾乎“理想國”的計算機體系來約束人類的社會活動，将原先小圈子的共識機制推而廣之到全體社會成員，從而實現非熟人之間的互信，需要滿足至少兩點：第一點，小圈子的共識機制得到其他社會成員的認可。這意味着這個圈子要盡可能地擴展，從而使得更多的人願意為互信做“背書”。第二點，非熟人之間的互信存在着“上鍊”這一先決條件。這意味着非熟人互信的前提是雙方甚至多方都在鍊上，一旦“下鍊”互信就不複存在。
對數據記賬的依賴。目前來看，區塊鍊技術已經在金融、物流等多個領域得到了應用。在金融領域，區塊鍊技術搭建了票據流轉的平台、實現了資産證券化産品底層資産的管理、促進跨境外彙轉賬的便捷進行等。在多方參加，且最需要信任的領域實現了各方的互信。除此之外，在物流溯源領域，區塊鍊技術可以從原材料的生産開始，追蹤直到呈現在消費者手中的全流程。可以發現，這些不同主體之間互信的産生，來自于區塊鍊記錄下來的信息。這是充分發揮分布式網絡和加密算法的結果，也是區塊鍊技術發展的應有之意。然而，在拓展實踐場景時，區塊鍊技術除了技術上的難點“不可能三角”（安全性、運算速度、環保性三者無法同時實現）之外，還會遇到法律監管對于此項技術的包容性态度問題。因此，對數據記賬的過渡依賴本身可能造成信任機制的脆弱性。
小結：直面升級的煩惱
技術應用所帶來的變革是長期的、多層的。技術始終在更新疊代，但也有發展的階段和周期。不論是大數據、人工智能還是區塊鍊技術，勢必要經曆技術進步—新問題—架構改進—社會進步的階段，有時候還會遭遇制度、舊技術等因素的考驗甚至反噬。技術變革也不可能是一蹴而就的，數字經濟時代的新問題也會展現不同的方式和不同的層級。就人工智能來說，其在圖像識别領域的應用已經獲得了十分長足的進步，其針對特定任務的識别率可以高達驚人的99%，但問題仍然在發生。例如，2015年，谷歌的圖像識别算法曾經将非洲裔美國人劃入黑猩猩一類，“客觀上”造成了對有色人種的歧視。此外，2018年3月，Uber自動駕駛汽車在亞利桑那州路測中撞人緻死，引發了人們對自動駕駛技術安全性問題的擔憂。區塊鍊自身機制也存在安全問題,理論上存在的51%攻擊也會成為現實，例如，2018年5月，比特币黃金（BTG）遭遇51%雙花攻擊，緻使損失1860萬美元。
此外，數字經濟時代的新問題還會有動态的變化。例如大數據的不斷積累，數據侵權、數據盜用等不法行為的外部性越來越多，并且越來越嚴重。比如，技術漏洞的存在，導緻酒店的個人敏感信息數據被盜取。在大數據分析方式還沒有發展到撞庫、深度挖掘等層面時，個人信息數據的洩露影響有限，個人敏感的開房記錄等信息無法被解析從而獲得更多的個人信息；而人工智能技術的發展，大大提升了開房記錄被複用、解析的可能，除了敏感的個人開房信息，甚至生活、工作、家庭等其他信息都會被挖掘暴露出來。這充分說明數據洩露帶來的數據所有權人信息曝光造成的傷害、數據控制權人商業利益的損失、全社會為了控制風險而支付的額外成本與數據洩露之間甚至可能超越了潛在的線性關系。
因此，清醒地認識并分析數字經濟時代的各類新問題十分必要。隻有對這些新問題進行充分的預判，才有可能穩妥應對因生産資料關鍵地位的動搖而引發的擔憂、因生産力升級換擋所帶來的不适，以及因生産關系的調整而激起的阻礙。
（作者為京東金融研究院法律與政策研究中心研究員）
數據違約。大數據在不同主體之間的流轉和共享一般通過合同約定的方式進行。但是往往會出現合同相對方不按約定用途使用數據的情形。