瀋陽:必須形成對人工智慧的駕馭閉環
移動互聯時代,人在使用手機時的任何操作,都會被各類APP所記錄,產生大量的人機互動資料。這些資料經過清洗和標註,使用各種方法分析後,將能夠洞察人的情感、利益和社會交往奧祕。人事實上成了各類網際網路應用的“奴隸”,在消費網際網路的同時,也在被各類APP消費,拼命為網際網路應用生產資料。我們產生的資料包含搜尋資料、瀏覽資料、社交資料和電商資料等等。網際網路採集越多的資料,就越能夠了解“資料奴隸”的行為習慣和嗜好需求,從而不斷調整內容策略、互動策略和激勵策略,最終獲取更多的資料和注意力,產生經濟價值。
不管網際網路的外在表現形式如何,其內在本質都是資料連線。資料連線一旦建立,必將不斷細化和深入,平臺的洞察能力隨著資料標籤的增加以及資料分析模型的增強而逐步提升。網際網路平臺的雲端記憶能力和跨平臺分析能力遠超過人的記憶力,可謂一日觸網,終身記憶。人的洞察能力提升速度遠遠不及平臺洞察能力提升速度。從更長期看,個人在洞察能力進化速度的弱勢必然使人面對網際網路大企業或平臺人工智慧時處於弱勢地位。
隨著人臉識別技術和基因分析技術的發展,人的資料正在由人機互動資料擴充套件為生物外部特徵資料和生物內部特徵資料,使我們處於一種前所未有的過度曝光狀態。人臉識別使得平臺能夠直接識別到本人,而不是原先通過人機互動資料對映到個體,如果你的手機給別人用,機器有時候還是不容易察覺已經換人了。但人臉識別直接到人,可謂無可抵賴。
這些網路資料不可避免地輸入人工智慧系統。人工智慧利用算力對資料進行計算,不斷推演最終獲取識別能力。人工智慧沒有資料,顯然如無米之炊、無源之水,只有在資料的滋養下,人工智慧才能不斷迭代升級和進化。
由此我們看出來存在一條控制鏈,人的互動行為給大資料提供養分,大資料給人工智慧提供肥料。如果不能形成控制閉環,顯然人工智慧將越來越強大,終有超越人類的一天。
從個人層面看,大資料殺熟已經比較普遍,且個人處於低感知狀態。要增強個人的資料權利救濟,就必須要增強個人對於自身資料的超級掌控權,這需要立法解決。從政府和機構層面看,就要嚴肅對待人工智慧和大資料的超級國家能力,必須嚴格稽核網際網路的資料侵權情況,必須對機構內部使用資料進行審計。
要形成對人工智慧和大資料的控制,防止技術對人的異化以及對社會的不良衝擊。人無遠慮,必有近憂。需要從兩個角度入手,近憂是規制好掌控人工智慧和大資料的人。人一旦擁有了超級人工智慧和資料能力,就擁有了極強的社會洞察、社會觸達動力,這時候就需要有很好的制衡機制,特別是要發揮媒體監督、公眾監督、管理部門督查、協會自律等多方面的監管。二是要規制好人工智慧的超級平臺本身,防止人工智慧脫離人的掌控,產生對人懷有敵意的自我意識。如果把人工智慧看成一個新的物種,我們也要確保這個物種的大部分個體對待人類的友好性,友好性必須成為人工智慧的基本性格,這方面的技術和倫理探討還很不夠。當然這是遠慮。
人工智慧和大資料在社會中的強勢地位正在逐步顯現,對我們而言,需要做到三個必須:對於中國在國際博弈中人工智慧和大資料的領先地位必須去爭取;對於國家可控和企業主導的人工智慧和大資料的發展機制必須去構建;對於個人自主和法律援助的人工智慧和大資料權利必須去確保。