GES觀點碰撞：教育+科技的倫理與邊界
多知網 12 月 4 日訊息，在 2018 未來教育大會上，在《教育 + 科技的倫理與邊界》圓桌論壇中，嘉賓們探討了網際網路在教育中應用後，如何趨利避害，真正讓技術服務於教育。
本場論壇的主持人為北京師範大學遠端教育研究中心教授張偉遠；嘉賓有西安交通大學副校長鄭慶華；工信部資訊中心副主任李德文；北京師範大學哲學院教授、北京師範大學-香港浸會大學聯合國國際學院教務長李建會；微軟全渠道事業部首席技術官徐明強。
本場論壇，嘉賓們認為網際網路技術應用於教育後，會產生一些負面價值，會有隱私問題和智慧財產權問題，而解決方法就是需要企業不要做惡，加強技術防範；而政府部門加強監管，用規範和法律制度保障。
以下為圓桌論壇實錄，經多知網編輯整理：
主持人(張偉遠)：技術為教育提供了精準的服務，那麼新興技術會不會帶來新的倫理方面的問題？
鄭慶華：科技與教育的融合一定能推動資訊化、個性化、智慧化、國際化基礎的支撐手段，任何科學技術對於任何事務一樣都具有兩面性，趨利避害，謀劃研究是非常必要的。那麼教育與科技的融合過程中，怎樣對資料進行分析利用是一個根本性的東西。
所有的行為都會留下痕跡，在資訊化時代，所有資料都會產生日誌，網際網路教育當中基本資料都會採集利用，問題是採集資料的動機是什麼？帶來的是正面的，還是負面的？這些都是人工智慧、大資料等資訊科技對教育的影響和作用的發揮問題。
網際網路在教育中的應用裡面有三個問題需要關注和考慮：
第一，學會或者是理解在監督下，或者說有記錄的情況下去做事情，現在大街小巷各種會議室都有攝像，都有上網的日誌記錄，這不以我們的意志為轉移；
第二，一定要在教育領域要從善，要正面引領，而不是去研究人的隱私而不是倫理等問題，也就是說要讓科學技術引領教育的發展；
第三，在新的歷史時代，作為國家層面也好，一定要研究隱私新的正規化、新的定義，它的內涵與外延。另外，要在這個基礎上，分析倫理、隱私等對教育的影響。從而，做到有選擇的發揮科學技術的作用。
李德文：科學技術與教育深度融合，科學技術推動科學創新方面起到了越來越重大的作用，但是 科學技術是雙刃劍 ，它可以帶來正面的價值，比如經濟的發展、社會的進步，文化的繁榮等，它也帶來了越來越多的負面價值，比如環境汙染、溫室效應、隱私的效應等。
同時，技術對教育的發展產生正價值的同時，也在產生負價值，隨著網際網路技術的發展，尤其是多媒體網際網路技術的發展，其在教育中的應用逐漸從局外的、邊緣的教育工具轉變為關鍵的，重要的支撐來改造教育，科學技術也越來越從塞入教學加入教學變為了潛入教學和融入教學，在這種情況下，教育越來越離不開技術，離開了電腦，離開了多媒體，在很多情況下教育可能就無法進行，結果，技術逐步由服務者的角色轉變為控制者的角色，有可能出現了過度依賴技術而產生，技術對教育的控制或者壟斷的情況。
負面價值由此產生：
一，師生關係冷漠化，比如慕課等大量使用，使得傳統的教師與學生的從二元關係變為了機器、學生、教師三元關係，空間上限制了師生之間的對話，使得學生無法直接感受教師的情感、態度、價值觀。學生逐漸改變為沒有感情色彩的資訊接受者，這在心理距離越來越遠，師生關係逐漸冷漠化，教育中的人文關懷嚴重受到影響；
二，資訊過量，資訊汙染導致學生壓力增大，損害身心健康，由於網際網路技術的提升，學生接受資訊大幅度增加，虛假資訊氾濫，過時、垃圾、冗餘、謠言等資訊氾濫，導致學習者壓力增大，身心健康受到危害；
三，文化霸權，一些發達國家和地區，利用自己的技術優勢，對自己的文化和理念進行宣傳，對其他國家和地區造成無形中的巨大影響，形成文化霸權，形成文化殖民的目的；
四，造成教育不公平，很多情況下技術能達到教育的公平，比如慕課能打破階層和地域的限制，能快速集結資源，但是現在教育技術也可能加劇這種不公平。發達地區的民眾可以使用先進的技術，但不發達的地區使用不到，從而導致數字鴻溝的出現，教育公平會受到影響。
此外，還有隱私問題和智慧財產權問題。
總之，科學技術對教育的應用必須重視這些負面價值的影響，努力減少負面價值的影響，這是我們教育工作者應當承擔的責任。
徐明強：我來自微軟，那麼 我從技術角度探討 AI 帶來的倫理問題。
第一是公正性，美國獨立宣言中提到“造物者面前人人平等”，後來有人解讀稱其中的“ evry man ”中的“ man ”指得是自由人，不包括奴隸。今天我們發現，人工智慧在這方面也有不公正的地方，比如《紐約時報》在今年 2 月公佈的結果中顯示，美國人工智慧人臉識別對於白人女性判斷的錯誤率為 7% ，如果是深色面板的女性，錯誤率高達 30% 。因此，人工智慧在人種方面不是太公平。
那在教育方面，還有種種不公正，曾有一個學校說有一個機器學習的演示，可以幫助學生髮現哪些學生有好的成績，希望和微軟聯合演示，學校資料出來我們看了後，我們拒絕了合作，因為資料出來後就是家裡富裕的孩子成績好，我們認為這個資料不公正，微軟就沒繼續談合作。
第二是包容性，微軟在技術上吃過虧，比如微軟第一款 Xbox 遊戲機在日本賣得不好，分析以後知道那個“ Control ”(手柄)太大，因為白人手大，所以就是按白人手掌標準去做得，他們覺得挺好的，但亞洲人握起來不舒服，沒考慮到亞洲人的手相對小一些。這就反映出產品不夠包容。因此，在人工智慧在教育中的應用注意到這些。
第三是透明度，比如現在人工智慧的圍棋都非常厲害，成為了教學工具， AI 棋走得好，但是為什麼走得好，它講不出來。這就是人工智慧的問題，解答不了為什麼的問題。
李德文：教育+科技的倫理問題，可以說是網際網路+教育產生的倫理問題，因為隨著大資料、人工智慧、雲端計算等技術的使用產生了新的思考，網際網路的使用產生了倫理的問題。
教育引入網際網路是毋庸置疑的，大家已經達成共識，打破時空的限制，進行資訊流的傳遞，而教育正好是資訊的傳遞，因此，教育也是網際網路適合發揮的領域之一。此前，鄧小平講過，教育要面向現代化，這個現代化就是應用，但是，現在教育在現代化的應用遠遠不夠。
由於網際網路的應用帶來的倫理問題，我會從行政的角度談談這個看法，教育是公共事業，國家提倡公共服務均等化，到教育領域就是，基本教育均等化，教育有很多目標，均等化知識目標之一，這也是倫理的問題，也就是公平公正的問題。
教育是支撐資訊的傳遞，對人和物的依賴最少，因此是最有條件實現均等化的公共服務之一。 從政府的角度可以從三個方面促進均等化：
一、大力加強基礎設施的建設，讓大家能夠用得上和用得起網際網路，這個是工信部推進的工作，如提速降費，這在目前取得了階段性的成果。
全國 96% 以上的行政村通上了光纜寬頻，資費方面月均消費約 51 元，與德國相當，與美國日本韓國要低。在我國，我們對貧困地區投入很多，越是貧困地區資費越底。
二、優質資源供給問題，大城市的好的學校才有優質資源，邊遠地區只要有寬頻就都會去爭取優質資源，現在的問題是主要是自下而上的發動方式，作為教育的組織部門，怎麼樣自上而下作為整體的聯動，這是一個很大的問題。
三、還有資源覆蓋的問題，比如學而思的雙師教學，怎麼利用線上線下發揮作用都是需要考慮的問題。
另外還有信息保護的問題，網際網路大資料的應用，這些都需要政府部門保證資訊不被非法獲取，確保學習者不能被一些資訊受到傷害。
主持人(張偉遠)：大家探討了網際網路在教育應用中帶來的倫理問題，大家都認為會帶來一些新的問題，那麼，有沒有解決的策略和方法？
鄭慶華：我是學計算記專業的， 技術應用於教育管理，提升教育質量是基本的目標和手段。從目前來看，有三個方面：
第一，推動教育管理手段的效果，比如對學校所有課程可以實現全覆蓋的評價，我們還可以及時發現失聯的學生，心理比較孤獨的學生，關係活躍的學生等等，通過大資料平臺可以實現精準的發現。對提升教育教學的效率、針對性和個性化起到了良好作用；
第二，在教育內容的數字化、智慧化、呈現化也有好處，比如，我們提出了知識圖譜概念，把過去只見樹木不見森林的離散的知識融合成一個相互關聯的層次邏輯清晰的組織方式，這對提高知識過程的效率，有針對地進行導航學習也起到了非常重要的作用；
第三，測試，評價手段現代化智慧化改革，我們承擔了教育部的一個課題，探討 5-10 年以後運用人工智慧技術、 VR/AR 技術如何解決現在只能通過紙和筆考試的問題，紙和筆只能考知識，不能考能力，考能力現在的手段做不到，比如實驗、設計的能力，快速反應的能力，一問一答的能力等，通過人工智慧虛擬技術的應用，將來一定會突破考試的瓶頸，考試模式的改革一定會倒逼中小學走向素質教育的軌道，所以非常有意義。
要做到這些事情，有一個基礎性的保障，也就是保障學生教師應有的基本權利，比如隱私等倫理問題，這些問題確實需要關注。
這些問題的解決我認為 一是依靠教育 ，就是讓老師知道職業操守是什麼，不能超越底線；
二是依靠制度規範，就是要靠制度和法律去保證；
三是依靠技術手段，讓管理有跡可循。
教育、制度規範、技術手段是三位一體，讓技術真正服務於教育。
李德文：我是做哲學研究的，我曾經參與編撰了圖書《離散同行》，幫助解決科技的倫理問題和價值選擇，那麼，科技倫理的解決方法是國際通行的叫原則主義，提出一些大家公認的原則，我認為教育過程中產生的倫理問題可以這樣解決：
一，堅持教師在教育教學中的主導地位，注重師生互動，人文關懷，避免過度被技術控制；
二，堅持健康的原則，很多領域的有一條原則，就是不傷害原則。這裡我想做一點改造，叫健康原則。也就是說，科學技術在應用教育時努力使得技術不會對教育者造成身心傷害，或者容易時教育者身心健康。
三，堅持有利有效原則，要讓這些科技有利於教育者和受教育者，造福教育者、受教育者。這樣有利有效不僅是短時的，還應該是長期的有利和有效。
四，堅持公平公正的原則，讓不同地區的教師和學生都能使用到資訊科技。
五，保護個人隱私，保護智慧財產權。
主持人（張偉遠）：謝謝李教授，從一個哲學的角度來探討這個問題，而且提出的幾條基本原則，非常的重要。下面請微軟徐博士發表自己的觀點。有請徐博士。
徐明強：我也迴應一下李教授講到這個隱私，這是大家關心的一個問題。我介紹一下微軟近年來和英特爾做一個合作，就是叫隱私計算。什麼意思呢？現在大家迫切想要做的一件事情，就是比如兩個學校，它都有不同的資料，如果各自做各自模型訓練的話，最後出來的模型都不是非常好。兩個學校希望把資料合成到一起，一起做一個訓練，但是這個隱私法辦不到的。過去是小人愛資料，得之有盜。現在和英特爾做，希望君子愛資料，得之有道。我們做的辦法，是可以讓資料傳輸的時候加密，有隱私保護；在儲存的時候加密，有隱私保護。但是唯一沒有辦法在執行的時候對它加密。現在我們跟英特爾合作後，照樣可以加密。現在在傳輸、運算的時候都可以保護。現在可以讓兩個學校加密在一起，可以訓練好出更好的模型。所以這是我們一個努力的方向，將來會成為機器學習，陰私計算的一個方向。
我剛才講到公正性問題，解決方法首先一定要非常仔細地訓練資料，看看訓練者是否把偏見引入。第二，不希望看到光是網際網路公司，就是跨界和教育競爭，這個做教育，做 AI 應用，一定把教育界專家介入。從包容性方面來說，包容性比較重要的一點是，很多時候機器今天 AI 它智商很高，但是它同理心沒有辦法像一個教師這樣，所以我們確實擔心，沒有同理心，教育出來的孩子，我們過去聽到他山猿人的故事，害怕孩子機器人一樣的思維。所以我想這方面 AI 更多的開發不光 IQ ，還有情商的開發。最後到了透明性，透明性的時候就是要把很多的，還是回到剛才資料的蒐集取樣那邊，要更多的從制度上，要把資料本身，不光是要這個資料審查，另外在實際應用當中有反饋的，要隨時發現這個片面的引入。感謝。
主持人（張偉遠）：非常感謝徐博士，現在他們在技術方面給在保護使用者隱私方面做出的一些突破性貢獻。而謝謝。
最後請壓軸代表工信部的李主任發表觀點。
李德文：剛才講的都很好。但是我覺得技術的進步是一種對社會帶來影響最大的一種進步。一種重大的進步也會帶來重大的社會變革，比如蒸汽機也好，電也好，現在網際網路也好，這種變革是全方位的，深入到社會的各個領域，各個方面，各個角度。至於教育這方面必然帶來倫理的問題。這個是我們永遠無法能夠迴避的。
剛才幾位專家都講了，主要現在重點集中在資料保護問題。這個保護涉及到兩個方面：一個是資源提供者，包括公共機構也好，比如學校也好，包括像好未來這種商業機構也好，他們掌握這種教育資源，他們有學員，學生資料，他們首先我覺得有兩個義務要去做：
第一個，企業自己要不主動作惡。因為現在工信部打擊垃圾簡訊，詐騙等，很多都是資訊洩露。這個洩露是自己內部人賣資料。所以作為資源提供者首先保證自己不作惡；
第二，保證採取必要的技術手段，把你產生的資料加密也好，用各種防範措施也好，通過這種防禦手段讓別人拿不到這個資料，這也是很重要的一個方面。但是這裡也離不開監管方的努力，監管方首先有一個定義，叫什麼是要保護的資料。這可能通過立法來進一步明確。
第三，作為監管肯定要有效的實行監管的責任，它一定要加強對資源提供者的監督，要求它們一定要加強技術防範，加強倫理的教育，使他們資訊不能夠洩露出去。
最後，監管者還是要加強，打擊個人資訊，違法犯罪力度，對出現這種行為的，無論是資源提供方主動做的也好，還是外部有人竊取也好，要中重拳出擊，使竊取資訊的人受到法律的嚴懲，就是警戒後來者，懲戒犯規者，這個也是監管從兩方面對教育 + 科技帶來倫理方面的問題。
主持人（張偉遠）：感謝李主任給出的實效性的建議。科技是雙刃劍，給教育帶來的發展的機遇，也探討了倫理方面的主題。今天四位專家給我們這個主題進行了點題和開始破解這麼一個難題，這也是現在國際上討論非常熱烈的一個主題。今天四位專家的啟發性精彩的觀點給我們研究這個主題提供了一個非常好的方向。讓我們共同參與到這個主題的研究。最後我們再一次感謝各位嘉賓的精彩發言。也感謝各位積極參與。教育 + 科技的倫理和邊界的主題圓桌到此結束了，再次謝謝大家。