首頁
>政務公開>教育新聞>各地信息
AI進校園,邊界在哪里?
人工智能技術在方便學校教學和管理時,也面臨個人隱私保護等爭議

前不久,人臉識別類技術進校園的話題持續引發關注,此類人工智能(AI)技術除了應用于校園門禁控制、學生考勤管理,還能全程監控課堂,就連學生發呆、打瞌睡和玩手機等動作行為都能被識別出來。隨著AI時代的來臨,AI技術在為教學提供輔助、提高學校管理效率、確保學生安全的同時,也面臨公共數據采集與個人隱私保護、使用目的的正當性、數據泄露風險等爭議,AI技術進校園,邊界究竟在哪兒?

變化:人臉識別“潛入”校園

新學期伊始,中國藥科大學的學生們發現,熟悉的校園出現了新的改變——校門口、宿舍和圖書館都安裝了人臉識別門禁。

對此,學生們的接受度還挺高。不少學生認為,門禁識別準確、速度快,不用再擔心忘記帶校園卡,確實比較方便。而且采集了學生出入宿舍、圖書館等信息的系統,還能幫助學校統計學生的回寢時間、晚歸次數等,提高了宿舍的安全性。

而在學校的教室里,也在嘗試使用人臉識別系統。中國藥科大學圖書與信息中心主任許建真說:“之前有的同學點完名就跑掉了或者請別的同學代(點名),但是有了人臉識別就沒這個問題了,只要你進教室那一刻起,它就對你全程進行識別。你低頭多長時間,你是否在玩手機,你是否在發呆,你是否在看別的書,都能感知到。”

在校方看來,這能有效解決傳統考勤方式中管理難度大、效率低的問題,從而方便教務管理者實時掌握班級學生考勤情況,是在“探索泛在、靈活、智能的教育教學新環境建設與應用模式,努力提升技術能力和服務水平”。

當前,為引領推動教育信息化轉段升級,《教育信息化十年發展規劃(2011—2020年)》《教育信息化2.0行動計劃》《中國教育現代化2035》《加快推進教育現代化實施方案(2018—2022年)》等政策文件相繼出臺。在業內專家看來,信息技術與教育教學深度融合已是大勢所趨。為此,不少學校都在積極探索利用AI技術服務于教育教學以及日常管理,人臉識別類技術就是該探索的一種。

安全是人臉識別技術在校園應用的最初方向。據記者了解,在山東、上海、河南等地的一些幼兒園和小學,已經開始探索運用人臉識別技術進行校園智能安防。這類智慧型校園安防系統,能對校園及周邊一定距離的安全區,進行實時監控。當學校有大型活動時或者學生集中放學時間,校園大門口會聚集大量人員,該系統將自動進行“非安全身份識別”,一旦有陌生人靠近,系統監視屏會自動報警提醒,學校安保人員可及時處置。

除了應用于安防,一些學校也開始“試水”用人臉識別來保證出勤率和提高聽課效率。去年4月份,重慶二十九中在教室內啟用了一套人工智能分析評估系統,該系統通過觀測學生細微的表情變化,來判斷學生對所學內容的理解程度。“專注度高的學生占比35%”“思考學生占比29%”“疑惑學生占比18%”“不理解學生占比3%”,課堂兩側,兩個電腦屏幕滾動著由大數據實時分析出的學生學習效果圖。

杭州十一中的“智慧課堂行為管理系統”,則會每隔30秒進行一次掃描,針對學生們閱讀、舉手、書寫、起立、聽講、趴桌子等6種行為,再結合高興、傷心、憤怒、反感等表情識別,分析出學生們在課堂上的狀態。

還有一些學校開始嘗試將人臉識別技術應用于學生的日常管理。去年11月,貴州11所中小學校開始推廣使用“智慧校服”項目,利用“RFID(射頻識別)+人臉識別”科技集成智能校服考勤系統,當穿著“智慧校服”的學生通過人臉識別進出校園后,系統內會自動記錄學生進出校園和宿舍的精確分秒時間,同時保存前后20秒的實時視頻。

一旦學生在上課時間內未經允許離開校園,GPS定位芯片會記錄學生位置并激活門禁閘機自動語音報警器,提醒有學生離開校園。假如學生互換校服,警報會響起,它也能發送準確的具體位置,幫助學校和家長快速定位。

爭議:是“危”還是“機”

人臉識別系統剛開始進入中國藥科大學課堂,該校就有學生擔憂,此舉識別有侵犯個人隱私之嫌,一舉一動都被人臉攝像頭監視,“讓人后背發涼”。校方表示,學校之前已向公安部門和法務部門咨詢,由于教室屬于公開場所,因此不存在“侵犯隱私”的說法。

對此,北京志霖律師事務所副主任趙占領說:“我國法律對于隱私權沒有特別明確的界定,嚴格來看,教室屬于公共場所,安裝人臉識別攝像頭,雖然不違法,但需要明確告知學生,給學生知情權和選擇權。”

利用人臉識別類技術,無論是進行課堂管理還是教學效果分析,都不可避免要收集海量數據。首都師范大學基礎教育發展研究院教授蘇尚鋒認為,教室內使用人臉識別的初衷是對學生學習行為進行個性化追蹤,而其目的在于經分析生成個性化的學習方案,以幫助學生提高學習效率,在這種理想情況下,是符合“人工智能+教育”未來趨勢的。

在使用目的的正當性上,中國基礎教育質量監測協同創新中心網絡平臺部主任張生認為,用人臉識別類技術來對學生進行管理,不能本末倒置,“學校應回歸教育本身,多反思課堂的教學效果”。

人臉識別作為一項技術,其本身并沒有什么問題,關鍵在于如何運用。同樣的人臉識別技術,幫助幼兒園和小學建立智慧安防系統,用來尋找丟失的幼童或監護老人,就很少陷入爭議。趙占領說:“在這些場景里,個人隱私讓位于人命關天的安全需求,這也符合人們心中牢固的共識。”在很多家長看來,對校園及周邊實時嚴密監控,智能身份識別,嚴進嚴出,將危險扼殺在“搖籃”中,也大大降低了歹徒闖入校園作案的可能性,學生安全有保障。

人臉識別類技術的潛在危險還有數據泄露風險。趙占領告訴記者:“人臉識別監控課堂的行為會產生大量的隱私數據,如果沒建立相應的數據安全規范或未盡到妥善保管義務導致數據發生泄露,這些數據一旦被惡意使用,就會侵犯老師和學生的相關隱私權利,情節嚴重的可能會導致違法行為的產生。”

在業內人士看來,如果從教育教學發展等長遠角度以及公共利益的立場來考量,在使用人臉識別類等AI技術的抉擇上,不能因噎廢食。

北京師范大學智慧學習研究院副院長曾海軍說,包括人臉識別在內的AI技術廣泛而有效地應用于教學、管理和服務,是未來學校教育發展的必然趨勢,“規模化教育和個性化學習相結合的AI技術,具有更強的靈活性、包容性,可以助力重塑學校教育,進一步提升教學的效果、效率和效益,以適應現代信息化、數字化、智能化的學習型和創新型社會的需要”。

面對教育場景內不甚成熟的人臉識別類技術應用,以及個人隱私、數據安全等風險和爭議,教育部科學技術司司長雷朝滋表示,希望學校非常慎重地使用這些技術軟件,“包含學生的個人信息都要非常謹慎,能不采集就不采,能少采集就少采集,尤其涉及個人生物信息的”。雷朝滋還表示,目前教育部已開始關注這一情況,已組織專家進行論證研究。

共存:堅守教育本位,合乎法律倫理

技術發展得太快,一個不留神,人臉識別類技術已經進校園、進課堂了,而我們關于其帶來的復雜的倫理、法律和安全等問題的討論,似乎慢了些。

不可否認的是,AI已成為擴大優質教育資源覆蓋面和實現新型智能教育服務模式的重要一環。曾海軍認為,抱著“鴕鳥”心態,完全拒絕此類技術在教育場景內的應用,按照傳統的思維方式和模式來應對新變化,并不現實。

業內專家的共識是,AI是信息化發展的新階段,面對其衍生出的復雜的安全、隱私等問題,仍需要進一步規范,提前布局,謹慎應對。

不管AI如何與教育耦合,都必須堅守教育本位的定位,將以人為本放在首位。張生說,“學生的生命成長能否得到促進,是衡量技術在教育領域中應用有效性的唯一標準,在技術應用中,學生、家長、教師的體驗和滿意度都是需要考察的重點”。

AI技術能否促進教與學也是重要的評判標準。蘇尚鋒認為,AI技術在教育場景內大規模推廣使用之前,需要由教育專業人士所組成的團隊進行評估與鑒定,要經過嚴格的科學實驗和論證,要對該技術在教育教學工作中所處的位置有明晰的分辨與判斷,并對其使用制定一套明確的程序與規范,從而切實做到技術服務于教育、服務于育人工作。

隱私權是一項基本的人權,現代社會對個人隱私的保護已經形成共識。目前學界主要將隱私分為信息隱私、空間隱私、自決隱私等領域,當下,在教育場景內,上述三種隱私均存在被AI類產品侵犯的風險。因此,在應用AI技術時,除明確法律紅線以外,還要做到尊重學生和程序透明化,由當事人及家長來做選擇。蘇尚鋒建議:“使用的基本原則,應該是被監控者知情同意和最大程度的隱私保護。在不違法的條件下,如果用于中小學生,理應得到其法定監護人以及學生本身的認可,如果用于大學生,理當做到明確告知并獲得許可。”

2017年6月1日起正式施行的《中華人民共和國網絡安全法》,明確規定了要對非法收集、買賣用戶數據的行為進行處罰。面對可怕的數據泄露風險,專家建議,應規范和明確數據所有權、數據隱私和服務之間的關系,將公共利益的數據可用性放在法律和倫理框架下運行,通過相應的機制確保AI應用的安全、合乎倫理和注重隱私。

“應構建預警機制,一旦發現類似于隱私泄露、數據安全、病毒傳播、系統不穩定等情況,應及時預警和進行相關處置,確保整個系統的可信、可靠、穩定。”曾海軍說。

在教育場景內使用AI技術,需要進一步推進法治化進程,建立相關法律法規,做到有法可依。張生認為,這是確保技術不被濫用、限制技術的負面影響、真正發揮其促進教育教學作用的關鍵所在。他還呼吁各級各類政府要加強監管,在為新業態發展留足空間的前提下守住底線。

可喜的是,好的改變已經發生。目前歐盟、英國、日本等國際組織和國家,均發布了人工智能的倫理準則。2019年國際人工智能與教育大會達成的《北京共識》重點聚焦了安全和倫理問題,關注“服務于人”,將“和諧與優化共生”這一中國哲學和文化中的特色理念,作為尋求跨行業、跨部門、跨地區全球協作的指導思想,并強調促進人工智能相關準則的“落地”,為未來打造負責任的、有益的人工智能。

作者:本報記者 于珍

《中國教育報》2019年10月24日第4版 版名:新聞·深度


分享到: 
【打印本頁】【關閉窗口】

Produced By 大漢網絡 大漢版通發布系統 31选7附加中奖图