上村佳奈—老婆偷人偷到家里

文章出處：東方爐襯  發(fā)表時間：2024-09-08 10:33:05

人臉識別可否進(jìn)課堂？專家稱涉嫌技術(shù)濫用網(wǎng)絡(luò)調(diào)查顯示，84%網(wǎng)友不贊同此舉，86.1%認(rèn)為該行為侵犯了學(xué)生隱私

來源：南方都市報 蔣琳

　　近日，南京某大學(xué)在部分教室“試水”人臉識別系統(tǒng)，不但可以識別每個進(jìn)出教室的學(xué)生，自動簽到簽退，還能識別學(xué)生發(fā)呆、打瞌睡、玩手機(jī)等行為。

　　還記得校園時代被班主任在教室后門“暗中觀察”所支配的恐懼嗎？如今，取而代之的可能是一個“360度無監(jiān)控死角”的人臉識別攝像頭。

　　近日，南京某大學(xué)在部分教室“試水”人臉識別系統(tǒng)引發(fā)網(wǎng)友熱議。該系統(tǒng)不但可以識別每個進(jìn)出教室的學(xué)生，自動簽到簽退，還能識別學(xué)生發(fā)呆、打瞌睡、玩手機(jī)等行為。校方稱，此舉是為提高學(xué)生到課率，嚴(yán)肅課堂紀(jì)律。

　　近年來，人臉識別進(jìn)校園的嘗試越來越多，但每一次曝光都伴隨著極大的爭議。有專家對南都記者表示，人臉識別進(jìn)課堂已經(jīng)超出了正當(dāng)、合法、必要的限度，涉嫌技術(shù)濫用。

　　落地

　　人臉識別攝像頭入駐高校、中小學(xué)

　　2019年秋季開學(xué)伊始，南京某大學(xué)就因為幾天前的一段視頻被頂上了微博熱搜。

　　原來，該校在校門、圖書館、宿舍安裝了新的人臉識別門禁，部分教室內(nèi)還裝上了人臉識別系統(tǒng)，不僅可以有效杜絕由別人代為簽到的情況，還能識別學(xué)生發(fā)呆、打瞌睡、玩手機(jī)等行為。校方表示，未來還將實現(xiàn)“刷臉”吃飯、借書等等。

　　“從進(jìn)教室的那一刻起，你往那一坐，它(攝像頭)對你已經(jīng)全程進(jìn)行識別了……比如你抬頭了幾次、低頭了幾次，還有你是否在玩手機(jī)，是否在發(fā)呆，是否在看別的書，都能感知到”，該校圖書與信息中心主任稱，目前課堂人臉識別系統(tǒng)會先在兩間教室試點，效果好的話將在全校推廣。

　　他還表示，學(xué)校之前已向公安部門和法務(wù)部門咨詢，由于教室屬于公開場所，因此不存在“侵犯隱私”的說法。

　　南都記者注意到，這則新聞距離上一次引發(fā)廣泛討論的上海某小學(xué)智能課堂行為分析系統(tǒng)，僅僅過去了一個星期。

　　據(jù)媒體報道，該小學(xué)正在構(gòu)建智能課堂行為分析系統(tǒng)，運用姿態(tài)評估、表情識別、語言識別、關(guān)鍵詞匹配等技術(shù)，探索對課堂教學(xué)過程的定量分析。

　　比如孩子在校園生活中是否有微笑、向老師問好、主動撿垃圾、列隊整齊等良好行為，或者快速奔跑、摔跤、打架、擁擠等危險動作。系統(tǒng)還可以采集學(xué)生姿態(tài)行為如打哈欠、坐姿、走姿的圖像數(shù)據(jù)，對孩子的走姿傾斜、不良坐姿和睡眠不良等情況等進(jìn)行識別判斷，生成預(yù)警報告。

　　事實上，早在去年5月，杭州某中學(xué)聯(lián)合?？低曆邪l(fā)的全國首個智慧課堂行為管理系統(tǒng)——“慧眼”就曾引發(fā)過關(guān)于新技術(shù)在教育領(lǐng)域的應(yīng)用邊界的爭議。

　　據(jù)了解，“慧眼”可以針對學(xué)生們閱讀、舉手、書寫、起立、聽講、趴桌子等6種行為，再結(jié)合面部表情是高興、傷心，還是憤怒、反感，分析出學(xué)生們在課堂上的狀態(tài)。有學(xué)生直言：“自從教室裝了慧眼，上課都不敢開小差了?！?/font>

　　公眾

　　逾八成不贊同人臉識別進(jìn)課堂

　　與人臉識別技術(shù)在教育領(lǐng)域內(nèi)的席卷之勢相對的，是公眾對人臉識別進(jìn)課堂的疑慮和擔(dān)憂。

　　對此，南都NDX實驗室熱點站站隊以“你贊同學(xué)校用人臉識別系統(tǒng)采集學(xué)生的課堂行為嗎？”為題，發(fā)起了話題討論。調(diào)查結(jié)果顯示，參與投票的3269位網(wǎng)友中，84%不贊同，86.1%認(rèn)為該行為侵犯了學(xué)生隱私。

　　有網(wǎng)友認(rèn)為，“這個系統(tǒng)只會教孩子虛偽”、“學(xué)生會把注意力集中在表情上，而不會專注學(xué)習(xí)了！”還有網(wǎng)友質(zhì)疑，“監(jiān)獄都不帶這么控制表情的，這是把孩子當(dāng)機(jī)器人來培養(yǎng)？”“其實當(dāng)了老師那么多年眼明手快的了，怎么會沒發(fā)現(xiàn)臺下學(xué)生的小動作呢！”

　　此外，盡管投票網(wǎng)友中只有1.3%表示，自己孩子就讀的學(xué)校安裝了人臉識別系統(tǒng)，卻有高達(dá)22.8%的網(wǎng)友稱沒有經(jīng)過家長或自己的同意；剩下的網(wǎng)友中，81%表示不會同意學(xué)校安裝人臉識別系統(tǒng)。

　　針對公眾對隱私的擔(dān)憂，上述杭州某中學(xué)校長回應(yīng)稱，人臉識別系統(tǒng)只采集學(xué)生的行為狀態(tài)信息，不會進(jìn)行課堂錄像。例如，認(rèn)真聽課的為A，趴下睡覺的是B，起立回答問題為C，系統(tǒng)只是統(tǒng)計這些符號信息。

　　據(jù)了解，該系統(tǒng)采用的攝像頭背后都是一個小型處理器，操作原理為通過對學(xué)生面部進(jìn)行判斷，之后形成一個與之相對應(yīng)的代碼。系統(tǒng)采集的對象為代碼，而非學(xué)生的面部影像。

　　監(jiān)管

　　鼓勵建設(shè)智慧課堂但規(guī)范缺失

　　南都記者梳理發(fā)現(xiàn)，人臉識別系統(tǒng)在高校、中學(xué)、小學(xué)的全面開花，不僅得益于AI技術(shù)的廣泛應(yīng)用，也符合國家鼓勵的發(fā)展方向——教育部在2016年教育信息化工作要點中，首次正式提出智慧校園建設(shè)與應(yīng)用。

　　2018年4月，教育部印發(fā)《教育信息化2.0行動計劃》，提出構(gòu)建智慧學(xué)習(xí)支持環(huán)境，推動人工智能(AI)在教學(xué)、管理等方面的全流程應(yīng)用。此后，各地的教育廳和學(xué)校紛紛在實踐中摸索出了適合自身情況的路徑。

　　比如同年5月印發(fā)的《江蘇省中小學(xué)智慧校園建設(shè)指導(dǎo)意見(試行)》提出“支持教學(xué)行為數(shù)據(jù)采集和分析的智慧教室和學(xué)習(xí)體驗中心”；隨后出臺的《廣東省中小學(xué)智慧教室建設(shè)指南(試行)》則進(jìn)一步明確，支持對課堂教學(xué)過程的數(shù)據(jù)分析，實現(xiàn)課堂對學(xué)生情緒分析、人臉識別及抬頭率等課堂參與性指標(biāo)的分析。

　　在業(yè)界，這些基于人臉識別的課堂專注度分析已經(jīng)形成了較為成熟的解決方案。從傳統(tǒng)的班級授課到借助智能手段實現(xiàn)個性化教學(xué)，智慧教育是大勢所趨——除了AI技術(shù)提供商，傳統(tǒng)教育類公司和互聯(lián)網(wǎng)企業(yè)也都想“分一杯羹”。

　　然而，由于行業(yè)標(biāo)準(zhǔn)和規(guī)范的缺失，市場上的智能教育產(chǎn)品顯現(xiàn)出質(zhì)量良莠不齊、存在潛在數(shù)據(jù)安全風(fēng)險等問題。另一方面，也鮮少有地方在相關(guān)文件中從保護(hù)學(xué)生隱私和AI倫理的角度提出要求。

　　爭議

　　AI采集人臉信息　是否侵犯學(xué)生隱私？

　　南都記者梳理發(fā)現(xiàn)，公眾的討論主要聚焦在三個問題上：在安防目的之外使用人臉識別系統(tǒng)是否必要？學(xué)生被收集人臉信息是否侵犯隱私？課堂行為采集是否會對教師和學(xué)生的心理產(chǎn)生不好的影響，導(dǎo)致“作秀式”教學(xué)？

　　必要性

　　“學(xué)校是公共場所，也是敏感區(qū)域，因為涉及到學(xué)生之間的危險行為、教師體罰學(xué)生等情況，容易有糾紛，所以在教室里裝攝像頭總體應(yīng)該還是起到一個正向作用”，中國信息安全研究院副院長左曉棟指出。

　　但他也強(qiáng)調(diào)，安裝攝像頭的目的應(yīng)該限制在公共安全上面，用來識別開小差的學(xué)生的做法存在爭議，“至少目前還看不到課堂行為分析的必要性?！币虼?，他認(rèn)為，人臉識別進(jìn)課堂已經(jīng)超出了正當(dāng)、合法、必要的限度，涉嫌技術(shù)濫用。

　　隱私權(quán)

　　據(jù)上述杭州某中學(xué)副校長透露，為了避免信息外泄，系統(tǒng)使用的是本地服務(wù)器。后期統(tǒng)計出的數(shù)據(jù)也分權(quán)限，如校領(lǐng)導(dǎo)和中層管理人員，可以看到的數(shù)據(jù)信息也不同。至于代碼運算出來的結(jié)果，則僅供任課教師關(guān)于課堂效果的一個參考。

　　在北京師范大學(xué)刑事法律科學(xué)研究院暨法學(xué)院副教授吳沈括看來，利用人臉信息識別學(xué)生的行為，對其進(jìn)行課堂上的有效管理，是法律允許的行為；但若將信息影響大范圍披露，借此對學(xué)生予以當(dāng)眾羞辱，或?qū)Σ杉瘍?nèi)容未盡到妥善保管義務(wù)導(dǎo)致信息發(fā)生泄露，以及在信息泄露事故發(fā)生后未能采取及時的止損措施等，則是法律禁止的行為。

　　對于中小學(xué)生來說，采集人臉信息還涉及未成年人隱私的問題?！叭绻麤]有獲得學(xué)生及家長同意，學(xué)校就沒有權(quán)利進(jìn)行監(jiān)測”，中國政法大學(xué)傳播法研究中心副主任朱巍還提到，采集的信息不能作為商業(yè)化用途，也不得對外公開；學(xué)生畢業(yè)后，學(xué)校需保障其能夠及時刪除信息的權(quán)利。

　　心理影響

　　北京師范大學(xué)中國教育與社會發(fā)展研究院講師高莉曾撰文指出，無論對于教師還是學(xué)生，人臉識別攝像頭分析課堂行為的功能都可能帶來負(fù)面效果。

　　如果把系統(tǒng)結(jié)果異化為評價教師教學(xué)的一種方式，那么在攝像頭監(jiān)控下的教學(xué)很可能會演變成一種拘謹(jǐn)?shù)摹白餍恪笔浇虒W(xué)，比如降低教學(xué)難度，減少學(xué)生“困惑”表情產(chǎn)生；甚至為了取悅學(xué)生，增加與教學(xué)內(nèi)容無關(guān)的“段子”，博取“掌聲”。

　　她提到，教學(xué)本應(yīng)是一種高度自主化的過程，教師與學(xué)生之間的關(guān)系應(yīng)該是相互尊重和融洽的，教育環(huán)境也應(yīng)該是自由和充滿信任的。

　　“面部識別技術(shù)一旦走進(jìn)學(xué)校、監(jiān)控課堂，學(xué)生的身體、時間不僅被規(guī)訓(xùn)著，甚至連注意力、一舉一動、喜怒哀樂也將被納入監(jiān)控范疇。長期生活學(xué)習(xí)在這種不信任環(huán)境所帶來的逆反心理，也會對學(xué)生的身心健康有影響”，她說。

　　采寫：南都記者 蔣琳

被加封為天章閣待制，知渭州（即今甘肅平?jīng)觯?。已?jīng)有著多年邊塞生活經(jīng)歷的 膽般的鼻子，幸而鼻尖子還不鉤，不然就完全是一只老鷹鼻子了。嘴哩，兩個嘴角比陶大 友一起在私人小煤窯干活。一次瓦斯爆炸寡 酉三年，燕人立太子平為君。 庚戌四年，秦使張儀說楚