新聞動態(tài)
熱門文章
-
-
復(fù)讀學(xué)校推薦四川成都 2024-11-13 -
近視能否當(dāng)兵？體檢如何準(zhǔn)備？17條干貨攻略來了…… 2023-01-13
被AI“監(jiān)控”的孩子：保護安全還是侵犯隱私？愛爾蘭的做法給我們敲響了警鐘
2019-09-12 | 文章來源：少年商學(xué)院 | 分享到：
9月新學(xué)期剛開始沒幾天，南京某大學(xué)上了熱搜。因為率先在校內(nèi)試點安裝人臉識別技術(shù)，繼而在采集學(xué)生數(shù)據(jù)和是否侵犯學(xué)生隱私的問題上引發(fā)了人們的關(guān)注和熱議。
面對此事，近日教育部科學(xué)技術(shù)司司長雷朝滋，在接受某新聞媒體采訪時表示：學(xué)校要謹(jǐn)慎使用人臉識別技術(shù)。雷司長的話一錘定音，表明了教育部門對此技術(shù)的謹(jǐn)慎態(tài)度。
當(dāng)然，謹(jǐn)慎操作不代表不發(fā)展。任何一個新技術(shù)剛剛降臨時，都會面對質(zhì)疑和支持兩種態(tài)度?，F(xiàn)在誰離得開汽車、電腦？我們又為什么要決絕地阻擋人工智能的普及呢？何況，我們阻擋得了么？
面對“來勢洶洶”的人臉識別技術(shù)，我們真正該關(guān)注的焦點是，技術(shù)為誰所用，使用的目的和使用的手段。技術(shù)是無辜的，作為技術(shù)使用者的人，“有所為，有所不為”方是問題的根本。
對比國外學(xué)校在人臉識別技術(shù)上的差別，今天我和大家大概說說，為什么人臉識別技術(shù)在學(xué)校使用要謹(jǐn)慎操作？
人臉識別技術(shù)用于學(xué)校時必須得謹(jǐn)慎
在美國，近幾年來人臉識別技術(shù)得以在部分學(xué)校進行試點。隨后，因技術(shù)和倫理道德上的考慮，并基于巨大的社會壓力，被一一叫停。有某州政府今年初已經(jīng)立法禁止人臉識別技術(shù)在該州學(xué)校使用：除非得到學(xué)生、家長和教育部門的同意，否則人臉識別技術(shù)不得在校園推廣——這是來自美國的“謹(jǐn)慎”。
在澳洲，人臉識別技術(shù)公司looplearn得到了政府的資金支持，可以在學(xué)校使用人臉識別技術(shù)，在這些學(xué)校，人臉識別技術(shù)主要用于老師點名，了解學(xué)生出勤情況。但是這個看起來“單一”的功能依然因為其具有明顯的商業(yè)前景，引發(fā)了人們的擔(dān)憂和反對。
另外有研究者擔(dān)心：因為在識別技術(shù)上尚不成熟，在區(qū)分有色人種時人臉識別技術(shù)會花更多的時間，并有可能錯認(rèn)，從而引發(fā)新的“種族歧視”問題——因為相較于有色人種，白人更容易被識別。
而在歐洲，歐盟成員國正在積極地尋求人臉識別技術(shù)上的新規(guī)定。不知道是不是愛遵守規(guī)定的緣故，前不久瑞典有關(guān)部門剛剛處罰了一個高中19000歐元。因為該校在去年未經(jīng)學(xué)生的同意就采集了22名學(xué)生的臉部信息。歐洲媒體在報道此事時，“夸張”地運用了“難以置信”學(xué)校的違法行為和當(dāng)局處罰實在“輕微”等字眼，理由是按照該法條，最高的罰款額可是100萬歐元吶！
我所處的愛爾蘭，雖然有著歐洲硅谷的美譽，人臉識別技術(shù)在愛爾蘭的學(xué)校存在可幾乎是0。至于為什么說是“幾乎”呢？因為在學(xué)生使用的智能手機里，比如說像FACEBOOK這些app里還是有人臉識別技術(shù)的，歐盟一直在試圖控制這些社交軟件對隱私的侵犯。
當(dāng)然，智能手機里的人臉識別技術(shù)是另外一個話題了，我們今天討論的是，在學(xué)校使用人臉識別是否會侵害孩子們的隱私？
在愛爾蘭學(xué)校
孩子的形象信息需家長授權(quán)
孩子有隱私么？不好意思，我說了一個偽命題。因為但凡是人就都有隱私。在愛爾蘭，當(dāng)一個孩子進入幼兒園、學(xué)校時，家長都會被提示隱私安全和網(wǎng)絡(luò)安全。比如我女兒在幼兒園和夏令營參加活動時，校方會讓父母授權(quán)是否可以拍攝孩子。
剛開始老母親對此很不適應(yīng)，心想：不就“喀嚓”一個照片么？可是后來想，這個照片拍了是為啥呢？無疑是用在商業(yè)用途上，比如廣告等。那作為這些小小肖像所有權(quán)人的監(jiān)護人，家長當(dāng)然需要知情并做出決定。學(xué)校得到家長的許可，才可以合理使用這些照片。如果你不同意，也沒關(guān)系，學(xué)校會避免采集孩子的形象。
一句話，愛爾蘭學(xué)校里孩子們的私人形象，如果學(xué)校想“有所為“一定是要有授權(quán)、有依據(jù)的。
用人臉識別技術(shù)監(jiān)控孩子的行為
難以反映真實的學(xué)習(xí)效果
過度使用人臉識別技術(shù)會讓家長擔(dān)心：我的孩子需要的是同理心和愛，請不要隨意刺探，還把他們當(dāng)機器喲！
在美國或者澳洲學(xué)校推行人臉識別試驗時，支持方的理由是：
1. 幫助校方排除可能危及學(xué)生安全的人員入校，比如已被開除的不良學(xué)生或罪犯等。尤其在全球恐怖襲擊連連的西方世界，說這個理由似乎可以很大程度上安撫父母的擔(dān)心；
2. 幫助老師管理大課堂，節(jié)省時間，提高管理效率。如果一個班級人數(shù)眾多，老師是沒可能用傳統(tǒng)的方式點名的，人臉識別技術(shù)無疑大大節(jié)省了人力。
而反對方的理由則十分的“情懷牌”：孩子不是機器，應(yīng)該被當(dāng)人來看。
在澳洲人臉識別新聞的評論中，有網(wǎng)友就表示，這項技術(shù)一旦不加節(jié)制地推行，將是政客樂于見到的“政績”，也是產(chǎn)品公司巴不得的巨大商業(yè)利益。可是對于家長而言，除了干巴巴地知道自己的孩子是否出勤、是否聽課外，什么也得不到。
因為孩子在這些行為背后的原因是什么？這是AI無法告訴你的事。而一旦，有朝一日，當(dāng)整個教育系統(tǒng)都把“行為”作為評判學(xué)生好壞的唯一標(biāo)準(zhǔn)時，那么他們的內(nèi)心又有誰會去費勁兒了解呢？
現(xiàn)在國內(nèi)學(xué)校試點的人臉識別技術(shù)，把孩子們低幾次頭，是否在看手機，走神等作為是否專心聽課的標(biāo)準(zhǔn)。這實際上已經(jīng)遠(yuǎn)遠(yuǎn)超過了歐美國家對于人臉識別技術(shù)使用的界限和想象：如果說人臉識別技術(shù)最早是為了公共安全的需要，那把低頭、小動作作為聽課指標(biāo)的運用則顯得刻板、生硬且單一，確實有把人當(dāng)機器之嫌。
近日，當(dāng)我和我的鄰居，愛爾蘭一家專門負(fù)責(zé)學(xué)校軟硬件技術(shù)支持的公司COO聊到人臉技術(shù)時，他表示，人臉技術(shù)用來管理課堂確實是高效的。但是如果把學(xué)生打瞌睡、低頭等也作為指標(biāo)是無意義的，因為這些指標(biāo)不會告訴你孩子的真實情況，至少無法真實反映孩子的學(xué)習(xí)效果，也無法反映那些需要長期跟蹤才可以看到的結(jié)果。
而當(dāng)我“腹黑”地表示，也許老師會用這些“開小差”的證據(jù)來批評學(xué)生時，他聳聳肩表示：如果僅僅用這個監(jiān)視學(xué)生還批評學(xué)生，那他就是壞老師！這個評價倒是很簡單粗暴，不知道同樣簡單地用低頭次數(shù)、面部表情來判斷孩子的人怎么想？
采集信息的規(guī)則應(yīng)當(dāng)是雙邊的
在人臉識別上，用途、具體方式、信息保護等都應(yīng)當(dāng)是建立在采集方和被采集方平權(quán)的基礎(chǔ)上。
而在本次事件中，該南京高校的發(fā)言人則表示，因為學(xué)校是公共場合，同時采集信息也可以作為改善教學(xué)質(zhì)量的依據(jù)，所以學(xué)校采集信息不屬于侵犯隱私。
且不說同樣是公眾場合，在大街上你也不能隨意拍攝他人。再說，你用拍學(xué)生走神的方式來判斷老師的教學(xué)質(zhì)量，這個方式得到學(xué)生同意了么？老師認(rèn)可么？
難道說，改善教學(xué)質(zhì)量就真的沒有效率更高、更本質(zhì)、更經(jīng)濟、更安全的方式了么？現(xiàn)在不是花錢安設(shè)備就完了。后面的維護，以及被采集的信息如何管理，是否定期銷毀？校方是否跟進考慮了呢？
想到此不由得感嘆虧好自己生得早，否則自己當(dāng)年在上“大學(xué)生修養(yǎng)” 之類的課時，低頭打個瞌睡的行為，放到現(xiàn)在被記錄了，都有可能要跟著我一輩子，那真是恐怖的事情……
有所為，有所不為
說到底是責(zé)任和界限的問題
現(xiàn)在很多家長都知道，面對自己生養(yǎng)的骨肉要慎言“為你好”三個字。學(xué)校何嘗不該如此？如果學(xué)校真的認(rèn)為學(xué)習(xí)是學(xué)生的責(zé)任，那么就把這份責(zé)任交還給學(xué)生。曠課次數(shù)多了，學(xué)?？梢砸婪ㄌ幚?，這才是學(xué)校的責(zé)任。
我剛來愛爾蘭的第一年圣誕節(jié)放假，我?guī)Ш⒆踊貒燃?。因為返程時，遇國內(nèi)大雪航班延誤，我索性向?qū)W校多請了幾周假期。結(jié)果學(xué)校在準(zhǔn)假后，又給我寄了信表示，因為我們請假過多，導(dǎo)致孩子缺課超過了教育部門規(guī)定的比例，所以他們必須向上級反映，同時讓我做好有可能向該部門解釋的準(zhǔn)備。
孩子學(xué)校這種“大驚小怪”的做法其實還挺讓我理解的，因為這是他們保護未成年人受教育權(quán)利的證明。家長是否注重孩子的出勤率學(xué)校雖然管不著，但是當(dāng)學(xué)生出勤率出現(xiàn)問題時，學(xué)校可以依法啟動相關(guān)程序。這是學(xué)校的“有所為”——不用家訪，不用約談，不用曉之以情動之以理的苦口婆心說“為你好”，只按章辦事，尊重了彼此，也盡到了本分。
而在大學(xué)，面對已經(jīng)成人的學(xué)生子，若他們無心向?qū)W，我們的學(xué)校還要用人臉識別技術(shù)“留得住人，留不住心”，這是何必，又是何苦呢？畢竟該讀書的時候不讀書，受損的是自己。
最后我想說個恐怖故事，那時我兒子幾年前剛在國內(nèi)讀一年級的時候有天和我說的：“媽媽，老師今天在課上對我們說，我們一出生，爸爸媽媽就放了一枚愛的芯片到我們身上。這樣一來，即使不在你們身邊，你們也可以隨時隨地看到我們。所以我們表現(xiàn)得要好，不能犯錯誤，因為你們都看得到！”
恐怖么？這份恐怖不是來自于那片尚不存在的芯片，而在于“因愛之名”。
面對此事，近日教育部科學(xué)技術(shù)司司長雷朝滋，在接受某新聞媒體采訪時表示：學(xué)校要謹(jǐn)慎使用人臉識別技術(shù)。雷司長的話一錘定音，表明了教育部門對此技術(shù)的謹(jǐn)慎態(tài)度。
當(dāng)然，謹(jǐn)慎操作不代表不發(fā)展。任何一個新技術(shù)剛剛降臨時，都會面對質(zhì)疑和支持兩種態(tài)度?，F(xiàn)在誰離得開汽車、電腦？我們又為什么要決絕地阻擋人工智能的普及呢？何況，我們阻擋得了么？
面對“來勢洶洶”的人臉識別技術(shù)，我們真正該關(guān)注的焦點是，技術(shù)為誰所用，使用的目的和使用的手段。技術(shù)是無辜的，作為技術(shù)使用者的人，“有所為，有所不為”方是問題的根本。
對比國外學(xué)校在人臉識別技術(shù)上的差別，今天我和大家大概說說，為什么人臉識別技術(shù)在學(xué)校使用要謹(jǐn)慎操作？
人臉識別技術(shù)用于學(xué)校時必須得謹(jǐn)慎
在美國，近幾年來人臉識別技術(shù)得以在部分學(xué)校進行試點。隨后，因技術(shù)和倫理道德上的考慮，并基于巨大的社會壓力，被一一叫停。有某州政府今年初已經(jīng)立法禁止人臉識別技術(shù)在該州學(xué)校使用：除非得到學(xué)生、家長和教育部門的同意，否則人臉識別技術(shù)不得在校園推廣——這是來自美國的“謹(jǐn)慎”。
在澳洲，人臉識別技術(shù)公司looplearn得到了政府的資金支持，可以在學(xué)校使用人臉識別技術(shù)，在這些學(xué)校，人臉識別技術(shù)主要用于老師點名，了解學(xué)生出勤情況。但是這個看起來“單一”的功能依然因為其具有明顯的商業(yè)前景，引發(fā)了人們的擔(dān)憂和反對。
另外有研究者擔(dān)心：因為在識別技術(shù)上尚不成熟，在區(qū)分有色人種時人臉識別技術(shù)會花更多的時間，并有可能錯認(rèn)，從而引發(fā)新的“種族歧視”問題——因為相較于有色人種，白人更容易被識別。
而在歐洲，歐盟成員國正在積極地尋求人臉識別技術(shù)上的新規(guī)定。不知道是不是愛遵守規(guī)定的緣故，前不久瑞典有關(guān)部門剛剛處罰了一個高中19000歐元。因為該校在去年未經(jīng)學(xué)生的同意就采集了22名學(xué)生的臉部信息。歐洲媒體在報道此事時，“夸張”地運用了“難以置信”學(xué)校的違法行為和當(dāng)局處罰實在“輕微”等字眼，理由是按照該法條，最高的罰款額可是100萬歐元吶！
我所處的愛爾蘭，雖然有著歐洲硅谷的美譽，人臉識別技術(shù)在愛爾蘭的學(xué)校存在可幾乎是0。至于為什么說是“幾乎”呢？因為在學(xué)生使用的智能手機里，比如說像FACEBOOK這些app里還是有人臉識別技術(shù)的，歐盟一直在試圖控制這些社交軟件對隱私的侵犯。
當(dāng)然，智能手機里的人臉識別技術(shù)是另外一個話題了，我們今天討論的是，在學(xué)校使用人臉識別是否會侵害孩子們的隱私？
在愛爾蘭學(xué)校
孩子的形象信息需家長授權(quán)
孩子有隱私么？不好意思，我說了一個偽命題。因為但凡是人就都有隱私。在愛爾蘭，當(dāng)一個孩子進入幼兒園、學(xué)校時，家長都會被提示隱私安全和網(wǎng)絡(luò)安全。比如我女兒在幼兒園和夏令營參加活動時，校方會讓父母授權(quán)是否可以拍攝孩子。
剛開始老母親對此很不適應(yīng)，心想：不就“喀嚓”一個照片么？可是后來想，這個照片拍了是為啥呢？無疑是用在商業(yè)用途上，比如廣告等。那作為這些小小肖像所有權(quán)人的監(jiān)護人，家長當(dāng)然需要知情并做出決定。學(xué)校得到家長的許可，才可以合理使用這些照片。如果你不同意，也沒關(guān)系，學(xué)校會避免采集孩子的形象。
一句話，愛爾蘭學(xué)校里孩子們的私人形象，如果學(xué)校想“有所為“一定是要有授權(quán)、有依據(jù)的。
用人臉識別技術(shù)監(jiān)控孩子的行為
難以反映真實的學(xué)習(xí)效果
過度使用人臉識別技術(shù)會讓家長擔(dān)心：我的孩子需要的是同理心和愛，請不要隨意刺探，還把他們當(dāng)機器喲！
在美國或者澳洲學(xué)校推行人臉識別試驗時，支持方的理由是：
1. 幫助校方排除可能危及學(xué)生安全的人員入校，比如已被開除的不良學(xué)生或罪犯等。尤其在全球恐怖襲擊連連的西方世界，說這個理由似乎可以很大程度上安撫父母的擔(dān)心；
2. 幫助老師管理大課堂，節(jié)省時間，提高管理效率。如果一個班級人數(shù)眾多，老師是沒可能用傳統(tǒng)的方式點名的，人臉識別技術(shù)無疑大大節(jié)省了人力。
而反對方的理由則十分的“情懷牌”：孩子不是機器，應(yīng)該被當(dāng)人來看。
在澳洲人臉識別新聞的評論中，有網(wǎng)友就表示，這項技術(shù)一旦不加節(jié)制地推行，將是政客樂于見到的“政績”，也是產(chǎn)品公司巴不得的巨大商業(yè)利益。可是對于家長而言，除了干巴巴地知道自己的孩子是否出勤、是否聽課外，什么也得不到。
因為孩子在這些行為背后的原因是什么？這是AI無法告訴你的事。而一旦，有朝一日，當(dāng)整個教育系統(tǒng)都把“行為”作為評判學(xué)生好壞的唯一標(biāo)準(zhǔn)時，那么他們的內(nèi)心又有誰會去費勁兒了解呢？
現(xiàn)在國內(nèi)學(xué)校試點的人臉識別技術(shù)，把孩子們低幾次頭，是否在看手機，走神等作為是否專心聽課的標(biāo)準(zhǔn)。這實際上已經(jīng)遠(yuǎn)遠(yuǎn)超過了歐美國家對于人臉識別技術(shù)使用的界限和想象：如果說人臉識別技術(shù)最早是為了公共安全的需要，那把低頭、小動作作為聽課指標(biāo)的運用則顯得刻板、生硬且單一，確實有把人當(dāng)機器之嫌。
近日，當(dāng)我和我的鄰居，愛爾蘭一家專門負(fù)責(zé)學(xué)校軟硬件技術(shù)支持的公司COO聊到人臉技術(shù)時，他表示，人臉技術(shù)用來管理課堂確實是高效的。但是如果把學(xué)生打瞌睡、低頭等也作為指標(biāo)是無意義的，因為這些指標(biāo)不會告訴你孩子的真實情況，至少無法真實反映孩子的學(xué)習(xí)效果，也無法反映那些需要長期跟蹤才可以看到的結(jié)果。
而當(dāng)我“腹黑”地表示，也許老師會用這些“開小差”的證據(jù)來批評學(xué)生時，他聳聳肩表示：如果僅僅用這個監(jiān)視學(xué)生還批評學(xué)生，那他就是壞老師！這個評價倒是很簡單粗暴，不知道同樣簡單地用低頭次數(shù)、面部表情來判斷孩子的人怎么想？
采集信息的規(guī)則應(yīng)當(dāng)是雙邊的
在人臉識別上，用途、具體方式、信息保護等都應(yīng)當(dāng)是建立在采集方和被采集方平權(quán)的基礎(chǔ)上。
而在本次事件中，該南京高校的發(fā)言人則表示，因為學(xué)校是公共場合，同時采集信息也可以作為改善教學(xué)質(zhì)量的依據(jù)，所以學(xué)校采集信息不屬于侵犯隱私。
且不說同樣是公眾場合，在大街上你也不能隨意拍攝他人。再說，你用拍學(xué)生走神的方式來判斷老師的教學(xué)質(zhì)量，這個方式得到學(xué)生同意了么？老師認(rèn)可么？
難道說，改善教學(xué)質(zhì)量就真的沒有效率更高、更本質(zhì)、更經(jīng)濟、更安全的方式了么？現(xiàn)在不是花錢安設(shè)備就完了。后面的維護，以及被采集的信息如何管理，是否定期銷毀？校方是否跟進考慮了呢？
想到此不由得感嘆虧好自己生得早，否則自己當(dāng)年在上“大學(xué)生修養(yǎng)” 之類的課時，低頭打個瞌睡的行為，放到現(xiàn)在被記錄了，都有可能要跟著我一輩子，那真是恐怖的事情……
有所為，有所不為
說到底是責(zé)任和界限的問題
現(xiàn)在很多家長都知道，面對自己生養(yǎng)的骨肉要慎言“為你好”三個字。學(xué)校何嘗不該如此？如果學(xué)校真的認(rèn)為學(xué)習(xí)是學(xué)生的責(zé)任，那么就把這份責(zé)任交還給學(xué)生。曠課次數(shù)多了，學(xué)?？梢砸婪ㄌ幚?，這才是學(xué)校的責(zé)任。
我剛來愛爾蘭的第一年圣誕節(jié)放假，我?guī)Ш⒆踊貒燃?。因為返程時，遇國內(nèi)大雪航班延誤，我索性向?qū)W校多請了幾周假期。結(jié)果學(xué)校在準(zhǔn)假后，又給我寄了信表示，因為我們請假過多，導(dǎo)致孩子缺課超過了教育部門規(guī)定的比例，所以他們必須向上級反映，同時讓我做好有可能向該部門解釋的準(zhǔn)備。
孩子學(xué)校這種“大驚小怪”的做法其實還挺讓我理解的，因為這是他們保護未成年人受教育權(quán)利的證明。家長是否注重孩子的出勤率學(xué)校雖然管不著，但是當(dāng)學(xué)生出勤率出現(xiàn)問題時，學(xué)校可以依法啟動相關(guān)程序。這是學(xué)校的“有所為”——不用家訪，不用約談，不用曉之以情動之以理的苦口婆心說“為你好”，只按章辦事，尊重了彼此，也盡到了本分。
而在大學(xué)，面對已經(jīng)成人的學(xué)生子，若他們無心向?qū)W，我們的學(xué)校還要用人臉識別技術(shù)“留得住人，留不住心”，這是何必，又是何苦呢？畢竟該讀書的時候不讀書，受損的是自己。
最后我想說個恐怖故事，那時我兒子幾年前剛在國內(nèi)讀一年級的時候有天和我說的：“媽媽，老師今天在課上對我們說，我們一出生，爸爸媽媽就放了一枚愛的芯片到我們身上。這樣一來，即使不在你們身邊，你們也可以隨時隨地看到我們。所以我們表現(xiàn)得要好，不能犯錯誤，因為你們都看得到！”
恐怖么？這份恐怖不是來自于那片尚不存在的芯片，而在于“因愛之名”。
【關(guān)注川越微信公眾號，了解更多】
