每天看一点教育资讯
公众号「名校榜」

卢小波:你愿意自己的孩子在学校被“刷脸”吗

如果人脸识别只作为一个技术问题来讨论甚至拥抱,我们怎么好意思说中国人不是不在乎隐私呢?

我站在火车站入口处,又体验了一次人脸识别自助验票通道。哔地一声,过程只要两三秒。五六米外的两个安保员,松弛地看着六七个不断开合的小门。从春运起,各大火车站都启用了这一系统。

4月7日晚,南京的张学友演唱会上,警方在万众攒动的看台里,逮住了一个逃犯。舞台上是音乐狂欢,舞台下一男子戴着手铐离场。这一戏剧性抓捕,源自人脸识别的锁定。

4月中旬,今年的世界TED大会上,一位科学家在播放恐怖电影片断。他不用看观众表情,也有精准的效果答案。会场里的四台二氧化碳检测仪,知道观众呼吸有无加速、心跳有无加快。

科学家解释,能识别情绪的传感器太多了:热成像摄像头检测你脸部温度变化;麦克风捕捉你用词的变化、普通摄像头可以捕捉到你的眼部运动。

我猜,照这么下去,或许某一天,保安只需看看显示屏,就可以在春天圆舞曲的人群中,认出婚外出轨的男女,或者拎出心怀鬼胎的恐怖分子。

各类AI神器,正一路狂奔,四处开疆拓土。

我居住的城市,一所初中里,也引进了人脸识别系统。必须说明,这是三个月前的报道,目前有无升级改进,不得而知。

该校的“刷脸神器”,是由某公司与某AI公司联合开发的。校长现场演示时,随便拽了位学生,往镜头前一站,名字叫什么、哪个班的、班主任是谁、监护人是谁、监护人电话多少,全在屏幕上刷了出来。下面还有考勤各种选项:迟到、请假、早退、未穿校服、未戴胸卡、未戴红领巾……

“刷脸神器”的用途,几乎百发百中。大门口考勤、医务室治疗之类自不必说,中午食堂就餐也只需刷个脸,爹妈即时可知孩子吃饭没有。

让我觉得异样的,是学校 “智慧德育”管理系统。

卢小波:你愿意自己的孩子在学校被“刷脸”吗 | 大家之作

卢小波:你愿意自己的孩子在学校被“刷脸”吗 | 大家之作

美剧《少年谢耳朵》剧照

以往老师看到做好事或调皮捣蛋的孩子,如果不是本班学生,根本不知道是谁。现在好了,只要掏出手机,对准学生一咔嚓,屏幕立即跳出他的信息。老师可以立即把情况发给父母。

校长举例说,某日,有学生捡到一块智能手表,交给老师后,正转身要走,老师急忙喊道:“你站住!”学生吓了一大跳,结果是老师端着手机,一顿拍摄,信息就进入识别系统。再轻轻一点屏幕,孩子父母就可以收到感谢。当然,遇到不文明行为,老师也照此操作。

校长说,系统还打算升级。比如,可通过定位等技术,追踪学生在校运动轨迹,是否有到操场锻炼,运动量是否达标,消耗多少卡路里。这个系统,我猜可能称为“智慧体育”。

可是,校园里的这种“上帝视角”,真的好吗?

与“上帝视角”对应的,是“凡人视角”。后者的无力感在于,你就是再有洞察力,再有辩驳权,但没有看到就是没有看到。

先讲一个我家丫头的旧事吧。

女儿读小学四五年级时,中午都在学校食堂吃饭。一次,班长把一块肥肉扔进了另一同学碗里。没有孩子爱吃肥肉,但老师又规定,任何同学不得丢弃肥肉。一旦违规,罚吃三块肥肉。不知道为什么会有这么变态的规定,但对孩子们来说,够有威慑力了。平白多了一块肥肉的同学,立即惊恐地把肥肉丢到餐桌上。恰巧,老师一眼瞄到了后一个动作,女儿则是看到了全过程。同学说:“那不是我的,是班长的。”而班长却好整以暇,口气平静:“谁看到啦?”所有的目光,顿时聚焦在同桌的女儿身上。可以想象,老师的目光像法官,同学的眼里是哀求,班长的眼神是逼视。诚实、友谊、背叛、权势,这些抽象的说教,一下变成了最沉重最结实的现实摆在了面前。孩子的想法,其实与大人一样现实。说真话,那个势力庞大的班长以后会怎样对她?说假话,那如何对得起受冤枉的同学?

最后,女儿的选择是低下了头,说什么也没看到。回家后,惭愧的女儿一直问我与她妈妈,有什么办法?

当时,我写道:“没有办法。我也想不到什么办法。也许女儿的无奈,也是我的世界中面临的无奈。”现在,或许不需要这么想了。眼前到处都有监控,食堂应该也有吧。狡黠的班长,根本不敢再耍这个伎俩。

当然,对“上帝视角”的理解,不能这么简单,它涉及到更复杂更尖锐的范畴。

卢小波:你愿意自己的孩子在学校被“刷脸”吗 | 大家之作

卢小波:你愿意自己的孩子在学校被“刷脸”吗 | 大家之作

英剧《黑镜》剧照:女主角萨利从小被植入纳米级芯片,相对应的平板电脑上,能实时显示萨利双眼双耳看到听到的内容

关于在教室安装高清监控,已有过一轮争论。那个教室里的水滴直播App,已在压力之下关停。但现在,人脸识别系统,又以新名义进入了校园。

梳理“上帝视角”的延展路径,教育界朋友解释说,学校最初在教室安装监控时,是因为标准化考点,规定必须有此设备。本是考试才启用的监控,老师开始是忍不住偶尔打开,后来变成了长期使用。而现在,人脸识别开始时只在食堂使用,然后又渗透到更多环节。

为什么?深层原因,还是在“上帝视角”自身。希冀全知全能,是教育者的本能。

前一段,此地有个13岁少女在操场猝死。孩子父母就质疑校方,为什么看不到监控?校方的发现是不是及时?校医的急救是不是专业?

校方除了辩护自己措施得当,又无奈地辩白,学校是有监控的。而且还说,事发路段不能表述为监控的“盲区”,是“探头朝向往前,事发地点恰好不在监控范围内”。麻烦就在于,有监控,但没拍到。

这是室外,谁又能保证教室内不发生事故呢?

更早些时,某地有个孩子在考试中,因故受到老师批评,出教室后转身就跳楼。传说的一个版本,是老师的怒斥,导致学生崩溃。结果是1.0版的“上帝视角”——监控系统,还原了现场。监控把师生对话,也清晰地收录下来了。

毕竟,谁都希望有个无所不在的视角,提供帮助。

还记得北京那个高二女生,被课外辅导老师性侵的事吗?如果不是因为在房间里装了监控,那个老师就赖掉了。而这个监控,是女孩请求爸爸安装的,而且请求了好几次。家长坚持要这个老师补习,而女孩坚持拒绝这个老师。女孩的办法,是请监控来说话,来保护自己。

争执监控问题时,论及最多的是隐私权保护,但未成年人的隐私权,从来就是一个浮动指标。

有个朋友是家委会成员,孩子今年读高二。他说,有两次,班主任在家长群里问:“你们只要装个直连教室监控的App,就可以看到课堂情况。”家长们纷纷义正辞严说,不要安装啦,我们信任孩子!

这朋友私下挖苦说,是,你们是信任孩子,可是不信任老师。家长群里,大群套小群,群中又有群,动不动就暗中串连,今天要我提出换掉课任老师,明天又要罢免班主任。是,你们是很尊重孩子人身权隐私权,但一听说哪个学校有金属探测仪,可以对孩子近乎搜身,禁绝手机入校,谁不是欢欣鼓舞?

有个家长搞不定孩子的手机,还想给班主任送礼,说,能不能帮我把孩子的手机偷掉?责任我来负!此事老师是当成笑料来讲的。

卢小波:你愿意自己的孩子在学校被“刷脸”吗 | 大家之作

卢小波:你愿意自己的孩子在学校被“刷脸”吗 | 大家之作

美国电影《机械姬》剧照

科技进步没有回头路。人们一旦走入便捷门径,很难再后退。

1.0版的“上帝视角”,还在校园里半遮半掩地使用;2.0版的“上帝视角”,已经冉冉升起。而且,它不止是“上帝视角”,还是“上帝之手”。

有校方解释说,这可以减轻教师的繁琐劳动。比如,不用每日统计就餐人数,月末依靠人脸识别系统,直接在电脑里调用数据就行。

一位老师说,新高考有个综合素质评价,是全都要上网的。以前这项工作,要整理繁杂的资料,工作量让老师不堪承受。以后不必这么累,把人脸识别系统累积的资料,直接梳理上传就行了。当然,他保证说,系统主要是用来积累好人好事的。

毋庸质疑,人脸识别对社会管理、经济运行,提供了极大便利。比如,郑州火车站的警察,戴着智能眼镜,5米之外,就可核实对方身份信息。警察在执法现场,既不需要打扰旅客,又能及时发现嫌疑人。

人们可能失去一点隐私,但某种程度增加了社会安全性。从理论上说,政府可以拥有18岁以上、有身份证的所有成年人的人脸数据。身份证的初衷,不就是证明并识别你的身份吗?增加了人脸数据,只是更精准罢了。

但是,未成年人的情况,与跟有社会身份的成人不同,更加敏感脆弱。孩子们的人脸数据,谁有资格采集,采集后怎么保管,保管中如何使用?这都是问题。

设想一个最简单俗气的场景:

某个老师举起手机,对某个调皮孩子一刷—— 啊?这是张局长的儿子!哦,还在初一(3)班!他瞬间调整了表情,也换了一种处理方式。是啊,虽然不是我班的学生,但班主任张老师跟我还不错,日后要想法接近一下。老婆的工作调整,可能用得上这层关系。

传统的有教无类,学生平等,在类似情形下,被“刷脸神器”撬动了。

卢小波:你愿意自己的孩子在学校被“刷脸”吗 | 大家之作

卢小波:你愿意自己的孩子在学校被“刷脸”吗 | 大家之作

美国电影《机械姬》剧照

人类的控制欲,是一种不治之症。

“凡人视角”固然有时无力,但最大好处是,教育者需要努力揣摸对方,必须把更多的信任,投放给教育对象。师生之间,会有更多平等的互动。现在,有了2.0版“上帝视角”,这些称作灵魂工程师的人,能一眼看穿孩子们的小把戏,或许再无耐心与调皮的灵魂来兜圈子。校园正在变成“楚门的世界”。

目前最时髦的“教育+AI”,都声称不是替代老师,而是给教师赋能。所谓赋能,无非是增强控制能力。

有一家AI教学系统,声称它精准的人脸识别,能做到“多维情绪识别+专注力分析+智能教学监控分析”。推广词解释道:“具体来说,就是可以通过课堂情绪识别、眼球焦点识别、语气识别、互动情况,来分析了解孩子课堂状况,实时给老师和学生优质的课堂指导。”

这是教学方式,还是控制模式?连孩子的眼球焦点运动,都在精准的管制中。绝不让思想从目光中逸出身体,课堂里没有魂游世界的自由。上课开小差?那是前一个时代的事啦。学生做个鬼脸,说一句话,都有课堂AI在盯着分析。就算现场骗过老师,数据也能证明那是伪装。

教育链条,本来需要尽可能嵌进人性元素。在人工智能的包办下,传统教育或只剩下所谓智能,“人工”慢慢在减少。

有几家公办中学,启用了一种阅卷App。试卷交给计算机扫描成电子文档,再让老师用iPad,或者手机批改卷子。老师们欢呼:“真好啊,随时随地都可以改卷子啦。”一位老师朋友开玩笑说:“别误会哦,我不是在玩手机游戏,是在改考卷呢。”学生登录自己账号,就能查到成绩,上面有题号、得分、各题得分率、班级得分率、总分、排名。

只是,学生上交的卷子是什么样,发回来还是什么样。纸质的卷子里,没有老师的任何字迹。传统试卷中,老师在纸面上显露的喜欢、欣慰、愠怒、疾言厉色、哭笑不得、无可奈何,通通不见了。

学生必须拿着手机,歪头核对试卷,才知道哪一题错了,但错在哪里,哪个步骤错,在纸面上是看不到的。据说,也有学校优待A班学生,会在卷子上标出错处。所谓标出,也只是以红笔勾出哪一题扣多少分而已。随着人工智能的普及,阅卷全部由机器人完成,也不是不可能。毕竟机器人都在写稿了,以后改作业更是小菜一碟。

强大的AI,目前在校园,只是包干零碎活儿。传统教育的大厦,已经从附件开始解体。稍往远处推测,未来学校后勤链条上,所需人员会越来越少。直至某一天,人力接近于无。比如,食堂服务与结算流程,都趋于标准化。传统上,学生要与窗口阿姨交流、斗趣、斗智,今后可能不再需要了。

世界劳工权益组织一位负责人,在谈及对Facebook 和 Google的监管时说:“无论初衷有多好,人们还是有可能破坏那些不易修复的事物。就像小孩开推土机那样,根本想不到自己会造成怎样的损害。”

在人工智能的场景下,学生正在步入“教育囚笼”;灵魂工程师正慢慢融化,转变成“塑料教员”。这个前景,有法子阻挡吗?我不认为有。正如神圣的教师职业,终究会平庸化一般;知识获取渠道的变迁,必然带来这一后果。

是的,你的孩子正站在“美丽新世界”的入口。

始发于微信公众号: 大家

评论 抢沙发