文 | 贡晓丽
昨天，一张带有“MEGVII旷视”图标的视频监控图像在社交网络上疯传。
画面中，一位女生正身处教室，旁边是人工智能识别出的一组数据，包括她睡觉、举手、趴桌子和阅读的次数。
此图一出，顿时招致网友广泛的质疑和严厉的指责，认为这样的技术不应该出现在课堂里。网友对人工智能“监视”课堂行为所带来的隐私、伦理价值问题声讨不断。
旷视却觉得挨批有点冤，按照其官方回应，“这只是技术场景化概念演示”。
人们对事件的关注仍在发酵，是网友太敏感，还是技术本身存在隐患？教育场景内的AI应用何去何从？
AI摄像头潜入课堂在视频监控图像引发争议之前，它早已落地应用在位于南京的中国药科大学，该校两间教室“试水”安装人脸识别系统，用于日常考勤和课堂纪律管理。
这套同样来自旷视的人脸识别系统在学生进教室后能自动识别个人信息，系统自动签到签退，全程监控学生上课听讲情况，就连学生发呆、打瞌睡和玩手机等动作行为都能被识别出来。
关于这类系统，旷视也早有过相关介绍，目标是实现辅助教育：在课堂教学评价系统中，旷视科技将自主研发的人脸识别、行为识别、表情识别等技术，集成在考勤及行为分析摄像机MegEye-C3V-920和行为分析服务器中。
通过对课堂视频数据进行实时的结构化分析，反馈学生行为、表情、专注度、前排上座率等多维度课堂数据，辅助教学评估评价。
虽然在声明中，旷视表示校园内的人脸识别系统主要用于智能校门、教室门及宿舍的出入，方便学生安全出入校园。但根据校方说法，相关系统已在两间教室中进行试点，如果效果好，会进行全校推广。
其实，这样的技术和应用并不算稀奇。去年，杭州第十一中学就将名为“智慧课堂行为管理系统”的科技应用在了课堂教学。
这一系统可以对课堂上学生的行为进行分析，并对异常行为实时反馈。
系统每隔30秒会进行一次扫描，针对学生们阅读、举手、书写、起立、听讲、趴桌子等6种行为，再结合面部表情是高兴、伤心，还是愤怒、反感，分析出学生们在课堂上的状态。
校方表示，课堂学生行为统计分析属附加功能，“现在应该说连 (考评) 参考都谈不上”。
上个月，上海中医药大学附属闵行蔷薇小学也被爆出正在构建智能课堂行为分析系统，运用如姿态评估、表情识别、语言识别、教师轨迹热力分析等技术，探索对课堂教学过程的定量分析。
争议四起所有争论的焦点，依然是这项技术应用的场景。
有文艺的网友表示，关于校园的美好记忆，来自于上课时的纸条、干脆面和偷瞄喜欢的女生，如果一项技术能够控制、扼杀和剥夺我们少年时代的情感，那这项技术就是可耻的。
理智些的网友则表示，技术本身无罪，但这并不代表技术的落地，不需要多方面权衡考量。
有人表示绝对不会让孩子处于这种环境之下：
有人认为给学生提供更好地课堂教学才是目的所在：
有人认为课堂上的AI摄像头有更隐蔽的危害：
“这是教育者用行为告诉小孩，隐私不重要，成绩甚至表面上的‘专注’才重要。‘监控’进入下意识，这些小孩长大后，怎么能尊重别人的空间和隐私？”
甚至有人表达出对于人的数字化的担忧：
“我们看见了课堂AI，看见了ZAO，却不知道还有多少看不见的地方，我们成为了一个datapoint，在各家AI公司的数据库里放光发热。”
虽然安装有人脸识别系统的学校都明确表示，AI摄像头进课堂的目的，是加强过程化教育，可以针对学生的状态调整教学，安排有针对性地补课或者加课，达到更好地效果。
但在这一目标还没有落实之前，课堂AI显然仍要面临潮水般的争议。
重点在于优化教学方案几乎每一项技术的商业化应用都会带来对于隐私威胁的讨论，课堂中的人脸识别技术也不例外。当人工智能、大数据等前沿技术扑面而来的同时，我们却无法坦然处之。
实际上，人脸识别技术在国外课堂的应用已经引发了轩然大波。瑞典北部的一所高中也运用过人脸识别技术进行学生考勤，最终收到了20万瑞典克朗（约合 14.8 万元人民币）的罚单。
虽然学校称，他们事先获得了学生和家长的同意，但瑞典数据监管机构指出，鉴于数据的持有者及数据的管理者之间，存在明显的信息不对称，因此校方和家长的协议不能构成有效的法律依据。瑞典数据监管机构还称，虽然学校的某些场合可以被视为“公开场合”，但学生何时进入教室，依旧是个人隐私。
这不禁让人想到美国一连串禁令。今年5月开始，美国旧金山、萨默维尔等城市先后出台法令，以人脸识别侵犯无辜人士的隐私为由，禁止警察和其他政府机构使用人脸识别技术，由此给城市带来诸多安全隐患。警方给出人脸识别技术可以预防犯罪、保护公众的理由，也被法庭驳回。
技术是一把双刃剑，就看是谁在用它，仅仅因为可能存在伤到自己的概率就将其弃之不用，显然并不合理。
人脸识别进课堂，如果AI 系统的初衷是帮助老师管理学生纪律，将学生的一举一动都分析量化，想想都让人有些毛骨悚然。
而如果我们以帮助老师提升教学水平、个性化提升每个学生学习水平的理解进行开发，也会获得很好的结果。
人脸识别技术以及其他新兴技术的发展是新时代校园的趋势所向，自然有其巨大的益处。刷脸出入校园、刷脸入馆、刷脸签到，在优化人员管理消除校园隐患方面已有成效。而在高考考场上，人脸识别可以有效防止替考现象的发生，维护公平公正的考场秩序。
我们也有理由相信，在智慧课堂应用中，人脸识别也可以对上课时学生的表情、动作等进行分析，辅助教师判断学生课堂知识接受程度，进而优化教学方案。课堂上的人脸识别，未来前景依然值得期待。
,
