人工智能进校园风险何在

本篇文章2570字，读完约6分钟

新学期伊始，利用人工智能监控学生在课堂上的一举一动这一话题就引起了人们的关注。事实上，随着科技的进步，“人工智能+教育”的概念已经席卷了教育行业的许多场景。例如，在课堂教学中，通过收集学生的学习数据，帮助教师完成学习情况分析；在校园管理中开放多场景数据，有助于智能校园的发展。许多行业巨头都参与了这项业务。然而，由于隐私和数据安全问题，越来越热门的技术引起了许多关注。9月5日，教育部科技司司长雷超子表示，人工智能在进入校园时应该谨慎，带有人脸识别和肢体分析的教育应用应该受到监管和限制。业内一些专家表示，技术是一把双刃剑。学校应该以学生为中心，不能把学生分解成几部分进行研究；相反，教育是面向心灵的，在此基础上，“因材施教”才能实现。学校不能固守技术带来的教育创新。

出现了双刃剑效应

据报道，新学期开始后，中国药科大学在学校门口、学生宿舍、图书馆和一些教室安装了人脸识别系统。学生的出勤情况不仅可以自动识别，还可以通过仔细聆听和打瞌睡来监控。该校图书情报中心主任徐建珍说:“以前，有些学生在点名后就跑了，或者让其他学生说出自己的名字。”有了人脸识别，就没有这样的问题了。从走进教室的那一刻起，学生们就可以通过低头打手机感受到这一点。”

实际上，中国药科大学并不是第一个安装“人脸识别”系统的大学。中国的许多大学和中学都试图进入“刷脸时代”，其中大部分都用于门禁刷卡和食堂付款等场景。据了解，在北京理工大学的课堂上，人脸识别应用于学生学习情况的分析，系统准确捕捉学生课堂表现的过程数据，从而为教师的教学做出信息分析。

近年来，利用人工智能解决教育质量和现代化的提高问题，推动教育改革已成为共识。“教育的核心改革实际上是课堂改革，而课堂改革的核心是课堂中的反馈和评价。如何建立一个良好的反馈和评估机制，需要把所有的教室都变成数据，这也是“教育信息化2.0”中“基于数据”的精髓所在。由于人工成本高，难以保证课堂的客观性，教学信息的自动大规模采集和分析已经成为阻碍教学评价和教学研究高效发展的一个长期痛点。随着智能教育的逐步推进，实现学生日常学习的数据采集和行为、知识和情感分析，实现高效准确的教学，无疑是智能课堂发展的重点。

但同时，这也意味着学生的每一个动作都将接触到人脸识别系统，以实现从动作分析到表情、情感和肢体分析、眼睛跟踪等数据采集。一直以来，人工智能进入校园是“校园信息化还是校园监狱”、“数据采集是否侵犯了学生隐私”、“使用人工智能技术能否真正提高教学质量”等话题都被不断讨论。

涉及隐私和数据安全

事实上，为了把握教育信息化2.0带来的智能校园和智能教室，包括腾讯在内的许多企业都在深度开发ai+教育。据了解，2017年，伟创股份有限公司(002308)与百度合作，将人脸识别、情感识别等技术应用于儿童教育场景。2018年，海丰教育推出了“好望角”人工智能系统，通过跟踪眼球焦点来分析学生的视力。最近，Defiance Technology受到了质疑，因为它将自己开发的人脸识别、行为识别、表情识别等技术集成到了考勤和行为分析摄像头和服务器中，从而准确记录了学生举手、趴在桌子上阅读的次数。

腾讯高级执行副总裁、云与智能产业事业部总裁唐道生曾表示，在教学内容方面，人工智能极大地推动了教学评价的改革，人工智能将过去的“结果评价”变成了“过程评价”。从考试开始，它变成了一种连续的行为分析，从而实现个性化的“教”和“学”；在校园管理方面，人工智能打开了整个校园场景，如校园系统id等人脸，并使用统一身份打开多场景数据，有助于教师更加关注学生的成长，使管理更加高效便捷。

据业内人士刘健介绍，人工智能进入校园后，数据信息安全存在隐患。一些小公司在中标学校智能校园项目后可能会被移交给第三方服务提供商，中间的数据安全容易出现问题。北京大学法学院教授张平曾经说过，作为一个未成年人群体，大多数学生的心理健康和人格尊严应该受到严格保护。使用人脸识别来监控学生在学校的行为被怀疑是严重的虐待和过度收集个人隐私。个人电子信息的使用应遵循合法性、正当性和必要性原则，并征得学生同意。

雷超子说:“(对于人脸识别技术的应用)我们应该限制和管理它。”我希望学校会非常小心地使用这些技术软件。他指出，“人脸识别进入校园，既有数据安全问题，又有个人隐私问题，可以收集而不收集。”如果你能收集的更少，你就会收集的更少，尤其是当涉及到个人生物信息的时候。

规范迫在眉睫

归根到底，人工智能进入校园的根本是回归到保护学生的隐私和个性发展。21世纪教育学院副院长熊丙奇认为，学生在监控摄像机下的表现不同于没有监控的表现，从长远来看，这很容易导致学生的表演个性。一些大学生“混学”的关键是一些教师“混教”，而教师“混教”是由于他们缺乏教学研究和创新的课堂教学。在这种情况下，各种技术手段的引入对提高课堂教学质量的帮助有限。此外，他还提醒说，capital也看到了学校“重视技术”的现实，这不可避免地过度包装了ai+教育，并加快了学校采用所谓智能课堂行为分析系统的步伐。

近日，为促进“互联网+教育”的健康发展，全面规范教育应用，教育部等八部门联合发布了《关于指导和规范教育移动互联网应用有序健康发展的意见》(以下简称《意见》)。

在数据安全方面，《意见》明确要求教育移动应用应建立数据保障机制。收集和使用个人信息，应明确说明收集和使用信息的目的、方法和范围，并经用户批准。收集和使用未成年人信息应当征得监护人的同意和授权。不要强迫用户默认进行伪装授权、捆绑、停止安装和使用、收集与其提供的服务无关的个人信息、违反法律、法规和用户协议，以及向他人披露、非法出售或非法提供个人信息。

人工智能+教育已经成为一个大趋势。除了人脸识别的应用，我们如何更好地实现授权？刘建认为，中国的教育资源分布不均，ai应注重向贫困地区输送优质课程资源，实现教育公平；同时，通过技术，可以提高效率，减轻教师的学校管理负担，提高家校沟通的效率。据洋葱数学联合创始人兼首席执行官杨介绍，人工智能教育目前正在蓬勃发展，但改革主要处于辅助阶段，要达到教育的核心还需要时间。如果人工智能真的在教育的核心中发挥作用，方向是人工智能授权的适应性学习真的可以帮助学生实现自主学习，从而提高效率。