设为主页 加入收藏 繁體中文 合作伙伴

给你一个AI监控系统,就能搞垮一个学校?

 近日,旷视科技和中国药科大学被推上了舆论的风口浪尖,原因在于旷视把AI监控和人脸识别系统安装在了教室。前者可以抓取学生的行为举止和面部表情进行分析,从而判断学生注意力是否集中、有没有睡觉等;后者则是记录学生的考勤。

网友的担忧来自于此,这已经不是简单的监控,而是“监视”。从另一个角度来看,AI监控技术对老师来说同样适用,如此一来教师是否认真讲解、是否有体罚学生的行为也会被一一记录在案,其对教师的监督作用不亚于学生。

对此,旷视科技官方回应称,网络上出现的一幅课堂行为分析图片,为技术场景化概念演示。同时旷视表示,智慧校园方案是为了保障学生的安全,主要运用在智能校门、教室门及宿舍的出入等。

从老师的角度来看,AI监控起到了辅助作用,可以提高工作效率。对家长来说,有了如此“神通广大”的AI监控技术,他们能够清楚地了解自家孩子的课堂情况,也能了解教师是否尽责。不同的学生会对AI监控有不同的看法,那些无心于学习的学生会觉得AI监控的出现使他们失去偷懒的自由,而品行端正的学生或许会认为该技术有利于自我监督。

除此之外,AI监控可以防止校园暴力事件,以及早恋等行为的发生,帮助学校构建良好的校风。这些都是AI监控带来的好处,但是它也有弊端。我们也可以想象,学生不希望他们在学校中的一举一动均被捕风捉影,被人无时无刻监视的感觉必然不好受。时间久了,这种无形的压力很可能会对学生的心理造成影响。

AI监控是一把双刃剑,如果能够恰当利用,那么便能起到督促作用,提升学习、生活效率;如果被错误地利用,那么就会成为泄露个人信息的作案工具,让学生和老师的隐私遭到侵犯。

在此之前,就有过一起非法出售学生信息的案例。张某是负责管理维护安徽全省学籍的人,就职于科大讯飞,为了一己私利,以每条1毛钱的价格,出售了4万名学生的隐私信息。

AI监控多场景运用,发展前景很可观?

AI监控基于人脸识别、行为分析、机器视觉、大数据等技术实现,本质是多个技术的结合体。所以不仅仅适用于教育领域,在安防这一块也是较为出色的。它可以通过后台数据进行深度学习,以此来实现目标检测、目标跟踪、目标分类、行为分析等复杂的操作。打个比方:当人进入监控范围内,它可以识别出他的性别、大致的年龄区间、衣服特征等,最后通过行为分析和目标检索与服务器配合,找出这个人的身份信息和活动轨迹。

对比传统安防,它可以有序与随机过程进行分析,对治安风险进行评估,防止高危事件的发生。除此之外,它还可以对人流密度以及变化进行监测,实现大型活动和重要区域的风险管理。AI监控可以融合定位、网络等技术,可以掌握高风险的人或事的精度和粒度,通过预测,来提高防范能力,以及高犯罪地区的分类。

AI监控有助于公安系统的建设,通过数据融合,开展大数据应用。不仅可以降低犯罪率,还可以让公安人员的工作效率得到提高。不过这些都是在理想状态下呈现的效果,AI监控其实还有很多问题需要解决,比如:容易受到光照条件、天气因素、图像质量等问题的影响,无法进行准确的目标分析。

在传统的安防系统中,各个平台的开放性普遍偏低,数据无法共享,这也就意味着不能利用云计算进行数据融合。另外,现阶段的人工智能还不够成熟,只能通过事先设定好的条件来进行分析,并不能自我完善,哪些地方分析错误了,并不会通过错误的事件进行自我反省。

AI监控用于安防领域会有卓越的成效,其中,张学友演唱会抓人就是典型的案例。去年在张学友漳州演唱会上,一名男子涉嫌一起经济案,被赣州市公安局列为网上追逃人员,在看演唱会时被智慧安保人像识别功能锁定,让民警找到了他。同时这说明了AI技术需要用对地方,才能发挥最大作用。

AI使我们担忧

AI技术展现出强悍技术本领,过去我们认为不可能的事情都变成可能。例如:ZAO的AI换脸,用户只需通过上传一张照片,便可以与范冰冰、张柏芝之等明星进行换脸。但是没过多久,该软件就走向了终结,原因在于该软件因为隐私问题引起质疑。

没过多久,工信部就ZAO App网络数据安全问题开展问询约谈,要求其严格按照国家法律法规以及相关主管部门要求,进行整改,依法收集用户信息并使用,规范协议条款,强化网络数据和用户个人信息安全保护。目前,在ZAO的用户协议和隐私协议中,已经删除了“免费的、不可撤销的、永久的”等霸王词,并增加了一段特殊提醒。

另外,旷视科技在近日推出了一款“AI狗鼻子识别”的APP,犬类主人只需对准犬鼻进行简单的抓拍或者视频录像,系统通过犬鼻检测,定位出鼻纹关键点,将提取到的鼻纹深度图信息汇入后台数据库,便可为犬生成一张专属的身份证。这就有点类似于人脸识别,可以帮助犬主找到走丢的小狗,以及监测不文明养狗的行为。但是该APP会将收集到的信息进行上传。通过以上两起案例说明了一个道理,AI让我们的生活产生危机感。

AI为什么使我们有危机感?分为以下3点:

1.真假难辨,容易受欺骗。有些不法分子,利用换脸软件和AI变声来制造绑架视频骗钱。他们把你的照片和录音上传至软件,软件将把一帧帧的图片和一段段的声波进行处理,然后进行伪装,最后通过短信或者电话的形式告知被绑架人的家属。

2.避无可避,无处藏身。这就好比有一双无形的眼睛,在无时无刻的监视着你,你一天笑了几次,做了多少站立的动作,都将被AI记录下来。

3.无法感知。在你完全没有察觉的情况下,可能已经被AI盯上了,比如:当你在进行商务谈判的时候,对方通过AI监控,将你的个人信息进行了分析,并上传至手机等。

AI技术充满潜力,但其用在何处是关键。企业在展示AI实力的时候也要展示其管理手段,我们需要知道AI是可控的,是不会被恶意利用的。这需要相关的法律进行制约,只有告诉企业恶意搜集个人信息是违法的行为,相关的事件才会变少。

AI技术高速发展和广泛落地带来的问题已经得到全社会的重视。

今年 6 月国家新一代人工智能治理专业委员会发布报告,提出发展“负责任的人工智能”,这是我国首次发布人工智能治理原则。在世界人工智能大会上,腾讯董事会主席兼首席执行官马化腾在演讲时表示,AI 治理的紧迫性越来越高,应以“科技向善”引领 AI 全方位治理,确保 AI“可知”、“可控”、“可用”、“可靠”。越来越多的企业在AI技术应用上开始变得谨慎和负责。工信部约谈ZAO App开发者幕后公司陌陌,同样体现出对AI技术治理的重视。

现在,AI技术治理将跟AI技术应用落地变得同等重要。技术只是工具,每一种技术都是双刃剑,关键看我们怎样使用这把剑。数百年来,人类一次次成功驾驭一代代新技术改变世界,人类文明得以突飞猛进地发展,人类社会的生活和生产得以不断进步。

对于人类可以很好地驾驭AI,我们充满自信。

来源:http://baijiahao.baidu.com/s?id=1643758825702043818&wfr=spider&for=pc


TAG:

在线客服

技术支持
点击这里给我发消息
产品咨询
点击这里给我发消息
销售一号
点击这里给我发消息
销售2号
点击这里给我发消息