数据泄露揭露汽车巨头和其他公司收集用户数据来训练人工智能模型
据新文件显示，作为大规模人工智能试验的一部分，英国数千名乘坐火车的人可能被亚马逊软件扫描过脸部。
该图像识别系统用于预测旅客的年龄、性别和潜在情绪——有人建议这些数据将来可用于广告系统。
在过去的两年中，英国各地的八个火车站（包括伦敦尤斯顿站和滑铁卢站、曼彻斯特皮卡迪利站等大型车站以及其他小型车站）已经使用闭路电视摄像机测试了人工智能监控技术，目的是向工作人员发出安全事故警报并可能减少某些类型的犯罪。
在铁路基础设施机构 Network Rail 的监督下，这项大规模试验使用了物体识别技术（一种可以识别视频中物品的机器学习技术），用于检测闯入轨道的人、监控和预测站台拥挤情况、识别反社会行为（“奔跑、大喊、玩滑板、吸烟”）以及发现潜在的自行车盗窃者。
另外，还有单独的试验使用无线传感器来检测湿滑的地板、满满的垃圾箱和可能溢出的排水沟。
人工智能试验的范围此前已有报道，而此次试验是在公民自由组织“老大哥观察”根据其信息自由请求获得的一份文件中披露的。
该组织的研究和调查负责人杰克·赫尔福特 (Jake Hurfurt) 表示：“在没有经过太多协商和对话的情况下，在这些公共场所推出并常态化人工智能监控，这是一个相当令人担忧的举措。”
人工智能试验结合使用了“智能”闭路电视摄像机和旧摄像机，前者可以从拍摄的图像中检测物体或动作，后者的视频源连接到基于云的分析。
文件指出，每个车站都安装了五到七个摄像头或传感器，日期为 2023 年 4 月。
一份电子表格列出了50 种可能的人工智能用例，尽管似乎并非所有这些用例都已在测试中使用。
伦敦尤斯顿站原定试行“自杀风险”检测系统，但文件称摄像头出现故障，工作人员认为没有必要更换，因为该站是“终点站”。
试验中最“令人担忧”的因素集中在“乘客人口统计”上。
该装置可以使用摄像头拍摄的图像进行“年龄范围和男性/女性人口统计分析”，还能够“分析情绪”，例如“高兴、悲伤和愤怒”。
这些图像是在人们穿过检票口附近的“虚拟绊线”时拍摄的，并被发送到亚马逊的 Rekognition 系统进行分析，该系统可以进行面部和物体分析。
它可以衡量乘客的“满意度”，并指出“这些数据可用于最大限度地提高广告和零售收入。
人工智能研究人员经常警告称，使用该技术检测情绪“不可靠”，有人说应该禁止使用该技术，因为很难从音频或视频中判断一个人的感受。
2022 年 10 月，英国数据监管机构信息专员办公室发布公开声明，警告不要使用情绪分析，称这些技术“不成熟”，它们可能还不会起作用，甚至永远不会起作用。
Network Rail 的一位发言人表示：我们非常重视铁路网络的安全，并在车站使用一系列先进技术来保护乘客、我们的同事和铁路基础设施免受犯罪和其他威胁。
当我们部署技术时，我们会与警方和安全部门合作，以确保我们采取适当的行动，并且我们始终遵守有关使用监控技术的相关法律。
目前还不清楚情绪检测分析的部署范围有多广，文件有时称该用例应“更加谨慎地看待”，车站报告称“无法验证准确性”。数据分析和计算机视觉公司 Purple Transform 的首席执行官 Gregory Butler 表示，该功能在测试期间被停止，并且在激活时没有存储任何图像。该公司一直与 Network Rail 合作进行试验。
Network Rail 关于 AI 试验的文件描述了多种用例，包括摄像头在检测到某些行为时自动向工作人员发送警报的可能性。这些系统均未使用有争议的面部识别技术，该技术旨在将人们的身份与数据库中存储的身份进行匹配。
主要的好处是可以更快地发现非法侵入事件，他公司的分析系统 SiYtE 已在 18 个地点投入使用，包括火车站和铁轨旁。在过去的一个月里，系统在两个地点检测到了五起严重的非法侵入事件，其中包括一名青少年从铁轨上捡球，以及一名男子“花了五分多钟在高速铁路沿线捡高尔夫球”。
利兹火车站是伦敦以外最繁忙的火车站之一，该站有 350 个闭路电视摄像头连接到 SiYtE 平台。
分析结果用于测量人流量并识别诸如站台拥挤和非法侵入等问题——技术可以通过 PPE 制服过滤掉轨道工人。人工智能可以帮助无法连续监控所有摄像头的人类操作员及时评估和解决安全风险和问题。
Network Rail 的文件声称，雷丁车站使用的摄像头能够让警方在录像中精确定位自行车，从而加快对自行车盗窃案的调查。事实证明，虽然分析无法准确检测出盗窃行为，但可以检测出骑自行车的人。
试验中使用的新型空气质量传感器可以节省工作人员手动检查的时间。一个人工智能实例使用传感器的数据来检测“出汗”的地板，这些地板因冷凝而变得湿滑，并在需要清洁时提醒工作人员。
虽然这些文件详细介绍了试验的一些细节，但隐私专家表示，他们担心在公共场所使用人工智能的整体透明度和辩论性不足。在一份旨在评估系统数据保护问题的文件中，对可能有隐私问题的人似乎持“不屑一顾的态度”。
其中一个问题是：“有些人可能会反对或认为这是侵犯隐私的行为吗？”一名工作人员写道：“通常不会，但有些人没有考虑到这一点。”
与此同时，利用该技术监控人群的类似人工智能监控系统正在全球范围内得到越来越多地使用。在今年晚些时候的法国巴黎奥运会期间，人工智能视频监控将监视数千人，并试图找出人群激增、武器使用和遗弃物品的情况。
伦敦地铁也进行了类似的人工智能试验，最初对可能逃票的人的脸部进行了模糊处理，但后来改变了方法，对照片进行了去模糊处理，并将图像保留的时间比最初计划的要长。
人们本能地想要扩大监控人类喜欢看得更多、看得更远。但监控会导致控制而控制会导致自由的丧失。
原文始发于微信公众号（网络研究观）：亚马逊开发的人工智能摄像头可检测火车乘客的情绪
- 左青龙
- 微信扫一扫
-
- 右白虎
- 微信扫一扫
-
评论