摘要：正如《纽约时报》报道的那样，安装在高中学生的学校设备上的软件会跟踪他们输入的每一个字。然后，一个算法会分析语言，寻找青少年想要伤害自己的证据。

学校正在使用可疑的人工智能软件来指控想要伤害自己的那些青少年，并因此派警察到他们家里——结果往往是混乱和创伤。

正如《纽约时报》报道的那样，安装在高中学生的学校设备上的软件会跟踪他们输入的每一个字。然后，一个算法会分析语言，寻找青少年想要伤害自己的证据。

不出所料，该软件可能会因为可悲地误解了学生真正想说的内容而出错。例如，密苏里州尼奥肖的一名17岁少年在半夜被警察叫醒。

事实证明，她多年前写的一首诗触发了一款名为“GoGuardian Beacon”的软件的警报，该软件的开发商称这是一种“保护学生免受身体伤害”的方式。

“这是她一生中最糟糕的经历之一，”这位少女的母亲告诉《纽约时报》。

教育科技公司使用的互联网安全软件在新冠流行期间开始使用，能在自己家中对学生进行广泛监控。

许多这样的系统被设计为标记关键字或短语，以确定青少年是否计划伤害自己。

但正如《纽约时报》报道的那样，我们不知道它们是否有效或准确，因为这些公司尚未发布任何数据。

除了假警报之外，学校还报告说，这些系统至少在某些时候允许他们在迫在眉睫的风险之前及时干预。

然而，该软件仍然具有很强的侵入性，可能代表着对隐私的大规模侵犯。据《纽约时报》报道，民权组织批评了这项技术，认为在大多数情况下，执法部门不应该参与其中。

简而言之，这真的是对抗青少年自杀的最佳武器吗？青少年自杀已成为美国5岁至24岁人群的第二大死因。

“有很多错误的警报，”负责这名17岁女孩所在学校的警察局局长瑞安·韦斯特（Ryan West）告诉《纽约时报》。“但如果我们能救一个孩子，那就值得很多次假警报。”

然而，其他人往往不同意这种评估。

巴尔的摩市议员瑞安·多尔西（Ryan Dorsey）在接受《纽约时报》采访时表示：“由于完全缺乏有关结果的信息，我真的不可能评估该系统的使用情况。”他过去曾批评过这些系统。“我认为把警察派到孩子家里是非常错误的，尤其是在我了解和相信学校警察的情况下。”

来源：湖辣