在数码化浪潮的席卷下，美国学校为了给学生营造一个安全环境，越来越多地引入人工智能（AI）监控技术。这项技术能全天候监测学校发放的设备，以及学生登录学校账户时的在线活动，目的是及时察觉学生心理健康危机和枪击威胁等危险迹象，防患于未然。然而，在实际推行过程中，却引发一系列有关隐私与安全的激烈讨论。
以华盛顿州温哥华公立学校为例，它们选用Gaggle安全管理公司开发的软件对学生进行监控。这款软件运用机器学习算法，每天24小时通过学校发放的笔记本电脑或平板电脑，对学生在网上的搜索内容、写作内容，以及在个人设备上登录学校账户时的活动进行扫描。2024年夏天签署的最新合同显示，三年费用为32万8036美元，这大概相当于额外聘请一名辅导员。
在2023年10月至2024年10月期间，该地区近2200名学生（约占入学人数的10%）成为Gaggle警报的对象。在温哥华艺术与学术学院，约四分之一的学生触发Gaggle警报的通信。该算法能检测诸如欺凌、自残、自杀或校园暴力等潜在问题的指标，一旦检测到，便会将截图发送给人工审核员。如果Gaggle员工确认问题可能严重，便会提醒学校。在紧急情况下，Gaggle会直接打电话给学校官员；极少数情况下，若无人接听，还可能联系执法部门进行风险核对。
