根据美国民主与技术中心（CDT）最新公布的调研数据，近五分之一美国高中生表示自己或认识的人曾与人工智能产生浪漫关系。与此同时，调查发现有高达42%的学生表示自己或身边有人使用AI作为陪伴工具。
CDT是一家主张公民权利、民权与负责任技术和数据使用的非营利组织。此次调查针对约800名6至12年级公立学校教师、1000名9至12年级学生以及1000名家长进行。其中绝大多数受访者——86%的学生、85%的教师以及75%的家长——表示自己在上一个学年使用过人工智能。
CDT报告作者Elizabeth Laird表示，调查显示出一些显著关联。例如，“学校越多元化地使用AI，学生更可能报告身边有人将AI视为朋友甚至浪漫伴侣”。
数据泄露、深度伪造与信任受损
报告指出，在学校广泛使用AI（教师相关任务为7至10项，学生为4至6项）的情况下，学生面临受数据泄露、与AI不当互动，以及AI生成的深度伪造（操控视频或图片进行性骚扰和欺凌）的风险显著提升。
Laird表示，“虽然性骚扰和霸凌早在AI普及前已存在，但AI技术成为了新的助长途径。”
报告显示，28%的高频使用AI教师称学校曾经历大规模数据泄密，而低频或未使用AI的教师该比例为18%。Laird曾任华盛顿特区教育局数据隐私主管，她指出，学校与AI系统共享数据越多，潜在泄密风险越大。
在教学中频繁依赖AI的教师更易遇到AI系统故障并报告AI影响了社区对学校的信任。例如，学校常用的AI监控软件会检测校方设备上的活动，有时会导致误报警，甚至出现学生因误报而被叫去办公室、遭警方拘捕的案例。对于无法购买个人电脑的学生而言，隐私保护尤为困难。
Laird强调：“拥有私人设备的学生可以更好地保护自己的文件和信息，而依赖学校设备的学生则面临隐私无法保障的问题。”
学生福祉风险
就学生而言，频繁使用AI的学校，学生更容易报告自己或朋友曾将AI用于心理健康支持、陪伴、逃避现实，甚至发展浪漫关系。有31%的学生坦言与AI系统进行非学术性对话时，所使用的设备或软件均由学校提供。
Laird指出：“学生需意识到，他们并不是在与真人交流，而是在与系统工具交流，这些工具有已知的局限性。我们的研究表明，学生在AI素养和使用培训方面仅接受了最基础的指导。”
仅有11%的受访教师表示接受过“如何应对学生因使用AI而影响福祉”方面的培训。高频使用AI的教育工作者更认同AI提升教学质量、节省时间和实现个性化学习，但在AI普及度高的学校就读的学生对AI技术忧虑更多，有学生反映AI让他们感觉与教师联系变弱。
Laird表示：“学生反映，虽然AI带来了一些价值，也伴随着不少负面后果。若要获得人工智能的积极成果，我们必须认真倾听学生的声音。”
