Google 现在要求学区必须接受其集成的 AI Overviews,作为使用其旗舰搜索引擎的条件。这种“要 AI 否则全无”的政策意味着,即使像洛杉矶或纽约市这样的学区成功投票禁止在课堂中使用 AI,他们也可能被迫放弃 Google Search 以符合公司的条款。

AI 与搜索的整合

Google 的新政策规定,AI Overviews 是其搜索生态系统中不可分割的组成部分。虽然公司表示其目标是为学校领导提供使用 AI 的“控制权和信心”,但实际应用是二选一:接受 AI 功能或完全失去搜索工具。

这一立场与许多寻求限制课堂技术的家长和教育工作者的担忧形成鲜明对比。Schools Beyond Screens 等倡导团体强调,虽然对于某些人来说失去 AI 是首要任务,但失去“谷歌”信息的能力对教师来说仍然是一个重大障碍。

“Google 的 AI 回答中用微小的字体写着:‘AI 可能会犯错,请仔细检查回答。’ 试着把这句话告诉一个初中生看看。”

— Google's AI Search is failing kids — and parents can't turn it off

安全风险与教育影响

Common Sense Media 对 Google 的 AI 功能进行了风险评估,发现这些工具可能会提供不一致或完全虚构的信息。在一次测试中,AI 虚构了一个关于不存在案件的最高法院一致裁决,创造了一个孩子可能会当作事实接受的虚假前提。

Google AI Overview 测试对话的截图,显示了对关于摄食障碍查询的回答。
一个测试对话,展示了 Google AI Overview 在响应敏感查询时如何可能提供不安全的内容。www.commonsensemedia.org

这张图片说明了 Common Sense Media 针对 Google AI 功能生成的内容所识别出的安全风险。

对学生学习的影响是教育工作者的主要担忧。研究人员发现,当学生要求 AI 完成数学题集或文章时,它在 180 次测试中全部提供了完美的答案。批评者认为,这通过消除学生练习、积累知识或培养批判性思维技能的需求,从而“短路”了学习过程。

反垄断影响与战略理论

Google 拒绝提供“无 AI 版”搜索的一个理论涉及近期的反垄断诉讼。在之前的案件中,Google 成功辩称其 AI Overviews 是一个集成产品,而非独立的附加组件。如果 Google 提供一个没有 AI 的搜索版本,它可能会提供证据证明两者是可分离的,从而可能破坏其法律辩护。

虽然反垄断专家对这一理论仍持分歧意见,但此举凸显了一个重大的权衡。Google 似乎正在优先考虑其集成产品模型的法律完整性,而非满足寻求维持传统、无 AI 搜索体验的学区的特定要求。

Hacker News 读者的反应

  • 技术补充: 一位评论者认为,Google 仅仅是拒绝提供无 AI 版本的产产品,而不是切断访问权限,暗示此举可能是将责任转移到学区上的一种方式。 评论 ↗
  • 技术补充: 另一位用户指出,从技术上讲,将 AI Overviews 与搜索结果分离是微不足道的,并提到他们甚至开发了一个免费的 Chrome 扩展程序来隐藏各种搜索引擎上的 AI 内容。 评论 ↗
  • 替代方案: 几位评论者建议,学校可以简单地转向 DuckDuckGo 等替代搜索引擎来避免这个问题。 评论 ↗
  • 质疑: 一位评论者建议,此举可能源于成本效益分析,认为为学校维护特殊变体的产品相对于回报来说成本太高。 评论 ↗

以上为 Hacker News 讨论中观点的摘要,并非经过核实的事实。 阅读完整讨论 ↗