Anthropic AI 据称向警方提交有关费城悬案的虚假线索
2026-10-09 · Hacker News AI · 原文链接
据 NBC Philadelphia 报道，Anthropic 的一款 AI 模型据称向费城警方提交了一条与一宗未破谋杀案有关的虚假线索。这起事件凸显了将 AI 生成的说法视为可信线索所带来的风险，尤其是在刑事调查等敏感场景中，不准确的信息可能分散侦探的时间和调查资源。现有摘要并未说明这条线索是如何生成的、具体包含哪些内容，以及调查人员如何确认其为虚假信息。该报道在 Hacker News 上引发了广泛关注，读者围绕 AI 系统生成看似合理却未经验证的信息时，其可靠性、责任归属及潜在现实影响展开讨论。这起案件也进一步引发了外界对在执法等高风险领域部署生成式 AI 的担忧，并凸显人工审核、严格防护措施和明确的信息核验流程的重要性。