谷歌推出 SynthID 检测器，当场抓获作弊者

2025-05-24 02:56:59 [要闻] 来源：地利人和网

币圈网报道：

随着深度伪造、虚假信息和人工智能辅助作弊在网络和课堂上蔓延，谷歌 DeepMind 于周二发布了 SynthID 探测器。这款新工具可以扫描图像、音频、视频和文本，查找谷歌日益壮大的 AI 模型套件嵌入的隐形水印。

设计用于在一个地方跨多种格式工作，SynthID Detector旨在通过识别谷歌人工智能（包括音频人工智能）创建的内容来提高透明度笔记本LM、Lyria 和图像生成器图像，并突出显示最有可能被加水印的部分。

谷歌在演示中表示：“对于文本，SynthID 会查看接下来要生成的单词，并改变合适单词选择的概率，而不会影响整体文本质量和实用性。”

它补充道：“如果一段文字包含更多首选词汇，SynthID 就会检测到它被加了水印。”

SynthID 在文本生成过程中调整词汇选择的概率分数，并嵌入不可见的水印，该水印不会影响输出的含义或可读性。此水印随后可用于识别由 Google Gemini 应用或网络工具生成的内容。

Google 首次在2023年8月作为检测 AI 生成图像的工具。随着 SynthID Detector 的推出，谷歌扩展了此功能，使其涵盖音频、视频和文本。

目前，SynthID Detector 仅提供有限版本，并且有记者、教育工作者、设计师和研究人员可以试用该程序。

随着生成式人工智能工具的普及，教育工作者发现越来越难以确定学生的作品是否原创，即使是旨在反映个人经历的作业也是如此。

利用人工智能作弊

最近报告经过纽约杂志凸显了这一日益严重的问题。

圣克拉拉大学的一位技术伦理学教授布置了一篇个人反思论文，结果发现一名学生使用 ChatGPT 完成了它。

在小石城阿肯色大学，另一位教授发现学生依靠人工智能来撰写课程介绍论文和课程目标。

尽管越来越多的学生利用其人工智能模型在课堂上作弊，OpenAI关闭该公司表示，由于准确率较低，将于 2023 年推出其 AI 检测软件。

OpenAI 当时表示：“我们认识到识别人工智能编写的文本一直是教育工作者讨论的重要点，同样重要的是认识到人工智能生成的文本分类器在课堂上的局限性和影响。”

人工智能作弊问题变得更加严重的是一些新工具，例如巧妙地Cluely 是一款旨在绕过 AI 检测软件的应用程序。Cluely 由哥伦比亚大学前学生 Roy Lee 开发，可在桌面层面规避 AI 检测。

李将该应用程序宣传为一种在考试和面试中作弊的方法，他筹集了 530 万美元来开发该应用程序。

李之前曾告诉记者：“我在亚马逊面试时上传了一段自己使用它的视频，之后它就火了。”解密“在使用它的过程中，我意识到用户体验真的很有趣——没有人探索过这种半透明屏幕覆盖的想法，它可以看到你的屏幕，听到你的音频，并充当你的电脑的第二个播放器。”

尽管 SynthID 等工具前景光明，但许多当前的 AI 检测方法仍然不可靠。

10 月份，领先的 AI 探测器解密发现四大领先的人工智能检测器中，只有 Grammarly、Quillbot、GPTZero 和 ZeroGPT 能够决定是人类还是人工智能分别撰写了美国《独立宣言》。

编辑塞巴斯蒂安·辛克莱

(责任编辑：发现基金)