2025年1月17日，腾讯推出了一款AI生成图像检测工具，帮助用户识别图片是否由AI生成。
腾讯的凤凰实验室在混合元安全团队开发的AI生成图像检测系统能够在几秒钟内通过上传图片并等待验证来判断图片是否为AI生成。该系统主要通过捕捉差异来区分真实图片和AI生成的图片，比如AI生成的图片有时缺乏常识逻辑，可能会出现一只长着翅膀会飞的小狗或一只抽雪茄的猫；AI生成的图片通常需要“水印”，这意味着它们必须包含显而易见或隐含的标记，这些标记可能肉眼可见也可能不可见，需要使用检测工具来识别；此外，AI生成的图片还包含一些隐形特征，如调整HSV色彩空间时会出现密集分布的亮点。
识别AI生成的图像不能仅仅依赖单一标准，检测系统必须利用AI模型捕捉各种特征差异，包括图像纹理、语义和隐藏特征。凤凰实验室使用了超过140万张正负样本进行模型训练，涵盖了多种生成内容的情景，最终实现了超过95%的检测率，并持续优化改进。此外，凤凰实验室还开发了一种文本检测系统，通过学习大量数据来实现文本检测，并收集大量正负样本进行训练。该系统使用比较方法推断文章中AI生成的概率，增强了对未见过数据的检测能力。目前该系统涵盖了新闻报道、官方文件、小说和散文等多种风格，并计划未来加强诗歌等其他文体的检测能力。
最初开发AI检测工具的目的在于优化混合元大型模型的数据集。然而，在AI技术迅速发展的背景下，学术界和工业界对“用AI来检测AI生成内容”的需求增加，促使实验室开发了两种工具：一种是针对AI生成图像的检测工具，另一种是针对AI生成文本的检测工具，并提供了体验服务。
未来还将推出针对AI生成视频的检测工具，进一步提升检测能力。
体验地址：
总结：本文介绍了腾讯于2025年1月17日推出的用于识别图像是否由AI生成的新工具及其背后的原理和技术细节。该工具能够快速准确地判断图片的真实性，并且还扩展到了文本和视频领域。
