美国中期选举前 ChatGPT 对政治深度伪造出手：拒绝照片级真实，只生成卡通风格图像

据 CNET 报道，在美国中期选举临近之际，OpenAI 旗下 ChatGPT 的图像生成功能对涉及选举干预或可能抑制投票的提示词采取了更严格的内容干预。当用户要求生成照片级真实感的政治类深度伪造图像时，系统会忽略“照片级真实”指令，仅输出卡通风格图像，以降低虚假信息被当作真实新闻照片传播的风险。该做法反映出生成式 AI 在重大政治事件前主动收紧内容安全策略的趋势：相比完全拒绝生成，以低可信度、非写实的卡通形式回应，既保留了一定创作能力，又削弱了图像被用于误导选民的可能。随着多模态大模型能力快速提升，深度伪造的制作成本大幅下降，选举场景中的信息操纵风险受到高度关注。ChatGPT 此次针对政治敏感提示词的风格降级处理，可视为模型层面对抗滥用的一次务实尝试，也为生成式 AI 平台在高风险信息环境中设置分级内容策略提供了参考。