
热文Anthropic 示警:Claude 等 AI 被滥用,引导舆论威胁公众认知
【导读】IT酷哥4月24日消息,Anthropic昨日(4月23日)发布博文,报告称Claude等前沿AI模型正被恶意行为者滥用,涉及“舆论引导服务”(influence-as-a-service)操作、凭证填充、招聘诈骗及恶意软件开发等活动。Anthropic开发团队为Claude采取了多项安全措施,成功阻止了许多有害输出,但威胁行为者仍在尝试绕过这些保护。IT酷哥援引博文介绍,报告通过多个案例,揭示了恶意行为者如何利用AI技术进行复杂操作,包括政治影响力操控、凭证窃取、招聘诈骗及恶意软件开发。其中最值得关注的一个案例,就是一个营利组织在X和Facebook上创建了超过100个虚假账号,完全无人为干...