国家安全专家警告极端组织正尝试利用人工智能

16 hours ago7 min read

全球范围内利用人工智能的竞赛不仅局限于企业董事会和大学实验室；它已在极端组织活动的数字阴影地带找到了一个令人深感担忧的新试验场。国家安全专家和情报机构发出了明确的警报：从伊斯兰国的分散残余势力到各种其他意识形态派别的激进组织，都在积极尝试生成式人工智能，将其视为其非对称行动的潜在力量倍增器。虽然这些组织目前可能缺乏像中国或俄罗斯那样由国家支持的复杂人工智能能力，但它们的采用反映了一种熟悉的、危险的技术挪用模式。正如十年前伊斯兰国臭名昭著地将Twitter等社交媒体平台武器化用于招募和宣传一样，他们现在正在试探ChatGPT和图像生成器等工具的边界，试图将其整合到他们的武器库中。其影响是深远且多方面的。在战术层面，人工智能降低了制作大量有说服力内容的门槛。一个单独的个体或资源匮乏的小组现在可以生成逼真的深度伪造图像、制作领导人诵读经文的合成音频，或者将煽动性信息自动翻译成数十种语言，从而使其影响力呈指数级扩大。我们已经看到了实际案例：在以色列-哈马斯冲突期间，利用人工智能生成的伤亡图像被用来煽动愤怒和两极分化；而在伊斯兰国附属组织声称负责的俄罗斯恐怖音乐会袭击之后，人工智能制作的招募视频在极端主义论坛上激增。然而，战略风险远远超出了数字宣传的范畴。正如前中央情报局官员、现任Darktrace Federal首席执行官Marcus Fowler所指出的，虽然对这些组织而言，复杂的进攻性网络用途仍然是“理想化的”，但轨迹是清晰的。人工智能可以利用克隆的高管声音来自动化网络钓鱼活动的某些环节，协助编写恶意代码，并且最令人担忧的是，可能有助于弥合化学或生物武器开发方面的知识差距——这是美国国土安全部最新威胁评估中强调的一个具体风险。这种演变呈现出一个典型的阿西莫夫式困境：一个对人类进步具有巨大潜力的工具，同时也在降低造成灾难性伤害的门槛。正如参议员Mark Warner等人士所阐述的，政策制定者的回应强调了迫切需要建立框架，使人工智能开发者和安全机构能够共享恶意使用模式的信息。正在国会推进的立法试图强制要求国土安全部每年对恐怖主义实体构成的人工智能威胁进行评估。然而，正如前美国国家安全局研究员、网络安全专家John Laliberte所观察到的，核心挑战在于民主化：“有了人工智能，即使是一个没有多少钱的小团体也能产生影响。”因此，应对这种威胁需要防御范式的转变，不仅要守卫数字边界，更要理解大型语言模型和扩散算法本身的架构如何可能被颠覆。这要求科技行业和国家安全机构之间持续合作，预测并减轻这些双重用途风险，确保编码在人工智能中的强大梦想不会变成我们最黑暗的噩梦，被那些在混乱中滋生的势力武器化并扩大规模。.

#extremist groups

#artificial intelligence

#national security

#deepfakes

#propaganda

#cyberattacks

#recruitment

#featured