AI攻击：自动感知、无人干预、战术多样——“AI+”时代如何筑起智能新防线？
你是否已经察觉到，网络安全战场正在发生颠覆性变革？2025年以来，人工智能（AI）技术实现突破性进展——大模型训练成本骤降，应用从生成式AI向智能体化AI快速演进。AI正强力赋能各行各业，引领我们进入“AI+”时代。其“双刃剑”效应也愈发尖锐：AI滥用风险加剧，深度伪造以假乱真，利用AI发动网络攻击的趋势迅猛抬头……
AI作为核心战略技术，正深刻重塑生产与生活方式，但同时也将网络安全威胁推向新高度。如何精准应对“AI+”时代的复杂攻击？强化风险感知与预警，“以AI对抗AI”，已成为摆在我们面前的紧迫课题。
生成式AI滥用，“李鬼”风险肆虐
“这是人工合成的假视频，声音是我的，但话不是我说的。”10月11日，在南昌一场国际学术年会上，中国工程院院士张伯礼幽默警示：“凡是‘带货’的肯定不是我！”
原来，今年多个网络平台涌现出“张伯礼”带货美白护肤品的短视频。这些均由AI制作，利用院士的形象与声音，达到逼真乱真的效果。这仅是AI侵权现象的冰山一角。
伴随技术应用，利用网络信息技术侵害肖像权、名誉权等人格权的案例频发。今年6月，最高人民法院发布的滥用信息技术侵犯人格权典型案例中，就包括未经许可AI化使用他人声音、擅用肖像供用户“换脸”等行为。
国家计算机病毒应急处理中心高级工程师杜振华指出，自2023年生成式AI普及以来，其强大的内容生成与模仿能力在推动创新的同时，也催生了深度伪造、算法偏见等严峻风险。
公安部网安局今年9月披露的典型案例显示，多起案件利用AI工具编造谣言、实施网暴、侵犯个人信息。例如，“桦加沙”台风逼近广东时，社交平台出现的“深交所门前牛雕塑被拴”图片；河南暴雨期间，多个账号发布的所谓灾情视频，均被证实为AI合成的虚假信息。
“金融行业的一些身份验证系统已被AI换脸攻破。今年6月，众多高校也开始要求毕业论文必须进行AI检测。”中国科学院计算技术研究所前瞻研究实验室主任曹娟表示，大模型普及后，鉴伪需求已在多个行业爆发。
AI化身智能体，自主进攻防不胜防
今年年初，“2025年哈尔滨第九届亚冬会”遭遇境外网络攻击，事件引发广泛关注。国家计算机病毒应急处理中心等技术团队攻坚后，成功追查到美国国家安全局（NSA）的3名特工及两所高校。研究发现，攻击者利用AI智能体进行工具规划、漏洞挖掘和流量监测，部分代码明显由AI自动生成，能在攻击中实时编写动态代码，发动迅捷打击。
智能体化AI，指具备自主决策能力的人工智能系统。一旦用于网络攻击，其自主性与随机性将极大增加防御难度。
“不久前，境外披露一款已知的AI勒索软件，它利用OpenAI的开源大模型生成恶意程序，可自主决定搜索并加密哪些文件。”公安部有关负责人在第三届网络空间安全（天津）论坛上介绍。
中兴通讯副总裁王继刚指出，智能体是未来AI应用的关键形态。“它能自动感知环境，在运行中无需人工干预，完全以目标为导向。”他认为，智能体攻击形式复杂多样，大规模应用将显著扩大攻击面，带来更深远的影响。
目前，网络已出现多款辅助攻击的大模型工具，黑色产业工具正积极接入AI。国家计算机病毒应急处理中心等发布的《网络空间安全态势分析报告（2025）》指出，今年AI相关安全事件与风险较去年显著增加。
专家也看到转机：AI强大的数据处理、模式识别与自动化能力，同样能为网络安全提供新方案。AI智能体的融入，正推动防御从被动响应转向主动预测与自动防护，网络攻防对抗或进入“智能体驱动”新阶段。甚至有观点认为，未来网络安全之战将是“AI对AI”的较量。
安恒信息董事长范渊表示，AI智能体能快速生成动态仿真系统，结合自动化编程与数据生成，可实时预测攻击者下一个动作，并生成针对性防御策略。
技术风险管控，亟需全球协同
在业内人士看来，当前焦点已不是讨论AI是否有害，而是如何推动其健康发展。构建安全可控的AI，重构网络安全治理体系，是一项需制度、技术与生态协同的系统工程。
“AI安全风险源于其向‘超人化’演进。解决之道在于管好‘框、数、人、链’四个环节，将AI嵌入安全体系，让体系落地于场景，重塑内生安全系统，增强数智免疫力。”奇安信集团董事长齐向东强调。
为此，中国持续延伸治理链条。今年9月1日，《人工智能生成合成内容标识办法》及配套国家标准正式生效，要求所有传播的AI生成内容必须添加标识，强制亮明“数字身份证”。这标志着我国在内容安全治理上迈出关键一步。
同时，中国公安机关作为网络安全主力军，持续开展专项行动，有效应对各类风险挑战。
国际刑警组织网络犯罪局局长尼尔·杰顿指出，全球网络犯罪经济规模已超10.5万亿美元。在今年“安全亚洲”行动中，国际刑警组织与中国合作，关闭了超20000个恶意IP，查获100GB数据。“成功的网络安全行动根基在于合作，”他表示，未来将综合运用AI等新技术进行跨国打击。
“网络安全威胁无国界，一国漏洞可能在几分钟内波及全球。构筑防线不能各自为政。”尼日利亚国家信息技术发展局局长卡希夫·伊努瓦·阿卜杜拉希说，“区域与全球合作是必经之路。”
清华大学人工智能国际治理研究院副院长梁正建议，在“AI+”时代，应通过国际合作推动能力建设、风险共管与规则互认，并探索小切口治理合作。行动已刻不容缓！我们每个人都需提高警觉，积极参与网络安全建设，共同构筑智能时代的坚固防线。携手构建包容普惠的全球AI治理体系。（记者 李鲲 杨文 黄江林）
来源：新华每日电讯
相关问答
网络攻击与防范实践开题报告有资料的顶一下..._网络编辑_帮考网
可以参考《网络安全基础》、《黑客攻防技术宝典》等书籍，GitHub等平台也有大量免费教程与实战案例。
如何学习网络攻防？
在攻防演练中，红队作为攻击方，会先通过信息侦察寻找防守方弱点，利用不断增长的漏洞作为入侵跳板。
从事网络攻防工作的原因？
源于对网络技术的深度热爱与探索欲。
无线网络攻击原理及攻击方式？
攻击者将恶意代码上传至服务器，用户访问含此代码的页面即会中招。需控制哪些域名下的资源可被页面加载。
如何快速入门计算机安全与网络攻防学习？
兴趣是关键。确立目标后，坚持系统化学习，避免中断，即可快速入门。
电脑一直受网络攻击怎么办？
这通常是ARP攻击所致，表明网络中存在IP冲突。可检查IP设置、安装防护软件并隔离可疑设备。
网络攻击的三种类型是什么？-其他理财知识问答-我爱卡
主要类型包括：窃听（如键击记录、网络监听）、欺骗（冒充用户获取权限）及拒绝服务攻击。
网络攻防对抗的核心能力？
涵盖从简单拒绝服务，到本地用户非授权读写，再到远程用户获取未授权账户等多层次渗透与防御能力。
大家好，请问遇到网络攻击怎么办？
遭遇网络暴力或攻击，单靠个人难以追溯源头。建议立即保存证据，向平台举报并联系执法机关介入。
网络攻击怎么处理-找法网
遭遇网络威胁时，应第一时间收集证据（如截图、记录），并向公安机关报案，依法维护自身权益。