欢迎您访问河南省工业信息安全产业发展联盟网站!
联盟公众号
工业网络安全周报-2025年第41期
来源:系统管理员 日期:2025-10-11 浏览:67

热点速报

1、厦门警方悬赏通缉18名台湾军方违法骨干

2025年10月11日,福建省厦门市公安局发布悬赏通告,公开征集台湾军方“政治作战局心理作战大队”18名核心骨干的违法犯罪线索。警方表示,这一行动旨在打击“台独”势力的渗透破坏活动,维护国家安全与社会稳定

来源:央视新闻

2商务部将Recorded Future等14家外国实体列入不可靠实体清单

为维护国家主权、安全和发展利益,根据《中华人民共和国对外贸易法》《中华人民共和国国家安全法》《中华人民共和国反外国制裁法》等有关法律,不可靠实体清单工作机制依据《不可靠实体清单规定》第二条、第八条和第十条等有关规定,决定将反无人机技术公司、TechInsights公司及其分支机构等外国实体列入不可靠实体清单,并采取以下处理措施

来源:央广网

3伪造官方项目 夸大灾情信息 演绎悲情剧本 网信、公安重点整治AI造假、挑动负面情绪等乱象

9月网络谣言主要集中在公共政策、灾情汛情、社会民生等领域,伪造政策文件、虚构悲情故事、滥用AI工具编造虚假灾情,侵害民众权益、扰乱公共秩序。网信、公安等部门严厉打击造谣传谣行为,持续净化网络环境。有不法分子编造“2025年国家薪资补贴申领认证通知”,以“国家补贴”为幌子,诱骗群众点击链接,套取实名信息实施诈骗。所谓“中国三农”投资理财APP,冒用农业农村部名义,伪造部委公文,以定期分红、到期返还收益为诱饵,开展非法集资活动。

来源:https://mp.weixin.qq.com/s/LZOdRbyZbkCC8WJCWY4TcA

4工业5.0的雏形已现——工业5.0的三大支柱

在过去十年中,技术创新迅速改变了制造业。传统上,制造过程是线性的、分散的,并且很多依赖于体力劳动。然而,随着工业4.0的采用,数字化浪潮席卷而来。制造企业花费数年时间连接数据、连接设备和自动化流程,并采用人工智能(AI)和分析技术,所有这些都有助于优化流程和提高生产力定义工业5.0的三个关键支柱是:以人为本、可持续性和弹性。工业5.0的核心体现了人与技术的融合,以及它们如何相互补充,而不是相互竞争。

来源:https://mp.weixin.qq.com/s/DYkDt8qaJs-ZKFKpXgjM4A

5无所遁形的“台独水军”

长期以来,民进党当局为推行其“台独”分裂图谋,暗中豢养网络“水军”,潜伏在境内外各类网络社交平台,炮制虚假信息,散播“台独”分裂谬论,蓄意挑起两岸对立对抗、破坏台海和平稳定。台湾王氏研创艺术公司充当民进党当局爪牙,处心积虑、肆无忌惮对大陆开展反宣破坏活动。国家安全机关坚决打击“台独”分裂活动,彻查幕后黑手,肃清危害隐患,坚决捍卫国家安全

来源:https://mp.weixin.qq.com/s/TaRxWxJzw0v_I2o7EeVQ3Q

6能源行业数据安全研讨会顺利举办

为助力能源企业数据安全管理工作落地落实,充分交流数据安全合规实践经验,工业信息安全产业发展联盟数据合规工作组于2025年9月28日举办能源行业数据安全研讨会。

来源:工业信息安全产业发展联盟

政策法规

1政务领域人工智能大模型部署应用指引

为深入贯彻落实党中央、国务院决策部署,规范和引导人工智能大模型在政务领域的发展与应用,提升政务数字化智能化治理和服务水平,制定本指引。本指引主要为各级政务部门提供人工智能大模型部署应用的工作导向和基本参照,将根据实践进展,结合人工智能大模型发展和应用的新形势、新要求,进行动态调整。政务部门可围绕政务服务、社会治理、机关办公和辅助决策等工作中的共性、高频需求,因地制宜、结合实际,选择典型场景进行人工智能大模型探索应用。

来源:https://mp.weixin.qq.com/s/N9_iyKY8ufC9LNqgb6YEXQ

2交通运输部 国家发展改革委 工业和信息化部 国家数据局 国家铁路局 中国民用航空局 国家邮政局关于“人工智能+交通运输”的实施意见

为深入贯彻党中央、国务院关于发展人工智能的决策部署,全面落实《交通强国建设纲要》《国家综合立体交通网规划纲要》和《国务院关于深入实施“人工智能+”行动的意见》,加快推动人工智能在交通运输领域规模化创新应用,现提出如下实施意见。到2027年,人工智能在交通运输行业典型场景广泛应用,综合交通运输大模型体系落地部署,普及应用一批智能体,建成一批“人工智能+交通运输”标志性创新工程,人工智能成为引领交通运输创新发展的重要动力。到2030年,人工智能深度融入交通运输行业,智能综合立体交通网全面推进。智慧交通与智慧物流领域关键核心技术实现自主可控,总体水平位于世界前列,培育一批新产业、新业态,形成较为完备的交通领域人工智能治理体系,引领交通运输高质量发展和高水平安全迈上新台阶。

来源:https://xxgk.mot.gov.cn/2020/jigou/kjs/202509/t20250925_4177256.html

3、国家数据局综合司关于印发《工业制造、现代农业等九个领域“数据要素×”典型场景指引》的通知

贯彻落实《“数据要素×”三年行动计划(2024—2026年)》,国家数据局商有关部门研究编制了《工业制造、现代农业等九个领域“数据要素×”典型场景指引》。现印发,请在推动行业数据开发利用中参考。

来源:https://www.nda.gov.cn/sjj/zwgk/tzgg/0930/20250930162702169299833_pc.html

4、国务院办公厅关于印发《电子印章管理办法》的通知

为了加强电子印章规范管理,推动电子印章普遍应用,服务政务活动和经济社会数字化发展,根据《中华人民共和国电子签名法》、《中华人民共和国密码法》、《中华人民共和国网络安全法》、《中华人民共和国数据安全法》以及印章管理有关法律法规,制定本办法。本办法所称电子印章,是指基于密码技术和相关数字技术表征印章的特定格式数据,用于实现电子文件的可靠电子签名。电子印章包含印章图像数据、印章名称、印章所有者信息、电子签名认证证书以及与其关联的电子签名制作数据等。

来源:https://www.gov.cn/zhengce/content/202510/content_7043696.htm

5美国国务院发布《企业数据与AI战略》

近日,美国国务院发布《企业数据与人工智能战略》(Enterprise Data & Artificial Intelligence Strategy),提出了以数据与人工智能技术作为核心驱动力,推动外交工作实现智能化转型的路径与目标。《战略》立足于“赢得人工智能竞争不容谈判”立场,将确立并巩固技术优势视为维护美国全球经济利益与国家安全的战略基石。美国国务卿Marco Rubio在《战略》前言中强调,美国必须在人工智能领域持续保持全球领先地位,以促进繁荣并保护经济与国家安全。《战略》明确其核心定位,即在“美国优先”外交政策的指引下,借助数据与AI能力建设,达成强化外交效能、提升任务成效、提高行动效率等目标。这一定位延续了美国国务院此前在AI领域的探索实践。

来源:https://mp.weixin.qq.com/s/Y0lbvFRneXLAcwoKxP7dyQ

6工信部、国家标准委联合印发《云计算综合标准化体系建设指南(2025版)》

为认真落实《新产业标准化领航工程实施方案(2023—2035年)》,加强云计算标准化工作顶层设计,切实发挥标准对推动云计算产业高质量发展的引领作用,我们组织编制了《云计算综合标准化体系建设指南(2025版)》。现印发给你们,请结合实际抓好落实。

来源:https://mp.weixin.qq.com/s/L8QdkkshFrriszlWeOrrvQ

安全漏洞

1、CNNVD关于Redis资源管理错误漏洞的通报

近日,国家信息安全漏洞库(CNNVD)收到关于Redis资源管理错误漏洞(CNNVD-202510-401、CVE-2025-49844)情况的报送。攻击者可以利用此漏洞,通过构造恶意请求导致远程代码执行。Redis多个版本均受此漏洞影响。目前,Redis官方已发布了漏洞修复补丁,建议用户及时确认是否受到漏洞影响,尽快采取修补措施

资料来源:https://mp.weixin.qq.com/s/i1RR8vyG-W14QSdIghDhZQ

2Nagios严重漏洞CVE-2025-44823致管理员API密钥明文泄露,PoC已公开

安全研究人员在企业级日志管理解决方案Nagios Log Server中发现两个严重漏洞。该产品被广泛用于集中日志记录、实时监控和告警。编号为CVE-2025-44823和CVE-2025-44824的漏洞可能允许已认证用户获取明文管理API密钥,或完全禁用Elasticsearch服务,导致监控失效及系统完全沦陷风险。这两个漏洞影响2024R1.3.2之前的所有Nagios Log Server版本,管理员应立即升级至最新版本以降低攻击风险。

资料来源:https://mp.weixin.qq.com/s/6sIdhvGlJeYjpgNc0cEozA

3可获取Root权限的Sudo漏洞PoC利用代码已公开

针对(CVE-2025-32463)漏洞的概念验证(PoC)利用代码已公开发布,该漏洞是Sudo工具中存在的一个本地权限提升(LPE)缺陷,在特定配置下可获取root权限。安全研究员Rich Mirch发现了该漏洞,同时一个可用的PoC和使用指南已在GitHub开源仓库发布,这加剧了依赖Sudo chroot功能的Linux环境打补丁的紧迫性。根据项目文档,1.9.14至1.9.17版本均受影响,1.9.17p1及后续版本已修复。1.9.14之前的旧版本不受影响,因为这些版本尚未引入chroot功能

资料来源:https://mp.weixin.qq.com/s/mJI10FU1rH_u-zydKYlKdQ

4Unity引擎漏洞可导致数百万游戏面临本地代码执行风险

Unity Technologies发布紧急安全公告,警告开发者其广泛使用的游戏开发平台存在一个高危漏洞(CVE-2025-59489)。该漏洞会影响使用易受攻击版本Unity Editor构建的应用程序,可能导致本地代码执行和跨操作系统权限提升该漏洞源于不受信任的搜索路径缺陷(CWE-426),攻击者可利用Unity构建应用程序中的不安全文件加载机制。CVSS评分为8.4分,影响范围涵盖从2017.1版本到当前版本的几乎所有Unity Editor,全球数百万款已部署的游戏和应用程序可能受到影响。

资料链接:https://mp.weixin.qq.com/s/W5HWgE3fg9h_ORSpJGuhUg

5TP-Link路由器漏洞允许通过局域网实现Root权限远程代码执行,PoC已公开

安全研究员Rocco Calvi披露了TP-Link AX1800 WiFi 6路由器(Archer AX21/AX20型号)存在的一个高危漏洞,该漏洞允许局域网内的攻击者以root用户身份实现远程代码执行(RCE)。该漏洞编号为CVE-2023-28760,CVSS评分为7.5(高危级),存在于路由器媒体共享功能使用的MiniDLNA服务中。根据CVE记录描述:"TP-Link AX1800 WiFi 6路由器(Archer AX21)设备允许局域网内未经验证的攻击者通过db_dir字段向minidlnad发送指令,从而以root权限执行任意代码。攻击者可借此修改files.db文件,进而触发minidlna-1.1.2/upnpsoap.c中的基于栈的缓冲区溢出。"

资料来源:https://mp.weixin.qq.com/s/eLJWMeu42AHd_USwR_1-ig

6Oracle零日漏洞引发全球安全危机:Clop勒索团伙掀起数据窃取狂潮

2025年10月初,全球网络安全领域笼罩在一片紧张氛围中。Oracle公司发布紧急安全警报,披露其E-Business Suite(EBS)产品中存在一个危险的零日漏洞CVE-2025-61882。这个被评为CVSS 9.8分的"严重"级别漏洞,恰如一把悬在企业数字门户之上的利剑,攻击者无需任何身份验证便能远程执行代码,直接威胁到企业的核心业务命脉。这个隐藏在Oracle Concurrent Processing组件中的漏洞,具体位于Business Intelligence Publisher集成部分,成为了攻击者通往企业核心数据的秘密通道。更令人担忧的是,这场风暴并非突然降临。安全研究人员的追溯调查显示,臭名昭著的Clop勒索软件组织早在两个月前就已经发现了这个漏洞,并将其与今年7月补丁中修复的多个其他漏洞巧妙结合,构建了一条通向企业核心数据的攻击链条

资源来源:https://mp.weixin.qq.com/s/udXcEqsT6QxeRnzW19431w

7VMware Workstation虚拟机逃逸漏洞PoC利用代码公开

安全研究人员已公开VMware Workstation中一个高危漏洞链的概念验证(PoC)利用代码,攻击者可借此从客户机虚拟机逃逸,在宿主机操作系统上执行任意代码。该漏洞利用成功串联了信息泄露和基于栈的缓冲区溢出漏洞,实现了完整的虚拟机逃逸攻击——这是虚拟化软件中最严重的安全漏洞类型之一。这些漏洞最初在2023年温哥华Pwn2Own黑客大赛上被演示。NCC Group安全研究员Alexander Zaviyalov近期发布了详细技术分析和功能性PoC,展示了这些漏洞的实际风险。

资料来源:https://mp.weixin.qq.com/s/eY9xZaJ3bwxVHNtxH3Ec9g

安全事件

1、捷豹路虎遭网络攻击停产超37天,3万余辆汽车生产延误,国家经济安全受冲击!

10月7日,英国汽车制造商捷豹路虎发布声明,其整车制造业务将于当地时间10月8日起分阶段重启。分阶段重启将于10月8日在该公司制造发动机的电力推进制造中心(EPMC)和电池装配中心(BAC)开始,这两个中心均位于英国西米德兰兹郡。此外,捷豹路虎称正加快推行一项新的融资计划,将在生产重启阶段为符合条件的供应商提供预付现金。当地时间8月31日,捷豹路虎首次公开确认9月3日在英国遭遇黑客入侵,为防止攻击扩散,公司被迫关闭信息技术网络,导致全球生产线陷入瘫痪。据报道,这是目前英国最大的一次车企因网络攻击导致持续超三周产线中断事件

资料来源:https://mp.weixin.qq.com/s/9M2XXIcIf4rbL5wsc2eqJQ

2、以色列国防部数据库疑遭泄露:暗网组织宣称泄露约11,900条记录

2025年10月7日,暗网威胁情报监测系统注意到,一个自称 INDOHAXSEC的亲巴勒斯坦黑客组织在暗网论坛发布帖子,声称成功入侵以色列国防部(Ministry of Defense)数据库并泄露约 11,900 条记录。该组织在帖文中将此次行动置于所谓的“以色列网络空间攻击行动”(Israeli Cyberspace Attack Operation)之下,并明确以“10月7日”事件为动员口号,表明此次攻击具有明确的地缘政治报复意图。帖子本身未披露完整技术细节,仅附带若干样本截图与表格以自证“所持数据”的真实性。该说法尚未被以色列官方证实或独立核实

资料来源:https://mp.weixin.qq.com/s/cOLIxva_3ClV0CEeuRNNHg

3、朝日啤酒遭勒索攻击被迫停产多天,日本境内啤酒短暂紧缺

俄语勒索软件组织Qilin宣称,对日本饮料巨头朝日公司(Asahi)遭遇的网络攻击负责。此次事件导致公司运营中断数日,被迫暂停生产,并推迟了全国范围内的新产品发布。该组织声称已窃取朝日公司的财务记录、员工信息、合同文件及研发预测,并于周二在其泄露网站上公布了这些文件的截图。目前暂时无法核实这些数据的真实性,而朝日公司目前尚未对此发表声明,也未确认是否曾与攻击者接触。

资料来源:https://mp.weixin.qq.com/s/tjQzX4fquaSBk3sOfh2wGg

4、Discord数据泄露事件:用户个人信息及证件扫描件遭泄露

Discord于2025年10月3日发布官方声明称,攻击者成功入侵其第三方客服供应商(疑似Zendesk)系统,非法访问了存储敏感客户数据的客服工单队列。该公司强调其核心系统未遭直接入侵。调查显示,攻击者主要意图是向Discord勒索钱财。受影响数据仅涉及近期联系过Discord客服或信任与安全团队的用户,最令人担忧的是,攻击者还获取了少量用户提交的政府签发身份证件(如驾照或护照)图像,这些文件原本用于年龄验证申诉。此类高风险证件的泄露极大增加了受害者遭遇身份盗用的风险

资料来源:https://mp.weixin.qq.com/s/nrSK4ig_UXO4jNoOQyQphg

5、美国空军确认发生关键个人PII数据泄露

2025年10月2日综合The Register报道】美国空军近期确认,其SharePoint系统发生涉及关键个人身份信息(Personally Identifiable Information, PII)和受保护健康信息(Protected Health Information, PHI)的数据泄露事件。此次事件导致空军全军范围内封锁SharePoint权限,同时Microsoft Teams和Power BI仪表板也因依赖SharePoint服务而暂停使用。根据空军人事中心技术和信息局发出的内部通知,本次系统停用可能持续1至2周,预计在工作周结束前恢复。通知强调,“此消息旨在告知您,与美国空军SharePoint权限相关的关键个人身份信息(PII)和受保护健康信息(PHI)存在泄露”,并提出立即采取行动的具体指导,包括下载或备份所有关键文件、使用安全邮件及其他授权平台进行通信与数据共享、以及报告任何疑似数据问题或额外泄露情况。

资料来源:https://mp.weixin.qq.com/s/O5nE9L52m4DAhSxafgO8vA

6、红帽GitHub仓库遭攻击者组织入侵,窃取数万份机密数据

自称"Crimson Collective"的网络犯罪团伙宣称成功入侵红帽(Red Hat)公司的私有GitHub代码库。该组织声称窃取了570GB数据,涉及28,000个项目及约800份包含敏感网络数据的客户参与报告(Customer Engagement Reports,CERs)。这类报告通常包含基础设施详情、配置信息和访问令牌等敏感内容,攻击者可利用这些数据针对客户网络发起攻击

资料来源:https://mp.weixin.qq.com/s/X2PuTtJHnvc_mPxzbNJ1Og

710亿用户记录疑遭泄露!攻击者组织入侵Salesforce并将公开数据

一个自称"Scattered LAPSUS$ Hunters"(融合了Scattered Spider、Lapsu$和ShinyHunters等团伙的战术与品牌特征)的攻击者团体近日上线了新的数据泄露网站,声称已入侵全球最大的SaaS和CRM服务提供商之一Salesforce,并准备出售近10亿条用户记录

资料来源:https://mp.weixin.qq.com/s/0cH72Zdnq5R2TspyySSQKg

8油服巨头美国Weatherford公司油井SCADA系统疑遭黑客控制

2025年10月1日 -- 来自TElegram和暗网渠道的最新信息显示,美国知名油气服务企业Weatherford的SCADA系统可能遭到未授权访问,涉及其ForeSite EDGE RPC油井监控平台。发帖者“Hider_Nex”在网络上发布截图,展示了系统界面及部分油井实时数据,伴随带有“ALARM(警报)”的状态提示,显示系统存在异常。

资料来源:https://mp.weixin.qq.com/s/QbXialXdZ9vIyqS-jhU7Lw

风险预警

1、从钓鱼攻击到恶意软件:AI成为俄罗斯对乌网络战新武器

数据显示,2025年上半年共记录3018起网络攻击事件,较2024年下半年(H2 2024)的2575起有所上升。其中针对地方政府和军事实体的攻击有所增加,而针对政府和能源部门的攻击则有所减少。值得关注的攻击事件包括UAC-0219组织使用名为WRECKSTEEL的恶意软件攻击乌克兰国家行政机关和关键基础设施。有证据表明,这款基于PowerShell的数据窃取恶意软件是通过AI工具开发的

资料来源:https://mp.weixin.qq.com/s/-lkL6Wn1vVjWd_oa9JHx4A

2、AI正在被“黑化”:AI时代的攻击范式已全面升维

随着大模型从“工具”升级为“决策”,AI智能体已能主动获取信息、调度工具并执行多步骤操作,实现了从理解到行动的跨越。然而,这一技术跃迁在释放巨大效率红利的同时,也将我们推至新的安全临界点——内容失控、数据泄露、提示词攻击等新型风险层出不穷,传统安全框架面临失效困境

资料来源:https://mp.weixin.qq.com/s/hpGYjXrMgymBKjdAU3rTzA

3、SLH/SLSH黑客组织宣称将推出“勒索即服务”计划

2025年10月11日监测发现,遭受执法打击的黑客组织SLH/SLSH(SLSH 6.0 part 3 - lapsus$hiny$scatteredwizard)再度公开发声,宣布将于下周正式推出其所谓的“勒索即服务”(Extortion-as-a-Service, EaaS)计划。根据该组织发布的声明,此项计划参照了“勒索软件即服务”(RaaS)的模式,但其核心区别在于不涉及文件加密或系统锁定,而是纯粹的勒索行为。该组织在声明中明确阐述了其商业模式:通过允许其他犯罪分子使用SLH/SLSH的“名号”进行勒索,以提升犯罪成功率。

资料来源:https://mp.weixin.qq.com/s/odaPeRusOPvRLBf-Kh5ivg

4、英格兰银行:AI泡沫破裂将引发金融海啸

最老牌的金融机构——英格兰银行的金融政策委员会近日发出警告,直指当前科技市场,尤其是人工智能板块的估值,已经膨胀到一个危险的临界点,甚至可与2000年的互联网泡沫高峰期相提并论。这不是一场温和的提醒,而是一份措辞严厉的“金融地震预警”。如果这股AI热潮的预期突然转向悲观,由此引发的 “剧烈市场回调”,其后果将不仅是科技股的暴跌,更可能对全球金融稳定,乃至美国实体经济造成可怕的冲击。

资料来源:https://mp.weixin.qq.com/s/WLeTIy0DxBTank7ziGWU-g

5、AI聊天机器人被用作入侵敏感数据和基础设施的关键后门

近期出现了一种复杂的恶意软件攻击活动,攻击者将会话式聊天机器人作为入侵企业系统的隐蔽入口。该攻击最早在2025年9月中旬被发现,主要针对基于大语言模型构建的面向客户的聊天应用。攻击者利用自然语言处理和数据间接获取机制的漏洞,将看似正常的用户交互转变为未授权的系统访问。早期受害案例集中在金融服务机构,攻击者通过公开的聊天机器人从外部评论网站获取恶意内容,从而触发一系列权限提升操作。随着攻击手法扩散,安全团队发现异常提示导致内部命令执行的惊人模式。趋势科技分析师指出,攻击者首先向聊天机器人界面发送畸形查询,诱使系统返回错误信息,从而暴露底层基于Python的微服务架构

资料来源:https://mp.weixin.qq.com/s/ux4q0mcEOofUkr_zCAYoUg

技术前沿

1欧盟《人工智能法案》风险分类机制研究

欧盟《人工智能法案》(AIAct)是全球首个全面规范人工智能的立法尝试。该法案采用了“清晰界定的风险导向方法”根据人工智能系统可能带来的风险高低,“风险越高,规则越严”,从而在促进AI创新应用与保障安全和基本权利之间取得平衡。AIAct通过将AI系统划分为不同风险等级,赋予各等级相应的监管要求。这一风险分类机制对于政策制定者和AI从业者而言至关重要,它决定了哪些AI应用被禁止、哪些需要严格监管、哪些仅需满足基本透明义务。在AI快速发展的背景下,厘清该机制的逻辑和问题,对有效实施监管和鼓励合规创新具有现实意义。

来源:https://mp.weixin.qq.com/s/QtcUTzSdvZIg4pJtguImSA

2基于人形机器人开展安全攻击

人形机器人因其复杂的传感器套件、持续联网能力与制造商预置的信任关系,能够在未经授权的情况下被利用为两类攻击载体:一是被动的数据泄露木马,二是被武器化为自主的网络安全AI攻击平台(Cybersecurity AI,CAI(Cybersecurity AI):面向全体安全从业者的网络安全智能体框架),从而对所在环境和制造商的云基础设施造成严重威胁。本文将系统阐述了这两类向量的技术实现与防御对策

资料来源:https://mp.weixin.qq.com/s/zTvw9Wu5A6_68s4BxxIWfA

3案例分享丨高校人脸识别应用的风险和应对措施

近年来,随着人工智能技术的快速发展,以人脸识别为代表的生物识别技术依靠其高效性、唯一性、安全性和便捷性等特点,逐步成为个人身份信息核验的主要方式。与此同时,人们对数据安全和个人隐私的保护也愈加重视,尤其是《个人信息保护法》颁布实施以来,越来越多的人意识到未正确使用人脸识别技术可能引发安全风险。高校智慧校园建设过程中大量应用人脸识别技术,有力提升了学校的智能化管理水平,但同时其安全风险也引起了广大师生及社会公众的关切。思考如何安全合规地应用人脸识别技术,对高校智慧校园建设具有重要的研究价值。

资料来源:https://mp.weixin.qq.com/s/OJzRwgsmIv4YMFO3JhBkIQ

4AI安全新范式:京东JoySafety开源项目深度解析

随着大模型技术在各行业的广泛应用,安全问题日益凸显,成为制约其规模化落地的关键瓶颈。内容生成风险、数据泄露、提示词注入攻击等新型威胁频发,不仅影响用户体验,更触及监管红线。政策层面,《生成式人工智能服务管理暂行办法》等文件密集出台,明确要求大模型服务必须具备内容过滤与数据保护能力,“无安全,不上线”已成为行业共识在此背景下,京东于2025年9月25日在京举办的JDD大会上正式开源了大模型安全项目——JoySafety(github仓库地址:https://github.com/jd-opensource/JoySafety)。该项目已在京东内部广泛应用,覆盖AI导购、物流客服、医疗问诊等数百个场景,日均调用量达亿级,攻击拦截率超过95%,致力于为企业提供一套高效、免费、可落地的安全防护体系。

资料来源:https://mp.weixin.qq.com/s/BY977ULgJ7k3REIM_qn2aQ

5CAI(Cybersecurity AI):面向全体安全从业者的网络安全智能体框架

随着大模型与智能体在安全攻防中的快速涌现,如何让更广泛的安全团队与研究者能够以可控、可复用的方式使用 AI 进行漏洞发现与安全评估,成为一个现实命题。CAI(Cybersecurity AI)作为一个开源、轻量的安全智能体框架,旨在把先进的安全测试能力从少数组织手里“还给”社区与从业者:它既强调实战导向的能力构建,也重视人类监督与伦理边界。在人机协作、守护栏与透明度的约束下,CAI为网络安全的效率提升与生态再平衡提供了重要抓手,也为机器人/OT 等复杂场景的安全评估打开了新的路径。对于任何希望在实战中拥抱AI的安全团队而言,CAI值得尽快了解与试用

资料来源:https://mp.weixin.qq.com/s/x770iheO0JTEjPR1U-WRVQ

6数字化转型背景下网络安全与新质生产力协同发展路径探索

新质生产力的本质是数字技术集群对传统生产要素的重组与赋能。以5G、人工智能、工业互联网为代表的新兴技术,通过数据要素的指数级增值效应,重构了“劳动者-劳动工具-劳动对象”的生产关系。劳动者从操作者转型为算法训练师与数据标注师,劳动工具进化为具备自我优化能力的数字孪生体,劳动对象则延伸至虚实融合的元宇宙空间。这种变革使得生产效率突破物理世界的资源约束,形成以算力密度、连接速度和智能精度为特征的新型价值创造模式。

资料来源https://mp.weixin.qq.com/s/eg8u7Q4ftSnXnC8xsRTHCg

7专题·反电诈 | 数字克隆人诈骗技术及其应对措施

深度伪造是一种基于人工智能的内容生成或篡改技术,通过算法对图像、视频、音频等多媒体内容进行高度逼真的合成、替换或修改,制造出虚假但难以分辨真伪的信息。虽然深度伪造技术为数字内容创作和娱乐产业注入了创新活力,但这一技术的滥用也催生了新型犯罪。近年来,利用语音克隆、视频合成、图像生成等人工智能技术实施的数字克隆人诈骗案件,在全球范围内呈现出爆发式增长的趋势,不法分子借助这些技术伪造政府官员、企业高管、亲朋好友等特定身份实施精准诈骗,不仅给受害者造成了巨额损失,更对社会的安全稳定构成了严重威胁,成为当前网络安全领域亟待解决的突出问题

资料来源:https://mp.weixin.qq.com/s/tpaiVbrcQt6beHKhHF8GZQ