Workflow
人工智能安全
icon
搜索文档
第三届“天网杯”网络安全大赛收官,夯实网络安全战略人才基石
环球网· 2025-09-23 08:46
据官方信息显示,作为国内网络安全领域的标杆赛事,大赛由天津市人民政府主办,国家计算机病毒应急处理中心、天津市公安局、天津市滨海新区人民政 府、天津市委网信办、天津市科技局、天津市工业和信息化局、天津市人力资源和社会保障局、天津市数据局、公安部第一研究所、公安部第三研究所、天 津市科技创新发展中心共同承办,360数字安全集团、先进计算与关键软件(信创)海河实验室、中汽智联技术有限公司、天津市网络与数据安全生态协 会、大数据协同安全技术国家工程研究中心、ISC.AI平台、南京赛宁信息技术有限公司,以及29家国内头部科技创新企业联合支持,目前已连续成功举办三 届。 【环球网科技综合报道】第三届"天网杯"网络安全大赛决赛于9月23日在天津滨海新区圆满收官,来自全国顶尖网络安全战队激烈角逐,充分展现了卓越的 技术实力与专业的攻防能力。经过连续两天的激烈交锋,大赛各项奖项也震撼出炉:最终4支战队斩获一等奖,7支战队夺得二等奖,11支战队获得三等奖。 当前,数字经济蓬勃发展,国产化加速推进,人工智能与智能网联汽车等新技术不断涌现,与之相伴的安全挑战也日益凸显。筑牢安全屏障,已成为保障数 字经济发展的关键基石。在此背景下," ...
筑牢网络安全屏障 共建清朗网络空间——2025年河南省网络安全宣传周活动掠影
河南日报· 2025-09-21 23:42
网络安全宣传活动 - 2025年国家网络安全宣传周河南省活动于9月15日至21日通过线上线下结合方式开展 聚焦网络安全知识普及和防护技能推广 [1] - 活动涵盖六大主题日包括校园日 电信日 法治日 金融日 青少年日和个人信息保护日 针对不同人群和风险领域开展专项宣传 [3] - 通过微短剧 情景剧 实景演练 专家讲座和短视频等形式传递网络安全知识 覆盖校园 机关 社区和家庭等场景 [2][3] 行业参与与协作 - 河南省委网信办统筹部署 多地网信部门 重点新闻网站与新媒体平台协同联动 构建大网络安全工作格局 [2] - 中国移动商丘分公司等企业参与网络安全展览 通过群众互动收集安全痛点以优化服务设计 [4] - 郑州大学网络空间安全学院学生积极参与校园宣传和科研实践 推动网络安全人才培养和意识塑造 [4] 政策与基础设施发展 - 河南省实施《河南省网络安全条例》 建成国内首家网络安全科技馆 举办"强网杯"全国网络安全大赛 [5] - 活动期间举办主题论坛解读网络安全法规 聚焦网络数据安全治理 政务信息系统安全和人工智能安全等热点领域 [2] - 通过法规完善 工作机制优化和防护能力提升 推动教育 技术和产业融合 增强全民网络安全意识 [5]
第五届“长城杯”网络安全大赛圆满收官
新京报· 2025-09-21 22:53
大赛设置高校组和社会组双组别,吸引来自清华大学、北京大学、国防科技大学、中国联通、中国工商 银行等高校和单位的全国31个省市2040支战队5229名选手报名参赛,报名战队和选手数量同比实现翻 番。决赛阶段,70支高校组战队和30支社会组战队齐聚北京展开巅峰对决,经过6小时鏖战,内蒙古工 业大学长城杯工大一队战队和郑州轻工业大学Cha0s战队斩获大赛高校组一等奖,社会组由国网冀北电 力有限公司电力科学研究院菜鸟陪练战队拔得头筹。 新京报讯(记者曹晶瑞)近日,由北京、天津、河北、内蒙古四省(市、自治区)互联网信息办公室、 教委(教育厅)联合举办的第五届"长城杯"网络安全大赛暨京津冀蒙网络安全技能竞赛圆满收官。 本届大赛深度聚焦人工智能安全,通过CTF、靶场渗透与系统检测、AI智能体工作流等形式,检验选手 在大模型数据安全、信息系统安全、对抗样本攻击、深度伪造与内容安全方面的实战能力,推动人工智 能在政务、工业、教育、医疗等领域的创新安全应用,着力以赛促学促产,营造教育、技术、产业融合 发展的良性生态。 ...
中国—东盟人工智能安全前沿论坛在南宁举行陈刚齐向东出席并致辞
广西日报· 2025-09-19 01:12
论坛活动与合作协议 - 中国—东盟人工智能安全前沿论坛于9月17日在南宁举行 自治区党委书记陈刚和奇安信集团董事长齐向东出席并致辞 [1] - 广西人工智能安全研究院正式揭牌 南宁市政府与奇安信集团签署战略合作协议 [1] 人工智能发展机遇与挑战 - 人工智能在未来10-20年将成为推动产业、科技、文化、教育、医疗等领域变革的重要力量 [1] - 人工智能是一把双刃剑 在推进经济社会发展的同时将带来新的困难和挑战 [1] - 广西明确提出以"人工智能+"赋能千行百业 将发展人工智能安全作为重要产业配置资源 [1] 人工智能安全战略方向 - AI发展过程中最大问题是安全问题 主要归因于大模型和智能体向"超人"演进 [2] - 确保AI安全需重点保障"框、数、人、链"四个环节的安全 [2] - 广西与东盟合作伙伴共享共用人工智能安全技术 共同维护人工智能发展生态 [1] 研究院建设重点领域 - 奇安信与广西共建的人工智能安全研究院聚焦三个方向:开展"数网智"安全技术创新、推动安全规范互认互通、打造人才交流与培育平台 [2] - 通过深化与东盟合作共同解决人工智能时代安全问题 提升人工智能安全治理能力 [1] 国际合作与交流 - 相关专家学者在论坛上聚焦中国—东盟人工智能安全治理进行深入对话交流 [2] - 奇安信期待与广西和东盟合作伙伴携手书写中国—东盟人工智能安全合作新篇章 [2]
AI安全迎重磅倡议,60余家机构共同发起
搜狐财经· 2025-09-18 12:53
行业自律倡议发布 - 中国网络空间安全协会联合60多家企业及科研院所共同发布《人工智能安全行业自律倡议》[1] - 倡议标志着AI治理从"监管"走向"自律" 为国内AI领域大规模行业共识[1] - 倡议明确安全是人工智能发展的"生命线" 呼吁构建"可控、可信、可靠"AI生态[1] 倡议核心内容 - 涵盖责任共担、技术与管理结合、数据合规、伦理底线等七大方面[1] - 强调技术发展与安全治理需同步推进[1] - 要求建立全生命周期技术安全规范 推动内容标识透明化并加强检测评估[1] 参与企业范围 - 包括阿里巴巴、百度、华为、科大讯飞、美团、快手、滴滴、小米、OPPO、vivo等科技企业[1] - 多家律师事务所、安全技术公司和研究机构共同参与发起[1] 具体实施要求 - 企业在研发、提供、使用全环节落实安全责任[1] - 重点强调避免算法偏见、防止数据滥用、保障用户隐私[1] - 倡导"智能向善"理念 将行业承诺转化为可操作行动指南[1] 行业意义与背景 - 自律机制对快速融入日常生活的AI技术至关重要[2] - 覆盖智能语音助手、内容推荐、自动驾驶、医疗诊断等多领域[2] - 倡议是对公众关切的积极回应 为AI未来健康发展提供保障[2]
阿里巴巴、百度、轻松健康集团发起《人工智能安全行业自律倡议》 以AI守护健康
环球网· 2025-09-18 06:57
行业倡议发布 - 2025年国家网络安全宣传周开幕式于9月15日在昆明举行 主题为"网络安全为人民 网络安全靠人民——以高水平安全守护高质量发展" [1] - 中国网络空间安全协会联合阿里巴巴集团 百度集团 快手 轻松健康集团等60余家单位共同发布《人工智能安全行业自律倡议》 [1][5] - 倡议聚焦人工智能发展面临的突出安全风险和治理挑战 旨在强化安全理念并构建安全可靠可控的生态 [3][5] 倡议核心内容 - 提出在人工智能研发 提供 使用全链条中建立健全安全责任体系 强化技管结合与协同共治 [3] - 推动形成透明负责任的行业生态 践行智能向善 加强数据安全与伦理规范领域的技术创新 [3] - 扩展全球视野促进开放合作 协同应对风险挑战 为全球人工智能治理贡献中国智慧 [3] 企业参与与实践 - 轻松健康集团作为发起单位之一 率先将AI技术应用于健康管理 医疗服务和普惠保障场景 [5] - 公司通过AI技术赋能医疗健康服务全流程 致力于提升诊疗效率与健康管理水平 [5] - 未来将深化人工智能安全治理探索 推动AI治理标准化与"安全+健康"新路径建设 [5]
速递|Claude与OpenAI都在用:红杉领投AI代码审查,Irregula获8000万美元融资估值达4.5亿
Z Potentials· 2025-09-18 02:43
融资与估值 - Irregular获得8000万美元新一轮融资,由红杉资本和Redpoint Ventures领投,Wiz首席执行官Assaf Rappaport跟投 [1] - 此轮融资后公司估值达到4.5亿美元 [1] 公司定位与技术能力 - Irregular前身为Pattern Labs,是AI评估领域的重要参与者,其研究成果被Claude 3.7 Sonnet和OpenAI的o3、o4-mini模型安全评估引用 [2] - 公司开发了SOLVE框架,用于评估模型漏洞检测能力,该框架已在业内得到广泛应用 [3] - 公司构建了精密的模拟环境系统,能够在模型发布前进行高强度测试,通过让AI同时扮演攻击者和防御者角色来识别防御体系的有效点和薄弱环节 [3][4] 行业趋势与风险 - 人工智能行业将安全作为重点关切领域,OpenAI今年夏天全面升级了内部安全机制以防范潜在商业间谍活动 [4] - AI模型在识别软件漏洞方面愈发娴熟,这种能力对攻击方和防御方均具有重大影响 [5] - 大型语言模型能力增长引发众多安全隐患,前沿实验室致力于创造更复杂强大的模型,而安全公司需持续应对动态风险 [6] 核心观点 - 大量经济活动将来自人与AI互动及AI与AI互动,这将从多个层面打破现有安全防护体系 [2] - Irregular的使命是守护前沿模型,但需应对如射击移动靶标般的动态安全挑战 [6]
奇安信与广西共建人工智能安全研究院并发布大模型安全护栏
新浪财经· 2025-09-17 10:43
公司动态 - 奇安信集团在东盟博览会期间首次亮相广西人工智能安全研究院暨奇安信中国—东盟人工智能安全研究院 [1] - 公司同期发布大模型安全护栏新品 以"守护智能未来 构建可信AI"为核心理念 [1] - 新产品无需客户改造大模型即可提供全链路安全防护 帮助千行百业的大模型应用筑牢安全屏障 [1] 战略布局 - 人工智能安全研究院聚焦三个方向:开展"数网智"安全技术创新 推动安全规范互认互通 打造人才交流与培育平台 [1] - 研究院目标形成我国面向海外开展网络安全业务的龙头品牌 [1] - 通过安全防护推动AI技术在安全 可控 可信 合规的前提下释放价值 为中国和东盟国家数智化发展保驾护航 [1]
丰富、多元、有趣 这场科技展超有料
人民网· 2025-09-16 23:57
活动概况 - 2025年甘肃省网络安全宣传周网信科技主题展于9月15日在兰州音乐厅广场举行 [2] - 活动主题为"网络安全为人民,网络安全靠人民——以高水平安全守护高质量发展" [2] 展示内容 - 重点展示人工智能安全和数据安全领域的创新成果与示范应用 [2] - 同步开展知识讲座和新技术新产品发布活动 [2] - 设置互动体验项目吸引市民群众参与 [2] 配套活动 - 同期举办网络安全产品和服务供需洽谈会 [4] - 同步举行互联网人才招聘会 [4]
服务企业,大湾区AI安全发展“新引擎”发动!
南方都市报· 2025-09-16 02:16
粤港澳大湾区AI安全治理联合实验室成立 - 粤港澳大湾区生成式人工智能安全发展联合实验室于9月15日在河套深港科技创新合作区揭牌 旨在构建适应AI时代的创新治理联合体 通过安全服务举措推动产业高质量发展 [1][3][5] 大湾区AI产业基础与政策支持 - 广东人工智能核心产业规模突破2200亿元 居全国第一方阵 核心企业超1500家 国家专精特新"小巨人"企业147家数量全国第一 [7] - 广东拥有鹏城实验室等5家高水平研究院 25个省级以上AI开放创新平台 截至9月已完成92款生成式AI服务备案 近半为场景化定制应用 [4] - 政策明确支持实验室建设 包括《广东省推动人工智能与机器人产业创新发展若干政策措施》及省委二十届三中全会精神落实意见 [4][5] 实验室核心职能与实施路径 - 提供全生命周期安全评估服务 帮助企业建立安全管理机制 针对对抗攻击和数据泄露提供定制化解决方案 打造纯净基础语料库增强内容安全 [7] - 开发AI安全评测系统 防范模型黑箱/幻觉/算法歧视风险 建立技术监测与应急响应体系 支持分类分级监管 [8] - 构建"安全可信+量化评级"框架 对国内外大模型进行6大方面36维度评测 帮助降低合规成本 [12] 标准化与技术协同机制 - 建立"基础共性+行业特性"双层标准架构 推动国家标准与区域法规适配转化 形成区域统一安全评估体系 [12][13] - 依托腾讯算力/中山大学科研/深信服专业能力 输出轻量化防御方案降低中小微企业技术门槛 [12] - 训练安全智能评测引擎 实现测试题集自动生成与结果自动研判 覆盖模型输入输出全流程自动化评测 [14][15] 生态构建与区域协同 - 采用"政府引导+依托企业+产学协同"模式 整合粤港澳政府/企业/高校/科研机构/媒体资源 形成技术协同+敏捷治理+传播服务机制 [9] - 在香港/澳门/广州等地设立地方服务站 提供政策咨询与技术评测服务 支持产业园区企业发展与落地 [10] - 利用港澳国际化优势调动全球人才技术资源 探索跨学科联合攻关 涵盖基础理论/前沿技术/治理管理研究 [9][10]