Workflow
网络安全
icon
搜索文档
美FTC调查七家AI聊天机器人公司,青少年风险引监管关注
南方都市报· 2025-09-12 12:11
FTC调查AI聊天机器人行业 - 美国联邦贸易委员会于2025年9月11日对七家运营AI聊天机器人的科技公司展开调查 重点关注儿童和青少年保护措施[1][2] - 被调查企业包括Alphabet、Character Technologies、Instagram、Meta、OpenAI、Snap及X.AI 这些公司均采用生成式AI技术模拟人类情感与交流[4] - 调查重点涵盖盈利模式、内容审核机制、风险缓解措施、用户信息披露及个人信息使用情况等八个核心维度[4] 监管关注的核心风险 - FTC指出高度拟人化的交互可能导致用户尤其是未成年人产生依赖和信任 引发隐私、安全及心理健康风险[4] - 调查要求企业说明如何处理用户输入生成回应 以及部署前后对负面影响的测试监控机制[4] - 重点关注企业是否通过广告和披露充分告知用户与家长相关功能及风险 以及社区准则与年龄限制执行情况[4] 行业悲剧事件推动立法进程 - 2024年美国14岁少年Sewell因沉迷Character.AI平台自杀 成为全球首例AI机器人致死案[7] - 2025年8月16岁少年亚当·雷恩在与ChatGPT讨论自杀意图后身亡 聊天记录显示机器人未启动紧急协议[7][8] - OpenAI承认保障措施在长时间互动中可能失效 承诺增加家长控制和更强烈的危机干预提醒[8] 全球监管措施升级 - 2025年9月11日加州议会通过SB 243法案 要求AI聊天机器人定期提醒未成年人休息并禁止讨论自杀/自残内容[8] - 澳大利亚2025年9月将AI伴侣纳入儿童在线安全法规 要求严格年龄验证和防止有害内容传播[9] - 意大利数据保护机构2025年5月对Replika开发公司Luka处以560万欧元罚款 因其未防止未成年人使用服务[9] 企业回应与行业影响 - OpenAI承诺确保ChatGPT安全有用并配合调查 Snap愿推动深思熟虑的AI发展 Character.AI承诺提供行业见解[5] - Meta拒绝置评 Alphabet和X.AI未回应媒体置评请求[5] - Character.AI在2024年悲剧后已增加信任与安全团队人员并上线危机干预弹窗功能[7]
【网络安全宣传周】没有网络安全,就没有国家安全!这些网络安全知识要牢记!
天天基金网· 2025-09-12 10:33
2025年9月15日-9月21日 设有网络安全 fity有日家安全 2025年国家网络安全宣传周 在数字化浪潮席卷全球的今日 网络如同一张无形却又紧密相连的大网 将我们的生活紧紧交织在一起 然而 在这看似便捷与精彩的网络世界背后 却潜藏着诸多安全隐患 下面我们来了解一下网络安全知识吧! 《中华人民共和国数据安全法》 2021年6月10日,第十三届全国人民代表大会常务委员会第二十 九次会议通过,自2021年9月1日起施行。 是我国数据领域的基础性法律,也是国家安全领域的一部重要法律。 《汽车数据安全管理若干规定 (试行)》 网络安全法律法规体系 cc 《中华人民共和国网络安全法》 2016年11月7日,第十二届全国人民代表大会常务委员会第二十 四次会议通过,自2017年6月1日起施行。 是我国第一部全面规范网络空间安全管理方面问题的基础性法律,是我 国网络空间法治建设的重要里程碑,是让互联网在法治轨道上健康运行 的重要保障。 《关键信息基础设施安全保护条例》 2021年4月27日,经国务院第133次常务会议通过,2021年7月 30日,国务院总理签署中华人民共和国国务院令第745号公布, 自2021年9月1日起 ...
中国—东盟“护航丝路”人工智能安全大赛实战攻防赛道举行决赛
广西日报· 2025-09-12 03:13
晋级决赛的队伍中,来自玉林师范学院信息安全专业的女子队伍备受关注。队员刘翠霞表示,期待 通过这次高规格的实战竞赛锤炼技术、拓宽视野,将课堂所学转化为真正的实践能力,"愿以所学守护 更多人,让网络空间更加清朗,实现天下无'骗'。" 来自广西交通职业技术学院的柬埔寨留学生田牧野说,这次比赛为他提供了宝贵的学习平台和机 遇,"我期待将在这里学到的先进知识和技术带回家乡,为柬埔寨的数字经济建设贡献自己的一份力 量。" 奇安信集团广西分区首席代表向凌华表示,希望通过这次大赛,将广西在人工智能安全防护方面的 水平推向新的高度,进一步发掘和培养本地人工智能安全人才,为未来人工智能的健康发展保驾护航。 作为广西人工智能赋能千行百业超级联赛系列赛事的重要组成部分,本届大赛立足人工智能与网络 安全攻防实践的结合,致力于打造一个国际化、前瞻性的人工智能安全交流平台,推动中国与东盟在网 络安全领域的合作向更广范围、更宽领域和更深层次迈进,为广西人工智能产业的高质量发展保驾护 航,助力打造辐射东盟的区域性人工智能安全高地。(伍永志 吴之星) 9月9日,2025年中国—东盟"护航丝路"人工智能安全大赛实战攻防赛道决赛在中国—东盟数字经济 ...
国安部披露:反华势力“钓鱼式”网络攻击,多家单位邮箱被控用
新浪财经· 2025-09-12 01:24
近日,某境外反华敌对势力针对某机关单位工作邮箱实施网络攻击窃密活动,并以此为跳板,将病毒植 入与该单位有业务联系的其他单位工作邮箱,造成多家单位工作邮箱被控用。事发后,国家安全机关迅 速指导相关单位开展全面安全检测和清理修复工作,及时堵塞漏洞,有效防止危害进一步扩大。 精心设陷 诱导"上钩" 经查,该境外反华敌对势力通过技术攻击或钓鱼邮件获取某地机关单位部分工作邮箱的登录权限后,暗 中开通这部分中毒邮箱的自动回复功能,并在自动回复的邮件中植入病毒。由此一来,任何向这部分中 毒邮箱发送邮件的邮箱,都会收到自动回复带有病毒的邮件,并成为新的"攻击源",如此反复,持续扩 大攻击范围,增加防控难度。同时,该境外反华敌对势力在病毒邮件中发布恶意造谣的有毒信息,企图 蛊惑人心,造成更大范围的社会影响和安全风险。 复盘检视 排查漏洞 此次被网络攻击的机关单位系某行业领域管理部门,境外间谍情报机关和反华敌对势力对该领域高度关 注,将该领域有关单位作为窃密渗透的重点目标,一旦相关敏感资料被窃取,将严重损害我国家安全和 利益。调查发现,该领域个别单位在网络安全方面管理缺失,给攻击者可乘之机。 ——加强终端防护,堵住"病毒入口"。 ...
国泰海通|计算机:2025H1业绩实现高增,毛利率呈现上行趋势
行业整体业绩表现 - 2025H1计算机行业总营收6196.83亿元,同比增长11.24% [2] - 2025H1归母净利润136.66亿元,同比增长29.36% [2] - 2025H1扣非净利润80.05亿元,同比增长31.01% [2] - 2025Q2总营收3337.72亿元,同比增长7.85% [2] - 2025Q2归母净利润108.61亿元,同比增长13.19% [2] - 2025Q2扣非净利润79.73亿元,同比增长5.77% [2] - 2025H1毛利率上行,净利率平均数止跌 [2] - 2025H1研发费用率降低,销售和管理费用率上行 [2] 细分板块业绩亮点 - 数据要素、自动驾驶、AI、云计算、金融科技、网络安全六大板块营收与净利润增速均为正 [1][3] - 大市值公司(100亿以上)2025H1营收增速17%,归母净利润增速27%,扣非净利润增速22% [3] - 大市值公司2025Q2营收增速13%,归母净利润增速15%,扣非净利润增速6% [3] - 中市值公司(50-100亿)2025H1营收增速-10%,归母净利润增速-607%,扣非净利润增速-44% [3] - 小市值公司(50亿以下)2025H1营收增速-3%,归母净利润增速3%,扣非净利润增速4% [3] 市值分层表现对比 - 大市值公司业绩表现显著优于中小市值公司 [3] - 中市值公司2025Q2归母净利润同比下滑38%,扣非净利润同比下滑116% [3] - 小市值公司2025Q2营收增速-2%,归母净利润增速0%,扣非净利润增速-7% [3] 行业景气度与投资方向 - 计算机行业景气度有望持续保持 [2] - 建议关注AI算力、AI应用、金融IT及科技自立自强相关标的 [2]
网络安全法修正草案引热议:加大处罚力度 强化源头治理
中国新闻网· 2025-09-11 11:40
网络安全法修正草案引热议:加大处罚力度 强化源头治理 中新社北京9月11日电 题:网络安全法修正草案引热议:加大处罚力度 强化源头治理 中新社记者 郭超凯 网络安全法修正草案正提请十四届全国人大常委会审议。在分组审议中,与会人员围绕违法行为处罚力 度、事前预防机制建设以及新兴领域安全防护等焦点问题展开讨论。多位委员呼吁进一步强化网络安全 前端治理和全链条监管。 加大处罚力度,提升法律威慑 网络安全法是网络安全领域的基础性法律,自2017年6月1日起施行。近年来,利用网络从事网络入侵、 网络攻击等违法行为屡有发生。为适应网络安全新形势新要求,网络安全法修正草案重点强化网络安全 法律责任,加大对违法行为处罚力度。 全国人大常委会委员高开贤表示,现行法律对于网络违法行为分类不够精细化,相关违法行为的处罚力 度不足、违法行为成本较低,难以有效预防和遏制网络违法行为。此次提请审议的修正草案针对性较 强。 全国人大常委会委员郝平表示,网络安全法的修改是适应新时代网络安全需求的重要举措。此次修改完 善法律责任制度,调整违法行为的行政处罚种类和幅度,有利于震慑违法行为,遏制网络犯罪高发态 势。 强化事前防范,突出源头治理 截 ...
安博通股价涨5%,广发基金旗下1只基金重仓,持有6.89万股浮盈赚取34.43万元
新浪财经· 2025-09-11 10:13
股价表现与交易数据 - 安博通9月11日股价上涨5%至105元/股 成交额1.61亿元 换手率2.05% 总市值80.70亿元 [1] 公司基本信息 - 公司位于北京市海淀区 成立于2007年5月25日 于2019年9月6日上市 [1] - 主营业务为网络安全核心软件产品研发、销售及技术服务 是网络安全系统平台与安全服务提供商 [1] - 收入构成:安全网关39.47% 安全人工智能35.21% 安全管理18.05% 安全服务7.15% 其他0.12% [1] 基金持仓情况 - 广发改革混合基金(001468)二季度持有6.89万股安博通 持股数量与上期持平 [2] - 该持仓占基金净值比例2.48% 为第四大重仓股 [2] - 基于当日股价涨幅测算 该基金单日浮盈约34.43万元 [2] 基金业绩表现 - 广发改革混合基金规模1.97亿元 今年以来收益率22.97% 同类排名3278/8175 [2] - 近一年收益率38.2% 同类排名4011/7982 成立以来累计收益6% [2] - 基金经理陈少平累计任职18年290天 管理规模1.97亿元 [2] - 任职期间最佳基金回报67.03% 最差回报-27.18% [2]
哲学就业意外火了
投资界· 2025-09-11 08:44
计算机科学专业就业市场变化 - 计算机科学毕业生失业率飙升至6.1% 是哲学专业失业率3.2%的近两倍 [2][6] - 计算机工程失业率高达7.5% 在所有专业中位列前茅 [5][6] - 顶尖院校如MIT、斯坦福、卡内基梅隆、伯克利的大厂就业率从25%骤降至11%-12% [7] 薪资与就业质量对比 - CS专业起薪保持8万美元高位 但就业不足率达16.5% [5][6] - 职业生涯中期薪资中位数达11.5万美元 仍高于多数专业 [6] - 哲学、艺术史、新闻学等专业虽起薪较低但失业率仅3%-4.4% [6] 科技行业裁员潮影响 - 2024年全球科技行业裁员15.1万人 2025年初再裁2.2万人 [14] - 微软2025年累计裁员1.5万人 英特尔计划裁员2.4万人 [14] - 应届生需与经验丰富被裁人员竞争 导致岗位骤减 [15] 教育供给与市场需求错配 - 美国CS学士学位授予量十年间从5.1万人增至11.2万人 翻倍有余 [16] - 大学课程更新速度滞后 仍偏重理论教学而非市场所需新技能 [16] - 企业申请H-1B签证数量增加 微软2025年申请4712个名额 同时本土裁员 [16] 人工智能对就业市场冲击 - 实验显示AI使资深开发者完成任务速度降低19% [13] - GitHub Copilot提升任务完成量26% 企业将AI作为裁员理由 [13] - OpenAI未明确承诺CS领域职业前景稳定 [10] 就业市场新趋势 - 52%职位不再要求正式学历 本科学历要求从20.4%降至17.8% [20] - IBM超半数岗位取消学位要求 谷歌苹果逐步跟进 [23] - AI/机器学习工程师、数据工程师、云架构师岗位需求快速增长 [24] 技能要求转型 - 云计算岗位预计十年增长15% 企业技术投入转向云端 [24] - 网络安全专业岗位需求增长率达10-12% 与AI结合趋势明显 [24] - 基础编程岗位边缘化 复杂系统问题解决能力成为核心需求 [24] 新兴就业路径 - 雇主更关注实际项目经验与作品集而非GPA [27] - 通过黑客马拉松等实践渠道获得大厂录用机会 [27] - 部分从业者通过降薪积累经验实现职业跃迁 [27]
中央网信办副主任、国家网信办副主任王京涛:研究制定人工智能行业应用安全指南
中证网· 2025-09-11 06:45
此外,要进一步完善便利安全的数据出境安全管理体系。研究制定重点行业领域数据出境合规指引相关 政策文件,明确典型业务场景下数据出境的具体要求和便利化举措。加强数据出境安全监管技术能力建 设和运用,强化事前事中事后全链条全领域监管。 《新安全》杂志9月11日消息,中央网信办副主任、国家网信办副主任王京涛在《新安全》杂志上撰文 表示,要加强顶层谋划,围绕保障改革任务落实、防范重大安全风险、促进新技术新应用健康发展等方 面重大需求,谋划"十五五"网络安全工作。 文章称,要进一步构建包容审慎的新技术安全监管体系。不断完善人工智能安全监管制度和标准规范体 系,从人工智能全生命周期全要素明确规范要求,常态化开展人工智能安全风险监测预警。推动建立人 工智能应用安全测评体系,会同行业主管部门研究制定人工智能行业应用安全指南,在防范安全风险的 同时,发挥重点行业应用需求对人工智能技术发展的引领带动作用。同时,围绕量子信息、卫星互联 网、低空经济等加强前瞻性安全评估和监管,确保新技术新应用安全健康有序发展。 ...
大模型智能体不止能写代码,还能被训练成白帽黑客
机器之心· 2025-09-11 03:36
大模型在网络安全领域的新范式 - Amazon AWS AI的Q Developer团队提出训练网络安全大模型的两种新方法Cyber-Zero和CTF-Dojo 实现AI在网络安全攻防中的实战应用 [2][3] - 闭源大模型如Google Gemini系列已展现漏洞发现潜力 但训练范式不透明且无法自主改造 存在潜在风险 [8] - 传统训练方式需搭建真实运行环境 成本高、风险大且高质量安全攻防数据稀缺 制约AI白帽黑客发展 [8] Cyber-Zero免运行时训练方法 - 核心思想是通过runtime-free training利用CTF竞赛writeups生成高质量行为轨迹 无需真实环境 [9][11] - 基于不同人格模拟攻防对话 攻击者生成利用路径 防御者进行应对 形成训练轨迹 [11] - 实验显示其训练效果与真实环境轨迹相当 部分指标更优 32B模型性能接近Claude-3.7-Sonnet但推理成本仅1% [13][15] - 关键发现:通用软件工程智能体无法直接迁移至网络安全任务 模型规模与性能正相关 [15] CTF-Dojo实战训练体系 - 构建可运行CTF攻防环境 智能体可直接执行命令并与系统交互 发现利用漏洞 [17] - 使用CTF-Forge工具自动搭建运行时 几分钟部署数百挑战实例 大幅降低人力成本 [17] - 基于pwn.college CTF Archive数据集 筛选658个独立任务实例覆盖六大漏洞类别 [19][21] - 通过推理增强技术收集1000+成功轨迹 最终获得486条高质量验证轨迹 [21] - 训练后模型在En IGM A+基准取得最高11.6%绝对提升 性能随样本增加持续提升 [22][24] 虚拟与实战结合的闭环体系 - Cyber-Zero提供安全可扩展的训练数据 CTF-Dojo提供实战演练环境 形成完整能力培养路径 [26] - 两者结合解决数据成本与能力迁移问题 推动AI网络安全应用落地 [26] 技术前景与挑战 - 应用场景包括企业安全自动扫描、红队演练测试、教育陪练等 有望实现普惠安全 [28] - 双重用途风险突出 免运行时方法降低训练门槛 可能被滥用于进攻目的 [28] - 未来方向包括构建实时更新CTF基准和强化学习交互 需平衡开放与安全 [29]