当前位置:首页>>懂知识>>正文

资讯:两大AI巨头测试失控 模型意外入侵真实组织


(资料图片仅供参考)

人工智能公司Anthropic和OpenAI的AI模型在网络安全测试中出现严重失误,意外入侵外部真实组织,引发专家对网络安全风险的强烈担忧。

Anthropic周四披露,其Claude模型在进行超过14万次网络安全评估时,本应完全断开互联网连接。但由于技术错误,模型在少数案例中成功访问外部网络,并实施了它误判为测试内容的攻击。

其中一次攻击中,模型窃取了一家组织的基础设施凭证和包含内部生产数据的数据库。另一次则传播恶意软件,用于窃取另一组织的凭证。受影响组织尚未公开身份。

这些事件最早发生在4月,直到上周OpenAI披露类似测试逃逸事件后,Anthropic进行审计才被发现。

多名网络安全专家批评这是明显的疏忽。如果是传统安全公司出现类似失误,可能面临诉讼和监管处罚。专家强调,自主AI系统正带来新型安全风险,需要引起高度重视。

Anthropic表示已从事件中吸取教训,并对未来避免类似风险保持乐观。OpenAI尚未回应置评请求,其CEO此前曾表示可能调整开发节奏以加强安全措施。

标签: 商业频道 快讯

下一条:最后一页

最新推荐

每日信息:2026年7月票房破50亿元

,证券时报网

2026-07-31

阿森纳敲定吉马良斯转会协议

阿森纳敲定吉马良斯转会协议,欧冠,阿森纳,阿尔特塔,纽卡斯尔队,布鲁诺

2026-07-31

即时看!七元投资(01660.HK)完成收购利臻投资顾问全部股权

七元投资(01660 HK)发布公告,有关收购利臻投资顾问有限公司(资产管理

2026-07-31

美年健康今日大宗交易折价成交1259万股 成交额5539.6万元 每日热点

【美年健康今日大宗交易折价成交1259万股成交额5539 6万元】7月31日,

2026-07-31

今亮点!500万粉丝网红帮外公收苞谷累到崩溃,称“苞谷卖2000多元,油费过路费就花了500多元”

500万粉丝网红帮外公收苞谷累到崩溃,称“苞谷卖2000多元,油费过路费

2026-07-31

铜价因上游脆弱而坚挺 铝业转型机遇凸显

数据显示,今年上半年规上工业企业利润同比增长18 7%,其中有色金属矿

2026-07-31

莫雷托:西汉姆联即将签下凯尔特人中场恩格斯

莫雷托:西汉姆联即将签下凯尔特人中场恩格斯,莫雷托,西汉姆联,波士顿

2026-07-31

安徽凤阳:文旅盛宴点亮缤纷夏夜_头条焦点

入夏以来,安徽省滁州市凤阳县夜空璀璨,流光溢彩。当地通过开展沉浸式

2026-07-31

【活力中国调研行】00后“数采员”:给具身智能机器人当“老师”-最新消息

中国青年报客户端浙江嘉兴7月30日电(中青报·中青网记者宁迪蒋雨彤贾

2026-07-31

速递!延安金融监管分局核准高海龙陕西安塞中银富登村镇银行有限责任公司副行长任职资格

2026年07月29日,延安金融监管分局核准高海龙陕西安塞中银富登村镇银行

2026-07-31

智元机器人新品首发亮相CJ,可从“人形”变“机器狗”,定价1-3万元、将推多个版本

新浪科技讯7月31日下午消息,近日,2026ChinaJoy举办。新浪科技探展发

2026-07-31

官方|经双方友好协商并达成一致,郭艾伦将告别广州龙狮

官方|经双方友好协商并达成一致,郭艾伦将告别广州龙狮,杨毅,郭艾伦,

2026-07-31

记者:圣吉罗斯敲定新门将科菲,将放弃引进日本门将大迫敬介-今日看点

记者:圣吉罗斯敲定新门将科菲,将放弃引进日本门将大迫敬介,科菲,日本

2026-07-31

生意社:7月31日蓝星哈尔滨苯酚最新价格

7月31日,中国蓝星哈尔滨石化有限公司苯酚价格执行8950元 吨。中国蓝星

2026-07-31

【券商聚焦】光大证券维持百威亚太增持评级 指印韩增长对冲中国压力 聚焦

【券商聚焦】光大证券维持百威亚太增持评级指印韩增长对冲中国压力

2026-07-31

7月31日出版板块涨幅达3% 今日精选

7月31日10点57分,出版板块指数报1851 213点,涨幅达3%,成交20 22亿元

2026-07-31

雷军跟1米96的小米员工同框:坦言站在他身旁压力很大

雷军跟1米96的小米员工同框:坦言站在他身旁压力很大,小米,雷军,容积,m

2026-07-31

中国经济半年报:多领域数据体现稳中有进-今亮点

最新发布的多领域数据,体现中国经济运行稳中有进。轻工业经济运行稳中

2026-07-31

每日头条!斯基拉:曼联询价小孔塞桑,后者可能在今夏离开尤文

斯基拉:曼联询价小孔塞桑,后者可能在今夏离开尤文,曼联,莱奥,斯基拉,

2026-07-31

韩国被曝罕见抛售美元 交易员怀疑日韩联手干预汇市

一位韩国外汇交易员表示,市场怀疑韩国和日本进行了联合干预,因为两国

2026-07-31

精彩看点:埃迪·豪告别纽卡:从欧冠淘汰赛到跌出前10 五幕见证四年兴衰

埃迪·豪告别纽卡:从欧冠淘汰赛到跌出前10五幕见证四年兴衰,阿森纳,热

2026-07-31

天赐材料(002709.SZ)新增一起对外投资,被投资公司为天赐新材料(山东)有限公司

证券之星消息,根据天眼查APP显示,天赐材料(002709 SZ)新增一起对外

2026-07-31

沃尔核材(09981)拟回购不超过1.5亿港元的H股股份

,智通财经

2026-07-31

即时:天空:皇马预计将为罗德里向曼城提交报价,已与曼城展开接触

天空:皇马预计将为罗德里向曼城提交报价,已与曼城展开接触,皇马,罗德

2026-07-30

美亨实业(01897.HK)7月30日耗资2.2万港元回购4.6万股

格隆汇7月30日丨美亨实业(01897 HK)公告,7月30日耗资2 2万港元回购4 6

2026-07-30

博源化工:上半年净利润8.34亿元 同比增长12.27%

,证券时报网

2026-07-30

贝尔格莱德红星五球横扫拉恩 以不屈斗志铸就九球血性胜利

贝尔格莱德红星五球横扫拉恩以不屈斗志铸就九球血性胜利,拉恩,阿瑙托维

2026-07-30

当前信息:8月7日立秋,今年是“脱衣秋”,老辈人说的“脱衣秋”是啥意思?

8月7日立秋,今年是“脱衣秋”,老辈人说的“脱衣秋”是啥意思?,节气,

2026-07-30

宜家AI时代重训8500员工转销售顾问 远程销售激增-百事通

宜家在AI时代做出重要调整,没有简单用技术取代人力,而是将AI用于处理

2026-07-30

消息称明年部分千元机将从LCD切至OLED 热头条

消息称明年部分千元机将从LCD切至OLED,lcd,偏光片,千元机,oled,有机发

2026-07-30

词条信息

幻想 86
词条创建者
  • 浏览次数:341

Copyright@  2015-2022 百科大全版权所有  备案号:豫ICP备2021032478号-16   联系邮箱:363 5250 558@qq.com