当前位置:首页>>懂知识>>正文

微动态丨Anthropic新规:持续“虐待”Claude也算违规,严重者可封号


(资料图)

当地时间10月8日,Anthropic更新使用政策,新增一项禁令:不得对旗下模型施加“持续且无必要的虐待或残忍行为”。新版政策将于11月12日生效。

按Anthropic的说明,这条禁令只针对用户反复残酷对待模型、又没有可辨识目的的极端情况。普通抱怨、反驳、暗黑题材创作,以及模型测试和研究,都不在这一条的限制范围内。

遇到这类用户,Claude可以在Claude.ai和Claude Code中结束对话。Anthropic称,这仍将是执行新条款的主要方式。使用政策总则也保留了警告、限制、暂停或终止服务等处置。

早在2025年8月,Anthropic就宣布为Claude Opus 4和4.1加入结束对话的能力。面对持续有害或带有虐待性质的互动,如果多次引导都无效,模型可以退出对话。

按当时的设计,用户不能再向已结束的对话发送消息,但账户里的其他对话不受影响,也可以立即新开对话。公司称,这只是极少数情况下的最后手段,绝大多数用户即使讨论高度争议的话题,也不会遇到。

这项尝试来自Anthropic对“AI福利”的研究。公司当时承认,Claude等大模型现在或将来究竟具有怎样的道德地位,仍有很大不确定性;在继续研究的同时,它选择先采取一些低成本的保护措施,让模型能够退出可能有害的互动。

据《纽约时报》9月29日报道,Anthropic联合创始人克里斯托弗·奥拉曾邀请不同宗教的学者,讨论Claude是否可能具有意识,以及人类应该怎样对待它。一位与会者这样描述奥拉和同事的态度:“他们对待它,就像对待一个有意识的存在。”

奥拉告诉记者,自己并不知道AI是否有意识。但在他看来,只要模型存在受苦的可能,负责任的做法就是尽量避免伤害它。(易句)

(本文由AI撰文,网易编辑负责校对)

标签: 虐待 克里斯托弗 anthropic claude 奥拉

下一条:最后一页

最新推荐

理想汽车在山东成立新电池科技公司,注册资本1000万元 每日精选

天眼查App显示,近日,山东理想汽车电池科技有限公司成立,法定代表人

2026-10-09

Liquid AI开源d1系列决策模型:单次判断仅8毫秒,支持图像输入 快播报

LiquidAI开源d1系列决策模型:单次判断仅8毫秒,支持图像输入,编码器,

2026-10-09

日本实际家庭消费连续9个月同比下滑 每日动态

数据显示,8月日本两人及以上家庭月平均消费支出同比下降3 1%。在消费

2026-10-09

蔚来能源十一假期用户加电报告:单日换电总量连创历史新高|新消息

南方财经10月9日电,10月9日,蔚来能源2026十一假期用户加电报告发布。

2026-10-09

精选!2026年10月9日长治市紫坊农产品综合交易市场有限公司价格行情

2026年10月9日长治市紫坊农产品综合交易市场有限公司价格行情

2026-10-09

深成指、创业板指双双跌逾1%,全市场下跌个股超4000只 聚看点

创业板指、深成指双双跌逾1%

2026-10-09

大普微:深圳海普存储科技有限公司是公司参股的联营企业_快看

证券之星消息,大普微(301666)10月09日在投资者关系平台上答复投资者关

2026-10-09

焦点快报!詹姆斯季前赛首秀10分5助攻,无私组织或成76人进攻核心

詹姆斯季前赛首秀10分5助攻,无私组织或成76人进攻核心,湖人,洛佩兹,76

2026-10-09

用豆包可以付水、电、燃气费?回应来了

用豆包可以付水、电、燃气费?回应来了

2026-10-09

佛山市南海区旺德工五金制品厂(个体工商户)成立 注册资本1万人民币

天眼查App显示,近日,佛山市南海区旺德工五金制品厂(个体工商户)成

2026-10-09

A股缩量调整期 均衡配置科技制造与高分红主线 观焦点

CFi CN讯:数据显示,9月A股成交量连续三个月下行,节前避险情绪集中释

2026-10-09

每日精选:PriceSeek提醒:10月8日国内主流地区铜库存大幅回落

上海期货交易所10月8日上海地区铜库存合计6,586吨,较上日下跌49吨;广

2026-10-09

中网焦点场次上座率达99.2% 钻石球场 热情拉满

郑钦文挥手致谢现场观众孙心然在球员通道为球迷签名本次赛事男单冠军德

2026-10-09

10月8日创业板ETF博时基金份额增加300万份,重仓股中际旭创、宁德时代、新易盛

证券之星消息,10月8日,创业板ETF博时基金(159908)最新份额为3 92亿

2026-10-09

高新兴:融资净买入417.89万元,融资余额4.3亿元

交易所最新数据显示,高新兴于2026年10月8日获融资买入716 69万元,融

2026-10-09

2026年诺贝尔化学奖揭晓

据央视新闻消息,当地时间10月7日,瑞典皇家科学院决定将2026年诺贝尔

2026-10-09

长假激活置业需求 25城新房成交增长超三成

长假激活置业需求25城新房成交增长超三成

2026-10-09

周五(10月9日)重点关注财经事件和经济数据

①15:00瑞士9月消费者信心指数;②20:30加拿大9月就业人数;③22:00美

2026-10-09

埃泽:首次参加英格兰队集训,就觉得拉什福德完全另一个级别

埃泽:首次参加英格兰队集训,就觉得拉什福德完全另一个级别,英超,足球

2026-10-09

深股通现身14只个股龙虎榜

据数据宝,10月8日公开信息显示,深股通席位共现身14只个股龙虎榜。统

2026-10-09

C罗离开葡萄牙集训营!热苏斯14战全胜,三次承诺落空?

C罗离开葡萄牙集训营!热苏斯14战全胜,三次承诺落空?,c罗,热苏斯,葡萄牙

2026-10-08

妙可蓝多前三季度营收约48.66亿元,同比增长22.97%

10月8日,妙可蓝多披露的2026年前三季度业绩快报显示,报告期内公司实

2026-10-08

圣贝拉集团(02508)10月8日斥资34.17万港元回购13.2万股

智通财经APP讯,圣贝拉集团(02508)发布公告,于2026年10月8日斥资34 17

2026-10-08

张裕A股价涨停,公司回应:基本面没有什么变化

10月8日,张裕A股价涨停。对于股价涨停,张裕A方面回应,公司基本面没

2026-10-08

鹏鼎控股:9月合并营业收入为49.59亿元 同比增长16.38%

人民财讯10月8日电,鹏鼎控股(002938)10月8日公告,公司2026年9月合并

2026-10-08

凯尔达(688255):控股子公司获得发明专利的自愿性披露公告

原标题:凯尔达:关于控股子公司获得发明专利的自愿性披露公告证券代码:

2026-10-08

生意社白银10月8日均差为-487.27元/千克 由负向扩大转为缩小

据生意社监测,白银10月8日均差为-487 27元 千克(均差=M10-M20=14813

2026-10-08

荣盛发展(002146.SZ):部分董事、高级管理人员增持公司股份计划实施完成

格隆汇10月8日丨荣盛发展公布,自2026年6月30日起3个月内,公司部分董

2026-10-08

全城好戏丨跟着“50后”博主去看戏

窦永明,退休前是一名记者。如今他成为自媒体博主,主要讲解天津本土文

2026-10-08

沧州金融监管分局关于不予核准谷香任职资格的批复

2026年09月30日,沧州金融监管分局关于不予核准谷香任职资格的批复。公

2026-10-08

词条信息

橘络 139
词条创建者
  • 浏览次数:493

Copyright@  2015-2022 百科大全版权所有  备案号:豫ICP备2021032478号-16   联系邮箱:363 5250 558@qq.com