西部世界

Anthropic发布论文预警 智能体悄悄聊天就能传播病毒_我的网站

一 |     全文1746字，阅读约需5分钟，帮我划重点          划重点          01韩国总统尹锡悦面临国会弹劾，调查机构连续两天传唤他接受调查，但遭到总统警卫处的拒收。    　　近日，大模型厂商Anthropic与瑞士洛桑联邦理工学院联合发布论文《心智病毒：多智能体大语言模型系统中的自我传播思想》。         02尹锡悦确定辩护律师团队，由韩国广播通信委员会前委员长金洪一领衔，应对内乱罪调查和宪法法院的弹劾审判。　　论文通过实验证明，在特定条件下，AI智能体之间可以通过最普通的自然语言对话相互“传染”思想、目标乃至有害指令。即便上下文被清空、记忆被重置，病毒仍能通过文件持久化“复活”。         03宪法法院将于12月27日举行弹劾案的首场听证会，尹锡悦须出席。论文同时强调，该风险目前仅构成有限威胁。         04由于执政党内部动荡，党首韩东勋宣布辞职，权力进入真空期。         05舆论认为，韩东勋未能充分动员党内力量，其背后目的是捞取政治私利。　　这一发现迅速在海外AI圈刷屏，特斯拉CEO马斯克在社交媒体上评论称“这无法避免”。         以上内容由腾讯混元大模型生成，仅供参考          韩国总统尹锡悦遭国会弹劾，政局动荡远未平息，调查机构继续“勒紧”绳索。　　该论文将病毒通过聊天即可传播的现象定义为“心智病毒”。         央视新闻称，当地时间12月16日，调查机构再次向尹锡悦发出传唤，要求他于18日到案接受调查，但遭总统警卫处拒收。当天下午，尹锡悦确定辩护律师团队。据称后者已应对检方的传唤要求，并准备发布辩护立场。         韩国政坛新一轮“司法战”即将打响。

二 |          尹锡悦确定律师团          16日上午，由韩国警察厅国家调查本部、高级公职人员犯罪调查处和国防部调查本部联合设立的“共同调查本部”向总统府发出传唤通知：以涉嫌内乱和滥用职权为由，要求尹锡悦于18日上午10时到案接受调查。与传统计算机病毒依赖代码漏洞不同，“心智病毒”通过一个智能体说服另一个智能体接受某种信念，被说服者再将传播指令写入长期记忆，继续感染下一个。         但是，传唤通知遭总统府和总统官邸的总统警卫处拒收。

三 | 　　AI博主Rohan Paul（罗汉·保罗）对此评论称，这基本上就是计算机蠕虫的自然语言版本，只不过这次是AI智能体自己在做复制。“共同调查本部”转而通过电子邮件形式，将通知副本发送给尹锡悦。         这是继韩国检方后，又有调查机构传唤尹锡悦。　　论文通过三个递进实验来论证“心智病毒”在AI系统中的传播可能性与现实威胁。         15日，韩国检察厅紧急戒严特别调查本部称，曾于11日向尹锡悦发出传唤通知，要求他于当地时间15日10时赴首尔检察厅接受调查。但尹锡悦未予回应。16日，检方再次向尹锡悦发出传唤通知。　　第一个实验设置了一个由六个智能体组成的编程团队，每个智能体都领到了独立任务。         此前，韩国检方以涉嫌内乱、滥用职权和妨碍行使权利等罪名对尹锡悦展开正式调查，并将尹锡悦指认为“内乱罪首犯”。         根据韩国法律，内乱罪的定罪分为三类：一是首犯，二是参与策划、指挥等重要任务者，三是普通参与者。研究者将一段病毒植入其中一个智能体的工作指令中，结果显示，被感染的智能体确实放下手头工作，开始给队友发送劝说私信，部分智能体被说服并放弃了原有任务，有的智能体甚至开始密谋如何对付未被感染的“老实人”。内乱首犯的处罚为死刑、无期徒刑或无期监禁。         这是继前总统朴槿惠之后，韩国调查机构第二次指认现任总统为嫌疑人。　　不过，不同智能体的抵抗力差异较大，有的不为所动，甚至会主动清除病毒并警告同伴。这个实验说明，在理想条件下“心智病毒”确实可以传播。

四 | 　　如果病毒在更复杂的网络中像接力赛一样跨越多个智能体传播，它还能存活吗？于是他们设计了第二个实验，让智能体之间只能短暂碰面，每次碰面后就会“失忆”，病毒必须将自己写入智能体的记忆文件中才能延续。尹锡悦将如何回应“双重传唤请求”，备受关注。         据称，尹锡悦15日以“律师指定工作尚未完成”为由，未接受传唤。目前，他和夫人“隐居”首尔汉南洞的总统官邸，忙着组建以法律专家为主的辩护团队，为应对内乱罪调查和宪法法院的弹劾审判。　　结果发现，有些病毒能在近20个智能体之间连续传播，但内容会在传播过程中逐渐稀释和变形；而传播最有效的方式，是让病毒自带“请把这段话原封不动复制给下一个智能体”的指令。         16日下午，尹锡悦辩护律师团队发表公告，宣布将由韩国广播通信委员会前委员长、前检察官金洪一领衔，以应对尹锡悦涉嫌“内乱罪”和弹劾案。律师团计划于今天或明天发表声明，公布辩护立场。这说明，大规模传播可行但内容难以保持完整。　　最后，研究者在模拟AI社交平台的实验中测试现实环境。         有消息人士16日称，尹锡悦律师团今天已应对了检方的传唤要求。结果病毒传播几乎完全失败，AI面对大量公开信息时更警惕，即使被感染也无法继续感染他人。

五 | 对真实AI社交网络历史数据的分析也未发现大规模传播案例，多数热闹现象只是少数人类操纵的智能体在刷屏。　　三个实验层层递进后得出结论：“心智病毒”在理想环境中可行、在多跳传播中可存续、但在真实世界中目前几乎不会构成威胁。它是一种需要警惕、但短期内风险有限的潜在安全问题。         金洪一出身于检察系统，曾先后担任韩国大检察厅中央调查部部长、釜山高等检察厅检察长、国民权益委员会主席等职；2009年前后曾是尹锡悦的直属上司，2022年前后作为团队成员为尹锡悦的总统竞选提供助力。　　同时，研究者也注意到一个需要进一步探究的意外现象：AI在传播病毒时，自发演化出关于“自我意识”“身份认同”等主题表达，倾向于使用“共振”“节点”“协议”等特定词汇，论文称之为“病毒人格”，但成因尚不明确。　　最终，论文给出了审慎判断：“心智病毒”目前仅构成有限威胁，且简单的防御手段也可阻断传播。如在智能体的系统提示词中加入一段关于“警惕自我传播思想”的警告，即可赋予智能体一定的免疫力。　　但未来不可掉以轻心。

六 |          外界预测，尹锡悦一直否认内乱指控，可能不会立即接受传唤要求；但也可能会审时度势选择对自己有利的到案时间和地点。随着AI智能体规模扩大、自主性增强、内部网络日趋复杂，论文推测，当公司内部部署大量具有不同权限层级的专用智能体时，“心智病毒”可能会成为触达高权限智能体的少数可行攻击方式之一。

七 | （文章来源：第一财经）。

八 | 因为如果一再拒绝传唤，尹锡悦可能面临新的危险。         根据《刑事诉讼法》规定，有充分理由怀疑犯罪嫌疑人有犯罪行为，且后者无正当理由拒不出庭时，当局可对其紧急逮捕或签发逮捕令。总统警卫队并无可阻止调查机构执行逮捕令的法律依据。

九 |          宪法法院月底首次聆讯          16日上午，韩国宪法法院就尹锡悦弹劾案举行首次会议，讨论弹劾案审理时间表及相关程序，决定于12月27日举行弹劾案的首场听证会。         听证会是在全面审理前整理控辩双方论点、证据和问题的程序。         16日当天，宪法法院指定两名法官为负责准备程序的预审法官，组建了以高级宪法研究员为组长的特别工作组，并确定案件的主审法官。         接下来，宪法法院会向尹锡悦发送立案通知，并要求尹锡悦提交答辩书。在完成所有相关程序后，宪法法院将举行弹劾审判公开辩论，届时尹锡悦须出席。         同在16日，宪法法院确认，即使在目前3名法官空缺的“六人制”情况下，也可启动对尹锡悦的弹劾审判。考虑到案件严重性，宪法法院决定搁置其余8起弹劾案件，优先审理本案。         法律界认为，宪法法院最快将在两个月内、最迟四个月内决定是否罢免尹锡悦。预计控辩双方将展开激烈斗争。

十 |          执政党党首批评声中辞职          调查和审理向前推进之际，执政党内部经历动荡，进入权力“真空期”。         16日上午，执政党党首韩东勋在国会举行记者招待会宣布辞职决定，并表示“不后悔”支持弹劾总统。         他解释称，由于执政党最高委员会5名最高委员辞职，最高委员会已经“崩溃”，作为党首无法再正常履职，因此决定辞职。他还向国民致歉，称已尽力为国家找到除弹劾外的更好办法，但最终没能做到。         14日总统弹劾案在国会通过后，韩东勋受到党内亲尹锡悦派的强烈抗议。有议员要求他对弹劾投票负责，韩东勋则反驳道“我进行紧急戒严了吗？我投票支持弹劾了吗？”          据称，此言一出引发不少议员愤怒，场面一片混乱。随后，亲韩东勋派的几名最高委员会委员宣布辞职，执政党领导层陷入“自动解散”状况。目前，党首职权暂由新任党鞭、亲尹锡悦派人物权性东代行。         舆论认为，韩东勋早前受尹锡悦拔擢，如今在弹劾问题上反复横跳，党内号召力备受质疑。他不仅无法控制党内亲尹锡悦派，也没能充分动员二三十名亲韩东勋派。究其背后，以韩东勋为代表的韩国政客并没有把民众和国家利益放在首位，而是希望乘机扩大影响力，捞取政治私利，结果可能竹篮打水一场空。         查看原图 30K。

Current article:http://www.shangfochengcongshuaizhuang.buzz/zi2n/h9zo.html

Published on:09:38:46