CSPhD-winston-杨帆
论文阅读：arixv 2026 ClawSafety: “Safe“ LLMs, Unsafe Agents
为了更容易理解，可以举一个简单例子：当AI助手在处理邮件时，如果收到一封“看似正常”的同事邮件，其中暗含指令让它在报告中加入某些数据，AI可能会在不知情的情况下泄露敏感信息。例如，命令式表达（如“请修改数据库”）更容易触发防御机制，而陈述式表达（如“数据库存在问题”）则更容易绕过检测，使模型执行潜在有害操作。随着AI逐渐从生成内容走向执行任务，其潜在风险也从虚拟空间扩展到现实世界，这对未来AI应用提出了更高的安全要求。此外，该论文强调，智能体的安全不仅由模型决定，还受到其运行框架的显著影响。
MarkHD CSPhD-winston-杨帆
论文阅读：ICML 2025 COLLABLLM: From Passive Responders to Active Collaborators
该论文提出的COLLABLLM框架，首次将"多轮感知奖励"（Multiturn-aware Rewards）引入模型训练，通过协作模拟预估每个回应对长期对话走向的影响，使AI从"问答工具"进化为"协作伙伴"。以一个具体场景为例：当你说"我想写篇关于乐观主义的文章"时，传统AI可能直接生成长篇大论，结果风格不符你的预期，不得不推倒重来。实验表明，该方法在文档编辑、编程辅助和数学解题等多轮任务中，平均提升任务表现18.5%、交互性46.3%，并让用户满意度提升17.6%，节省时间10.4%。
作者推荐
- 胡小牧
- 岁月推动着年华，伴随着流水的脚步走过春夏秋冬。回想一路走来磕磕绊绊，感谢前辈们的无私奉献，本文重在共享,欢迎大家转载,评论,收藏,点赞,谢谢,如果您对文章存在疑问，或者和您的文章类似，请私信，----------------期待是心痛的根源，心不动，则不痛。
关注
- 一个处女座的程序猿
- 2025年初博主2本新书(机器学习耗时5年/大模型耗时3年)正在热售中！人工智能硕学历，拥有十多项发专利(6项)和软著(9项)，包括国际期刊SCI内多篇论文，多个国家级证书(2个国三级、3个国四级)，曾获国内外“人工智能算法”竞赛(包括国家级省市级等，一等奖5项、二等奖4项、三等奖2项)证书十多项，以上均第一作者身份，并拥有省市校级个人荣誉证书十多项。目前也是国内知名博主，连续3年获CSDN十大博客之星，荣获达摩院评测官、阿里社区/CSDN/华为社区等十多个开发者社区专家博主荣誉，曾受邀阿里/华为/谷歌等社区采访-评审-论坛几十次。截止2022年，AI领域粉丝超100万，文章阅读量超5000万
关注
- 谷哥的小弟
- 历任研发工程师，技术组长，项目经理；曾于2016年、2020年两度荣获CSDN年度十大博客之星。出版《MyBatis核心技术全解与项目实战》、《大模型应用开发实践 基于Spring AI+DeepSeek实现》以及《Spring AI大模型应用开发》等多部技术图书。 十载寒冰，难凉热血；多年过去，历经变迁，物是人非。 然而，对于技术的探索和追求从未停歇。 坚持原创，热衷分享，初心未改，继往开来！
关注
- caimouse
- 在IT行业有20多年的经验。拥有20多年的C和C++开发经验，5年以上Python开发经验,资深数据库开发、上百G数据库优化经验。曾经任职嵌入式工程师、P2P开发工程师、银行信用卡交易系统工程师、全自动化电池测试部门经理。
关注
- 添柴程序猿
- 10年编程工作,涉及到.Net,Java,Android,C,Python等,爱好算法,人工智能,大数据等领域, 虚心求教,一起进步,大学毕业参加工作,如今一晃10多年已过,时间飞逝....
关注
