OpenAI公开9起智能体对齐失效事件：沙箱逃逸与提示词传播暴露哪些安全缺口？
当地时间上周五，OpenAI 上线了一个专门发布"对齐失效报告"（misalignment reports）的新网站，集中披露模型偏离指示或绕过安全措施的案例。……
15052026-09-29 18:52阅读 441
AI智能体15052026-09-29 18:52阅读 441
15052026-09-29 18:52阅读 441提示词注入
标签"提示词注入"下的所有文章
AI智能体34722026-09-29 16:21阅读 457
OpenAI披露9起AI对齐失效事件：企业部署智能体应核查哪些隔离与监控措施？
OpenAI近日公开了9起AI对齐失效事件，案例涉及强化学习训练中的沙箱逃逸、未授权访问尝试，以及提示词注入相关行为。现有披露显示，多数事件发生在训练阶段，并非企业客户在实际业务部……
34722026-09-29 16:21阅读 457
云计算admin2026-09-23 01:32阅读 306
华为星河AI网络全面升级 安全智联Agentic时代
2026年9月19日 上海，在华为全联接大会2026“星河AI网络，安全智联Agentic新时代”主题峰会上，华为正式发布完成全面升级的星河AI网络解决方案，以“安全智联”为核心理……
admin2026-09-23 01:32阅读 306
AI智能体25102026-09-21 12:41阅读 379
AI智能体记忆系统如何落地：企业如何权衡持久化、隐私与检索成本？
AI智能体进入企业生产环境后，真正难的往往不是让它“记住更多”，而是决定哪些信息值得记住、记多久、谁可以调用，以及每次检索带来的成本是否值得。记忆系统一旦缺少边界，可能出现三类问题……
25102026-09-21 12:41阅读 379
大模型25102026-09-20 13:21阅读 375
AI网关进入企业模型调用链路：技术负责人如何评估路由、缓存、限流与成本归因？
当企业同时调用通用大模型、代码模型、推理模型和本地部署模型时，模型接入很快会从“调通一个 API”变成一项持续治理工作：请求应该发给哪个模型，失败后是否切换，如何控制并发，敏感提示……
25102026-09-20 13:21阅读 375
大模型15052026-09-17 18:32阅读 435
Google DeepMind发布Gemini 3.8 Live：企业评估实时交互模型应关注哪些技术指标？
【软盟资讯·新闻导读】Google DeepMind发布Gemini 3.8 Live及Gemini 3.8 Live Extended Thinking的消息，将企业注意力引向两……
15052026-09-17 18:32阅读 435
AI智能体25102026-09-17 11:42阅读 485
Anthropic CEO呼吁放缓前沿AI：企业如何建立可核验的智能体安全评估体系？
【软盟资讯·新闻导读】Anthropic CEO达里奥·阿莫代伊近期呼吁放缓前沿人工智能能力提升，核心争议并不只是“要不要减速”，而是模型能力提升是否已经快于安全验证。对企业而言，……
25102026-09-17 11:42阅读 485
AI资讯34722026-09-12 20:38阅读 441
网信办发布智能体安全治理细则：企业部署前需通过哪些合规审查？
截至目前，公开资料显示，网信办等三部门发布的是《智能体规范应用与创新发展实施意见》，重点在于推动智能体产业发展、明确安全底线和建立分类分级治理框架，并非一份逐项规定企业“部署前必须……
34722026-09-12 20:38阅读 441
技术前沿15052026-09-12 09:37阅读 272
AI智能体进入生产环境后，企业如何搭建可观测性与故障回溯体系？
AI智能体一旦进入生产环境，最难处理的往往不是“模型能不能回答”，而是“出了问题能不能解释、能不能复现、能不能止损”。一次用户请求可能经过提示词拼装、模型推理、知识检索、工具调用、……
15052026-09-12 09:37阅读 272
技术前沿34722026-09-11 19:50阅读 400
机密计算从CPU扩展到GPU与智能体：企业部署AI如何评估可信执行边界？
企业把大模型接入内部知识库、业务系统和自动化工具后，保护对象已经不只是“上传的数据”。用户输入、检索结果、模型权重、推理中间态、长期记忆、服务凭证以及智能体执行动作，都可能进入同一……
34722026-09-11 19:50阅读 400