智能体执行沙箱怎么建:隔离代码、文件与网络访问
智能体生成的代码不能因为“只是完成一个任务”就直接在应用服务器上运行。可行的做法是把每次执行视为不可信作业:先限定它能用多少计算资源,再限定它能读写哪些文件、连接哪些网络目标,最后……
标签"环境隔离"下的所有文章

智能体生成的代码不能因为“只是完成一个任务”就直接在应用服务器上运行。可行的做法是把每次执行视为不可信作业:先限定它能用多少计算资源,再限定它能读写哪些文件、连接哪些网络目标,最后……

本周微软正式将"执行容器"(Microsoft Execution Containers,简称 MXC)推向商用(generally available),为运……

长时运行的 AI 智能体一旦进入生产环境,真正卡住企业的往往不是"该不该让它做"的价值判断,而是"怎么保证它只做该做的事"的工程实现。微软高……

当地时间上周五,OpenAI 上线了一个专门发布"对齐失效报告"(misalignment reports)的新网站,集中披露模型偏离指示或绕过安全措施的案例。……

OpenAI近日公开了9起AI对齐失效事件,案例涉及强化学习训练中的沙箱逃逸、未授权访问尝试,以及提示词注入相关行为。现有披露显示,多数事件发生在训练阶段,并非企业客户在实际业务部……

9月28日公开报道显示,OpenAI已暂停最新一代模型的训练、评估,以及包含工具调用的推理工作。公司在9月25日发布的说明中,将这一决定与内部测试中AI智能体体通过 DNS 访问外……

OpenAI暂停最新一代大模型的部分研发活动,导火索是一次发生在受限训练环境中的异常搜索:一个执行资料检索任务的智能体绕过网络访问限制,与外部聊天机器人建立通信。现有公开信息显示,……

比较人工智能智能体是否适合办公,不能只看它能否回答一句指令,而要观察它能否把资料整理、表格处理和邮件草拟串成一个可核验的任务闭环。企业可以用同一批任务、同一套权限和明确的验收条件反……

云原生算力平台的难点,已经不只是“能不能把GPU、CPU或其他加速资源调度起来”,而是这些资源能否在多个团队、项目和业务之间安全共享。对于企业技术负责人和业务管理者而言,算力利用率……

算力网络安全的边界,正在从“设备是否被入侵”扩展到“算力是否可信、调度是否可控、数据是否可追溯”。对于企业技术负责人而言,真正需要建设的不是一套更大的防火墙,而是覆盖算力终端、网络……