OpenAI 在 ChatGPT 中推出 Lockdown Mode 与 Elevated Risk 标签
OpenAI 在 ChatGPT 中推出 Lockdown Mode 和 Elevated Risk 标签,用于帮助组织防御提示注入和 AI 驱动的数据外泄。官方说明中未披露具体功能细节与上线范围。
推荐理由:OpenAI 为 ChatGPT 新增 Lockdown Mode 与 Elevated Risk 标签,企业可据此了解其应对提示注入与数据外泄的防护思路。
OpenAI 在 ChatGPT 中推出 Lockdown Mode 和 Elevated Risk 标签,用于帮助组织防御提示注入和 AI 驱动的数据外泄。官方说明中未披露具体功能细节与上线范围。
推荐理由:OpenAI 为 ChatGPT 新增 Lockdown Mode 与 Elevated Risk 标签,企业可据此了解其应对提示注入与数据外泄的防护思路。
OpenAI for Government 宣布在 GenAI.mil 上部署定制版 ChatGPT,为美国国防团队提供安全、注重安全性的 AI 能力。
推荐理由:OpenAI 面向美国政府推出定制版 ChatGPT 并部署到 GenAI.mil,可了解其进入国防场景的交付方式。
OpenAI 推出 Trusted Access for Cyber,这是一套基于信任的框架,在扩大前沿网络能力访问范围的同时加强对滥用的防护。
推荐理由:OpenAI 推出面向网络安全的可信访问框架,读者可了解前沿网络能力开放与滥用防护之间的取舍思路。
OpenAI 说明了 AI 智能体打开链接时保护用户数据的机制,通过内置防护防止基于 URL 的数据外泄和提示注入。
OpenAI 发布 OpenAI for Healthcare,提供安全的企业级 AI,支持 HIPAA 合规,用于减轻行政负担并支持临床工作流。
推荐理由:OpenAI 面向医疗场景推出企业级 AI 产品,读者可了解其在合规与临床工作流上的定位。
OpenAI 正在投入更强的防护措施与防御能力,以应对 AI 模型在网络安全的攻击与防御两方面能力增强带来的风险。公司说明了其评估风险、限制滥用的方式,并与安全社区合作提升网络韧性。
OpenAI 为 ChatGPT Enterprise、ChatGPT Edu 和 API Platform 扩展数据驻留,符合条件的客户可将静态数据存储在本地区域内。
推荐理由:OpenAI 把数据驻留扩展到 ChatGPT Enterprise、ChatGPT Edu 和 API Platform,企业可据此判断合规部署的可用范围。
OpenAI 将提示注入视为 AI 系统的前沿安全挑战,并说明了这类攻击的运作方式。OpenAI 正从推进研究、训练模型和构建用户防护措施三方面应对该问题。
OpenAI 在 ChatGPT 中推出 Company knowledge,把企业应用中的上下文带入 ChatGPT,用于回答与业务相关的问题。该功能提供清晰的引用,并具备安全、隐私和管理员控制,现已面向 Business、Enterprise 和 Edu 用户开放。
推荐理由:OpenAI 把企业应用上下文接入 ChatGPT 并给出引用与权限控制,读者可据此判断企业知识问答的可用边界。
OpenAI 扩大与英国的合作伙伴关系,与英国司法部达成新协议,将 ChatGPT 引入公务员体系。同时为 ChatGPT Enterprise、ChatGPT Edu 和 API Platform 推出英国数据驻留,以支持可信、安全的 AI 应用。
推荐理由:OpenAI 与英国司法部签约并开放英国数据驻留,可观察主权 AI 在公共部门的落地条件。
OpenAI 为 ChatGPT 推出共享项目、更智能的连接器,以及合规与安全方面的更新,帮助团队完成更多工作。官方称这些更新面向团队协作与工具接入场景。
推荐理由:OpenAI 官方公布 ChatGPT 团队协作与连接器更新,可据此了解其在企业办公场景的能力边界。
SAP 与 OpenAI 宣布合作推出 OpenAI for Germany,计划于 2026 年落地,为德国公共部门提供安全、主权的 AI 能力,用于提升公共服务的效率与安全性。
推荐理由:SAP 与 OpenAI 面向德国公共部门的合作,提供了主权 AI 在政务场景落地路径的一个观察样本。
OpenAI 与美国 CAISI 及英国 AISI 的合作取得进展,目标是强化 AI 安全与安保。
OpenAI 正就《纽约时报》及原告提出的法院命令进行抗辩,该命令要求无限期保留 ChatGPT 和 API 消费者用户数据。OpenAI 表示正努力维护用户隐私、满足法律要求,并坚守其数据保护承诺。
推荐理由:OpenAI 就《纽约时报》诉讼中的数据留存要求公开回应,读者可了解其隐私立场与法律应对思路。
OpenAI 在亚洲推出数据驻留,延续其面向全球客户的企业级数据隐私、安全与合规体系。
OpenAI 更新了其 Preparedness Framework,用于衡量和防范前沿 AI 能力造成的严重危害。该框架为评估前沿 AI 风险提供了更新后的方法。
OpenAI 面向欧洲客户推出数据驻留功能,作为其企业级数据隐私、安全与合规体系的一部分。该功能支持全球客户在本地留存数据,具体可用范围与上线时间未在原文中披露。
OpenAI 发布 Operator 系统卡,基于其既有安全框架说明多层防护思路,包括为防范提示工程与越狱而实施的模型和产品层缓解措施,以及隐私与安全保护。文档还介绍了外部红队工作、安全评估,以及持续改进这些防护措施的后续工作。
推荐理由:OpenAI 公开 Operator 的系统卡,说明其在提示工程与越狱防护、隐私安全上的多层缓解措施和外部红队评测安排。
OpenAI 发布安全与安保实践更新。
OpenAI 为 ChatGPT Enterprise 推出合规 API 集成、SCIM 和 GPT 管控工具,用于支持合规项目、数据安全和大规模用户访问管理。
推荐理由:ChatGPT Enterprise 新增合规 API、SCIM 与 GPT 管控,企业可据此评估数据安全与用户权限管理是否满足自身合规要求。
OpenAI 公布网络安全资助计划,聚焦创新研究与 AI 在网络安全领域的整合。该计划旨在赋能防御方,具体资助金额、入选项目及申请方式尚未披露。
OpenAI 阐述了其安全实践,强调通用人工智能有潜力惠及生活几乎方方面面,因此必须以负责任的方式开发和部署。
OpenAI 在 ChatGPT 发布一年多后阐述其数据与 AI 处理方式,并推出面向创作者和内容所有者的 Media Manager。该工具旨在回应 AI 时代的数据议题,OpenAI 同时透露了后续发展方向。
OpenAI 为 API 客户新增更多安全功能与控制项,并更新 Assistants API,同时提供更便于管理成本的工具。
OpenAI 发布 ChatGPT Enterprise,提供企业级安全与隐私保护,并称其为迄今最强大的 ChatGPT 版本。材料仅含摘要,未披露具体功能、价格或上线时间。
推荐理由:OpenAI 官方发布企业版 ChatGPT,主打企业级安全与隐私,读者可据此了解其面向企业的产品定位。
OpenAI 启动网络安全资助计划,通过资助及其他支持方式,推动面向防御者的 AI 网络安全能力开发。
OpenAI 阐述了其确保 AI 系统安全构建、部署和使用的方法,称这对实现其使命至关重要。
OpenAI 分享了在语言模型安全与滥用问题上的最新思考,希望帮助其他 AI 开发者应对已部署模型的安全与滥用问题。