OpenAI添加新护栏以保护ChatGPT上的青少年

萨姆·奥尔特曼（Sam Altman）领导的OpenAI采取了确保技术和社会许可的双重举措，与美国能源部正式建立了研究联盟，并彻底改革了未成年人的安全协议，这标志着在高风险科学和道德人工智能领域处于领先地位的战略推动。

OpenAI已与美国能源部签署了一份谅解备忘录（MOU），旨在加强其在美国的OpenAI for Science计划。

该交易需要评估人工智能和先进计算领域的新合作机会，支持Genesis Mission等关键能源部计划。

另请阅读：随着顶级人才竞争加剧，OpenAI再次结束员工股票期权的悬崖：报告

值得注意的是，OpenAI for Science专注于通过将前沿人工智能模型与现实世界的研究工具、工作流程和专业知识相结合来加速科学发现。

该谅解备忘录以OpenAI与能源部国家实验室的持续合作为基础，前沿人工智能模型已经在现实世界的研究环境中得到利用，科学家们正在应对高影响力的挑战。

创世纪任务汇集了政府、国家实验室和行业，利用先进的人工智能和计算来加速科学发现。

该协议为信息共享和协调设定了框架，同时为具体项目的出现奠定了未来合同的基础。

另外，OpenAI已向白宫科学技术政策办公室提交了详细建议，概述了美国如何通过人工智能加强其科学技术领导地位。

与此同时，ChatGPT家长更新了其型号规格，为18岁以下青少年添加了新的保护。

新的18岁以下原则概述了ChatGPT应如何为13至17岁的用户提供安全、适合年龄的体验，并承认青少年与成年人相比有不同的需求。

核心规则仍然适用于每个人，但这次更新澄清了在与青少年互动时应如何使用这些规则，其中安全问题尤其重要。

此外，该公司正处于ChatGPT消费者推出年龄预测模型的早期阶段，计划更准确地识别帐户何时可能属于未成年人，并自动应用青少年安全保障措施。

如果系统对某人的年龄不确定或缺乏完整的信息，用户将默认为18岁以下的体验，成年人可以选择验证自己的年龄。

此次安全推动之际，OpenAI将在2025年面临更严格的法律审查和监管挑战。该公司正在为自己辩护，免受一系列指控与ChatGPT相关的伤害的诉讼，包括与用户互动相关的非正常死亡和自杀指控。

另外，OpenAI将任命英国前财政大臣乔治·奥斯本（George Osborne）担任全球高级职位，领导其“OpenAI for Country”计划，凸显其随着人工智能基础设施竞争加剧而不断扩大的国际战略。

阅读下一步：

图片来自Shutterstock