OpenAI发布了gpt - 40系统卡，这是一份详尽的研究文档，概述了该模型在5月份公开发布前所进行的安全协议和风险评估。该文档清晰地阐述了OpenAI为降低其最新多模态人工智能模型可能带来的风险所做的努力。
在发布之前，OpenAI采取了常规做法，邀请外部红队（red teams），即负责识别系统漏洞的安全专家。这些专家探讨了与gpt - 40相关的潜在风险，包括未经授权的语音克隆、生成不当内容以及侵犯版权等问题。
根据OpenAI的内部框架，研究人员将gpt - 40评估为“中等”风险水平。这一整体风险评估是基于四个关键类别的最高个人风险评级：网络安全、生物威胁、说服力和模型自治。所有类别的风险均被认为较低，唯独说服力类别中，某些gpt - 40生成的文本样本显示出比人类撰写的文本更强的说服潜力。
OpenAI发言人Lindsay McCallum解释道：“这张系统卡包含了由内部团队准备的评估，以及OpenAI网站上列出的模型评估和威胁研究（METR）和阿波罗研究（Apollo Research）等外部测试人员的贡献，这两家公司均参与了人工智能系统的评估。”
此次发布遵循了之前模型（如GPT-4、GPT-4 with vision和DALL-E 3）的类似系统卡出版，展示了OpenAI在评估其人工智能系统时对透明度和外部合作的承诺。
此次发布的时机尤为关键，因为OpenAI正面临着对其安全实践的持续批评。内部员工和外部利益相关者均表达了担忧，包括参议员伊丽莎白·沃伦（Elizabeth Warren）和众议员洛里·特拉汉（Lori Trahan）最近发出的一封公开信，要求在OpenAI的安全审查过程中增强问责制和透明度。
像gpt - 40这样强大的多模态模型在美国总统大选临近之际发布，引发了人们对错误信息和恶意利用可能性的担忧。OpenAI的系统卡旨在通过强调公司在现实场景测试中所做的积极努力来应对这些问题。
尽管OpenAI已做出努力，但对提高透明度和外部监督的呼声依然存在。关注点不仅限于培训数据，还涵盖了整个安全测试过程。在加州，针对大型语言模型的监管立法正在进行中，包括要求公司对其人工智能系统可能造成的潜在危害负责。
本文来自作者[admin]投稿，不代表柏屿荣号立场，如若转载，请注明出处：https://utbkd.cn/life/202507-3863.html
评论列表（4条）
我是柏屿荣号的签约作者“admin”！
希望本篇文章《OpenAI最新评估显示，GPT-40模型被评为‘中等’风险》能对你有所帮助！
本站[柏屿荣号]内容主要涵盖：国足,欧洲杯,世界杯,篮球,欧冠,亚冠,英超,足球,综合体育
本文概览： OpenAI发布了gpt - 40系统卡，这是一份详尽的研究文档，概述了该模型在5月份公开发布前所进行的安全协议和风险评估。该文档清晰地阐述了OpenAI为降低其最新...