拜登总统刚刚签署了一项关于开发和使用人工智能技术的行政命令。
它要求开发人工智能的公司提高透明度，但它也有局限性。
白宫顾问本·布坎南在接受《内幕》杂志采访时表示:“科技已经有了一个良好的开端。”
本问答是根据与白宫科学技术政策办公室和拜登政府顾问本·布坎南的对话进行的。
拜登总统周一签署了一项新的行政命令，要求主要科技公司在开发人工智能模型和工具方面提高透明度，并为如何使用这项技术制定新规则。这可能太少，也太迟了。
这项广泛的行政命令涉及人工智能和生成式人工智能的十多种可能用途，这些用途已经或将来可能直接影响人们的生活。比如当人工智能技术被用于与住房、招聘甚至监禁有关的企业决策时。它还要求从事人工智能工具创造和开发的公司提高透明度。
去年由meta、谷歌、微软、OpenAI和其他公司发布的所有大型语言模型和相关的人工智能工具都不受行政命令中概述的安全测试的约束。尺寸门槛如此之高，以至于目前大多数可用的模型都不符合拜登行政命令中要求的进一步透明度标准。尽管今年早些时候，所有主要科技公司都同意在人工智能工作中遵守责任和培训标准。
对于那些达到标准的公司，他们需要在向公众发布之前通知联邦政府他们的工作并分享安全测试结果。美国国家标准与技术研究所(National Institute of Standards and Technology)已被指示为此类测试制定“严格的标准”，包括测试生成人工智能工具的可能性，以指导用户将生物武器武器化。例如，据Insider网站报道，meta的Llama 2模型已经能够告诉用户如何将炭疽武器化。
本·布坎南(Ben Buchanan)自2021年以来一直在拜登的白宫工作，最近担任人工智能特别顾问，他在接受《内幕》杂志(Insider) 8分钟的采访时表示:“这项技术已经有了一点领先优势，但我认为我们很快就赶上了。”
《内幕》杂志对布坎南的完整采访(按篇幅和清晰度进行了编辑)如下:
在这项行政命令发布之前，你和大型科技公司的领导人交谈过多少次?例如，我听说白宫向安德鲁·博斯沃思谈起了我那很频繁，一个月几次。
我们与所有公司都进行了高层对话，但并没有真正讨论ceo的问题。我们在公司内部进行了多次对话，讨论我们在7月份推出的自愿承诺。我想，自从7月份我们推出自愿承诺以来，没有人特别跟安德鲁·博斯沃思谈过。但我们确实在这个层面和CEO层面进行了接触。从那以后，我们与一些公司进行了交谈，但更多的是关于自愿承诺，而不是关于《行政令》。
...(608 chars omitted)...
这是一个巨大的数字。如果有人，假设，给你联邦机构标记的训练数据会发生什么?那么流程是怎样的呢?是不是一切都停止了，公司陷入了困境?
其中很多仍在开发中。致各部门，我们在EO中列出了这里的行进方向。
你可以想象有某种法律权威会发挥作用，这取决于旗帜是什么。只是假设，如果一个系统存在核风险，你就会牵连到原子能法之类的。所以这是关于获得正确的信息，然后让有关当局承担责任。
你也可以想象这样一个世界，国会通过立法，建立在我们正在做的事情的基础上，并建立一个许可制度。很多国会议员都谈到了这个问题。我们不会在这个问题上表态。但我们在这里所做的是为美国政府设定一个方向，在推出这些系统之前，他们需要知道这些系统是安全的、可靠的、值得信赖的。
很多命令是这些不同机构采取行动的指令。他们需要多长时间来制定这些标准?
根据国防生产法案的规定，这是90天。这些公司已经做了很多红队测试。标准的发展可能比那要长一点，但是在《行政命令》中有一些关于标准的临时指导，这在很大程度上反映了我们在自愿承诺中达成的协议，说这些是你必须为之红队的事情。
要求的透明度，仅仅是未来的模型还是已经推出的当前模型?它是否具有追溯效力?
自愿承诺适用于未来的模式。这很难做到，就像你想象的那样，很难对一个已经存在的模型进行发布前的红队测试。
你是否认为人工智能正处于一个炒作周期，每个人都对它的意义反应过度?考虑到现在有这么多模型，它们已经有多强大，等等，各地都有政府监管机构我们现在在技术上有点落后吗?
关于你应该投资什么，我不会对炒作发表评论，但我认为，从政府的角度来看，我们认为这里存在真正的机会，也存在真正的风险。如果我们认为这一切将在一周内消失，我们就不会采取这种加速的全面行动。这是总统及其团队的首要任务。
就落后于技术方面而言。技术方面有一些领先优势，但我认为我们很快就赶上了。
我要指出的一点是，我们从七国集团(G7)那里获得了有史以来第一个人工智能国际行为准则的协议，该准则建立在七国集团(G7)所有七个政府签署的自愿承诺的基础上。美国正在与盟国和伙伴合作，行动非常迅速。
你使用生成式人工智能吗，本?你办公室有人用吗?
b.b.:据我所知，我们这里的系统上没有ChatGPT，但我们所有人每天都在日常生活中使用人工智能。
有什么建议或见解要分享吗?联系Kali Hays: khays@insider.com，通过安全消息应用程序Signal: 949-280-0267，或通过DM on X: @hayskali。使用非工作设备进行接触。
阅读商业内幕的原文
本文来自作者[admin]投稿，不代表柏屿荣号立场，如若转载，请注明出处：https://utbkd.cn/wiki/202507-1718.html
评论列表（4条）
我是柏屿荣号的签约作者“admin”！
希望本篇文章《白宫人工智能顾问称美国在追赶技术进步，拜登新行政命令推动大型人工智能模型透明化》能对你有所帮助！
本站[柏屿荣号]内容主要涵盖：国足,欧洲杯,世界杯,篮球,欧冠,亚冠,英超,足球,综合体育
本文概览： 拜登总统刚刚签署了一项关于开发和使用人工智能技术的行政命令。 它要求开发人工智能的公司提高透明度，但它也有局限性。...