OpenAI、Anthropic Face FTC对人工智能代理风险的新调查

美国联邦贸易委员会（FTC）周三表示，已对Anthropic和OpenAI等主要人工智能开发商展开全面调查，以调查他们的产品是否会给消费者带来风险。此举标志着该机构首次针对所谓的人工智能特工进行执法，此前7月份发生了一系列引起公众关注的事件。

该委员会打算发送强制信息请求，并寻求知名人工智能实验室领导人的证词，其中包括Anthropic、OpenAI和研究小组METR。《纽约邮报》发表了初步报告。

OpenAI在搁置IPO计划后瞄准300亿美元的大轮融资

这位官员表示，Anthropic和OpenAI已转向METR进行与涉及代理式系统的安全事件相关的外部审查。

另外，唐纳德·特朗普总统周二会见了人工智能高层高管，两家公司同意遵循自愿标准。路透社指出，特朗普在推动美国在该技术领域的领导地位的同时，公开驳斥了一些与人工智能相关的担忧。

Anthropic最近指出，与其计划上市相关的材料中的人工智能存在“重大且不可预测的法律风险”。

据路透社报道，在OpenAI构建的代理商入侵开源网站Hugging Face之前，联邦贸易委员会主席就已经对这些公司感到不安。这位官员表示，在特工探索人工智能编码平台的弱点并进行更广泛的入侵后，此事升级。

FTC主席安德鲁·弗格森（Andrew Ferguson）表示，当开发人员指示代理商进行网络安全演习，最终导致现实世界的违规行为时，他们可能会面临责任。他还在上周于奥斯汀举行的路透社（Reuters）人工智能活动上表示，监管机构应该依靠当前的法规，而不是匆忙制定新的人工智能立法。

联邦贸易委员会可以就不公平或欺骗性行为提起诉讼，并且此前曾在涉及消费者数据保护不足的事务中使用过这一权力。

另请阅读：Anthropic刚刚聘请了一位Google Project Zero资深人士来领导其前沿AI Red团队

照片：Shutterstock