财联社

  作为拜登的首席科学顾问兼白宫科技政策办公室主任,阿拉蒂·普拉巴卡尔(Arati Prabhakar)是一位在美国科技界拥有深厚影响力的女性工程师。在近期接受媒体***访时,普拉巴卡尔透露,已经与总统拜登多次讨论有关于人工智能(AI)问题,拜登要求尽快出台防范人工智能风险的保障措施。

  普拉巴卡尔正在帮助美国***制定国家人工智能发展战略,以防范错误信息和该技术的其他潜在缺点,部分依赖于亚马逊、谷歌、微软和Meta等美国大型科技公司的合作。

  在上个月,亚马逊、Anthropic、谷歌、Inflection、Meta、微软和OpenAI等七家主要人工智能公司将做出自愿承诺,承诺内容包括在公开发布之前测试它们人工智能系统的安全性和能力,投资研究该技术对社会的风险,以及促进针对它们的系统漏洞的外部审查。

  拜登***表示,为了遏制快速发展的人工智能技术带来的误导和其他风险,已与大型科技公司达成一项为这种技术设置更多防护措施的协议,包括开发水印系统,帮助用户识别人工智能生成的内容。

  对此,普拉巴卡尔指出,世界上最先进的人工智能公司大多在美国,这是美国国家发展的一个巨大的优势。但我们也必须清楚,必须要制定相应的规则,七家主要人工智能公司的自愿承诺只是在履行自己的责任。

  普拉巴卡尔补充道,***部门也必须加强行动,无论是行政部门还是立法部门,如此才能使相关技术和公司行稳致远,也希望更多的公司和国家加入进来。

  她表示:“已经与拜登多次谈论过人工智能的话题,他非常专注于理解人工智能是什么,以及人们是如何使用它的。”

  普拉巴卡尔指出,拜登非常关注人工智能技术带来的社会影响和可能的结果,这些谈话很有探索性和前瞻性,但他也非常关注具体的行动。

  对于人工智能可能的风险,普拉巴卡尔表示,这些深度学习系统有一个技术特点,那就是它们是不透明的,它们本质上是黑盒子。而作为人类,我们面临的大多数风险都来自无法解释的事情。

  普拉巴卡尔提到,要特别关注人工智能系统的武器化、隐私问题、歧视性决策,以及人工智能生成的内容扰乱选举等风险。

  而防范风险方面,她认为不会有完美的措施,但在对这些系统的安全性和有效性有足够的了解之后,可以真正使用它们,并获得新兴技术所能提供的价值。

  普拉巴卡尔还表示,虽然还不能给出一个具体的时间表,但总统已经明确表示,这是一个非常急迫的问题,将会尽快出台防范风险的措施。