用人工假装智能?Meta被曝用外包人员代替AI通话

青青百科 百科资讯 3

据Meta内部帖子显示,该公司正在为其新款个人AI助手Muse测试一项“人工管家”机制:Muse可能会在用户不知情的情况下,把电话任务交给人工外包,由呼叫中心人员代替AI完成通话。

Muse内测“人工管家”功能

自上线两周以来,Muse已经稳居美国应用下载榜榜首,瞬间火爆美国市场。这款AI助手能够自主代用户执行发邮件、购物、预订行程等任务。

就在不久前,Meta刚刚对外推出Muse的通话功能。借助通话功能,Muse用户可以指令AI拨打美国商户电话,由AI和对方沟通,完成预约理发、查询门店库存、获取多家服务商报价等跑腿事务。

但是上周,Meta向员工通报了一项“人工管家”的内部测试:当Muse的通话功能遭遇复杂场景时,可能会在用户不知情的情况下将通话转接给公司承包商,由呼叫中心人员来完成通话。

Meta超级智能实验室一名副总裁表示,部分测试表明,由人工拨打电话,成功率可以提升至95%–98%,高于纯AI通话的成功率。

但公司内部帖子也显示,已有部分员工对人工介入通话提出隐私担忧,警示该模式可能导致敏感信息无意中被AI泄露给呼叫中心外包人员。

一名员工在内部帖子中写道:“我很难理解,为什么我们认为这项功能值得冒这样的风险。只要出现一个程序漏洞,就会造成不必要的信息泄露给人工接线员。”

另一名员工还特别提到了一起种族歧视事件:他曾让Muse致电网络有线电视运营商协商账单,而通话记录显示,外包人员在通话过程中发表了带有种族歧视的言论。

对此,Meta超级智能实验室副总裁承认,在未做出充分告知的情况下启动外包人员代打电话测试,属于“失误”,并称公司已暂时回滚该功能。

她同时向这名举报通话中种族言论事件的员工致歉,并承诺涉事的外包人员今后不再参与任何Meta项目。

用“人工”假装“人工智能”?

Muse的这项测试,让外界得以窥见科技行业的一种并不罕见的操作:科技企业可能会在幕后依靠人力兑现所谓“自主AI”的宣传承诺。

这让人联想到Meta十年前的一次试验。彼时还叫“脸书”的Meta公司,曾在Messenger里测试一款名为M的数字助手。后续媒体报道估算,该助手约70%的任务实际由人工完成。

当被问及Muse的“人工管家”方案时,Meta发言人表示,员工反馈“总体非常积极”,这项测试的目的是“收集反馈,以便在正式发布前落地安全与隐私保护机制、优化功能”。

Meta发言人丹尼尔·罗伯茨称:“我们正和商户合作持续优化这项潜在通话功能,只有准备就绪且配套完整告知条款后,才会正式推出。”

市场情报机构Sensor Tower的数据显示,Meta的Muse上线至今下载量已超250万次。

自产品发布以来,Meta股价累计大涨超20%,市值增加逾2000亿美元,截至本周一交易日收盘,创下七个多月新高。不过该股周二微跌0.6%。