用“人工”假装“智能”?Meta被曝内测MUSE新机制:外包人员代替AI通话

用“人工”假装“智能	”?Meta被曝内测MUSE新机制:外包人员代替AI通话-第1张图片

  据Meta内部帖子显示 ,该公司正在为其新款个人AI助手Muse测试一项“人工管家”机制:Muse可能会在用户不知情的情况下,把电话任务交给人工外包,由呼叫中心人员代替AI完成通话 。

用“人工”假装“智能	”?Meta被曝内测MUSE新机制:外包人员代替AI通话-第2张图片

  Muse内测“人工管家 ”功能

  自上线两周以来 ,Muse已经稳居美国应用下载榜榜首 ,瞬间火爆美国市场。这款AI助手能够自主代用户执行发邮件 、购物、预订行程等任务。

  就在不久前,Meta刚刚对外推出Muse的通话功能 。借助通话功能,Muse用户可以指令AI拨打美国商户电话 ,由AI和对方沟通,完成预约理发、查询门店库存 、获取多家服务商报价等跑腿事务 。

  但是上周,Meta向员工通报了一项“人工管家”的内部测试:当Muse的通话功能遭遇复杂场景时 ,可能会在用户不知情的情况下将通话转接给公司承包商,由呼叫中心人员来完成通话。

  Meta超级智能实验室一名副总裁表示,部分测试表明 ,由人工拨打电话,成功率可以提升至95%–98%,高于纯AI通话的成功率。

  但公司内部帖子也显示 ,已有部分员工对人工介入通话提出隐私担忧,警示该模式可能导致敏感信息无意中被AI泄露给呼叫中心外包人员 。

  一名员工在内部帖子中写道:“我很难理解,为什么我们认为这项功能值得冒这样的风险。只要出现一个程序漏洞 ,就会造成不必要的信息泄露给人工接线员。”

  另一名员工还特别提到了一起种族歧视事件:他曾让Muse致电网络有线电视运营商协商账单 ,而通话记录显示,外包人员在通话过程中发表了带有种族歧视的言论 。

  对此,Meta超级智能实验室副总裁承认 ,在未做出充分告知的情况下启动外包人员代打电话测试,属于“失误 ”,并称公司已暂时回滚该功能。

  她同时向这名举报通话中种族言论事件的员工致歉 ,并承诺涉事的外包人员今后不再参与任何Meta项目。

  用“人工”假装“人工智能”?

  Muse的这项测试,让外界得以窥见科技行业的一种并不罕见的操作:科技企业可能会在幕后依靠人力兑现所谓“自主AI ”的宣传承诺 。

  这让人联想到Meta十年前的一次试验。彼时还叫“脸书”的Meta公司,曾在Messenger里测试一款名为M的数字助手。后续媒体报道估算 ,该助手约70%的任务实际由人工完成 。

  当被问及Muse的“人工管家”方案时,Meta发言人表示,员工反馈“总体非常积极 ” ,这项测试的目的是“收集反馈,以便在正式发布前落地安全与隐私保护机制 、优化功能”。

  Meta发言人丹尼尔·罗伯茨称:“我们正和商户合作持续优化这项潜在通话功能,只有准备就绪且配套完整告知条款后 ,才会正式推出。”

  市场情报机构Sensor Tower的数据显示 ,Meta的Muse上线至今下载量已超250万次 。

  自产品发布以来,Meta股价累计大涨超20%,市值增加逾2000亿美元 ,截至本周一交易日收盘,创下七个多月新高 。不过该股周二微跌0.6%。

(文章来源:财联社)