Apple默认将Siri音频剪辑评论关闭并将其带入内部

最重要的消息是,苹果正在改变Siri的方式音频评论或“评分”适用于其所有设备。首先,它正在即将进行的软件更新中明确选择进行音频审查。这将适用于Siri的每个当前和未来用户。

其次,只有Apple员工(而非承包商)才会审核任何此选择音频,以便更加接近公司的核心流程,使用私有数据。

Apple发布了一篇博客文章,概述了一些可能不是常识的Siri隐私细节,正如之前在安全白皮书中所描述的那样。

Apple为此问题道歉。

“作为我们审查的结果,我们意识到我们没有完全实现我们的崇高理想,为此我们道歉。正如我们之前宣布的那样,我们停止了Siri评分计划。我们计划在今年秋季晚些时候向我们的用户发布软件更新时恢复 - 但只有在进行了以下更改之后......

然后概述了Siri评级工作方式的三个变化:

首先,默认情况下,我们将不再保留Siri交互的录音。我们将继续使用计算机生成的成绩单来帮助Siri改进。

其次,用户可以通过学习他们的请求的音频样本来选择帮助Siri改进。我们希望很多人会选择帮助Siri变得更好,因为他们知道Apple尊重他们的数据并且拥有强大的隐私控制。选择参加的人可以随时选择退出。

第三,当客户选择加入时,只允许Apple员工收听Siri互动的音频样本。我们的团队将努力删除任何被确定为Siri无意触发的录音。

Apple没有实施任何这些变更,也没有取消暂停的Siri评级流程,直到软件更新可用于其允许用户选择加入的操作系统。一旦人们更新到新版本的在操作系统中,他们将有机会对使用录音来评估用户对Siri的请求的评分过程说“是”。这实际上意味着一旦更新生效并安装,Siri的每个用户都将退出此过程。

Apple表示,它将继续使用匿名计算机生成的请求书写成绩单,以与其他语音助理类似的方式为其机器学习引擎提供数据。这些成绩单可能需要Apple员工审核。

亚马逊和谷歌之前曾有人透露过他们的助手在人类审查音频的过程中得到了帮助,他们也已经开始实施选择。

Apple也正在对评分过程本身进行更改,并注意到,例如,“如果评分请求涉及控制家中的设备,则评论者只能访问您在家庭应用程序中设置的设备和房间的名称“。

“卫报”8月初的一个故事概述了Siri音频样本是如何发送给苹果公司雇用的承包商,以评估Siri为其机器学习引擎制作的响应和转录的质量。这种做法并不是前所未有的,但它确实没有像苹果公司的隐私政策中那样清楚地表明人类参与了这一过程。还有一个问题是承包商而不是员工被用来评估这些样品。一位承包商将音频描述为包含敏感信息和私人信息,在某些情况下,即使使用Apple的匿名流程,这些信息也可能与用户绑定在一起。

作为回应,Apple在审核流程时终止了全球的评分流程。该帖子及其过程的更新是该审查的结果。

苹果表示,大约0.2%的Siri请求首先获得了这种音频处理,但考虑到每月有150亿个请求,快速数学告诉我们虽然它在统计上无关紧要,但原始数据可能非常高。

正如Alex Hearn周三早些时候所指出的那样,苹果公司在欧洲释放员工,这标志着他们离开了承包商。

Apple还发布了一个关于Siri隐私控制如何适应其评级过程的常见问题解答;你可以在这里完整阅读。

来自Apple和FAQ的博客文章向消费者提供了一些有关Apple如何处理评分过程,如何最小化评分过程中给予数据评论者的数据以及如何保留Siri隐私的详细信息。

Apple从一开始就与Siri合作,尽可能地专注于设备上的处理。这导致许多专家表示,苹果通过避开亚马逊或谷歌等公司的数据中心重要流程来支持在设备上保留“个人云”数据,从而交换原始的隐私能力。可悲的是,人类审查流程缺乏透明度,承包商的使用削弱了Apple从一开始就做的所有这些基础工作。因此,苹果公司在其关于评级和改进的隐私政策方面一直回到过去的行业标准是很好的。这就是它需要的地方。

事实上,没有任何其他助理产品几乎像Siri一样专注于隐私 - 正如我上面所说,有些人会说妨碍其快速前进的能力。希望这一集能够让人们参与到被认为是完全自动化的过程中,从而提高Apple的透明度。

大多数人认为“AI”或“机器学习”仅指计算机,但令人遗憾的事实是,大多数这些过程都是强烈的人为驱动,因为AI(实际上并不存在)和ML仍然是相当废话。人类将参与使它们在很长一段时间内变得更聪明。

郑重声明:本文版权归原作者所有,转载文章仅为传播更多信息之目的,如作者信息标记有误,请第一时间联系我们修改或删除,多谢。