这家科技巨头表示，还将向青少年发出警告，鼓励他们在分享亲密图像时三思而后行，以鼓励他们保护自己。 Meta 希望这将加强对诈骗者的保护，这些诈骗者可能会发送裸体图像来诱骗人们发送自己的图像作为回报。
该公司表示，它还正在实施一些变革，使潜在的诈骗者和犯罪分子更难找到青少年并与其互动。 Meta 表示，它正在开发新技术来识别“可能”参与性勒索诈骗的账户，并将限制这些可疑账户与其他用户的互动方式。
在周四宣布的另一项举措中，Meta 表示，它增加了与跨平台在线儿童安全计划Lantern共享的数据，以包含更多“针对性勒索的信号”。
这家社交网络巨头长期以来一直制定政策，禁止人们发送不需要的裸照或试图强迫他人分享亲密图像。然而，这并不能阻止这些问题的发生，并给许多青少年和年轻人带来痛苦——有时会带来极其悲惨的结果。
我们在下面更详细地总结了最新的一些变化。
裸露画面
DM 中的裸体保护旨在通过将裸照置于安全屏幕后面，保护 Instagram 的青少年用户免受网络闪现。用户将能够选择是否查看此类图像。
“我们还将向他们显示一条消息，鼓励他们不要感到做出回应的压力，并可以选择阻止发件人并报告聊天内容，”Meta 说。
全球 18 岁以下用户将默认开启裸露安全屏幕。老用户将看到一条通知，鼓励他们打开该功能。
该公司补充说：“当打开裸露保护时，发送包含裸露图像的人会看到一条消息，提醒他们在发送敏感照片时要小心，并且如果他们改变主意，可以取消发送这些照片。”
任何试图转发裸照的人都会看到同样的警告，鼓励他们重新考虑。
该功能由设备上的机器学习提供支持，因此 Meta 表示它将在端到端加密聊天中工作，因为图像分析是在用户自己的设备上进行的。
裸露滤镜已经研发了近两年。
安全提示
在另一项保护措施中，发送或接收裸照的 Instagram 用户将被引导至安全提示（包含有关潜在风险的信息），据 Meta 称，这些提示是在专家的指导下制定的。
“这些提示包括提醒人们可能会在您不知情的情况下截屏或转发图像，您与该人的关系将来可能会发生变化，以及您应该仔细查看个人资料，以防他们不是他们所说的那样，”该公司在一份声明中写道。 “它们还链接到一系列资源，包括Meta 的安全中心、 支持热线、针对 18 岁以上人士的StopNCII.org以及针对 18 岁以下人士的Take It Down 。”
该公司还在测试向可能与因性勒索而被删除的帐户进行过交互的人显示弹出消息。这些弹出窗口还将引导用户访问相关资源。
“我们还将来自世界各地的新儿童安全帮助热线添加到我们的应用内报告流程中。这意味着，当青少年报告相关问题时——例如裸体、威胁分享私人图像或性剥削或性诱惑——我们将引导他们拨打当地儿童安全热线（如果有），”该公司表示。
发现性勒索者的技术
虽然 Meta 表示，当它发现性勒索者的帐户时，它会删除这些帐户，但它首先需要发现不良行为者以将其关闭。因此，该公司正试图进一步“开发技术，根据一系列可能表明性勒索行为的信号，帮助识别哪些账户可能参与性勒索诈骗。”
该公司表示：“虽然这些信号不一定是某个帐户违反了我们的规则的证据，但我们正在采取预防措施，以帮助防止这些帐户找到青少年帐户并与之互动。” “这是建立在我们已经开展的工作基础上的，以防止其他潜在可疑账户发现青少年并与青少年互动。”
目前尚不清楚 Meta 使用什么技术进行此分析，也不清楚哪些信号可能表示潜在的性勒索者（我们已要求提供更多详细信息）。据推测，该公司可能会分析通信模式以试图发现不良行为者。
被 Meta 标记为潜在性勒索者的帐户将面临消息传递或与其他用户交互的限制。
该公司写道：“潜在性勒索帐户尝试发送的任何消息请求都将直接进入收件人的隐藏请求文件夹，这意味着他们不会收到该消息的通知，也永远不必看到它。”
已经与潜在诈骗或性勒索账户聊天的用户不会被关闭，但会看到安全通知，“鼓励他们报告任何分享其私人图像的威胁，并提醒他们可以对任何事情说‘不’”这让他们感到不舒服，”该公司表示。
青少年用户已经受到保护，不会收到与他们在 Instagram 上没有联系的成年人（在某些情况下，也可能来自其他青少年）的私信。但 Meta 更进一步：该公司表示正在测试一项功能，该功能可以隐藏青少年个人资料上潜在性勒索帐户的“消息”按钮 – 即使他们已连接。
“我们还在测试将青少年隐藏在人们的关注者、关注和喜欢列表中的这些帐户中，并使他们更难在搜索结果中找到青少年帐户，”它补充道。
值得注意的是，该公司在欧洲因 Instagram 上的儿童安全风险而受到越来越严格的审查，自去年夏天欧盟数字服务法案 (DSA) 生效以来，执法人员一直对其做法提出质疑。
走向安全的漫长而缓慢的过程
Meta 此前曾宣布过打击性勒索的措施——最近一次是在2 月份，当时它扩大了Take It Down的访问范围。该第三方工具可让人们在自己的设备上本地生成亲密图像的哈希值，并将其与国家失踪和受虐儿童中心共享，从而帮助创建非共识图像哈希值存储库，公司可以使用该存储库来搜索并删除复仇色情内容。
该公司之前解决该问题的方法受到了批评，因为他们要求年轻人上传裸照。由于缺乏硬性法律来规范社交网络如何保护儿童，Meta 多年来一直处于自我监管状态，但结果参差不齐。
然而，近年来一些要求已经出现在平台上——例如英国的《儿童法典》（于 2021 年生效）和欧盟最近的 DSA——像 Meta 这样的科技巨头最终不得不更加关注保护未成年人。
例如，2021 年 7 月，Meta 开始在英国合规截止日期之前将年轻人的 Instagram 帐户默认为私有。2022 年 11 月， Instagram 和 Facebook 上针对青少年的隐私设置更加严格。
今年 1 月，该公司宣布将在 Facebook 和 Instagram 上默认为青少年设置更严格的消息设置，紧接着2 月份 DSA 的全面合规截止日期即将开始。
Meta 上关于年轻用户保护措施的缓慢而迭代的功能引发了人们的疑问：为什么该公司花了这么长时间才采取更强有力的保护措施。它表明 Meta 选择了最低限度的安全保护，以管理对使用的影响，并将参与性置于安全之上。这正是梅塔举报人弗朗西斯·豪根 ( Francis Haugen ) 多次谴责她的前雇主的原因。
当被问及为什么该公司不向 Facebook 推出这些新的保护措施时，Meta 的一位发言人告诉 TechCrunch，“我们希望对我们认为最大的需求和相关性做出回应——当涉及到不受欢迎的裸体和教育青少年时，分享敏感图像的风险——我们认为是在 Instagram DM 上，所以这是我们首先关注的地方。”
暂无评论