Bluesky在周五发布了其过去一年的审核报告，报告中提到了社交网络在2024年经历的显著增长，以及这一增长如何影响了其信任与安全团队的工作量。报告还指出，大多数举报来自用户举报涉及骚扰、恶意行为或不宽容的内容——这是Bluesky随着用户增长而面临的问题，有时甚至引发了大规模抗议。
公司并未解释为何对某些用户采取了行动或未采取行动，包括那些被大量封禁的用户。
2024年，Bluesky增加了超过2300万新用户，成为前Twitter/X用户的又一个目的地。这一年中，社交网络得益于X平台的一些变化，包括改变屏蔽机制和训练AI处理用户数据。一些用户离开X是因为美国总统选举结果公布后，X的所有者埃隆·马斯克的政治立场开始主导该平台。此外，在巴西临时禁用X后，Bluesky的应用也迎来了大量新用户。
为了应对增长带来的需求，Bluesky将审核团队扩充到约100人，并继续招聘。公司还开始为团队成员提供心理咨询服务，帮助他们应对不断接触到的令人不安的内容。（我们希望未来AI能解决这一问题，因为人类并不适合处理这种工作类型。）
总共收到了648万份举报给Bluesky审核服务的报告，比2023年增加了17倍（当时只有35.8万份报告）。
从今年开始，Bluesky将直接从其应用接受审核报告。类似X平台的做法，这将使用户更容易跟踪行动和更新。未来还将支持在应用内提交申诉。
当巴西用户在八月涌入Bluesky时，公司每天最多收到了5万个举报报告。这导致了处理审核报告的延迟，并促使Bluesky雇佣更多讲葡萄牙语的员工，包括通过合同供应商。
此外，Bluesky开始自动化处理更多的举报类别，并不仅仅是垃圾信息类别的自动化处理有时会导致误报。然而，自动化帮助将“高确定性”账户的处理时间缩短到“几秒钟”。在自动化之前，大多数举报通常在40分钟内得到处理。现在，在线人工审核员会介入处理误报和申诉（尽管不总是处理最初的决定）。
据Bluesky称，在2024年有119万活跃用户中至少提交了一份审核报告的占4.57%（比2023年的5.6%有所下降）。其中350万份举报针对个人帖子；账户资料被举报47,000次（通常是因为头像或横幅图片），列表被举报45,000次；私信被举报17,700次；发帖和启动包分别被举报5,300次和1,900次。
大多数举报涉及反社会行为如骚扰和恶意行为——这表明Bluesky用户希望看到一个比X更健康的社交网络。
其他类型的举报包括：误导性内容（冒充、错误信息或关于身份或关联性的虚假声明）：120万份；垃圾信息（过度提及、回复或重复内容）：140万份；不适当性内容（未正确标记的裸体或成人内容）：63万份；非法或紧急问题（明确违反法律或Bluesky的服务条款）：93.3万份；其他（不符合上述类别的问题）：72.6万份。
公司还更新了其标签服务情况，即为帖子和账户添加标签的情况。人工标注者添加了55,422个“裸体形象”标签、22,412个“粗鲁”标签、13,201个“垃圾信息”标签、11,341个“不宽容”标签以及3,046个“威胁”标签。
在2024年共有93,076名用户提交了总计约20.5万次关于Bluesky审核决定的申诉。
此外还有6,630个账户被人工删除和3,584个自动删除的账户。公司还收到了来自执法机构、政府和律师事务所的238项请求，并回应了其中182项并遵守了其中146项请求。大多数请求来自德国、美国、巴西和日本等国执法机构。
Bluesky全面报告还涉及商标侵权、版权侵权及儿童安全/CSAM投诉等问题。公司指出已向全国失踪及受剥削儿童中心提交了确认的CSAM投诉共计1,154起。
总结：本文介绍了Bluesky在过去一年中的审核报告情况及其面临的挑战与应对措施。通过增加团队人数、引入心理咨询服务以及自动化处理部分举报类别等措施来应对快速增长带来的挑战，并努力改善社交网络环境以满足用户的期望。
