骚扰管理器目前可以与Twitter的API合作,将修改选项--如隐藏Twitter回复和静音或屏蔽账户--与批量过滤和报告系统结合起来。Perspective根据威胁、侮辱和亵渎等元素,检查信息的语言"毒性"水平。它将信息分为仪表板上的队列,用户可以分批处理这些信息,而不是通过Twitter的默认审核工具单独处理。他们可以选择在处理时模糊信息的文本,因此他们不需要阅读每一条信息,而且除了使用自动生成的队列外,他们还可以搜索关键词。
帖子中描述的骚扰管理器仪表板的图片
骚扰管理器还允许用户下载一个包含辱骂信息的独立报告;这可以为社交媒体账号的主人创造了基于文件的线索,如果是直接威胁等非法内容,则可以直接为执法部门取证提供帮助。然而,目前还没有一个独立的应用程序用户可以下载。相反,开发者可以自由地基于这个过滤器API建立包含其功能的应用程序,使用它的服务将由汤森路透基金会等合作伙伴推出。
Jigsaw在妇女节正式宣布了Harassment Manager,它把这个工具说成是与面临性别虐待的女记者特别相关,强调了来自"拥有大量Twitter存在的记者和活动家"以及国际妇女媒体基金会和保护记者委员会等非营利组织的投入。在Medium的一篇文章中,该团队表示,它希望开发者能够为其他有风险的社交媒体用户量身定制。"我们希望这项技术能够为那些在网上面临骚扰的人提供资源,特别是女记者、活动家、政治家和其他公众人物,他们在网上遭遇不少恶意的内容。"帖子写道。
拼图的骚扰管理器中的报告选项的屏幕截图
Google之前已经利用Perspective进行了自动审核。2019年,它发布了一个名为Tune的浏览器扩展,让社交媒体用户避免看到有害的攻击性信息,许多评论平台(包括Vox Media的Coral)都使用它来补充人工审核。但是,正如我们在发布Perspective和Tune时注意到的那样,语言分析模型在历史上远非完美。它有时会对讽刺性的内容进行错误分类,或者未能检测出辱骂性的信息,而且拼图式的人工智能可能会无意中将"盲人"或"聋子"等不一定是负面的词汇与毒性联系起来,这种拼图法本身也被批评为一种有毒的工作场所文化,尽管Google已经对这种说法提出异议。
然而,与Twitter和Instagram等服务的人工智能控制不同,骚扰管理器并不是一个平台方的控制功能。它显然是一个分类工具,用于帮助管理有时规模巨大的社交媒体反馈,这可能与远在新闻领域之外的人有关--即使他们现在还不能使用它。