奥克兰大学推出新型AI聊天程序“Serenity”，可实时检测网络欺凌

据itwire 11月18日报道，新西兰奥克兰大学的研究人员近日推出人工智能（AI）聊天应用程序Serenity，可实时检测和缓解网络欺凌。该工具目前处于原型阶段，利用AI来分析用户输入消息时的恶意程度。如果某条消息被标记为潜在有害，Serenity 会“提醒”写该消息的人。

Serenity 的恶意检测功能由 Google 的 Perspective API 提供支持，该 API 根据每条输入消息的危害潜力为其分配分数。如果恶意分数超过用户定义的阈值，则会标记该消息。

Serenity 可适应各种在线平台，如社交媒体、在线游戏、聊天应用程序、评论区和论坛。Serenity 的源代码由 Netsafe New Zealand 资助开发，目前已作为开源软件在 GitHub 上发布，其他研究人员和开发人员可以为其未来做出贡献。

（编译：雅慧）

链接：

https://itwire.com/business-it-news/open-source/serenity%e2%80%99,-a-new-ai-driven-chat-application-designed-by-university-of-auckland-researchers,-can-detect-and-mitigate-cyberbullying-in-real-time.html