可否打造一套AI系统,来过滤Twitter上发送的包含不雅图的私信?


【可否打造一套AI系统,来过滤Twitter上发送的包含不雅图的私信?】从编写脚本文字到发布假新闻的机器学习模型 。人工智能(AI)正在各个领域崭露头角 。
现在 。一位名叫 Kelsey Bressler 的开发者 。正在帮助她的朋友打造一款特殊的 AI 系统 。旨在检测并剔除社交平台(Twitter)上的不雅色情图片(比如漏鸟图) 。

可否打造一套AI系统,来过滤Twitter上发送的包含不雅图的私信?

文章插图
【资料图 。来自:Twitter 】
这个项目的初始动机 。源于 Mressler 女士被某位男性 Twitter 网友私信的漏鸟图的骚扰 。这种未经他人许可 。便可随意发送信息的方式 。会让人感到明显的被冒犯和不尊重 。
遗憾的是 。尽管 SNS 平台制定了相应的社区政策 。但事实上仍有许多人在违规操作 。且科技企业的审核机制根本无法做到实时地应对 。
Mressler 补充道:想要杜绝这种现象 。就必须对传统的内容审核方式加以变革 。尽管我们可以将私信一关了之 。但这并不是该由受害人承受的自闭性负担 。
好消息是 。Bressler 女士的团队 。已经在软件开发方面取得了不错的进展 。她们创建了一个 Twitter 账户来当做诱饵 。并邀请某些男子发送暴露图片 。然后对 AI 展开有针对性的训练 。
目前 Mressler 团队仍在努力标记某男子在其鸟部戴着笼子的照片 。不过初期报告显示这项方案似乎很有希望 。在取得了更大的进展之后 。她们将在软件完工时 。在 Twitter 上分享更多的研究细节 。

    推荐阅读