読者です 読者をやめる 読者になる 読者になる

Googleの荒らし抑止システムPerspective、簡単に突破される

misc

先日、Googleが荒らし抑止を狙ってPerspectiveというAPIを出してました。

www.itmedia.co.jp

既にNYTimesやWikipediaでも使用されているというこのPerspectiveですが、あいにく簡単に破れることが判明しました。

Googleの対荒らしAIはタイプミスが弱点、研究者が発見」

arstechnica.com

ワシントン大学の研究者が発表した論文によれば、危険と想定される単語をタイプミスなり空白などを入れることで(例:「idiot」(バカ)に空白を挿入して「i d i o t」など)、容易に評価を高めることができるそうです。

一方、危険と想定される語を用いつつも、notなどで打ち消している文章については、逆に評価が低くなることも判明しています。つまり「意味」は全く反映できてないということですね。

ということは、Perspectiveって古典的なNGワードをスコア制にした程度のもの……なのでしょうか?