Tumblrがポルノ対策でアダルト画像を的確に削除…できていなかった

Tumblrはマイクロブログサービスの老舗であり、BlogspotやTwitterなどのサービスとクロスするもののように見えますが、実はポルノ画像などのアダルトコンテンツを見つける場所としても有名でした。

同社は、12月17日にすべてのポルノコンテンツをサービスから排除する予定であることを発表しました。アルゴリズムや人間の目を使って判別し、ポルノ画像をサービスに決して載せないようにするとしていましたが、残念ながら、全く関係ない投稿が誤ってポルノ判定されてしまったとするユーザーが多数出現し、どうやらアルゴリズムが悪さをしているようです。

例えば、イラストレーターであるAlisaのツイートによると、動物や(完全に服を身に着けた)人物のスケッチなのにもかかわらず、ほとんど全ての画像をTumblrのアルゴリズムがポルノと判定したと主張しています。たしかに、乳首を含めて描いていたのは彼女のミスでしたが、それ自体は悪いことではなく、どうやってもポルノ判定を回避できなかったようです。

他のユーザーは、Tumblrのアルゴリズムが、無機物であり完全に無害な花瓶のような物体にもポルノと判定したと主張しています。しかし、公平に見れば、アルゴリズムが最初は間違いを起こすだろうとTumblrも認めています。「私たちは、自動化ツールを利用してアダルトコンテンツと人間を識別し、システムの訓練を支援するよう常にチェックしています。間違ってしまうこともありますが、私たちは、コミュニティの表現の幅を認めるポリシーを策定し、それを実行するために全力を尽くします」とTumblrは述べています。

この記事は、編集部が日本向けに翻訳・編集したものです。

原文はこちら