誤フラグの嵐。AIフィルタに出だしをくじかれたTumblrの脱エロ宣言

Tumblrってあのデートサイトの？

それはTinderです。今まで何回これを耳にしたでしょうか。Tumblrはデートサイトやエロサイトではなく、いちおうソーシャルメディアであり、｢ブログプラットフォーム｣なんです。それにしてもTumblrがエロや出会い系という、このイメージはどこから来るのかなと思いきや、たぶん今までこのように成人向けコンテンツを野放しにしてきたことが、そのイメージにつながっているのだろうなと今回の脱エロ宣言でつくづく思いました。

確かに表現の自由は守らなくてはならない。でもこのエロイメージを払拭し、エロ画像を完全排除するのにはどうもまだまだ時間がかかりそうですよ。

当然といえば当然の成人コンテンツ排除。Tumblrがフィルタを投入してから数日間経ったユーザーの声を米GizmodoのAlex Cranzが代弁してくれています。

これまで全世界のティーンたちの妄想プラットフォームとして人気を集めていたTumblrが、ついに脱エロ宣言をしましたね。

おトゥィントゥイン（ギズモードが推奨する男性器の呼び方）はおろか、おっぱいをはじめ、性的露出は一切認めないと言い出しました。スタッフブログの公式発表では｢よりよく、よりポジティブな｣Tumblrを目指すとのことで、性行為、性器、乳首あらわにした女性の写真の完全排除を宣言しています。子どもたちが安心して情報を見たり発信したりできる場にしようという理想郷を目指しているようですが、 どうもキツすぎるAIがそれをハチャメチャにしているようです。

｢最初からすべてうまくいくとは思っていない｣とTumblrのCEO、Jeff D’Onofrioが公式ブログで語っています。｢ユーザーの体験をポジティブなものに変えたい｣とのこと。

このジェフの最初の言葉を証明するような出来事が、Tumblrユーザーの私のところでも起きました。エロ画像などは12月17日までは削除されないようですが、家に帰ってTumblrを開いたら、さあ大変。私の投稿ですらスタートレックをミームにした、いたって普通のコンテンツまでフィルタされ、フラグの嵐が巻き起こっていました。

The best Tumblr flagging of porn. pic.twitter.com/daMg8wrjbb

— Alex Cranz (@alexhcranz) 2018年12月4日

これのどこが成人向け？ やってくれたね。

また、｢エーラス・ダンロス症候群｣という難病のために開発された、患者のための補助具についてのブログオーナーもまた、レアな補助具を説明するための投稿が成人指定を受けたようで憤りをあらわにしています。たぶんこれは、AIの自動識別でオトゥィントゥインと指の区別ができていないのが原因と思われます。写真をクリックするとわかりますが、どこからどう見ても人間の指！

Okay @tumblr you fucks. This post was about hand/wrist supports for those with Ehlers Danlos Syndrome. Something I suffer from. It is in no way explicit you twats. IT'S THERE TO HELP PEOPLE. You can fuck right off. pic.twitter.com/5kWykVZdzS

— Iggydyn 🥂🎄 (@TrashDadabelle) 2018年12月3日

おトゥィントゥインじゃないよ、指だよ。指。この投稿はエーラス・ダンロス症候群の補助具についての説明なんですよ。難病の人を助けるための補助具なのに。こんなものまで成人指定するなんて。ひどいよTumblr。

こちらの画像はビクトリア時代の服装をした女性。たぶん19世紀の英国では、わいせつな画像など一切許容されない世界だったことが予想されますが、これのどの辺がわいせつなんでしょうか。

This thread of innocuous vintage photos flagged as banned by Tumblr is ominous news for special collections blogs there. https://t.co/HaeSZQNxirpic.twitter.com/zNht4rvO5g

— John Overholt (@john_overholt) 2018年12月4日

この一連のビンテージ写真、まったく成人向けでもなんでもない画像をTumblrは成人向けとして指定したけど、これは特殊コンテンツを持つブログにとっては最悪なニュースである。

この画像もどうも手を尻やおっぱいと勘違いしてそう。

これらの投稿の中にはすでにフラグが外れているものもありますが、AIが時を経てゆっくりと学習しているのか、それとも人間のスタッフが反論に従ってひとつひとつ間違った成人指定を外しているのか、本当のところはわかりません。いずれにしても、ハチャメチャな状態であることには違いはなく、AIによる自動認識が大失敗していることは明らかです。

ただ単に成人コンテンツはどんなものもすべて載せない、という一斉禁止論では、児童をポルノから守ることはできませんよ。これこそ、自己表現をしようとしている芸術の冒涜 となりえ、希少コミュニティの弾圧にすらつながりかねないのです。インターネットを監視するのはたやすいことではありません。ひとつの表現手段を排除することは不可能なんです。理想論をふりかざす人間が調整したようなAIのアルゴリズムなんかでは決してやり遂げられないことなんです。

でもこれ、なんだか以前にも見たことありませんか。デジャヴかな。そうです。Facebookでも以前、サイト悪用を予想するアルゴリズムが失敗して、結局人間チームに切り替えた失敗談を各紙にすっぱ抜かれていましたよね。またロンドン市警も、ヌードを取り締まろうとしたAIが、砂丘と裸体を見分けられませんでした。

Tumblrのプラットフォームのコーディングはこれまでもお世辞にもうまいとはいえないものでした。私のような普通のユーザーですら、XKitのような外部ツールに頼らなくてはならない。もうずいぶんと長いこと、iOSアプリは児童ポルノ関連のコンテンツがあることを理由としてApp Storeから削除されていますよね。ユーザーが共有したりリブログするコンテンツのロード方法にはずっと問題があるのです。 児童ポルノしかり、ナチス問題しかり。タグに関しても｢レズビアン、トランス（ジェンダー）、LBGTQ｣といったタグを排除することにより、コンテンツのクリーニングを図ってきましたが、 ｢necrophilia（死体性愛）｣などというおどろおどろしいタグを許容しているという矛盾もはらんでいます。AIを使って乳首らしいものはなんでもダメにすればよいという考えは短絡的にすぎます。

どうもこの騒ぎは今すぐにおさまりそうにないですね。TumblrやFacebookといったネットワークがコンピューターを使ったアルゴリズムをモデレーターに採用しているその目的は、人件費の削減に他なりません。特にTumblrはかなり前から財政難にもみまわれているようでもありますし。Tumblrは残念ながらFacebookやRedditのようにユーザーを元手に金を稼ぐのが苦手なようです。現在親会社となっているOath（オース、Verizonグループ傘下）はどうもTumblrというメディアの本質をまったくわかっていない節があります。なぜTumblrがこんなに人気を集めているのか、それを理解できてこそ、未来につながると思うのですがね。

Source: Gizmodo US, The Daily Dot, New York Magazine