『ソーシャルメディアの掃除屋コンテンツ・モデレーター』

ソーシャルメディアを掃除するコンテンツ・モデレーターという職業

【コンテンツ・モデレーターとは】

「削除」「削除」「削除」・・・
「放置」「放置」・・・

「児童ポルノ」「殺人現場」「テロによる惨殺の様子」「むごたらしい死体」「イジメの言葉」「誹謗中傷の羅列した文章」
これらの画像、動画、文章を毎日何時間も見続けることが出来ますか？

みなさん「コンテンツ・モデレーター」という職業を知っていますか？

「コンテンツ・モデレーター」とは、ソーシャルメディアに投稿されるコンテンツをガイドライン（規則）に従ってチェックし、インターネットの安全を守っている人たちのことです。
彼らはソーシャルメディアの「掃除屋」と呼ばれています。
警備員のように悪質なコンテンツからユーザーを守る仕事です。
この仕事の究極の目標は「怪しげなコンテンツをアップロードさせないこと」です。

モデレーターの任務（仕事）は、投降内容を監視して適正化（モデレート）することなのです。
例えば、「児童ポルノ」「テロ」「ネットいじめ」など。
そうした自動プログラムには出来ないことを人間が行っているのです。
彼らは、目を覆いたくなるような悲劇的な画像や動画を目にしなければならないのです。

モデレーターは人目にもつかず、世間にも知られていません。
ですが、ソーシャルメディアを支えているのはある意味で彼らなのです。

コンテンツをチェックするモデレーターは全世界に数万人います。
ほとんど報道されていないですが、日本にも存在するはずです。

例えば、フィリピンで働いているコンテンツ・モデレーターは数千人もいます。
ヨーロッパやアメリカから投稿される画像動画文書をガイドラインに沿って削除しています。
GoogleやFacebookはフィリピンのマニラには社員などいないと言うでしょう。
しかし、彼らが業務委託した下請け会社がコンテンツ・モデレーターを雇っているのです。
給料もGoogleやFacebookから出るのではなく、下請け会社から直接支払われます。
GoogleやFacebookは一番汚くて嫌な仕事を下請け会社に押し付け、なにかあれば責任逃れをする体制にしているということです。

このコンテンツ・モデレーターという職業の人たちは通常取材などに応じません。
情報漏洩はクライアントからの契約解除につながるからです。

彼らが何をしているのか？
どんな基準で「削除」と「放置」を判断しているのか？
ということは、秘密なのです。
もっというと、コンテンツ・モデレーターという仕事があること自体が秘密なのです。

彼らの毎日の処理目標は２万５千件。
毎日２万５千件ものクリックをするということです。
大量の画像や動画をチェックします。
それも見るも無残なむごたらしいものばかりを。 

 【問われるソーシャルメディアの責任】

２００６年、アメリカの下院で公聴会が開かれました。
そこに呼ばれたのはGoogle社幹部（当時）のニコル・ウォン氏。
ウォン氏は当時Google社の次席法務顧問兼運営方針責任者をしていました。

その公聴会で下院議員であるエドワード・ウィットフィールド氏が質問を投げかけます。
「１２歳以下・セックス・動画というキーワードでGoogle検索をしたところ、露骨なポルノサイトばかりが出てきました。成人向けのゲームや児童ポルノなどです」

これに対してウォン氏は、
「何重にもチェックを行っていますが、そのような結果が出るのは遺憾です」と返答。

同じ下院議員のバート・ストゥパク氏からは「児童ポルノ拡散防止のための努力が足りないのでは？」と指摘を受けています。

ウォン氏は、Googleは世界最大の検索エンジンであるからチェックすべきページが最多なのだ、だから大変なのだというニュアンスで答えます。
ここでウォン氏ははっきりと言っています。
「優秀なエンジニアたちが有害サイトを削除するよう最善を尽くしています」と。
その優秀なエンジニアたちという中心がコンテンツ・モデレーターなのです。

日本に住んでいるとあまり意識はしないですが、アメリカなどの国ではソーシャルメディアの問題は「テロ活動」と結び付けて考えられています。
もし、テロリストがソーシャルメディアを乗っ取ったら？
テロリストがソーシャルメディアを活用したら？
そうした社会に危機をもたらすことを懸念しているのです。

【サダムフセインの処刑の様子】

サダムフセインが処刑された直後、その様子を撮影してYouTubeに投稿した人がいました。
投稿された動画は２本。
１本は絞首刑の様子を撮影したもの。
もう１本は遺体の様子。
どちらも極めて暴力的で生々しい動画です。

この２本のうち、遺体の動画は削除され、絞首刑のほうは残りました。
理由は、「かつての独裁者が処刑される様子が歴史的な価値のある動画であると判断された」からです。
でも、遺体の映像は歴史的な価値はないと判断されました。

コンテンツ・モデレーターは、こうした映像を見て、「削除」するか「放置」するかを日々判断しているのです。
たまらないですね。

【ネットの炎上】

ソーシャルメディア上で何らかの記事や動画が悪意を持ってとらえられ、そのSNS（FacebookやTwitterなど）に対して汚い罵りの言葉をアップする。
いわゆる炎上が起きることがあります。
そうしたときに「殺人予告」や「人格を完全否定する」などの攻撃にさらわれるケースが多々起きています。

でも、その大半は断片的な情報に反応しているだけ。
その断片的な情報から感情的になり、相手を目の前にしたらとても口に出せないような汚い言葉をSNS上にのせてしまう。

もし、あなたがネット上でどこの誰だか分からない人達からバッシングを受けたらどう感じますか？
傷つきますか？
それとも逆に攻撃してネット上で戦いますか？
大勢の攻撃に耐えて、反撃戦を展開できるほどの強い精神力を持っている人はほとんどいないでしょう。
共通していえることは、少なからずネットの誹謗中傷に傷つくということです。
ネットだから何を言ってもいい。
ネットだから何を表現してもいい。
ネットだから・・・。
という論理は果たして正しいのでしょうか？

また、「正しい」「正しくない」という議論は無用だ、と主張する人もいるかもしれません。
しかし、ネット上で言葉を交わすことと、直接相手を前にして言葉を交わすことは同じであることが人間として大切なのではないでしょうか。
直接相手を目の前にしては言えないけれど、ネットだから悪口や誹謗中傷を言えるとしたら、それは卑怯な振る舞いとしか思えません。

そんなひどい「書き込み」や「画像・動画」から守ってくれるのがコンテンツ・モデレーターなのです。
実際は、コンテンツ・モデレーターの仕事がネット上のすべてに行き届いてはいないかもしれませんが、それでも彼らがいなければネット上には、ありとあらゆる誹謗中傷の記事や暴力的表現などが溢れてしまうでしょう。

【ネット社会が生み出した最も過酷な仕事】

〈なにが問題か？〉
それはモデレーターという人間の精神を蝕むような仕事をGoogleやFacebookを生んだ国の人たちで行うのではなく、発展途上国と言われる貧しい国の人たちに押し付けていることです。（全部ではない）

フィリピンでは、いまでもゴミを拾って、生計を維持している人たちが多くいます。
その人たちが職業を得て、そうした貧しい生活から脱却するために仕事に就く。
それがコンテンツ・モデレーターだったら。
お金を得ることは出来るかもしれませんが、はたしてそうした人生（生活）をその国人たちが望んでいるのでしょうか？

コンテンツ・モデレーターという職業を知るということは、世界中を取り巻くソーシャルメディアの裏側を知ることになるということです。
陽の当たる部分ではなく、通常は決して陽の当たらない影の部分です。
けれど、ソーシャルメディアが健全であるためには絶対的に必要とされる部分でもあるのです。

〈過酷な仕事〉
モデレーターの仕事をしていてなにが過酷なのかというと、「何百回も人が首を斬られるのを見た」というモデレーターがいます。

こうしたものは通常絶対に報道されないし、人の眼に触れることのない情報です。
触れたくない見たくない、と言った方がいいでしょうか。
でも、モデレーターはそれを見ることが仕事なのです。

あるモデレーターは次のような言葉を残しています。
「この仕事は脳にダメージを与えます。暴力が当たり前になり、殺人も爆撃も日常に思えてしまう。人の手足や頭が飛び散る光景を何度も目にしました」
精神的にこれほど過酷な職業があるでしょうか。

それでも誰かがそれをやらないと、私たちの日常に暴力や過激な表現が満ち溢れ、怒りや妬み恨みが社会に蔓延してしまいます。
誰かがやらねばならないのです。

しかし、モデレーターは生身の人間です。
あるモデレーターが知り合いのモデレーターが出勤してこないので心配して家を訪ねました。すると、首を吊って自殺していたといいます。
自殺したモデレーターが担当していたのは、ライブ配信される自傷行為の動画でした。
その人はモデレーターの仕事から影響を受けてしまったのです。
会社はその事件を隠し通そうとしました。
（汚い！）

【個人的な意見】

このコンテンツ・モデレーターということを考えると、私は日本に存在した「忍者」を連想します。
人目に触れることなく、誰かを守るために、主君の命令であればどんな汚い仕事であっても遂行する。
そしてその仕事と存在は世間に知られることもない。
常に影。
いつも社会の暗部を見続ける。
忍耐強くあらねばならないのも共通しています。
コンテンツ・モデレーターとは、ソーシャルメディア界の忍者なのかもしれません。

ですが、人間が嫌がる仕事を、誰か他の人間にやらせることは良くないことです。
コンテンツ・モデレーターこそAIがすべき仕事だと思います。
こうした社会の暗部を担うためにこそAIは開発されなければならないと思います。

ソーシャルメディアは諸刃の剣です。
人間にとって「喜びや楽しさの共有」「人と人とが繋がることで安心感や共感を得ること」「孤独を癒す」「寂しさや悲しみからの解放」などの目的で使用すべきだし、そのためにこそ存在が許されるべきです。

決して自傷行為を生中継して、それをけし掛けたり、黙って見捨てたり、誰かを貶めたり、特定の人を傷つけるために使われるべきではありません。

ですが、すでにプラットフォームとしてその地位を確定したソーシャルメディアはそれを止めることはできないかもしれません。

世界中につながるネット上の負の情報を生身の人間が処理するには無理があり過ぎます。
こうした負の仕事をAIに任せるべきです。

コンテンツ・モデレーターこそAIが担うべき仕事だと言えます。
ただ、そこには人類にとって恐ろしい近未来が訪れてしまうかもしれない危険性が潜んでいます。
それはAIが人間のすることに対して、「善」と「悪」を判断するようになり、AI自身が独自の判断をするような進化を遂げてしまった場合、本当に映画「ターミネーター」のようにAIが人類を淘汰する未来が来る可能性もありうると思います。

人類を破滅させるAIを開発するのは、もしかしたらGoogleやFacebookなどのソーシャルメディア企業かもしれません。
（あくまでも個人の予想です）

お読みいただきありがとうございました。