コンテンツ・モデレーションの作業は海外で行われることも多いが、さらに多くが米国内で行われている。従業員の大半は、かつてのスウェアリンジェンのような若い大学出だ。
多くの企業は二重の適正化システムを採用している。ごく単純な適正化作業は外国にアウトソーシングし、より深い文化理解が必要とされる込み入ったチェック作業を米国で行うのだ。
米国のモデレーターの待遇は、国外の同業者に比べて格段によい。米国の有名テック企業では、新人でも1時間でフィリピンのヴェテランモデレーターの日給以上の給料を稼ぎ出す。だが、フィリピンではこのコンテンツ・モデレーションの請負業務は若者たちの憧れの的なのに対して、米国のモデレーターは、ほかに仕事がなくてやむにやまれずこの職に就いた者も多く、仕事に耐え切れずに脱落していくこともよくある。
「みな、だいたい3～5カ月で壁にぶち当たります」と、かつてYouTubeのモデレーターだったロブ（仮名）は言う。
「『おれは1日いったい何をやってるんだろう。もうイヤだ
』って気持ちになるんです」
ロブは2010年にコンテンツ・モデレーターとなった。大学を卒業し、ガールフレンドのあとを追ってベイエリアに移ってきたところだった。ここでは大学で取得した歴史学の学位など、顔のタトゥーほどの価値しかなかった。数カ月が経ち、ロブは自暴自棄になりつつあった。
人材派遣会社CDIからオファーの電話があったのはそのころだ。YouTubeの動画モデレーターとしてグーグルの面接を受けに行くよう、リクルーターから指示された。なんと、あのグーグルだ！ もちろん、単なる下請けの契約だが、正社員登用のチャンスもあるという説明だった。給料は時給20ドルほどだという。ファストフードのバイトに比べればはるかに高給だ。ロブは面接を受け、1年間の契約で採用された。「そりゃあ嬉しかったですよ。給料もいいし、ユーチューブでの職歴ありなんて履歴書に書けたら最高ですからね」
ロブはカリフォルニア州サンブルーノのユーチューブ本社で動画管理の仕事に就いた。最初の数カ月間はまったく苦にならなかった。同僚はロブと同じように新卒の若者がほとんどだったし、その多くは文系学部出身で、衛生キャップを頭にかぶらなくてもいい仕事にありつけただけでも御の字だった。上司はいい人だったし、カフェテリアで無料のランチをとれるといったささやかな特典もあった。
8時間の勤務の間、ロブはユーチューブの広々としたオフィスで2台のモニターの前に座った。1台のモニターに再生される何十本もの動画を一度に眺め、もう1台のモニターは好きに使ってよかった。ロブは「宇宙空母ギャラクティカ」の全話を片目で鑑賞しながら、もう片方の目で残酷映像やヘイトスピーチの動画をチェックし、削除した。
ユーチューブの内部事情を垣間見られるのも魅力的だった。例えば、2010年末にある政治家が刺された事件で、容疑者の英国人女性が米国出身のイスラム過激派アンワル・アウラキの暴力的な説教に影響を受けたと語ったときには、グーグルの法務部からアウラキの説教の動画を一斉削除するよう臨時の業務命令が下されたという。
だが数カ月が過ぎるうち、不適切な動画を見続けるのが苦痛になり始めた。
最悪だったのが残酷動画だ。血なまぐさい市街戦、動物虐待、自爆テロ、斬首、悲惨な交通事故。
当時「アラブの春」が最高潮を迎えており、活動家たちは政府の弾圧を世界に公表するためにYouTubeを利用した。そのような「ニュース価値のある」動画は、たとえガイドラインから逸脱するものでも警告とともに残すよう指示された。だがデモ参加者の死体や市街戦のアップは、ロブや同僚たちにとって正視に堪えないものだった。
悲惨な事件を記録したそれらの動画は、ただ病的な残酷趣味を掻き立てるばかりだった。
「動物虐待の動画は、虐待した人物が自分でアップロードしているケースがほとんどでした。それで満足感を得るのです」とロブは言う。
「残虐な行為に満足感を得る人間の視点から悲惨な出来事の動画を見ることは、そのような行為を報道するニュースに触れるよりも、ある意味はるかに視聴者にとって有害です。それを目にした人の、人間に対する考えを取り返しのつかないほど歪ませ、損ないます」
ロブは仕事を離れても動画のことで悩み苦しむようになった。人付き合いを避け、イライラし、怒りっぽくなった。ユーチューブにはカウンセラーがいて、モデレーターも相談できることになってはいたが、どうやって連絡をとればいいのかは知らされなかった。周りにもカウンセリングを受けたことがある人はいなかった。自分で何とかするしかない。ロブは酒浸りになり、太っていった。
ロブは自分がグーグルの正社員になることなどほぼ不可能だという事実を知った。契約から数カ月後、グーグルの求人に応募したが、大学でのGPA（成績評価値）が不足していたため門前払いだったという（グーグルはGPAだけで採用の可否を決めることはないと否定している）。ロブが伝え聞いたところでは、GPAが足りていたとしても、下請けからグーグル社員になれることなどまずないらしい。
契約満了まで数カ月を残し、ロブは別の仕事を見つけて転職した。
最終日の午後7時に業務を終えたとき、ロブは言いようのない解放感を感じた。車に飛び乗りオレンジカウンティの実家に帰ると、3日間ぶっ通しで眠った。
病んでゆくモデレーターたち
仮にコンテンツ・モデレーターがソーシャルメディアサイトの全労働力の半分を占めているとすれば、この業務が長期的にいかなる精神的苦痛をモデレーターにもたらすかは熟考に値する。ジェーン・スティーヴンソンは2000年代前半、英国国家犯罪対策局（米国のFBIにあたる広域捜査機関）の労働衛生および福祉部門のトップに就いた。
当時、世界的に児童ポルノ撲滅運動の最初の波が起こっていた。スティーヴンソンは捜査官たちが児童ポルノ画像によって精神的被害を受けるのを目の当たりにする。
ポストを退いてからも、しばしば政府機関や民間団体から、捜査にともなう精神への悪影響にどう対処したらよいか意見を求められたスティーヴンソンは、高度なプレッシャーを強いられる職業を対象とする労働衛生コンサルタント企業Workplace Wellbeingを設立する。顧客には英国のソーシャルメディア企業も含まれていたが、アドヴァイスをするうち、ソーシャルメディア企業のコンテンツ・
モデレーターたちも、法執行機関で児童ポルノ摘発や対テロ捜査を行う捜査官と同じ苦痛を抱いていることがわかった。
「一目でもそのような画像を見てしまったら、もう永遠に元には戻れません」と、スティーヴンソンは言う。捜査機関には特別な治療プログラムがあるし、メンタルヘルスの専門家もいるが、ハイテク企業の多くはまだこの問題の深刻さを把握するに至っていない、と彼女は指摘する。
「それは近親者との死別や職場でのいじめと同じで、対処の方法はあると考える人もいます」とスティーヴンソンは言う。
「誰でもいつかは近親者の死に直面しますし、気に障ることを言う人と一緒にいれば精神的に辛くもなるでしょう。それらはごく正常な反応です。しかし、2歳の幼児との性行為が正常といえるでしょうか？人間の首をゆっくりと時間をかけて切断することが ──あなたにトラウマを植え付けようというわけではありませんが、人の首を切り落とすのには時間がかかります── それが正常な行為でしょうか？ そんなものにどう対処しろというのですか？」
フィリピンで2つのコンテンツ・モデレーション企業のカウンセラーを務める心理学者デニス（仮名）とマニラで会った。
「それはPTSD（心的外傷後ストレス障害）に似ています」と、ひっきりなしにクルマが通り過ぎてゆく高速道路に面したオフィスでデニスは言う。「心に記憶の痕跡が残っているのです」。
デニスのチームは広範囲にわたって患者を観察できるシステムをつくり上げた。モデレーターたちに心理テストを受けさせて治療前の基準値を設定し、不快な映像の影響を最小限に留めるために面接やカウンセリングを重ねた。
だがどれほどカウンセリングに最善を尽くしても、人間の暗黒面の奥底を見つめる仕事はモデレーターの精神を蝕んだ。毎日何時間もポルノ画像を見たせいで、配偶者との性交渉に支障をきたし、辞めていったモデレーターもいる。また性欲の異常な亢進に悩む者もいる。
「毎日8時間、延々とポルノを見続けるのがどんなことなのか想像できますか？」とデニスは訊く。「そんなことにいつまで耐えられるでしょう？」
 |
| コンテンツ・モデレーションを行っているOpen Access BPO社の社員。マニラのオフィスにて。 |
生涯忘れることのない映像
その近くのショッピングモールで、ある若い女性と会った。名前を仮にマリアとしよう。勤め先のアウトソーシング企業が昼休みになり、会社を抜けてきたのだ。その企業で、マリアのチームは米国の著名なテック企業が提供するクラウドストレージサーヴィスの画像や動画の管理を担当している。マリアはその品質保証責任者で、チームの何十人ものモデレーターに見落としがないかを監督する任務を負っている。つまり、モデレーターたちが違反と判断した無数の動画を目で確認しなければならないのだ。
「児童虐待の動画を見るのは本当に辛いです」とマリアは言う。「最後まで一気に見るなんてできません。少し見ては動画を止めて、一休みしないと。スターバックスにコーヒーを買いに行ったりしてね」。陰惨な性犯罪とおしゃれなラテという奇妙な取り合わせにマリアは笑った。
そのような動画に絶え間なくさらされて、精神を病んでしまった同僚もいる。来る日も来る日も果てしなく増殖する人間の悪意の証拠を突きつけられ、しまいには現実に出会う人たちも何かおぞましい秘密をハードディスクのなかに隠しているのではないかと疑い始めてしまうのだ。
マリアの同僚には、不安のあまり自分の子どもたちをベビーシッターに預けられなくなってしまった女性が2人いる。仕事の間、子どもたちを安心して任せられる人を見つけられずに欠勤することもあるという。
あの目隠しされた少女の動画は、仕事を辞めてもずっと頭から離れないだろう、とマリアは言う。「忘れられるかどうかわかりません。あの動画を見たのはずっと前ですが、いまでも目に焼き付いています。昨日見たばかりのように」
マリアは、とりわけこの仕事を始めたばかりのころに目にした動画を忘れることができない。
「映っていたのは若い女性でした
」。マリアは声をひそめる。
「たぶん15～18歳くらい、どう見ても未成年でした。スキンヘッドの男も映りました。男は頭を女性のヴァギナに突っ込もうとしていました。女性は目隠しされ、手錠をはめられ、泣き叫んでいました」
その動画は30分以上もあった。1分ほど見たところで、マリアは怒りと悲しみに体が震えるのを感じた。こんなにひどいことをできるのはどんな人間だろう？ マリアは男の顔を見つめたが、スキンヘッドで中東系の顔立ちというほかには何の特徴もなかった。邪悪な男は、ショッピングモールですれ違ってもまったく記憶に残らないような顔をしていた。
マリアはこのクラウドストレージのモデレーターを2年半ほど務めているが、この年末に辞めて医学部に進学する予定だ（編注：
オリジナル記事は2014年10月掲載）。
だが、あの目隠しされた少女の動画は、仕事を辞めてもずっと頭から離れないだろう、とマリアは言う。
「忘れられるかどうかわかりません。あの動画を見たのはずっと前ですが、いまでも目に焼き付いています。昨日見たばかりのように
」
RECOMMEND
現在そのほとんどが人力によって行われているコンテンツ・モデレーション。しかし近い将来、人工知能によって不適切画像や動画が自動的に消去される日が来るかもしれない。Twitterが試みる、ポルノを学習するAIの実装までのストーリー。
