「閑話休題」ならぬ「休題閑話」では人食いアヒルの子がネットなどで見つけた面白い記事を勝手に翻訳して紹介しています。下の記事はうちでとっている南ドイツ新聞に土曜日ごとに挟まってくる小冊子に『悪のネットの中で』というタイトルで２０１６年１２月１６日にのったものですが、長いので６回に分けます。
前回の続きです
「協同体スタンダード」という言葉はあたかも学生宿舎の清掃プランのような人畜無害な響きだが、まさにこの規約の裏にソーシャルメディア会社の巧妙に隠された秘密が潜んでいるのである。そこではどの内容をローディングしたりシェアしていいか、どの内容を削除するかが詳細に決められている。強い影響力を持つ大企業が毎日何十億人もの人々の目に触れるのものと触れないものを決めるということで、これは言論の自由と平行するある種の法令である。乳首を露出するのはけしからぬ、いや構わないなどというレベルの問題ではないのだ。なにしろフェイスブックは政治教育したり政治的な影響を強めたりするための最も重要な手段の一つなのだから。どんな画像がシェアされるかということは社会像を作り出すのに決定的な役割を果たす。災害や革命、あるいはデモなどがどういう受け止め方をされるかは、それらのどんな映像がフェイスブックのタイムラインに送ってこられるかにかかっている。にも関わらずその規約の圧倒的大部分が公開もされていなければ、投稿内容がどんな基準によって検閲されるのか、また逆に広められたりするのか、その詳細を立法機関が覗いてみることもできないのだ。
ソーシャルメディア企業はほとんどその規約のほんの小さな部分しか公開していない。そのうえその規約というのが大抵あいまいな言い回しをとっている。フェイスブックは例えば「当社は、人を危険に陥れるような行動パターンはどんな場合にも容認いたしません」というような事を規約で謳っている。が、どういうものを容認できない行動と見なすのかについての詳しい説明はない。元従業員によれば、こういう規約内容を秘密にしておくのは、巧妙な言い回しをして会社側が自分たちの削除規則をのらりくらりとスルーできるようにしているということを人々につかませないためなのだそうだ。ばかげたロジックだ。国民がその犯罪的な方法をさらに洗練してしまう心配があるといって、国がその法典を門外不出としておくようなものではないか。
フェイスブックは、自分たちは開かれた企業であって人々がいろいろな情報をシェアできるようにプラットフォームを提供しているだけだ、と示威しているのに、事が一旦自分たちの業務についての具体的な話になると口を閉ざしてしまう。連邦法務省の事務次官で「インターネット内の違法なヘイトコメント対処」の特別委員会の委員長でもあるゲルト・ビレンの言葉によれば、「残念ながら、今のところフェイスブックからは罪に問われ得るような内容にどう対処しているのか透明で他人にもわかるように公開する意図があまり感じとれません」とのことだ。氏は連邦法務省の代表でもあるのに、こんにちまでＡｒｖａｔｏに検査をいれる許可が取れないでいる。「ショックを与えるような内容への対応のしかたをどう取り決めているのか、例えば削除のための詳しい規則はどうなっているのか、この作業をする従業員は何人で、どんな資格でやらせているのか、ということですね、そういうことについて何度も透明性を要請しているんです。でも今のところ「そのうち、そのうち」という回答ばかりですね、とビレン。目下法務省はフェイスブックにもっと透明性を要請できるように法を整備することを検討中だ。
『南ドイツ新聞マガジン』にはフェイスブックの機密規則が大部分が明らかになっているが、同社の機密がここまで大規模に明るみに出されるのはこれが初めてだ。これ以前では２０１２年にアメリカのウェブサイトＧａｗｋｅｒに１７ページにわたるさる会社の削除の手引きが暴露された例があるが、この会社もやはりフェイスブックとの契約で仕事をしていた。
『南ドイツ新聞マガジン』が入手した社内文書はフェイスブックが定めてきた何百もの細かい規定からなっている。どの投稿は削除すべきで、どの投稿は削除しなくていいか、例を多く挙げて示されている。
例えば次のようなものは削除すること：
・公衆の面前で嘔吐している女性の画像に「うえー、あんた大人だろ、キモいなあ」というコメントがついたもの。（理由：コメントがハラスメントと見なされる。身体機能への嫌悪感を表明しているからである）
・チンパンジーの写真のわきで同じような表情を作っているコメントなしの少女の画像（理由；品位を貶めるような画像の出し方だから。人間と動物を明らかに同列に置いている）
・人間を痛めつけているビデオ。ただし「こいつどんだけ痛いだろう、こりゃ見てて楽しいや」などという類のコメントがついている場合のみ。
次のようなものは削除されない：
・中絶ビデオ（ただし裸の画像が映し出されていない場合のみ）
・縊死した人間の画像に「このクソ野郎吊るしてやれ」というコメントがついているもの（理由：この種の死刑への賛成表明なら許される範囲と見なされるから。禁止されるのは「保護されるべき人間集団」を特に名指しているもの。たとえばコメントに「このホモ野郎を吊るせ」などとあった場合）
・コメントなしの、極端な拒食症の女性の写真（理由；脈絡なしで自己傷害的な行動が示されているから）
過激な暴力内容の処理については例えば１５章２条で規定されている。暴力を礼賛することについて。「当社は、人間や動物が死んだり重傷を負ったりする画像にその暴力形式を礼賛するようなコメントがついている場合はその画像やビデオをユーザーがシェアするのを許容しません」とある。つまりその画像に写されている内容そのものは関係なく、画像と文面の組み合わせのみ問題になるということだ。暴力の礼賛と見なされるべきコメントの例がいろいろ挙げられているが、この規定の通りにするならば、誰か瀕死の人間の写真に「おい見ろよ、カッコいいじゃん」とか「このクソが」などと書き込まれた場合にだけ、そういう画像を削除せよというわけだ。
これらの規則のほとんどが理解しがたいものでした。チームの主任に言いましたよ、これはありえない、この絵はあんまり残酷じゃありませんか。こんなものを人の眼に触れさせるわけにはいかない、って。でも主任はただこう意見しただけです、それはあなた個人の考え。フェイスブックがどうしたがっているか、それと同じように考えるようにしないと。機械みたいな考え方をしろってことですよ、って。
フェイスブック本部からは絶え間なく協同体スタンダードとやらが更新されてくる。Ａｒｖａｔｏでは誰かがそれらの変更項目を把握していなければいけない。フェイスブックにとっては非常に重要なのだ。つまりユーザーをプラットフォームから逃がしてしまう原因のことだからである。そしてフェイスブックの最優先目的とはまさにその逆、できるだけ多くのユーザーをできるだけ長くとどめておき、それによってできるだけ多くの広告を見させ、フェイスブックができるだけ多くの金を稼ぐ、ということなのだ。
***
フェイスブックがここで解決しなければならない課題、それは決してたやすいものではない。人間の持つ憎悪や狂気を押さえつけておく一方でまた、大事な出来事が全く人の目に触れないで終わるようなこともあってはいけないないからだ。ここで削除するしないの判断は、結局ジャーナリズム報道でするニュース選択と同じくらいの広い影響力がある。
世界では何億人もの人たちがフェイスブックを最も重要なニュースソースにしているのに、同社はメディア企業とは見なされない。企業自身はニュースの中身を生み出していないからだが、メディア倫理上の問題とは関わらないわけにはいかない：暴力の表現はどういう時なら正当か、例えば戦争報道では許されるか？それがより高い目的のためであるということで？そういう、学者達が何十年も考えている問題にソーシャルメディアでは素早く答えを出さなければいけない。７年以上前にネダ・アガ=ソルタンさんというテヘランの若い女性が死亡するシーンがフェイスブックの競争相手ユーチューブに投稿され、最初のテストケースとなった。削除すべきか否か？ユーチューブのチームは「この映像は政治の記録であるからその残虐性にも関わらずネット公開のままにしておく」ことにした。もうかなり前から企業はそのような煩雑な決定のための単純な規則を立てようと試みている。例えばフェイスブックの機密文書には「人が死ぬのを写したビデオはショックも与えるが、自己傷害的な行動、精神的疾患、戦争犯罪、その他の重要な話題についての意識を高めもする」とある。どうしていいかわからない場合Ａｒｖａｔｏの従業員はそのビデオを上司に引き渡すように言われている。特に難しい件はダブリンにあるフェイスブックのヨーロッパ本部で処理することになっているそうだ。
特にひどかったのは去年の（訳者注：すでに「二年前」である）パリのテロ攻撃でした。特別会議を招集してその実況ビデオをどうしたらいいか話し合ったんです。サイトにはものすごく残虐なビデオが投稿されました。ほとんどリアルタイムでした。しまいに私たちはこういわれましたよ、投稿内容の大部分をとにかくアラビア語かフランス語のチームに回せって。そこでそのビデオがどうなったかは知りません。
パリでテロ攻撃が勃発した時はチームの主任は私たちコンテンツ・モデレーターを週末休みから呼び出しました。私の所に電話とＳＮＳが来たんです。週末中ぶっ通しで働きましたよ。
***
続きはこちら。
この記事は身の程知らずにもランキングに参加しています（汗）。
人気ブログランキングへ
前回の続きです
「協同体スタンダード」という言葉はあたかも学生宿舎の清掃プランのような人畜無害な響きだが、まさにこの規約の裏にソーシャルメディア会社の巧妙に隠された秘密が潜んでいるのである。そこではどの内容をローディングしたりシェアしていいか、どの内容を削除するかが詳細に決められている。強い影響力を持つ大企業が毎日何十億人もの人々の目に触れるのものと触れないものを決めるということで、これは言論の自由と平行するある種の法令である。乳首を露出するのはけしからぬ、いや構わないなどというレベルの問題ではないのだ。なにしろフェイスブックは政治教育したり政治的な影響を強めたりするための最も重要な手段の一つなのだから。どんな画像がシェアされるかということは社会像を作り出すのに決定的な役割を果たす。災害や革命、あるいはデモなどがどういう受け止め方をされるかは、それらのどんな映像がフェイスブックのタイムラインに送ってこられるかにかかっている。にも関わらずその規約の圧倒的大部分が公開もされていなければ、投稿内容がどんな基準によって検閲されるのか、また逆に広められたりするのか、その詳細を立法機関が覗いてみることもできないのだ。
ソーシャルメディア企業はほとんどその規約のほんの小さな部分しか公開していない。そのうえその規約というのが大抵あいまいな言い回しをとっている。フェイスブックは例えば「当社は、人を危険に陥れるような行動パターンはどんな場合にも容認いたしません」というような事を規約で謳っている。が、どういうものを容認できない行動と見なすのかについての詳しい説明はない。元従業員によれば、こういう規約内容を秘密にしておくのは、巧妙な言い回しをして会社側が自分たちの削除規則をのらりくらりとスルーできるようにしているということを人々につかませないためなのだそうだ。ばかげたロジックだ。国民がその犯罪的な方法をさらに洗練してしまう心配があるといって、国がその法典を門外不出としておくようなものではないか。
フェイスブックは、自分たちは開かれた企業であって人々がいろいろな情報をシェアできるようにプラットフォームを提供しているだけだ、と示威しているのに、事が一旦自分たちの業務についての具体的な話になると口を閉ざしてしまう。連邦法務省の事務次官で「インターネット内の違法なヘイトコメント対処」の特別委員会の委員長でもあるゲルト・ビレンの言葉によれば、「残念ながら、今のところフェイスブックからは罪に問われ得るような内容にどう対処しているのか透明で他人にもわかるように公開する意図があまり感じとれません」とのことだ。氏は連邦法務省の代表でもあるのに、こんにちまでＡｒｖａｔｏに検査をいれる許可が取れないでいる。「ショックを与えるような内容への対応のしかたをどう取り決めているのか、例えば削除のための詳しい規則はどうなっているのか、この作業をする従業員は何人で、どんな資格でやらせているのか、ということですね、そういうことについて何度も透明性を要請しているんです。でも今のところ「そのうち、そのうち」という回答ばかりですね、とビレン。目下法務省はフェイスブックにもっと透明性を要請できるように法を整備することを検討中だ。
『南ドイツ新聞マガジン』にはフェイスブックの機密規則が大部分が明らかになっているが、同社の機密がここまで大規模に明るみに出されるのはこれが初めてだ。これ以前では２０１２年にアメリカのウェブサイトＧａｗｋｅｒに１７ページにわたるさる会社の削除の手引きが暴露された例があるが、この会社もやはりフェイスブックとの契約で仕事をしていた。
『南ドイツ新聞マガジン』が入手した社内文書はフェイスブックが定めてきた何百もの細かい規定からなっている。どの投稿は削除すべきで、どの投稿は削除しなくていいか、例を多く挙げて示されている。
例えば次のようなものは削除すること：
・公衆の面前で嘔吐している女性の画像に「うえー、あんた大人だろ、キモいなあ」というコメントがついたもの。（理由：コメントがハラスメントと見なされる。身体機能への嫌悪感を表明しているからである）
・チンパンジーの写真のわきで同じような表情を作っているコメントなしの少女の画像（理由；品位を貶めるような画像の出し方だから。人間と動物を明らかに同列に置いている）
・人間を痛めつけているビデオ。ただし「こいつどんだけ痛いだろう、こりゃ見てて楽しいや」などという類のコメントがついている場合のみ。
次のようなものは削除されない：
・中絶ビデオ（ただし裸の画像が映し出されていない場合のみ）
・縊死した人間の画像に「このクソ野郎吊るしてやれ」というコメントがついているもの（理由：この種の死刑への賛成表明なら許される範囲と見なされるから。禁止されるのは「保護されるべき人間集団」を特に名指しているもの。たとえばコメントに「このホモ野郎を吊るせ」などとあった場合）
・コメントなしの、極端な拒食症の女性の写真（理由；脈絡なしで自己傷害的な行動が示されているから）
過激な暴力内容の処理については例えば１５章２条で規定されている。暴力を礼賛することについて。「当社は、人間や動物が死んだり重傷を負ったりする画像にその暴力形式を礼賛するようなコメントがついている場合はその画像やビデオをユーザーがシェアするのを許容しません」とある。つまりその画像に写されている内容そのものは関係なく、画像と文面の組み合わせのみ問題になるということだ。暴力の礼賛と見なされるべきコメントの例がいろいろ挙げられているが、この規定の通りにするならば、誰か瀕死の人間の写真に「おい見ろよ、カッコいいじゃん」とか「このクソが」などと書き込まれた場合にだけ、そういう画像を削除せよというわけだ。
これらの規則のほとんどが理解しがたいものでした。チームの主任に言いましたよ、これはありえない、この絵はあんまり残酷じゃありませんか。こんなものを人の眼に触れさせるわけにはいかない、って。でも主任はただこう意見しただけです、それはあなた個人の考え。フェイスブックがどうしたがっているか、それと同じように考えるようにしないと。機械みたいな考え方をしろってことですよ、って。
フェイスブック本部からは絶え間なく協同体スタンダードとやらが更新されてくる。Ａｒｖａｔｏでは誰かがそれらの変更項目を把握していなければいけない。フェイスブックにとっては非常に重要なのだ。つまりユーザーをプラットフォームから逃がしてしまう原因のことだからである。そしてフェイスブックの最優先目的とはまさにその逆、できるだけ多くのユーザーをできるだけ長くとどめておき、それによってできるだけ多くの広告を見させ、フェイスブックができるだけ多くの金を稼ぐ、ということなのだ。
***
フェイスブックがここで解決しなければならない課題、それは決してたやすいものではない。人間の持つ憎悪や狂気を押さえつけておく一方でまた、大事な出来事が全く人の目に触れないで終わるようなこともあってはいけないないからだ。ここで削除するしないの判断は、結局ジャーナリズム報道でするニュース選択と同じくらいの広い影響力がある。
世界では何億人もの人たちがフェイスブックを最も重要なニュースソースにしているのに、同社はメディア企業とは見なされない。企業自身はニュースの中身を生み出していないからだが、メディア倫理上の問題とは関わらないわけにはいかない：暴力の表現はどういう時なら正当か、例えば戦争報道では許されるか？それがより高い目的のためであるということで？そういう、学者達が何十年も考えている問題にソーシャルメディアでは素早く答えを出さなければいけない。７年以上前にネダ・アガ=ソルタンさんというテヘランの若い女性が死亡するシーンがフェイスブックの競争相手ユーチューブに投稿され、最初のテストケースとなった。削除すべきか否か？ユーチューブのチームは「この映像は政治の記録であるからその残虐性にも関わらずネット公開のままにしておく」ことにした。もうかなり前から企業はそのような煩雑な決定のための単純な規則を立てようと試みている。例えばフェイスブックの機密文書には「人が死ぬのを写したビデオはショックも与えるが、自己傷害的な行動、精神的疾患、戦争犯罪、その他の重要な話題についての意識を高めもする」とある。どうしていいかわからない場合Ａｒｖａｔｏの従業員はそのビデオを上司に引き渡すように言われている。特に難しい件はダブリンにあるフェイスブックのヨーロッパ本部で処理することになっているそうだ。
特にひどかったのは去年の（訳者注：すでに「二年前」である）パリのテロ攻撃でした。特別会議を招集してその実況ビデオをどうしたらいいか話し合ったんです。サイトにはものすごく残虐なビデオが投稿されました。ほとんどリアルタイムでした。しまいに私たちはこういわれましたよ、投稿内容の大部分をとにかくアラビア語かフランス語のチームに回せって。そこでそのビデオがどうなったかは知りません。
パリでテロ攻撃が勃発した時はチームの主任は私たちコンテンツ・モデレーターを週末休みから呼び出しました。私の所に電話とＳＮＳが来たんです。週末中ぶっ通しで働きましたよ。
***
続きはこちら。
この記事は身の程知らずにもランキングに参加しています（汗）。
人気ブログランキングへ
