「閑話休題」ならぬ「休題閑話」では人食いアヒルの子がネットなどで見つけた面白い記事を勝手に翻訳して紹介しています。下の記事はうちでとっている南ドイツ新聞に土曜日ごとに挟まってくる小冊子に『悪のネットの中で』というタイトルで2016年12月16日にのったものですが、長いので6回に分けます。
前回の続きです。
これらの規則を実行に移すのは従業員には荷が重過ぎるのである。多くの者が報告しているが、研修ではそれらを書き留めることが許されていなかったそうだ。機密になっている規則が外部に洩れないようにとの安全措置なのである。
協同体スタンダードは四六時中変更になりました。以前は切り離された首の画像とかはその様子をリアルタイムで流すのでない限りOKだったんです。なんなんですかね、この意味のない規則は?こんなことを決めたのは誰なんですかね?
協同体スタンダードにはヘイトスピーチに関する章があって、どういう中傷なら許されるか定められている。そこには「本来フェイスブックは、難民攻撃の内容は削除しませんでした。難民は保護されるべきカテゴリーに属していないからです。しかしそのためフェイスブックのガイドラインに関してネガティブ報道がなされるようになり、ドイツが自国におけるフェイスブックの活動の差し止めにする恐れが出てきました。その結果協同体スタンダードを更新し、難民にもしかるべき保護措置をとることとします」とある。ここではフェイスブックがどのような内容を禁止または削除するかを定めた規則は政治や世論の圧力に影響されることがはっきり見て取れるが、他方ではフェイスブックのような企業が抱えている根本的な問題点が浮き彫りになってもいる。何が、あるいは誰が社会で特別な保護措置を享受できるのか。このことはドイツでは何よりも先に憲法で定められるべきとされ、企業イメージを損なう恐れが出ればさっさと対応して変更できる一企業の規則などで規定されるべきものではない。理論的には次のようなこともありうるからだ:アメリカ合衆国の社会コンセンサスがひっくりかえり、イスラム教がフェイスブックで受ける保護措置が突然軽減されたとしたら?イスラム教徒に向けた扇動が、フェイスブックの社内機密文書によって保護されている他の宗徒、キリスト教、ユダヤ教、モルモン教徒に向けたものほど追求されることがなくなったら?水面下でそうなっても公共の場には決して知らされないだろう。協同体スタンダードのごく小さな変更でさえ、世界で何十億人もの人々が毎日のように目にしているものに大きな影響を及ぼすのにである。
私たちは本当に多くの苦しみを目にしました… でもそれらの画像に出ていた人たちがその後どうなったのかは永久に知ることができません。この子たちはいまは何をしているのでしょう?犯人は捕まるのでしょうか?
Arvatono従業員がチェックする内容は、道徳観念ばかりでなくドイツの法律にも反している。違法な投稿をフェイスブックはどう処理すべきなのか、これは実は複雑なのである。メディアとIT関係を専門とする法律家ベルンハルト・ブーヒナーの言に寄れば、ドイツの法律では、プラットフォームの運営者は具体的な違法行為または違法な情報のことを知ったら直ちにそれを削除するか、それへのアクセスをブロックしないといけないことになっている。それをしない場合、フェイスブックのような企業には会社自身が法的責任を問われる危険が生じる。そればかりではない。刑法138条からすると、一連の違法行為については、誰かが本気でその計画を立てていることを知ったら、必ずその計画を告発する義務が生じるようになっている。例えば誰かがフェイスブック投稿で同級生を射殺すると声明を出し、それが本気でありそうな場合、その投稿を削除するばかりでなく通報する必要があるのだ。当局または脅されている当事者にである。
フェイスブックが子供ポルノをアメリカの「行方不明または搾取された児童のための国立センター」(NCMEC)に転送することは今までにも知られている。NCMECに指摘されてきた情報はすべてそこでよりわけられてさらに詳しく捜査するためにアメリカ国以内または外国のしかるべき刑事訴追当局に転送される、とドイツ連邦刑事局が『南ドイツ新聞マガジン』の問いに対して説明。「罪になる行為が連邦領内から行われている限り、その件についての利用可能な情報が連邦刑事局に送られます。」子供ポルノばかりでなく他の違法行為もフェイスブック経由でドイツ当局の手にわたるのか?フェイスブックは詳細を発表していない。
***
Arvatoにも「コンテンツ・モデレーター」の扱いについて懸念する人たちはいる。しかしフェイスブックはそういう人たちにこういう幻想を与えて慰めているのだ;そのうち人工知能によってコンピューターが利用規約違反の内容を見分けられるようになるだろう。フェイスブック、ツイッター、グーグルやマイクロソフトがつい数日前発表したが、将来的には自社のサイトのテロのプロパガンダを共同のデータバンクにセーブして「デジタルの指紋」をつけておくようにするつもりだとのこと。そうやって、例えばツイッターで削除された画像は自動的にフェイスブックでも削除されるようにする。この考えは一方では希望を抱かせるものではある。そうなればもう人間がこれらのホラーに身をさらさなくてもよくなるだろう、という希望。だがさらに想像してみるとこれは恐怖なのだ。何十億人もの人々がフェイスブックで目にする内容をアルゴリズムが決める、何が残酷で何が残酷でないか、どこまでが風刺で何処からがテロリズムかをコンピューターが判断することになるからだ。
誰かがこの仕事をやらなくてはいけない、それはわかっているんです。でもそれはそれ用の訓練を受け、援助もされている人々であるべきで、私たちのようにただ無造作に犬の前に行かされた人たちであってはいけないんです。
いつもこういう夢を見るんですよ:人々が燃えている家から走り出てくる。地面でバラバラになってしまいます。一人また一人と血でできた水溜りに倒れていく。私は下に立って人々を受け止めようとするんですが、大勢過ぎて、重すぎて、脇によけざるを得ない、でないと当たってこちらが死んでしまう。私の周りにはたくさん人がいる、助けようとしない人たちがたくさん。助ける代わりにケイタイで写真に撮ってるんですよ。
調査が進んでいく間にも私たちは情報提供者にその後どうしているか繰り返し尋ねた。
一人は悪夢はどうにか克服したといい、ただ昼間時々画像が心に浮かび上がって来るとのことだった。この人は先日電球を取り替えようとして梯子に上って何気なく下を見たとき、突然ISの手先の者がこいつらは同性愛者だといって屋根から投げ落とした人たちが地面に叩きつけられて行くのを見ているような気がしたそうだ。何人かはもうドイツを出て、この国から遠いところで暮らしている。別の何人かは公園に行けば人が動物を虐待しているように、浜辺に行けば誰かが子供を虐待しているように見えて苦労している。この女性はArvatoを辞めて心的外傷の心理セラピーを申請した。さらに一人はドイツ語の講習を受け、もともとやっていた職業をドイツでも生かせるようにしたいと望んでいる。
まだArvatoに残っている従業員で、この先もこの会社に留まりたいと考えている者はいない。
『南ドイツ新聞マガジン』編集後記:
この記事の執筆者は情報提供者に、こういう削除作業をさせられたあとでもプライベート生活でフェイスブックを使うかどうか聞いてみた。ほぼ全員がイエスと答えたそうだ。「これはほとんど中毒ですね」と彼らは言っているという。
元の記事はこちら
(全部見るにはアーカイブの有料使用者となるか、無料の「14日間お試し期間」に登録する必要があります。
念のため:私はこの新聞社の回し者ではありません。)
この記事は身の程知らずにもランキングに参加しています(汗)。
人気ブログランキングへ
前回の続きです。
これらの規則を実行に移すのは従業員には荷が重過ぎるのである。多くの者が報告しているが、研修ではそれらを書き留めることが許されていなかったそうだ。機密になっている規則が外部に洩れないようにとの安全措置なのである。
協同体スタンダードは四六時中変更になりました。以前は切り離された首の画像とかはその様子をリアルタイムで流すのでない限りOKだったんです。なんなんですかね、この意味のない規則は?こんなことを決めたのは誰なんですかね?
協同体スタンダードにはヘイトスピーチに関する章があって、どういう中傷なら許されるか定められている。そこには「本来フェイスブックは、難民攻撃の内容は削除しませんでした。難民は保護されるべきカテゴリーに属していないからです。しかしそのためフェイスブックのガイドラインに関してネガティブ報道がなされるようになり、ドイツが自国におけるフェイスブックの活動の差し止めにする恐れが出てきました。その結果協同体スタンダードを更新し、難民にもしかるべき保護措置をとることとします」とある。ここではフェイスブックがどのような内容を禁止または削除するかを定めた規則は政治や世論の圧力に影響されることがはっきり見て取れるが、他方ではフェイスブックのような企業が抱えている根本的な問題点が浮き彫りになってもいる。何が、あるいは誰が社会で特別な保護措置を享受できるのか。このことはドイツでは何よりも先に憲法で定められるべきとされ、企業イメージを損なう恐れが出ればさっさと対応して変更できる一企業の規則などで規定されるべきものではない。理論的には次のようなこともありうるからだ:アメリカ合衆国の社会コンセンサスがひっくりかえり、イスラム教がフェイスブックで受ける保護措置が突然軽減されたとしたら?イスラム教徒に向けた扇動が、フェイスブックの社内機密文書によって保護されている他の宗徒、キリスト教、ユダヤ教、モルモン教徒に向けたものほど追求されることがなくなったら?水面下でそうなっても公共の場には決して知らされないだろう。協同体スタンダードのごく小さな変更でさえ、世界で何十億人もの人々が毎日のように目にしているものに大きな影響を及ぼすのにである。
私たちは本当に多くの苦しみを目にしました… でもそれらの画像に出ていた人たちがその後どうなったのかは永久に知ることができません。この子たちはいまは何をしているのでしょう?犯人は捕まるのでしょうか?
Arvatono従業員がチェックする内容は、道徳観念ばかりでなくドイツの法律にも反している。違法な投稿をフェイスブックはどう処理すべきなのか、これは実は複雑なのである。メディアとIT関係を専門とする法律家ベルンハルト・ブーヒナーの言に寄れば、ドイツの法律では、プラットフォームの運営者は具体的な違法行為または違法な情報のことを知ったら直ちにそれを削除するか、それへのアクセスをブロックしないといけないことになっている。それをしない場合、フェイスブックのような企業には会社自身が法的責任を問われる危険が生じる。そればかりではない。刑法138条からすると、一連の違法行為については、誰かが本気でその計画を立てていることを知ったら、必ずその計画を告発する義務が生じるようになっている。例えば誰かがフェイスブック投稿で同級生を射殺すると声明を出し、それが本気でありそうな場合、その投稿を削除するばかりでなく通報する必要があるのだ。当局または脅されている当事者にである。
フェイスブックが子供ポルノをアメリカの「行方不明または搾取された児童のための国立センター」(NCMEC)に転送することは今までにも知られている。NCMECに指摘されてきた情報はすべてそこでよりわけられてさらに詳しく捜査するためにアメリカ国以内または外国のしかるべき刑事訴追当局に転送される、とドイツ連邦刑事局が『南ドイツ新聞マガジン』の問いに対して説明。「罪になる行為が連邦領内から行われている限り、その件についての利用可能な情報が連邦刑事局に送られます。」子供ポルノばかりでなく他の違法行為もフェイスブック経由でドイツ当局の手にわたるのか?フェイスブックは詳細を発表していない。
***
Arvatoにも「コンテンツ・モデレーター」の扱いについて懸念する人たちはいる。しかしフェイスブックはそういう人たちにこういう幻想を与えて慰めているのだ;そのうち人工知能によってコンピューターが利用規約違反の内容を見分けられるようになるだろう。フェイスブック、ツイッター、グーグルやマイクロソフトがつい数日前発表したが、将来的には自社のサイトのテロのプロパガンダを共同のデータバンクにセーブして「デジタルの指紋」をつけておくようにするつもりだとのこと。そうやって、例えばツイッターで削除された画像は自動的にフェイスブックでも削除されるようにする。この考えは一方では希望を抱かせるものではある。そうなればもう人間がこれらのホラーに身をさらさなくてもよくなるだろう、という希望。だがさらに想像してみるとこれは恐怖なのだ。何十億人もの人々がフェイスブックで目にする内容をアルゴリズムが決める、何が残酷で何が残酷でないか、どこまでが風刺で何処からがテロリズムかをコンピューターが判断することになるからだ。
誰かがこの仕事をやらなくてはいけない、それはわかっているんです。でもそれはそれ用の訓練を受け、援助もされている人々であるべきで、私たちのようにただ無造作に犬の前に行かされた人たちであってはいけないんです。
いつもこういう夢を見るんですよ:人々が燃えている家から走り出てくる。地面でバラバラになってしまいます。一人また一人と血でできた水溜りに倒れていく。私は下に立って人々を受け止めようとするんですが、大勢過ぎて、重すぎて、脇によけざるを得ない、でないと当たってこちらが死んでしまう。私の周りにはたくさん人がいる、助けようとしない人たちがたくさん。助ける代わりにケイタイで写真に撮ってるんですよ。
調査が進んでいく間にも私たちは情報提供者にその後どうしているか繰り返し尋ねた。
一人は悪夢はどうにか克服したといい、ただ昼間時々画像が心に浮かび上がって来るとのことだった。この人は先日電球を取り替えようとして梯子に上って何気なく下を見たとき、突然ISの手先の者がこいつらは同性愛者だといって屋根から投げ落とした人たちが地面に叩きつけられて行くのを見ているような気がしたそうだ。何人かはもうドイツを出て、この国から遠いところで暮らしている。別の何人かは公園に行けば人が動物を虐待しているように、浜辺に行けば誰かが子供を虐待しているように見えて苦労している。この女性はArvatoを辞めて心的外傷の心理セラピーを申請した。さらに一人はドイツ語の講習を受け、もともとやっていた職業をドイツでも生かせるようにしたいと望んでいる。
まだArvatoに残っている従業員で、この先もこの会社に留まりたいと考えている者はいない。
『南ドイツ新聞マガジン』編集後記:
この記事の執筆者は情報提供者に、こういう削除作業をさせられたあとでもプライベート生活でフェイスブックを使うかどうか聞いてみた。ほぼ全員がイエスと答えたそうだ。「これはほとんど中毒ですね」と彼らは言っているという。
元の記事はこちら
(全部見るにはアーカイブの有料使用者となるか、無料の「14日間お試し期間」に登録する必要があります。
念のため:私はこの新聞社の回し者ではありません。)
この記事は身の程知らずにもランキングに参加しています(汗)。
人気ブログランキングへ