このゲストブログは、 ジョン・カー, 子供と若者によるインターネットと関連する新しいテクノロジーの利用に関する世界有数の権威の XNUMX つです。 その中で彼は、プラットフォームを暗号化し、将来的に児童保護機関が児童性的虐待の内容を検出して削除する能力を奪うというFacebookの提案がもたらす可能性のある(壊滅的な)影響について述べている。

John の他のブログを紹介しました。 年齢確認, キャッピング、 そしてその WeProtect グローバル アライアンス.

先週の水曜日、米国の国立行方不明児童搾取児童センター(NCMEC) その数字を公表した 2020 年に受け取ったレポートは 16.9 万件でしたが、2019 年には 21.7 万件に増加しました。これは 2020% 以上増加しています。 メッセージング プラットフォームが依然として最大のソースです。

21.4 年のレポートのうち 2020 万件はオンライン ビジネス自体から直接提供され、残りは一般の人々からのものでした。 後者は、2019 年の 100 倍の増加に相当します。驚くべきことに、オンラインでの誘惑に関する報告は、前年比でほぼ XNUMX% 増加しました。 世界中の大規模なロックダウンの影響? おそらく。

21.7 万件のレポートには、とりわけ 31,654,163 万 33,690,561 件のビデオ ファイルと、静止画を含む XNUMX 万 XNUMX 件のファイルが含まれていました。 XNUMX つのレポートで複数の項目を参照できます。

したがって、報告総数のうち、何らかの違法画像の処理に圧倒的な焦点が当てられていますが、120,590 件の 「その他のファイル」  NCMEC のグラフに示されているものは、子供たちにとって深刻な脅威でもあります。

2,725,518件の報告により、インドが再び国リストのトップになりました。 次にフィリピン、パキスタン、アルジェリアが続き、大きく遅れをとっているものの、それでもいずれも1万人の大台を超えている。

良いニュースですか、それとも悪いニュースですか? 

メッセージング プラットフォームでの児童性的虐待の積極的なスキャンに反対する人々は、これらの数値を指摘して、数値が常に上昇しているため、スキャンが有効な抑止力ではないことを証明していると主張することがあります。 政策を呼び掛けるべきだと言う人もいる 「失敗」。

犯罪者は、今後 12 か月の計画の概要を示しながら、昨年行ったことを忠実に申告して年次申告を完了することを断固として拒否するため、CSAM がどれだけ存在するか、過去に存在したか、または今後存在する可能性があるのか​​、私たちはまったく知りませんし、知ることもできません。子どもたちをオンラインで性的虐待に関与させようとする試みがこれまでにどれだけ行われたか、あるいはこれから行われるであろうか。 したがって、NCMEC の新しい数値は、単に検出能力が向上していることを示している可能性があります。 彼らが絶対にやらないことは、この犯罪との戦いの分野を放棄し、被害者を見捨て、児童虐待者とオンライン空間の管理不可能性の勝利を宣言するという命令を与えることです。

より良いツール

現在私たちが自由に使えるツールは以前よりも優れており、より広範囲かつ精力的に導入されています。 そしてもちろん、今年は昨年よりも多くのインターネット ユーザーがいます。 この増加の一部は、この種の有機的な成長のみに起因するものであるはずです。 Wi-Fi とブロードバンドの利用が拡大し、世界中のオンライン化が進むにつれて、この状況はしばらく続くことが予想されます。

犯罪のあらゆる分野において、犯罪行為を事後的に発見して対処することは、より大きな戦略の一部にすぎず、教育と意識向上による予防が常に優先されるべきである。 しかし、いつでもどこでも、可能な限り犯罪行為の影響を軽減しようとすることを拒否すべきだという考えは、無情であり、被害者の子供たちに対する侮辱です。 行動は言葉よりも雄弁であり、行動ほど雄弁なものはありません。

一方、EUでは

前週のNCMEC 公開された統計 EU 加盟国から受け取った報告書を示しています。 ダウン 51 年 2020 月から XNUMX% 増加しました。これは、欧州電子通信規約が発効した日です。

全体的なグローバルに対して設定する 上昇 したがって、報告する際に懸念されるのは、割合を報告することによって、  EU加盟国からの報告によると、ヨーロッパの子供たちは世界の他の地域の子供たちよりもさらにひどい状況にある可能性があります。 ヨハンソン委員 と指摘し EU では 663 日あたり XNUMX 件の報告が行われます。   そうでなければそうなるように作られています。 報道のレベルが一定のままであれば、それは真実でしょう。 明らかにそうではありません。つまり、実際の欠勤届の数はおそらく 663 件を超えることになります。

そして依然として欧州議会は改革のプロセスを麻痺させている。

Facebook での作戦について

新しい規範が施行された昨年 XNUMX 月のことを思い出してみましょう。訴訟が多く、好戦的な企業として悪名高い Facebook は、児童性的虐待のスキャンを中止することで業界リーダーとの地位を打ち破ろうと決意しました。 Facebookはこれに対抗することもできたし、同僚と同様に無視することもできたはずだ。 彼らもそうしませんでした。

皮肉屋たちは、従順な子犬のように寝返りを打つという同社の決定は、メッセンジャーとインスタグラム・ダイレクトに強力な暗号化を導入するという同社が長年宣言してきた野望への道を切り開きたいという願望に触発されたのではないかと示唆している。 メッセージング プラットフォームをスキャンする法的な方法がない場合、プラットフォームが暗号化されているかどうかはほとんど問題になりません。

FacebookのXNUMX月の決定は、子どもたちを脅かすコンテンツや行為をスキャンすることに常に反対してきたグループの反対を正当化するものであるように見えたのは確かだ。

地球の歴史の中で最もプライバシーを侵害するビジネスが完全に暴行を加え、子供たちと法を遵守する国民一般を犠牲にしてその行為を行っている行為には、息をのむほどです。 どんな温かい言葉もそれを洗い流すことはできません。

その考えを少し待ってください。

タイミングの問題ですか?

Facebookは最近、自社のプラットフォーム上での児童性的虐待行為に関する調査を実施した。 結果は先ほど出たばかりです 公表 ブログで。

XNUMX つの別々の研究がありました。 どちらも、子供を保護するためのプロアクティブなスキャンの価値について疑問を投げかけたり、疑問を投げかけたりしています。

これは Facebook の過去との根本的な決別です。 彼らは、子供たちを脅かすコンテンツや活動を積極的にスキャンするという約束を誇らしげに繰り返し宣言していました。 実際、彼らの名誉のために言っておきますが、彼らは自傷行為や自殺をする可能性のある人々の兆候を探し続けています。 しかし、彼らがそれを児童性的虐待に関して彼らが行っていることとどのように一致させるのかは、私には一瞬わかりません。

研究に反対できる人がいるだろうか? 私じゃない。 しかし、私が先に言及した同じ皮肉屋たちは、この研究発表のタイミングが、本当に純粋な動機で行われたのかどうか疑問に思わせるものであることをすぐに指摘した。 実際に作業を行った人、あるいは出版時期を決定した人は、自分たちが操作されているのではないかと立ち止まって考えたでしょうか?

驚き

2020 つの調査のうちの 90 つ目では、XNUMX 年 XNUMX 月と XNUMX 月にプラットフォーム上で発見され NCMEC に報告されたすべてのコンテンツの XNUMX% が、以前に報告された内容と同一または非常によく似た内容であることが判明しました。

長年この分野で働いてきた人は、その率が 90% という低いことに驚くかもしれません。 私は、リピート率が 90 %台の非常に高いものであることを常に理解していました。 高い割合は、プロアクティブ ツールが機能していることを示しています。 これが、特に画像に描かれている犠牲者にとって、継続的な使用が非常に重要である理由です。 あるイメージが繰り返されるという事実は、子供に与えられる害を強調し、拡大するだけです。 間違いなくそれはそれを減少させません。

被害者は主張することができ、主張すべきである アプリ環境に合わせて プライバシーと人間の尊厳に対する法的権利。 彼らは、画像が何度表示されたか、どこに表示されたかに関係なく、画像のすべてのインスタンスを削除したいと考えています。

のような数字を公開する 「90%以上」 この種の文脈を説明しないと、知識のない観察者、たとえば大量の論文を読んで急いでいる人は、いったい何を大騒ぎしているのかと疑問に思うかもしれません。

NCMEC の報告書では、10.4 万件の報告を受けていることに言及していることに注意してください。 ユニーク 画像。 これにより、それらはリピートと明確に区​​別されます。 Facebook の調査では、ペイロードの 90% を構成すると信じるよう求められているのはこの繰り返しでした。

誤解を招く可能性が高い印象

同じブログで、同じ研究について言及し、Facebook は続けて次のように述べています。たったXNUMXつだけ」動画が担当したのは 半分以上" 彼らが NCMEC に行ったすべての報告のうち。 残りの半分を構成するビデオの数について推測するほかに、明らかな疑問は次のとおりです。 「それで、あなたのポイントは?」  

忙しい人々の心に残るのは、次のようなことだと思います。 "六"。  90 と XNUMX%。 見出しの番号。 誰によって繰り返されるかに注意してください。

第二の研究

2020 年 2021 月から 150 月と XNUMX 年 XNUMX 月という別の期間 (なぜ?) と、別のはるかに小規模なコホート (わずか XNUMX アカウント) を取り上げると、csam をアップロードした人々が NCMEC に報告されたことがわかっています。 75% 明白にそうしなかった悪意"。  それどころか、調査は、CSAM をアップロードする犯罪を犯した個人が何らかの目的で行動したことを示唆しています。 「憤りの感覚」 あるいは面白いと思ったからです。 75%。 これも、記憶に残り、繰り返される見出しの数字です。

もしかしたら、Facebook がどのようにして存在しないと結論付けたかを説明した論文がどこかにあるかもしれません。 "悪意"。 それは見つけられません。 しかし、Facebook のさまざまな利己的なタイムリーな作戦の最終的な影響を把握するのは難しいことではありません。

対象者は政治家やジャーナリスト

Facebook が望んでいるのは、欧州、米国、その他の国々の人々、つまり主に政治家やジャーナリストを指しますが、オンラインでの児童性的虐待の問題は、これまで信じられていたものとは異なり、はるかに小さいものであると考え始めてほしいということです。それは本質的に(言い訳できる?)人間の愚かさによるものです。

しかし、変えられない真実は、イメージは消える必要があるということです。 それが始まりであり終わりです。 子どもたちの苦痛や屈辱を描いた違法な画像を取り除く手段があるなら、なぜそうしないのでしょうか? それどころか、なぜ意図的にそれらを隠すのでしょうか? 私が思いつく答えはお金だけですが、それだけでは十分ではありません。

貧弱な代替品

同じブログの XNUMX 番目の部分では、Facebook が計画している他のことについて語っています。 彼らは、人々のジョークのセンスのなさや愚かさに対処します。

これまでのところ、XNUMX つのポップアップが作成されています。 ブラボー。 Facebookはとにかくそれらを公開すべきだ。 どちらも暗号化に関する計画を補うには程遠い。 他の人生において、人々が犯罪の証拠を隠蔽するために結託した場合、彼らは逮捕され、司法妨害の共謀罪で起訴されるだろうと私は推測します。

2020 年の Facebook の数字

Facebookの調査結果はEU内で中位に浮上した。 彼らは、NCMEC の新しい数字の公表に真っ向から反対していました。

2019年にNCMECは16,836,694件の報告を受け取り、そのうち15,884,511件(94%)はFacebook所有のプラットフォームからのものでした。 2020年には、21.7万件のうち、20,307,216万93件(XNUMX%)がFacebookのさまざまなプラットフォームからのものだった。

私は Facebook に対して非常に批判的ですが、XNUMX つの重要な条件を忘れてはなりません。 彼らはソーシャルメディアスペースにおいて群を抜いて最大のプラットフォームです。 そして、私たちが彼らについて知っていることは、データが入手できるからにすぎません。 これは、XNUMX つの主要なメッセージング アプリである Messenger と Instagram Direct が(まだ)暗号化されていないためです。

したがって、すでにサービスを暗号化しているためデータがほとんど生成されない他のメッセージング プラットフォームでは何が起こっているのか疑問に思う必要があります。 実際のところ、それほど不思議に思う必要はありません。

暗号化されたドアの向こう側を垣間見る

先週の金曜日 タイムズ  2020年に英国の警察がフェイスブックとインスタグラムから24,000万308件の密告を受けていたことが明らかになった。 ただし、WhatsApp からは XNUMX 件のみです。 WhatsAppはすでに暗号化されています。

連絡先 44.8万人のユーザー 英国は、インドと米国に次いで世界で 24 番目に Facebook の顧客数が多いです。 Instagram には英国で 27.6 万人のユーザーがいます。 明らかに、Facebook とそのメッセンジャーおよび Instagram アプリとの重複部分が大きくなる可能性があります。 WhatsApp には英国で XNUMX 万人のユーザーがいます。

WhatsApp の番号を言うことは不可能です "になるはずだった" – 計り知れないものが多すぎる – しかし、308:24,000 という比率は少しおかしいように思えます。 むしろ、WhatsApp はすでに暗号化されているため、違法な画像のトラフィックがより多くなることが予想されます。 それについて考えてみましょう。