Facebookがリベンジポルノを検出できる新たなAIテクノロジーを発表

Facebookは米国時間3月15日、人工知能を使った新たなツールを発表した。そのツールとは、リベンジポルノの検知を手助けするというものだ。かなり個人的な写真がオンラインに投稿され、そして同意のない状態でシェアされると、写真に映っている人にその後、破壊的な結果をもたらすことになりえる。このテクノロジーでは、AIと機械学習を使ってFacebookやInstagramで許可なしにシェアされたヌードに近い写真やビデオを検知することができる。

今回の発表は、これより先にFacebookが展開してきた写真マッチングテクノロジーのパイロットに続くものだ。このマッチングではユーザーが直接、個人的な写真やビデオをFacebookに提出するようになっている。被害者の団体と提携して展開されているこのプログラムは、そうした写真がプラットフォームでシェアされるのをフェイスッブックが阻止できるよう写真の「デジタル指紋」を作る。これは、Facebookが現在、児童虐待の写真がサイトに投稿されるのを防ぐのに使用しているテクノロジーに似ている。

しかしながら、リベンジポルノに関する新しいAIテクノロジーでは、被害者は報告する必要はない。被害者はコンテンツを報告しようと思っても時に報復を恐れているため、報告を不要とするのは重要なことだ、とFacebookは説明する。もしくは、写真やビデオがシェアされていることに被害者が単に気づいていないこともある。

新しいシステムそのものがどのように機能するか詳しい説明はなかったが、単にヌードを検知する以上のものであるとのことだ。

システムが写真やビデオを検知すると、Facebookのコミュニティ運営チームの特別な訓練を受けたメンバーが写真をレビューし、Facebookのコミュニティ基準に違反するようなら削除する。ほとんどのケースでFacebookはその結果としてアカウントを使えないようにする。もし、そうした措置が間違いである可能性があるなら、その旨をアピールすることはできる。

今回のテクノロジーとすでに展開中のパイロットプログラムに加え、Facebookはまた、リベンジポルノの報告に関する他の手順をどのように改善できるか見直した、とも語っている。例えば、被害者は報告後に素早い対応を求めていて、ロボットによる返答は求めていない、ということが明らかになった。また他の被害者は報告ツールの使い方を知らず、存在すら知らなかったりもした。

リベンジポルノ被害を受けると、その後に不安やうつ、自殺願望、PTSDなど精神面で困難を抱えることがあり、リベンジポルノ問題を解決するのは必要不可欠だ、ともFacebookは述べた。そして、被害後に職を失ったり、同僚との関係が壊れてしまったりと、キャリア面で影響を受けることもある。加えて、昔ながらのコミュニティに所属する人がつまはじきにあったり、コミュニティから追放されたり、迫害を受けたり、または肉体的に危害を加えられたりするかもしれない。

被害者からの通報について「被害者が耐えているトラウマを認識する」方法を探していなかったことをFacebookは認めている。通報のツールとプロセスがより「簡単、クリア、そして共感できるもの」になるよういま再評価を進めている、とも語った。

Facebookはまた、専門家と開発したFacebookのSafety Centerの中に、被害者をサポートするハブ「Not Without My Consent」も立ち上げる。このハブは、被害者がサポートを受けられる団体や手段にアクセスできるようにし、Facebookにコンテンツを報告する手順を詳しく案内する。

Facebookが言うには、今後数カ月内にリベンジポルノヘルプライン(英国)、Cyber Civil Rights Initiative(米国)、Digital Rights Foundation(パキスタン)、SaferNet(ブラジル)、 大学教授 Lee Ji-yeon (韓国)といったパートナーと共同でより地域や文化に根ざした被害者サポートツールキットを構築することにしている。

リベンジポルノはパブリック・シェアリングのための世界規模プラットフォームを提供することに伴う多くの問題の一つだ。Facebookはさまざまな面での失敗を白状し始めている。この失敗には、データプライバシー違反や偽情報の拡散、オンラインハラスメント、いじめなどが含まれる。

CEOのMark Zuckerberg(マーク・ザッカーバーグ)氏は最近、同社のプロダクトを、暗号化して相互運用されるメッセージネットワークに統合するというプライバシー重視策を発表した。しかしこの動きはFacebook内部の騒動を巻き起こし、複数のトップが社を離れることになった。

社会からの要望に応える形でさまざまな変革が今後予定されているが、多くの人がすでにFacebookへの信頼を失くした。12歳以上の米国民のFacebookユーザー数の割合が67%から62%へと、この10年で初めて減少した、とEdison Researchは指摘している。それでもFacebookはいまだに巨大なプラットフォームであり、20億人超のユーザーを抱える。たとえユーザーがFacebookをやめることを選んだとしても、それでもソーシャルネットワークを使っているユーザーによってリベンジポルノやオンラインいじめの被害者になることを防げるわけではない。

イメージクレジット: Jaap Arriens/NurPhoto

原文へ

(翻訳:Mizoguchi)

Source: TechCrunch Japan
Facebookがリベンジポルノを検出できる新たなAIテクノロジーを発表