インスタグラムいじめの特徴と検出手法

これについて、Instagramの公式な情報がどこなのかがはっきり分からないのですが、多分Instagram Well-Beingの辺りでしょうか？

インスタグラム、機械学習でいじめ投稿を検出へ https://t.co/u95FIw17te

— cnn_co_jp (@cnn_co_jp) 2018年10月10日

そもそもインスタグラムではどういう事をサイバーいじめと考えているのか...それを理解する事も必要です。
この、(a)(b)がなぜCyber bullyingになるのか、画像をよく見たり文脈を理解しないといけないので、非常に困難な問題に思えますが...

Content-Driven Detection of Cyberbullying on the Instagram Social Network
Haoti Zhong, Hao Li, Anna Squicciarini , Sarah Rajtmajer, David Miller Pennsylvania State University
Christopher Griffin United States Naval Academy
Cornelia Caragea University of North Texas
IJCAI. 2016.

ではInstagramには元々どれぐらいそういう事があったのかと言うと...

Analyzing labeled cyberbullying incidents on the Instagram social network
Sabrina Arredondo Mattson,　Rahat Ibn Rafiq,　Richard Han,　Qin Lv　　University of Colorado Boulder
International Conference on Social Informatics. Springer, Cham, 2015

Cyberbullying　Cyberaggression

3 DataCollection

snowball samplingで、41KユーザーIDを特定しました。
そのうち61％はパブリックプロファイルを持ち、残りはプライベートプロファイルを持っていました。
この25Kのパブリックユーザーだけをデータセットに取り込みました。

収集データは、
ユーザが投稿したメディアオブジェクト（ビデオ/画像）、
・関連するコメント、
・フォローユーザID、
・フォロワーユーザID、
・コメントしたり、好きなユーザID。
メディアオブジェクトファイルとそれに関連するコメントをメディアセッションとして考えます。計3165Kのユニークなメディアセッションを収集しました。

4 Cyberbullying　Labeling

サイバーいじめの定義ですが、
(1)少なくとも1つの否定的な単語/コメント、または他の人や他の人に害を及ぼす意図のあるコンテンツがある場合は「はい」
(2）投稿自体にいじめ行為があるなら、　「はい」
否定的な言葉があり、簡単に自分自身を守ることができない犠牲者に対して繰り返し否定的な意見がある場合は、「はい」

instagramでのいじめにはどういう事があるのか、分析から分かった事は...

5 Analysis and Characterization of Ground Truth Data

自信度の高いデータセットでは、メディアセッションの29％が「いじめ」グループに属し、他の71％はいじめを受けていないと見なされました。

サイバーいじめの検出のためのclassifyの設計は、画像ベースのディスカッションにおける侮蔑語の使用にのみ依存することはできず、代わりに精度を向上させるために他の特徴を考慮する必要があります。

セッションのかなりの部分は、CyberbullyingとCyberaggressionの両方と分類されたり、サイバー虐めとサイバー攻撃の両方で確度が低いなどの点で強く関連します。
これは、サイバーいじめがサイバー攻撃のサブセットであるという定義に準拠しています。

否定語の割合が増加するにつれて、サイバーいじめが50％、サイバー攻撃が60％まで増加する事が観測されます。
しかし、ネガティブが増加するにつれ、そのピーク後にCyberbullyingとCyberaggressionの割合が減少します。
これらは全く予期せぬ結果であり、直観に反しているようです。

これらのメディアセッションでは、スポーツなどについての議論や、ただの友好的な話し合いだった事が分かりました。
そのような議論では、特に人を侮辱していないにもかかわらず、多くの冒涜語を使用する傾向があります。
これは、陰性分析に関する重要な発見に繋がります。
かなり高い割合の否定語を有するメディアセッションは、典型的には、サイバーいじめが含まれる可能性が低いことを意味します。

SouzaらのInstagramユーザーの分析では、典型的なInstagramユーザーのフォロワー数と好きな数の間に正の相関があることを示しています。
しかしいじめを受けたユーザーは同じパターンに従いません。
実際、サイバーいじめではない平均投稿数は、サイバーいじめの平均セッション数の4倍であり、サイバーいじめではない平均ポスト数は、平均サイバーいじめセッション数の4.5倍です。
ここでの重要な発見は、Cyberbullying/Cyberaggressionを伴うメディアセッションのユーザーは、1ポストあたりのお気に入り数が少なく、フォロワーが多いことです。

この目的のために、Cyberbullying/Cyberaggressionのメディアセッションでの単語カテゴリを見つけるためのテキスト分析プログラムであるLinguistic Inquiry and Word Count（LIWC）を利用しました。
............

罵声、否定語は（当然ながら）サイバーいじめの方が優位に多く...
そして興味深い発見として、
一人称代名詞の使用率は有意に少なく、
複数形一人称代名詞は差が無く
三人称代名詞は有意に多いのです。
多分日本語でも同じ傾向が有りそうですが
攻撃を伴う投稿では、ユーザーは自分自身を直接参照する可能性は低く、第三者を参照する可能性は高くなります。

心理的測定の結果、「負の感情」「怒り」「身体」「性的」カテゴリの比率は1より有意に高く、
「ポジティブ感情」カテゴリーの比率は1より有意に低い。
宗教、死、外見、性的を含む投稿にはcyberbullyingの可能性が高く、　通常、否定的な感情の発生頻度が高く、肯定的な感情の発生率が低い。

たとえば、「テキスト」カテゴリの場合、「テキスト」を含む画像の約1/3が、いじめ攻撃を含むメディアセッションに関連付けられていました。
「Drugs」では75％の画像がサイバー攻撃を含むメディアセッションに属しています。
ここで重要な点は、Drugなどの特定の画像コンテンツは攻撃と強く関連しているが、自転車、食糧などの他の画像コンテンツは攻撃との関係が非常に低い事です。