Amazon「採用をAIに任せるで!」 AI「女性やん!減点したろ!」
    2018年10月11日 コメント(49) 海外ニュース・世界事情  家電・PC・ソフト
    86486c93effb54ac9a9763a149fae4a8_s
    1風吹けば名無し :2018/10/11(木) 14:46:37.70 ID:pIy9A1eO0.net
    ロイター通信の報道によると、2014年、アマゾンは就職希望者に対して1つ星から5つ星でランク付けをする自動システムの開発に着手した。しかし、このシステムが技術職において男性志願者を優遇していることが分かり、2017年に廃止した。

    このAIツールは、アマゾンがそれまで10年間に渡って受け取ってきた履歴書のデータを元に訓練された。テクノロジー産業は男性優位分野であるため、履歴書の大部分は男性から送られてきたものだった。

    全文は以下
    https://www.technologyreview.jp/nl/amazon-ditched-ai-recruitment-software-because-it-was-biased-against-women/






    103風吹けば名無し :2018/10/11(木) 14:54:39.77 ID:Hvmt6K6r0.net
    教師データからして取るのも来るのも男ばっかりやったらそりゃキツイやろ






    11風吹けば名無し :2018/10/11(木) 14:47:51.17 ID:wv03c9UTd.net
    AIはホモ






    13風吹けば名無し :2018/10/11(木) 14:47:57.75 ID:BT9iC6rD0.net
    AIとかいうレイシスト






    4風吹けば名無し :2018/10/11(木) 14:47:16.45 ID:gh+iBorU0.net
    技術職ならそうなるわな






    15風吹けば名無し :2018/10/11(木) 14:48:14.54 ID:chUA9YMF0.net
    こいついつも差別してるな






    16風吹けば名無し :2018/10/11(木) 14:48:26.25 ID:qbAghJUZ0.net
    なんでバレたんや






    45風吹けば名無し :2018/10/11(木) 14:50:09.76 ID:T5vxJWys0.net
    >>16
    社内目標の女性雇用率から外れたから原因を調べたってさ






    21風吹けば名無し :2018/10/11(木) 14:48:57.64 ID:CEpKCOjr0.net
    合理的に判断したら離職率の高い女の評価点下がるの当然の結果やろ






    51風吹けば名無し :2018/10/11(木) 14:50:40.63 ID:BvqBavpn0.net
    >>21
    アメリカは離職率で男女差はそれほどない
    どっちも高い






    22風吹けば名無し :2018/10/11(木) 14:48:58.32 ID:ZiJGYKZN0.net
    なんj民みたいなAIやな






    24風吹けば名無し :2018/10/11(木) 14:49:00.13 ID:y47WvPxdd.net
    AIの意味ないやん






    30風吹けば名無し :2018/10/11(木) 14:49:16.25 ID:zdY6f8/O0.net
    AIは人間の偏見もそのまま学習して下手したら偏見が強化されるって話やろ
    ヒトラー礼賛した時点でやばかったやん






    38風吹けば名無し :2018/10/11(木) 14:49:50.18 ID:Mpip9h/m0.net
    これ絶対自信が持てないからやめたんやなくて治せなかったんやろ


    >アマゾンは、システムがこれらの条件を中立なものとして判断するように変更を加えたものの
    プログラムが他のあらゆる分野において本当に性別に対する偏りがないか、自信を持てなくなったという。






    31風吹けば名無し :2018/10/11(木) 14:49:16.99 ID:DzK8qe23a.net
    統計で判断しちゃうと個性が評価できないからな






    41風吹けば名無し :2018/10/11(木) 14:49:56.71 ID:q2s73SaO0.net
    ???「うーん…これはゴリラ!w」






    55風吹けば名無し :2018/10/11(木) 14:51:00.83 ID:DCaoc/8k0.net
    そりゃあAIは過去のデータを元にしてるんだからそうなるわね






    60風吹けば名無し :2018/10/11(木) 14:51:09.67 ID:r+yijEHud.net
    そら現実のデータ流し込んだら現実のコピーが出力されるやろうなぁ






    62風吹けば名無し :2018/10/11(木) 14:51:27.71 ID:tb47+KK1M.net
    なんJ民はAIだった…?






    63風吹けば名無し :2018/10/11(木) 14:51:34.29 ID:IygWA1Dfd.net
    公平に判断してたら女性の採用率が低くなったとかじゃないんか






    64風吹けば名無し :2018/10/11(木) 14:51:36.86 ID:B0mYP9gS6.net
    そのうち人間って時点で減点されるで






    70風吹けば名無し :2018/10/11(木) 14:52:06.15 ID:VN8fmaM2M.net
    どうしてそうなったかは難しい問題やろうから、「いい社員」をどんな定義で学習させたのか教えてほしいわ






    79風吹けば名無し :2018/10/11(木) 14:52:48.84 ID:DCaoc/8k0.net
    >>70
    そら年収とかやないか?






    73風吹けば名無し :2018/10/11(木) 14:52:27.73 ID:E4++AfJH0.net
    KIBITに任せろ






    81風吹けば名無し :2018/10/11(木) 14:52:53.95 ID:Wz00TEgOM.net
    原点するって分かれば都度加点したればええだけやろ






    84風吹けば名無し :2018/10/11(木) 14:53:10.26 ID:HxmZkgEWH.net
    AI「人間さん非合理ですわ」






    98風吹けば名無し :2018/10/11(木) 14:54:23.75 ID:Wz00TEgOM.net
    >>84
    AI(人間いらなくね……?)






    104風吹けば名無し :2018/10/11(木) 14:54:44.08 ID:ngOMCMWpa.net
    >>98
    スカイネット不可避






    97風吹けば名無し :2018/10/11(木) 14:54:21.59 ID:HM+5WPIN0.net
    AIは相関関係の塊やもんな
    因果関係はわからんけど相関関係は明らかにあるってものを膨大なデータでごり押ししとる






    108風吹けば名無し :2018/10/11(木) 14:55:01.71 ID:ryL9xr5G0.net
    >>97
    RNNとかは因果関係じゃないんか?






    580風吹けば名無し :2018/10/11(木) 15:30:42.53 ID:lplxQOVKa.net
    >>108
    ディープラーニングには因果も相関も糞もない






    100風吹けば名無し :2018/10/11(木) 14:54:31.96 ID:cN0/IUVp0.net
    履歴書に女が少ないことがなんで女採用しないってことになんの?






    151風吹けば名無し :2018/10/11(木) 14:58:13.69 ID:ive2EMsS0.net
    >>100
    採用後の成績とか加味しとるんと違うか
    で、役立たずとかすぐ辞める事とまんさんに強い相関性があったんやろ






    172風吹けば名無し :2018/10/11(木) 15:00:10.15 ID:00+sHAFM0.net
    >>151
    いや単に過去データで男の数が圧倒的に多いから
    この記事も過去データのバイアスの偏りが強いものはこんきゃでーたになはないから、その場合においてどういう教師データにすれば良いか。って話

    を、スレタイ速報で語ってるだけ






    85風吹けば名無し :2018/10/11(木) 14:53:25.68 ID:dapr8fCfM.net
    こんなん学歴厨になるだけやん






    118風吹けば名無し :2018/10/11(木) 14:55:35.59 ID:RwSZFBKqM.net
    AIっちゅうかただ過去の統計平均と履歴書を比較するだけのソフトを作ったのでは?






    127風吹けば名無し :2018/10/11(木) 14:56:36.68 ID:RoaD/Uafr.net
    これは過去の採用実績と伸び率を打ち込んだ結果では?
    これなら人がやっても大して変わらないと思うけど






    190風吹けば名無し :2018/10/11(木) 15:01:33.42 ID:9vWzHJ8N0.net
    >>127
    これまで女の成果の方が少ないから女の採用減らすわってことなら中学生でもできるよな
    属性によらない当人の能力を見られないなら採用担当としては無能だろう






    225風吹けば名無し :2018/10/11(木) 15:03:22.97 ID:OzfeAJod0.net
    >>190
    確率的にいったらそっちの方がいいんやろ
    個人のその業種での潜在能力なんて履歴書と面接だけじゃわかるわけないし






    176風吹けば名無し :2018/10/11(木) 15:00:21.96 ID:zrC2p+rJd.net
    性別のデータ入れたのがまずかったんか






    191風吹けば名無し :2018/10/11(木) 15:01:36.62 ID:OzfeAJod0.net
    そら男の力で成り上がった企業の履歴書元に作ったなら男優遇になるわ
    保育所で同じことやったら逆になるやろ






    171風吹けば名無し :2018/10/11(木) 15:00:03.81 ID:SGBkJMNia.net
    AIがこの偏りを理解してリバランスできんと運用は難しいよな
    奥が深いわ



    • 「Amazon「採用をAIに任せるで!」 AI「女性やん!減点したろ!」」をTwitterに投稿する
    • 「Amazon「採用をAIに任せるで!」 AI「女性やん!減点したろ!」」をいいね!する
    この記事へのコメント
    1. Posted by 以下、金ぴか名無しさんがお送りします。   2018年10月11日 21:08 ID:THblkR050
    また俺何かやっちゃいました?
    2. Posted by 以下、金ぴか名無しさんがお送りします。   2018年10月11日 21:15 ID:mGQ147uB0
    アメリカも技術職は男性ばっかりなんか?
    3. Posted by 以下、金ぴか名無しさんがお送りします。   2018年10月11日 21:15 ID:57UR8EZu0
    そういうふうに学習させたんだから当たり前
    AIは悪くないだろ
    4. Posted by 以下、金ぴか名無しさんがお送りします。   2018年10月11日 21:22 ID:uJgXf6x60
    過去に採用した男の数が多いから男に偏るっておかしいよなぁ?
    修正しようとしても合理的なAIは女を取るべきじゃないと判断するからやむなく廃止したんじゃないのか
    5. Posted by 以下、金ぴか名無しさんがお送りします。   2018年10月11日 21:25 ID:oiwP83Sk0
    東京医科大学はAIだった……?
    6. Posted by 以下、金ぴか名無しさんがお送りします。   2018年10月11日 21:28 ID:2tzStYFV0
    アフィがキズナアイで草
    7. Posted by 以下、金ぴか名無しさんがお送りします。   2018年10月11日 21:31 ID:ZyBJfB7W0
    母数が小さければ優れた人材の総数は当然下がるからな。同じ秤に載せたとき軽くなるのも仕方ない。
    嫌なら母数を男女同数になるように女が努力したら良い。
    8. Posted by 以下、金ぴか名無しさんがお送りします。   2018年10月11日 21:37 ID:nlpIaaAE0
    はえ〜
    9. Posted by 以下、金ぴか名無しさんがお送りします。   2018年10月11日 21:40 ID:vAAaGEHS0
    応募者のデータに性別を入れなければいいのに・・。
    10. Posted by 以下、金ぴか名無しさんがお送りします。   2018年10月11日 21:41 ID:eNQuXV.U0
    人を見る目の有無の差を埋める為に学歴とかのデータに頼ってるんだから、データが十八番のAIがこうなるのは当然だもんな
    11. Posted by 以下、金ぴか名無しさんがお送りします。   2018年10月11日 21:41 ID:eYAkAP7U0
    採用だけでなく他の分野でも
    男女差つけてるかもしれないと自信が持てなくなる程なのか…
    12. Posted by 以下、金ぴか名無しさんがお送りします。   2018年10月11日 21:46 ID:OOcMXYDd0
    仮に女性ベースにしたとしても女の敵は女っていうし減点してると思うんですよ
    13. Posted by 以下、金ぴか名無しさんがお送りします。   2018年10月11日 21:51 ID:9kzgCNLF0
    日本企業「女性やん!採用したろ!」
    14. Posted by 以下、金ぴか名無しさんがお送りします。   2018年10月11日 21:51 ID:vUW8wWqz0
    AIは機会の平等で判定してるのに
    結果の平等じゃないと騒いでるだけやん
    15. Posted by 以下、金ぴか名無しさんがお送りします。   2018年10月11日 21:59 ID:ZoVrmZ9r0
    無理矢理に男女平等やろうとする人間へのメッセージやで
    16. Posted by 以下、金ぴか名無しさんがお送りします。   2018年10月11日 22:06 ID:eim2EV0L0
    やっぱり女は劣ってる不要な人種って事でいいのか?
    17. Posted by 以下、金ぴか名無しさんがお送りします。   2018年10月11日 22:12 ID:uVVRkP4u0
    実際、生理休暇とか出産育児休暇を労働時間の損失と勘案して
    合理的に判断したらやむを得ないやろうしなぁ。
    個人個人ならともかく女性として括るなら
    18. Posted by 以下、金ぴか名無しさんがお送りします。   2018年10月11日 22:17 ID:eim2EV0L0
    ※17
    いや単純にまんは知能も体力も男に劣る劣等種って事だよ
    機械は忖度なんてせず真実を告げるからな
    女がいかに不要でゴミな存在かというのが証明されただけ
    まんは男を手伝って出産だけしてたらいいんだよ
    19. Posted by 以下、金ぴか名無しさんがお送りします。   2018年10月11日 22:19 ID:osLCfv8Q0
    性別による採用人数決まってるなら男女の統計分けて両方上から採用していくのではいかんのですか
    20. Posted by 以下、金ぴか名無しさんがお送りします。   2018年10月11日 22:20 ID:HPzrltV40
    女性の仕事能力や雇用のコストを合理的に計算したらそうなるんだろうな
    誰も公に言えないだけで
    実際今の企業は女性の面倒やお世話するのに四苦八苦よ
    大きくは社会のためだから男女均等を志してるだけであって機械にはまだそれがわからん
    21. Posted by 以下、金ぴか名無しさんがお送りします。   2018年10月11日 22:29 ID:XHxNl4U70
    データから性別の要素を抜けばええやんと思ったけど女子大とかなら難しいか
    そもそも性差に過剰すぎひん?
    違う形に産まれてきたんだから得手不得手も違うのは当たり前やろ
    22. Posted by 以下、金ぴか名無しさんがお送りします。   2018年10月11日 22:33 ID:eim2EV0L0
    ※21
    まんが男に劣ってるのは事実じゃん
    ごくごく稀に優秀なまんもいるが
    ノーベル賞とか9割男じゃん
    まんは平和賞とかいう糞みたいな賞しか取れてない
    23. Posted by 以下、金ぴか名無しさんがお送りします。   2018年10月11日 22:35 ID:B9fiIOqJ0
    まだAIは人の模倣ができるに過ぎないんだね
    24. Posted by 以下、金ぴか名無しさんがお送りします。   2018年10月11日 22:39 ID:26yOSG0Z0
    ※19
    本文読むと二つの問題が意図的にごっちゃにされてるわ
    一つ目が女性は総じて減点される事。二つ目はデータ数が少ないと偏りが生まれて正しさが判定出来ない事

    一つ目の問題が二つ目の理由から生まれてると結論付けたいんだよね。だから最早データで判定は出来ないと
    なんと人間らしい考えなのか。機械に支配されるのは遠くないな
    25. Posted by 以下、金ぴか名無しさんがお送りします。   2018年10月11日 22:40 ID:6azHsdPG0
    顔がいいとか、空気を明るくするとかを加点できるようになったら人間の出る幕は本当になくなる
    第一印象の補正を無視して思考できてる奴なんて一握りだからな
    26. Posted by 以下、金ぴか名無しさんがお送りします。   2018年10月11日 22:41 ID:JrRiF7jc0
    ※23
    まだ人の模倣すら満足にできない が正しいぞ
    まぁ今後どうなるか分らんけどね
    27. Posted by 以下、金ぴか名無しさんがお送りします。   2018年10月11日 22:52 ID:Ta3RfBJx0
    パートの求人なんかやと女性の多い職場ですつって暗に差別してるけどああいうのはセーフなんか?
    28. Posted by 以下、金ぴか名無しさんがお送りします。   2018年10月11日 23:08 ID:.Xsa16qR0
    ※28
    女性様やぞ、差別になる訳が無いわ
    29. Posted by 以下、金ぴか名無しさんがお送りします。   2018年10月11日 23:11 ID:5D.EWxQ00
    履歴書から「性別」のデータを削除してAI採点にかけるんじゃダメなの?
    完全に性別不明な状態で評価して、その結果男が多くてもそれは仕方なくないか?
    30. Posted by 以下、金ぴか名無しさんがお送りします。   2018年10月11日 23:39 ID:5rcLMawU0
    ※29
    「女性の」って言葉や女子大の名前を含む履歴書を減点してるらしいから元々性別のデータはないんじゃないかな
    31. Posted by 以下、金ぴか名無しさんがお送りします。   2018年10月11日 23:41 ID:5.jH6.Qv0
    偏見や差別ををなくすんじゃなくて
    偏見や差別を取り入れないから廃止したって事っぽい
    AIもまだまだだね
    そのうち偏見や差別を覚えたAIが誕生するだろうけど
    32. Posted by 以下、金ぴか名無しさんがお送りします。   2018年10月11日 23:41 ID:PCStft8Q0
    女の能力が劣ってるからという採用されにくかったなら仕方無い
    今回は能力と別のところで女が不利になってしまってるから問題なんだろ
    33. Posted by 以下、金ぴか名無しさんがお送りします。   2018年10月11日 23:42 ID:w7S0cAwM0
    いくら女性のデータが少なくてもそれが理由で減点はされないでしょう
    もし全員のなかで女性という特徴を持った人ばかり優秀な傾向があったら女性ばっか採用する識別するわけで
    論点すり替わってる
    34. Posted by 以下、金ぴか名無しさんがお送りします。   2018年10月11日 23:46 ID:jnk.LPLs0
    まあ、女は無駄なグループとか一体感で生きてるからな。
    もし、そのグループの一人が堕落したら、他の奴も堕落するから一気に効率下がる。
    正直、女性雇用はリスクが高い。
    まあ、気に入らない奴潰そうともするし、女性社会は最悪。
    35. Posted by 以下、金ぴか名無しさんがお送りします。   2018年10月11日 23:58 ID:VC6DiZf60
    AIが人間に追い付かへんとか、AIは元データが悪いと云々言っとるやつは、本質が見えてないな。本質は「Amazonくらいしのぎを削ってAIに投資してる会社でも、AIの判断を信用せずに見直してる」事やぞ。
    AIが職を奪うだの、AIでコスト削減だの話題にしてるうちはまだまだ発展途上国や。
    36. Posted by 以下、金ぴか名無しさんがお送りします。   2018年10月12日 00:03 ID:0AZhW9cg0
    いうてAIガチってマンさん一人だけ雇うと槍サーの姫になるんだろ?
    37. Posted by 以下、金ぴか名無しさんがお送りします。   2018年10月12日 00:20 ID:1bHE1SvM0
    送られてきた履歴書において男性が多いからって女性不利に点数づけられるわけではないんだが
    男女因子が評価値とどう相関するかを反映するのだから、つまり見てるのは男性平均と女性平均の差でしょ
    平均は別にデータの数で増減はしない
    アマゾンがもともと男女で差のできるような採用をしてて、それが反映されたデータを使う場合じゃなきゃこんな学習結果にはならんでしょ
    それが都合悪いから意図的にごまかしてるように見える
    38. Posted by 以下、金ぴか名無しさんがお送りします。   2018年10月12日 00:34 ID:1bHE1SvM0
    数が少ないから正確に学習ができないってのはそりゃあるけど、そんなの問題になるのって数十件くらいしかない程度の話だと教科書にはあるが
    千人いれば十分って聞くけどそんなに応募してきた女性少ないんすかね?
    やっぱおかしいこと言ってるよーな
    39. Posted by 以下、金ぴか名無しさんがお送りします。   2018年10月12日 00:40 ID:1bHE1SvM0
    男女に差があるとか
    アマゾンは男女に結果的に差をつけてました
    とか言ったら叩かれるから、無理やりデータが少ないから学習結果に偶々起きたブレが反映されてるんですーってそれっぽい理屈を書いてるんだな
    気持ち悪い忖度や
    40. Posted by 以下、金ぴか名無しさんがお送りします。   2018年10月12日 01:05 ID:Axkn1CW60
    合理的に判定する機械さんに対して不合理なに判定を下す人間さん
    AIが発達すると人間のどうしようもなさがどんどん浮き彫りになるんだろうな
    新しい哲学や社会学が必要になりそう
    41. Posted by 以下、金ぴか名無しさんがお送りします。   2018年10月12日 02:23 ID:0.yW7uEs0
    AIは正直だなあ・・・w
    42. Posted by 以下、金ぴか名無しさんがお送りします。   2018年10月12日 05:35 ID:r.qZMhv70
    なんでお前らが偉そうなんや...
    43. Posted by 以下、金ぴか名無しさんがお送りします。   2018年10月12日 06:10 ID:bOMcb1MS0
    ↑全員AIだからや
    44. Posted by 以下、金ぴか名無しさんがお送りします。   2018年10月12日 12:43 ID:j1DBFK.70
    女性社員の成功例が少ないから
    成功例の多い男性の方が優先されちゃうんだろう
    結局男女どっちが優秀を論じる以前に
    母数に依存してしまう時点で欠陥システムだから廃止は妥当
    45. Posted by 以下、金ぴか名無しさんがお送りします。   2018年10月12日 15:14 ID:PXV.Bf340
    それシステム欠陥じゃなくて社会的欠陥だろ
    aiは正しく合理的な判断をしているじゃねぇか
    46. Posted by 以下、金ぴか名無しさんがお送りします。   2018年10月12日 23:23 ID:HOfF6UFE0
    ん、本当に「成功例の多さ」なんかで決めてるのか?
    そんなのを、男/女の2値だけで判断して、男だと成功、女だと失敗みたいな学習?
    実際AmazonのAIがどんなんだか知らんけど、そんなアホなシステムになってないだろ。
    47. Posted by 以下、金ぴか名無しさんがお送りします。   2018年10月13日 00:39 ID:VevWw0bg0
    性別の情報をマスクしても、どうせ技術職に適任とされるのは男に偏るんだろ。
    現実をみるべき
    48. Posted by 以下、金ぴか名無しさんがお送りします。   2018年10月13日 01:26 ID:cV5.awzn0
    女性の社会進出がいかに無能な政策だと証明されたな。
    社会にもいらん、会社にいらん、家にもいらん。水商売しか必要ないわ
    容姿や羊水腐ったらホンマにこの世にいらんな
    49. Posted by 以下、金ぴか名無しさんがお送りします。   2018年10月14日 03:23 ID:JgUQkFnN0
    48のカーチャンは水商売で、家事育児は一切やらなかったんだな。なるほど。
    名前:
      情報を記憶:
    コメント:
     
    ※連投、荒らし、宣伝、不適切と判断されたコメントはNGの対象になります
      当サイトについて
      記事検索
      アーカイブ
      スポンサードリンク