Amazon「採用をAIに任せるで!」 AI「女性やん!減点したろ!」
    2018年10月11日 コメント(49) 海外ニュース・世界事情  家電・PC・ソフト
    86486c93effb54ac9a9763a149fae4a8_s
    1風吹けば名無し :2018/10/11(木) 14:46:37.70 ID:pIy9A1eO0.net
    ロイター通信の報道によると、2014年、アマゾンは就職希望者に対して1つ星から5つ星でランク付けをする自動システムの開発に着手した。しかし、このシステムが技術職において男性志願者を優遇していることが分かり、2017年に廃止した。

    このAIツールは、アマゾンがそれまで10年間に渡って受け取ってきた履歴書のデータを元に訓練された。テクノロジー産業は男性優位分野であるため、履歴書の大部分は男性から送られてきたものだった。

    全文は以下
    https://www.technologyreview.jp/nl/amazon-ditched-ai-recruitment-software-because-it-was-biased-against-women/






    103風吹けば名無し :2018/10/11(木) 14:54:39.77 ID:Hvmt6K6r0.net
    教師データからして取るのも来るのも男ばっかりやったらそりゃキツイやろ






    11風吹けば名無し :2018/10/11(木) 14:47:51.17 ID:wv03c9UTd.net
    AIはホモ






    13風吹けば名無し :2018/10/11(木) 14:47:57.75 ID:BT9iC6rD0.net
    AIとかいうレイシスト






    4風吹けば名無し :2018/10/11(木) 14:47:16.45 ID:gh+iBorU0.net
    技術職ならそうなるわな






    15風吹けば名無し :2018/10/11(木) 14:48:14.54 ID:chUA9YMF0.net
    こいついつも差別してるな






    16風吹けば名無し :2018/10/11(木) 14:48:26.25 ID:qbAghJUZ0.net
    なんでバレたんや






    45風吹けば名無し :2018/10/11(木) 14:50:09.76 ID:T5vxJWys0.net
    >>16
    社内目標の女性雇用率から外れたから原因を調べたってさ






    21風吹けば名無し :2018/10/11(木) 14:48:57.64 ID:CEpKCOjr0.net
    合理的に判断したら離職率の高い女の評価点下がるの当然の結果やろ






    51風吹けば名無し :2018/10/11(木) 14:50:40.63 ID:BvqBavpn0.net
    >>21
    アメリカは離職率で男女差はそれほどない
    どっちも高い






    22風吹けば名無し :2018/10/11(木) 14:48:58.32 ID:ZiJGYKZN0.net
    なんj民みたいなAIやな






    24風吹けば名無し :2018/10/11(木) 14:49:00.13 ID:y47WvPxdd.net
    AIの意味ないやん






    30風吹けば名無し :2018/10/11(木) 14:49:16.25 ID:zdY6f8/O0.net
    AIは人間の偏見もそのまま学習して下手したら偏見が強化されるって話やろ
    ヒトラー礼賛した時点でやばかったやん






    38風吹けば名無し :2018/10/11(木) 14:49:50.18 ID:Mpip9h/m0.net
    これ絶対自信が持てないからやめたんやなくて治せなかったんやろ


    >アマゾンは、システムがこれらの条件を中立なものとして判断するように変更を加えたものの
    プログラムが他のあらゆる分野において本当に性別に対する偏りがないか、自信を持てなくなったという。






    31風吹けば名無し :2018/10/11(木) 14:49:16.99 ID:DzK8qe23a.net
    統計で判断しちゃうと個性が評価できないからな






    41風吹けば名無し :2018/10/11(木) 14:49:56.71 ID:q2s73SaO0.net
    ???「うーん…これはゴリラ!w」






    55風吹けば名無し :2018/10/11(木) 14:51:00.83 ID:DCaoc/8k0.net
    そりゃあAIは過去のデータを元にしてるんだからそうなるわね






    60風吹けば名無し :2018/10/11(木) 14:51:09.67 ID:r+yijEHud.net
    そら現実のデータ流し込んだら現実のコピーが出力されるやろうなぁ






    62風吹けば名無し :2018/10/11(木) 14:51:27.71 ID:tb47+KK1M.net
    なんJ民はAIだった…?






    63風吹けば名無し :2018/10/11(木) 14:51:34.29 ID:IygWA1Dfd.net
    公平に判断してたら女性の採用率が低くなったとかじゃないんか






    64風吹けば名無し :2018/10/11(木) 14:51:36.86 ID:B0mYP9gS6.net
    そのうち人間って時点で減点されるで






    70風吹けば名無し :2018/10/11(木) 14:52:06.15 ID:VN8fmaM2M.net
    どうしてそうなったかは難しい問題やろうから、「いい社員」をどんな定義で学習させたのか教えてほしいわ






    79風吹けば名無し :2018/10/11(木) 14:52:48.84 ID:DCaoc/8k0.net
    >>70
    そら年収とかやないか?






    73風吹けば名無し :2018/10/11(木) 14:52:27.73 ID:E4++AfJH0.net
    KIBITに任せろ






    81風吹けば名無し :2018/10/11(木) 14:52:53.95 ID:Wz00TEgOM.net
    原点するって分かれば都度加点したればええだけやろ






    84風吹けば名無し :2018/10/11(木) 14:53:10.26 ID:HxmZkgEWH.net
    AI「人間さん非合理ですわ」






    98風吹けば名無し :2018/10/11(木) 14:54:23.75 ID:Wz00TEgOM.net
    >>84
    AI(人間いらなくね……?)






    104風吹けば名無し :2018/10/11(木) 14:54:44.08 ID:ngOMCMWpa.net
    >>98
    スカイネット不可避






    97風吹けば名無し :2018/10/11(木) 14:54:21.59 ID:HM+5WPIN0.net
    AIは相関関係の塊やもんな
    因果関係はわからんけど相関関係は明らかにあるってものを膨大なデータでごり押ししとる






    108風吹けば名無し :2018/10/11(木) 14:55:01.71 ID:ryL9xr5G0.net
    >>97
    RNNとかは因果関係じゃないんか?






    580風吹けば名無し :2018/10/11(木) 15:30:42.53 ID:lplxQOVKa.net
    >>108
    ディープラーニングには因果も相関も糞もない






    100風吹けば名無し :2018/10/11(木) 14:54:31.96 ID:cN0/IUVp0.net
    履歴書に女が少ないことがなんで女採用しないってことになんの?






    151風吹けば名無し :2018/10/11(木) 14:58:13.69 ID:ive2EMsS0.net
    >>100
    採用後の成績とか加味しとるんと違うか
    で、役立たずとかすぐ辞める事とまんさんに強い相関性があったんやろ






    172風吹けば名無し :2018/10/11(木) 15:00:10.15 ID:00+sHAFM0.net
    >>151
    いや単に過去データで男の数が圧倒的に多いから
    この記事も過去データのバイアスの偏りが強いものはこんきゃでーたになはないから、その場合においてどういう教師データにすれば良いか。って話

    を、スレタイ速報で語ってるだけ






    85風吹けば名無し :2018/10/11(木) 14:53:25.68 ID:dapr8fCfM.net
    こんなん学歴厨になるだけやん






    118風吹けば名無し :2018/10/11(木) 14:55:35.59 ID:RwSZFBKqM.net
    AIっちゅうかただ過去の統計平均と履歴書を比較するだけのソフトを作ったのでは?






    127風吹けば名無し :2018/10/11(木) 14:56:36.68 ID:RoaD/Uafr.net
    これは過去の採用実績と伸び率を打ち込んだ結果では?
    これなら人がやっても大して変わらないと思うけど






    190風吹けば名無し :2018/10/11(木) 15:01:33.42 ID:9vWzHJ8N0.net
    >>127
    これまで女の成果の方が少ないから女の採用減らすわってことなら中学生でもできるよな
    属性によらない当人の能力を見られないなら採用担当としては無能だろう






    225風吹けば名無し :2018/10/11(木) 15:03:22.97 ID:OzfeAJod0.net
    >>190
    確率的にいったらそっちの方がいいんやろ
    個人のその業種での潜在能力なんて履歴書と面接だけじゃわかるわけないし






    176風吹けば名無し :2018/10/11(木) 15:00:21.96 ID:zrC2p+rJd.net
    性別のデータ入れたのがまずかったんか






    191風吹けば名無し :2018/10/11(木) 15:01:36.62 ID:OzfeAJod0.net
    そら男の力で成り上がった企業の履歴書元に作ったなら男優遇になるわ
    保育所で同じことやったら逆になるやろ






    171風吹けば名無し :2018/10/11(木) 15:00:03.81 ID:SGBkJMNia.net
    AIがこの偏りを理解してリバランスできんと運用は難しいよな
    奥が深いわ



    • 「Amazon「採用をAIに任せるで!」 AI「女性やん!減点したろ!」」をTwitterに投稿する
    • 「Amazon「採用をAIに任せるで!」 AI「女性やん!減点したろ!」」をいいね!する
    この記事へのコメント

     コメント一覧 (49)

      • 1. 金ぴか名無しさん
      • 2018年10月11日 21:08
      • また俺何かやっちゃいました?
      • 2. 金ぴか名無しさん
      • 2018年10月11日 21:15
      • アメリカも技術職は男性ばっかりなんか?
      • 3. 金ぴか名無しさん
      • 2018年10月11日 21:15
      • そういうふうに学習させたんだから当たり前
        AIは悪くないだろ
      • 4. 金ぴか名無しさん
      • 2018年10月11日 21:22
      • 過去に採用した男の数が多いから男に偏るっておかしいよなぁ?
        修正しようとしても合理的なAIは女を取るべきじゃないと判断するからやむなく廃止したんじゃないのか
      • 5. 金ぴか名無しさん
      • 2018年10月11日 21:25
      • 東京医科大学はAIだった……?
      • 6. 金ぴか名無しさん
      • 2018年10月11日 21:28
      • アフィがキズナアイで草
      • 7. 金ぴか名無しさん
      • 2018年10月11日 21:31
      • 母数が小さければ優れた人材の総数は当然下がるからな。同じ秤に載せたとき軽くなるのも仕方ない。
        嫌なら母数を男女同数になるように女が努力したら良い。
      • 8. 金ぴか名無しさん
      • 2018年10月11日 21:37
      • はえ〜
      • 9. 金ぴか名無しさん
      • 2018年10月11日 21:40
      • 応募者のデータに性別を入れなければいいのに・・。
      • 10. 金ぴか名無しさん
      • 2018年10月11日 21:41
      • 人を見る目の有無の差を埋める為に学歴とかのデータに頼ってるんだから、データが十八番のAIがこうなるのは当然だもんな
      • 11. 金ぴか名無しさん
      • 2018年10月11日 21:41
      • 採用だけでなく他の分野でも
        男女差つけてるかもしれないと自信が持てなくなる程なのか…
      • 12. 金ぴか名無しさん
      • 2018年10月11日 21:46
      • 仮に女性ベースにしたとしても女の敵は女っていうし減点してると思うんですよ
      • 13. 金ぴか名無しさん
      • 2018年10月11日 21:51
      • 日本企業「女性やん!採用したろ!」
      • 14. 金ぴか名無しさん
      • 2018年10月11日 21:51
      • AIは機会の平等で判定してるのに
        結果の平等じゃないと騒いでるだけやん
      • 15. 金ぴか名無しさん
      • 2018年10月11日 21:59
      • 無理矢理に男女平等やろうとする人間へのメッセージやで
      • 16. 金ぴか名無しさん
      • 2018年10月11日 22:06
      • やっぱり女は劣ってる不要な人種って事でいいのか?
      • 17. 金ぴか名無しさん
      • 2018年10月11日 22:12
      • 実際、生理休暇とか出産育児休暇を労働時間の損失と勘案して
        合理的に判断したらやむを得ないやろうしなぁ。
        個人個人ならともかく女性として括るなら
      • 18. 金ぴか名無しさん
      • 2018年10月11日 22:17
      • ※17
        いや単純にまんは知能も体力も男に劣る劣等種って事だよ
        機械は忖度なんてせず真実を告げるからな
        女がいかに不要でゴミな存在かというのが証明されただけ
        まんは男を手伝って出産だけしてたらいいんだよ
      • 19. 金ぴか名無しさん
      • 2018年10月11日 22:19
      • 性別による採用人数決まってるなら男女の統計分けて両方上から採用していくのではいかんのですか
      • 20. 金ぴか名無しさん
      • 2018年10月11日 22:20
      • 女性の仕事能力や雇用のコストを合理的に計算したらそうなるんだろうな
        誰も公に言えないだけで
        実際今の企業は女性の面倒やお世話するのに四苦八苦よ
        大きくは社会のためだから男女均等を志してるだけであって機械にはまだそれがわからん
      • 21. 金ぴか名無しさん
      • 2018年10月11日 22:29
      • データから性別の要素を抜けばええやんと思ったけど女子大とかなら難しいか
        そもそも性差に過剰すぎひん?
        違う形に産まれてきたんだから得手不得手も違うのは当たり前やろ
      • 22. 金ぴか名無しさん
      • 2018年10月11日 22:33
      • ※21
        まんが男に劣ってるのは事実じゃん
        ごくごく稀に優秀なまんもいるが
        ノーベル賞とか9割男じゃん
        まんは平和賞とかいう糞みたいな賞しか取れてない
      • 23. 金ぴか名無しさん
      • 2018年10月11日 22:35
      • まだAIは人の模倣ができるに過ぎないんだね
      • 24. 金ぴか名無しさん
      • 2018年10月11日 22:39
      • ※19
        本文読むと二つの問題が意図的にごっちゃにされてるわ
        一つ目が女性は総じて減点される事。二つ目はデータ数が少ないと偏りが生まれて正しさが判定出来ない事

        一つ目の問題が二つ目の理由から生まれてると結論付けたいんだよね。だから最早データで判定は出来ないと
        なんと人間らしい考えなのか。機械に支配されるのは遠くないな
      • 25. 金ぴか名無しさん
      • 2018年10月11日 22:40
      • 顔がいいとか、空気を明るくするとかを加点できるようになったら人間の出る幕は本当になくなる
        第一印象の補正を無視して思考できてる奴なんて一握りだからな
      • 26. 金ぴか名無しさん
      • 2018年10月11日 22:41
      • ※23
        まだ人の模倣すら満足にできない が正しいぞ
        まぁ今後どうなるか分らんけどね
      • 27. 金ぴか名無しさん
      • 2018年10月11日 22:52
      • パートの求人なんかやと女性の多い職場ですつって暗に差別してるけどああいうのはセーフなんか?
      • 28. 金ぴか名無しさん
      • 2018年10月11日 23:08
      • ※28
        女性様やぞ、差別になる訳が無いわ
      • 29. 金ぴか名無しさん
      • 2018年10月11日 23:11
      • 履歴書から「性別」のデータを削除してAI採点にかけるんじゃダメなの?
        完全に性別不明な状態で評価して、その結果男が多くてもそれは仕方なくないか?
      • 30. 金ぴか名無しさん
      • 2018年10月11日 23:39
      • ※29
        「女性の」って言葉や女子大の名前を含む履歴書を減点してるらしいから元々性別のデータはないんじゃないかな
      • 31. 金ぴか名無しさん
      • 2018年10月11日 23:41
      • 偏見や差別ををなくすんじゃなくて
        偏見や差別を取り入れないから廃止したって事っぽい
        AIもまだまだだね
        そのうち偏見や差別を覚えたAIが誕生するだろうけど
      • 32. 金ぴか名無しさん
      • 2018年10月11日 23:41
      • 女の能力が劣ってるからという採用されにくかったなら仕方無い
        今回は能力と別のところで女が不利になってしまってるから問題なんだろ
      • 33. 金ぴか名無しさん
      • 2018年10月11日 23:42
      • いくら女性のデータが少なくてもそれが理由で減点はされないでしょう
        もし全員のなかで女性という特徴を持った人ばかり優秀な傾向があったら女性ばっか採用する識別するわけで
        論点すり替わってる
      • 34. 金ぴか名無しさん
      • 2018年10月11日 23:46
      • まあ、女は無駄なグループとか一体感で生きてるからな。
        もし、そのグループの一人が堕落したら、他の奴も堕落するから一気に効率下がる。
        正直、女性雇用はリスクが高い。
        まあ、気に入らない奴潰そうともするし、女性社会は最悪。
      • 35. 金ぴか名無しさん
      • 2018年10月11日 23:58
      • AIが人間に追い付かへんとか、AIは元データが悪いと云々言っとるやつは、本質が見えてないな。本質は「Amazonくらいしのぎを削ってAIに投資してる会社でも、AIの判断を信用せずに見直してる」事やぞ。
        AIが職を奪うだの、AIでコスト削減だの話題にしてるうちはまだまだ発展途上国や。
      • 36. 金ぴか名無しさん
      • 2018年10月12日 00:03
      • いうてAIガチってマンさん一人だけ雇うと槍サーの姫になるんだろ?
      • 37. 金ぴか名無しさん
      • 2018年10月12日 00:20
      • 送られてきた履歴書において男性が多いからって女性不利に点数づけられるわけではないんだが
        男女因子が評価値とどう相関するかを反映するのだから、つまり見てるのは男性平均と女性平均の差でしょ
        平均は別にデータの数で増減はしない
        アマゾンがもともと男女で差のできるような採用をしてて、それが反映されたデータを使う場合じゃなきゃこんな学習結果にはならんでしょ
        それが都合悪いから意図的にごまかしてるように見える
      • 38. 金ぴか名無しさん
      • 2018年10月12日 00:34
      • 数が少ないから正確に学習ができないってのはそりゃあるけど、そんなの問題になるのって数十件くらいしかない程度の話だと教科書にはあるが
        千人いれば十分って聞くけどそんなに応募してきた女性少ないんすかね?
        やっぱおかしいこと言ってるよーな
      • 39. 金ぴか名無しさん
      • 2018年10月12日 00:40
      • 男女に差があるとか
        アマゾンは男女に結果的に差をつけてました
        とか言ったら叩かれるから、無理やりデータが少ないから学習結果に偶々起きたブレが反映されてるんですーってそれっぽい理屈を書いてるんだな
        気持ち悪い忖度や
      • 40. 金ぴか名無しさん
      • 2018年10月12日 01:05
      • 合理的に判定する機械さんに対して不合理なに判定を下す人間さん
        AIが発達すると人間のどうしようもなさがどんどん浮き彫りになるんだろうな
        新しい哲学や社会学が必要になりそう
      • 41. 金ぴか名無しさん
      • 2018年10月12日 02:23
      • AIは正直だなあ・・・w
      • 42. 金ぴか名無しさん
      • 2018年10月12日 05:35
      • なんでお前らが偉そうなんや...
      • 43. 金ぴか名無しさん
      • 2018年10月12日 06:10
      • ↑全員AIだからや
      • 44. 金ぴか名無しさん
      • 2018年10月12日 12:43
      • 女性社員の成功例が少ないから
        成功例の多い男性の方が優先されちゃうんだろう
        結局男女どっちが優秀を論じる以前に
        母数に依存してしまう時点で欠陥システムだから廃止は妥当
      • 45. 金ぴか名無しさん
      • 2018年10月12日 15:14
      • それシステム欠陥じゃなくて社会的欠陥だろ
        aiは正しく合理的な判断をしているじゃねぇか
      • 46. 金ぴか名無しさん
      • 2018年10月12日 23:23
      • ん、本当に「成功例の多さ」なんかで決めてるのか?
        そんなのを、男/女の2値だけで判断して、男だと成功、女だと失敗みたいな学習?
        実際AmazonのAIがどんなんだか知らんけど、そんなアホなシステムになってないだろ。
      • 47. 金ぴか名無しさん
      • 2018年10月13日 00:39
      • 性別の情報をマスクしても、どうせ技術職に適任とされるのは男に偏るんだろ。
        現実をみるべき
      • 48. 金ぴか名無しさん
      • 2018年10月13日 01:26
      • 女性の社会進出がいかに無能な政策だと証明されたな。
        社会にもいらん、会社にいらん、家にもいらん。水商売しか必要ないわ
        容姿や羊水腐ったらホンマにこの世にいらんな
      • 49. 金ぴか名無しさん
      • 2018年10月14日 03:23
      • 48のカーチャンは水商売で、家事育児は一切やらなかったんだな。なるほど。
    コメントフォーム
    記事の評価
    • リセット
    • リセット

    ※連投、荒らし、宣伝、不適切と判断されたコメントはNGの対象になります
      当サイトについて
      記事検索
      アーカイブ
      スポンサードリンク