2018/10/11(木) 14:46:37.70
MIT Tech Review: 「女子大卒は減点」アマゾンのAI採用、男性優遇判明で廃止に
https://www.technologyreview.jp/nl/amazon-ditched-ai-recruitment-software-because-it-was-biased-against-women/

ロイター通信の報道によると、2014年、アマゾンは就職希望者に対して1つ星から5つ星でランク付けをする自動システムの開発に着手した。しかし、このシステムが技術職において男性志願者を優遇していることが分かり、2017年に廃止した。

このAIツールは、アマゾンがそれまで10年間に渡って受け取ってきた履歴書のデータを元に訓練された。
テクノロジー産業は男性優位分野であるため、履歴書の大部分は男性から送られてきたものだった。

システムは意図せずして、男性志願者を女性志願者よりも優先して選ぶように訓練されていた。
報道によれば、「女性の」という言葉や、特定の女子大学の名前を含む履歴書を減点するようになっていた。
アマゾンは、システムがこれらの条件を中立なものとして判断するように変更を加えたものの、プログラムが他のあらゆる分野において本当に性別に対する偏りがないか、自信を持てなくなったという。

私たちはAIを本質的にバイアスがないものとして扱うことはできない。
バイアスのあるデータでシステムを訓練すれば、アルゴリズムもまたバイアスを含むことになる。
もし、今回のような公平性を欠いたAI人材採用プログラムが導入前に明るみにならなければ、ビジネスに長年根付いている多様性の問題の数々は解決されず、むしろ固定化されてしまうだろう。


  2018/10/11(木) 14:47:15.03
AIが言っとるんやから正しいやろ
  2018/10/11(木) 14:47:16.45
技術職ならそうなるわな
15   2018/10/11(木) 14:48:14.54
こいついつも差別してるな
21   2018/10/11(木) 14:48:57.64
合理的に判断したら離職率の高い女の評価点下がるの当然の結果やろ
51   2018/10/11(木) 14:50:40.63
>>21
アメリカは離職率で男女差はそれほどない
どっちも高い
22   2018/10/11(木) 14:48:58.32
なんj民みたいなAIやな
23   2018/10/11(木) 14:48:58.79
は?この報道自体がミソジニーだろ
報道すんなよ
52   2018/10/11(木) 14:50:40.60
企業の利益最優先にするAIの目的設定が間違っとるねん
社会全体の利益を考慮させるようにせんと
突き詰めると障害者雇用と同じなんやから
185   2018/10/11(木) 15:00:58.37
>>52
社会全体の利益が何になるかによるけど男に働かせて女は家事やらせてた方が経済は上向きになるんちゃう?
125   2018/10/11(木) 14:56:09.78
>>52
女さんが社会進出する程出生率が下がるんやから
社会全体の利益を考慮して採用したらそもそも女さんを働かすべきやないって事になるやろ
95   2018/10/11(木) 14:54:12.52
>>52
まんさん雇用したら出生率下がって社会的にマイナスになるんちゃうのん
80   2018/10/11(木) 14:52:53.77
>>52
まあそういうことやな
設定の時点で間違ってんねん
58   2018/10/11(木) 14:51:06.12
結婚とか出産で抜けられるとめんどいからね
AI有能だわ
59   2018/10/11(木) 14:51:06.94
これは有能AI
62   2018/10/11(木) 14:51:27.71
なんJ民はAIだった…?
72   2018/10/11(木) 14:52:15.34
>>62
実際のところかなりの数のbotやスクリプトが混じってるやろな
64   2018/10/11(木) 14:51:36.86
そのうち人間って時点で減点されるで
70   2018/10/11(木) 14:52:06.15
どうしてそうなったかは難しい問題やろうから、「いい社員」をどんな定義で学習させたのか教えてほしいわ
79   2018/10/11(木) 14:52:48.84
>>70
そら年収とかやないか?
71   2018/10/11(木) 14:52:06.58
AI「ま〜ん(笑)」
166   2018/10/11(木) 14:59:37.23
>>71
大金つぎ込んで得た答えがこれって虚しくなるな
74   2018/10/11(木) 14:52:31.46
>>71
こんなんで笑ってしまう
92   2018/10/11(木) 14:54:02.10
そういうのは上手いことやっとけやアホAI
93   2018/10/11(木) 14:54:02.53
これ究極のロジハラだろ
118   2018/10/11(木) 14:55:35.59
AIっちゅうかただ過去の統計平均と履歴書を比較するだけのソフトを作ったのでは?
124   2018/10/11(木) 14:55:58.57
自信喪失したAIちゃんを慰めてあげたい
132   2018/10/11(木) 14:57:06.02
就活にAI導入したら学歴至上主義が壊れるってよく言われてるけど逆やと思うわ
206   2018/10/11(木) 15:02:36.61
>>132
学歴だけを見て新卒選ぶ無能人事がいなくなる一方で
雰囲気や顔だけで新卒選ぶ無能人事もいなくなる訳やからな
そら中には学歴の無い有能もいるんやろうけど統計的に考えたら学歴が圧勝するやろな
183   2018/10/11(木) 15:00:45.30
>>132
学歴隠しても勝手に名門大学のある出身地の奴優遇しそう
162   2018/10/11(木) 14:59:19.33
>>132
今おる上司だいたい高学歴やな…
……!高学歴の方が有能なんやな!
高学歴にめちゃくちゃ加点したろ!

こうなるな
208   2018/10/11(木) 15:02:43.96
>>162
上司の中でも実績を出しているかどうかとか加味されると思うで
156   2018/10/11(木) 14:58:37.31
そりゃ男の採用者が多いデータで学習させたら
男を採用しやすくなるに決まってるやん
Amazonの人事はアホなのか?
176   2018/10/11(木) 15:00:21.96
性別のデータ入れたのがまずかったんか
197   2018/10/11(木) 15:02:00.55
流石AIさんや無慈悲な判断が出来よる
255   2018/10/11(木) 15:05:29.39
でもAmazonが断念するって過去の偏りを修正するAIって作るのはそんな難しいんか?
281   2018/10/11(木) 15:08:12.95
>>255
人間そんな簡単に変われないからな
AIも似たようなもんなんやろ
274   2018/10/11(木) 15:07:14.48
>>255
過去の偏り修正することがそもそも偏り生んでることだからな
どう作ろうがどこかからケチがつく
267   2018/10/11(木) 15:06:54.27
AIっていうか入力されたデータを定量的にというか機械的に点数化して並べただけだよね
色んなデータから人間も予測できないような適性を見抜いて云々とかじゃなく
287   2018/10/11(木) 15:08:38.29
元々男性優遇してたからそう学習したんやろ?
AI廃止しても元々してたことやるだけで草
464   2018/10/11(木) 15:22:34.08
AIって統計の常識を疑うものやと思ってたけど違うんか
530   2018/10/11(木) 15:27:23.82
>>464
疑う行動が出来るのは人間だけやで
AIは人間に与えられたデータしか信じない
538   2018/10/11(木) 15:28:27.92
>>530
人間ではなくフェアなaiがデータを集めるんとちゃう?
588   2018/10/11(木) 15:31:07.17
>>538
データを用意したりどのデータが正解なのかを教えるのは人間や
465   2018/10/11(木) 15:22:34.98
50%の性別ガチャ外さなくて本当に良かった
もし女に産まれたら一生男に力でも頭脳でも勝てないから劣等感を抱き続ける惨めな人生が待っていた
それに加えてブスなら男に媚びて利益を得ることも出来ないしまさに負け犬のモデルケースになる所だった
472   2018/10/11(木) 15:23:10.34
履歴書から判定したら今までと同じような奴採用したいってことになる気がするがそれでええんやろか
484   2018/10/11(木) 15:24:05.23
>>472
そりゃそうよ
履歴書とその後をどう紐付して評価したのかしらんけど
今までの履歴書で採用した成功事例をパターン化したらそうなったんやろ
489   2018/10/11(木) 15:24:23.61
AIが仕事やってくれる日なかなか来そうに無いなワイはまだフリーター続けないとアカンのか
501   2018/10/11(木) 15:25:24.74
>>489
AIに仕事ガーとは言うけどこの調子じゃ今世紀は無理そうやね…
502   2018/10/11(木) 15:25:24.77
男女平等!!!!!機械!!!!AI!!!みたいな経済でも技術発展でも他国に先行する先進国になればなるほど生物が生存する目的である次に子孫を残すことに関してはアフリカのてっきとーな国にも負けとるのおもろいよな
531   2018/10/11(木) 15:27:45.80
>>502
まあおまんこに言うこと1つ聞かせられないオカマ民族が連綿と続く訳ないししゃーない
519   2018/10/11(木) 15:26:39.61
>>502
他の生き物がことごとく死んだ中ゴキブリみたいなのが生き延び続けたんやからそういうことやろうな
503   2018/10/11(木) 15:25:28.26
医大もAIに採点やらしてたんじゃないの?
514   2018/10/11(木) 15:25:57.74
>>503
大量のデータを色眼鏡なしで一定のルールで処理するのに向いてるから
571   2018/10/11(木) 15:30:07.95
てかAIにランク付け任せたくなるほど就職希望者多いんやな、どんくらいおるんやろ
596   2018/10/11(木) 15:31:56.91
人間対AIの火蓋が切って落とされた

    コメントする

    コメントフォーム
    評価する
    • 1
    • 2
    • 3
    • 4
    • 5
    • リセット
    • 1
    • 2
    • 3
    • 4
    • 5
    • リセット