被評分的人生(3)AI評分可信嗎?

2019/05/07


  2018年秋季,在提供個人貸款服務的J.Score公司的會議室裏,高管們展開了熱烈的討論。

  

  「很可能被誤解為性別歧視」。

  

  「但是數據是正確的」。

   

  J.Score公司由瑞穗銀行和軟銀共同出資,從2017年9月開始提供利用人工智慧(AI)根據學歷、興趣和性格等數據對個人進行打分(滿分1000分),決定貸款條件的服務。該公司在約1年的時間裏收到了「即使年收入和職業等其他條件相同,把性別從男性改成女性評分就會降低」的不滿聲。

  

  男女評分存在差別

  

  該公司的首席信息官大久保秀彥在苦惱過後,決定進行修正,削弱性別影響。雖然這樣做存在導致分析精確度降低的風險,但大久保表示「讓外界理解我們顧及人權是最優先課題」。依靠信用分進行融資的服務在日本剛剛出現不久。該公司認為如果損害利用者的信用,則這項業務也將泡湯。  

      

資料圖

     

  支撐評分的人工智慧可分析龐大的數據量。但如今的技術還沒有成熟到可以把一切都交給人工智慧預測的程度。

  

  「交給人工智慧還為時尚早」,日本煙草産業(JT)在實習生的選拔中曾嘗試使用「人工智慧面試」,但是在錄用應屆畢業生時則放棄使用人工智慧。原本期待通過人工智慧發現面試官看漏的人才,但是其得出的結果與實際面試的評價相去甚遠。對於智慧手機播放的人工語音提問,學生感到厭煩,相關負責人表示「反而起到反效果」。

     


      

  在授信和人事等依靠負責人的經驗和直覺的領域,出現了嘗試把評分作為判斷標準的行動。但是這種評分到底有多大可信度呢?眼下還看不到正確的答案。

  

  擔心遭到員工的反對

  

  越來越多企業開始引入新系統,使用人工智慧分析員工的郵件內容,預測違規跡象和離職的可能性。一家大型製藥公司討論把該系統作為防止研究數據洩露的殺手劍,但是有反對意見認為「員工得知自己將被監視後很可能強烈反對」,該公司最終放棄引入這一系統。即使通過數據分析能夠提高業務效率,但如果損害了員工的工作積極性,將本末倒置。

  

  利用人工智慧分析公司內部人士調動情況的人力資源公司Recruit Career選擇了「不過度依賴人工智慧」的方式。

  

  該公司通過自主的人工智慧系統對員工的性格等進行分析,然後計算能力評分,並預測每個員工所適合的工作性質。例如「(某員工)能夠發揮自身特色的是銷售工作」。但是預測結果不會告知員工本人,僅供參考。人事部經理加藤宏紀表示,「越是重要的事越需要由人來決定」。

   

  對此,不同的員工出現不同的意見。2018年秋季跳槽到該公司的女性(24歲)被分配到開拓新客戶的銷售部,這不是其所期望進入的部門。但是「意外地發現自己很適合拜訪客戶的銷售工作」。一方面,被調到策劃部門的30多歲男性則表示「公司認為我謹慎的性格適合這個崗位,但是我卻不這麼認為」。

  

  在利用人工智慧方面需要由人來作出判斷和決定。3月,日本政府匯總的人工智慧社會原則顯示出「以人為本」的想法。利用由數據算出的評分的場合越多,人的責任反而越重。何時、何地、如何使用這種評分的判斷變得越來越難。

   

版權聲明:日本經濟新聞社版權所有,未經授權不得轉載或部分複製,違者必究。