如今，市場對數(shù)據(jù)科學家的需求是巨大的。但是也有不利之處，因為有偏見的數(shù)據(jù)，其所面臨的風險也是巨大的。數(shù)據(jù)科學家凱西 奧尼爾為此創(chuàng)建了數(shù)據(jù)科學家的一個倫理政策。

人們可能不知道，數(shù)據(jù)科學有一個潛在的黑暗面，這是許多企業(yè)所忽視的東西。在當今社會，龐大的數(shù)據(jù)量對數(shù)據(jù)科學家造成巨大需求的時候，數(shù)據(jù)科學家凱西 奧尼爾不久撰寫一本著作，名為 數(shù)字破壞武器：大數(shù)據(jù)如何增加不平等和威脅民主 。她擔心的是，在急于利用大數(shù)據(jù)的情況下，可能會因為內(nèi)置偏差使得結論不準確，并且可能具有相當?shù)钠茐男浴Ｋc高級技術編輯瓦勒瑞 斯威特一起探討數(shù)據(jù)科學領域的偏見，以及為什么企業(yè)需要制定數(shù)據(jù)科學倫理政策。

奧尼爾：人們認為可以解決任何數(shù)據(jù)問題，對此我感到惱火。我對這些數(shù)據(jù)持懷疑態(tài)度。

斯威特：那么，那些對數(shù)據(jù)科學領域具有偏見的企業(yè)需要害怕什么呢？

凱蒂 奧尼爾：我們有一個信任問題，而如今卻沒有足夠的審查。每個組織都需要數(shù)據(jù)科學家。但是，我們需要讓數(shù)據(jù)科學家在這些團隊中增加更多類型的人，以確保選擇是經(jīng)過深思熟慮的。數(shù)據(jù)科學家沒有接受過道德倫理思考或思考這些問題的培訓。社會學家可能會看到非預期的后果，但數(shù)據(jù)科學家可能會導致愚蠢的事情發(fā)生。人們的正義和預警數(shù)據(jù)是基于吉姆克魯法律的，如果組織使用這些歷史數(shù)據(jù)來訓練當前的模型，他們將是種族主義。假設是，一旦你對數(shù)據(jù)做了一些事情，它就會自動使得價值和目標消失。社會科學家比數(shù)據(jù)科學家更為了解其不當之處。

斯威特：如果我們不注意數(shù)據(jù)科學領域的偏見，有什么風險？

奧尼爾：在這個過程中有一個風險，我們實際上得到的是自動化的偏見。如果團隊中沒有人提出正確的問題，你可以得到偏向于婦女或顏色或老年人的算法。在不久的將來，建立評估員工的內(nèi)部算法的企業(yè)可能很快將面臨歧視性流程的訴訟。這不是癡人說夢。人們需要監(jiān)控這些事情，并確保做得更好，并確保他們不是歧視性的。

斯威特：這只是一個內(nèi)部問題嗎？

奧尼爾：當涉及到招聘等事情時，這是更明顯的，但你可以創(chuàng)建面向客戶的算法。如果你的業(yè)務與貸款有關，歧視可能就是一個很明顯的因素。這都有很多例子。

斯威特：那么，人們?nèi)绾螒獙?shù)據(jù)科學領域的偏見？

奧尼爾：一些大學開始向數(shù)據(jù)科學家講授倫理課程。但在這方面沒有很多監(jiān)管。生物醫(yī)學實驗有很多規(guī)則和倫理，研究人員必須征得同意。這種事情不存在于大數(shù)據(jù)的世界。我們都不斷地進行A/B測試，大多數(shù)時候是愚蠢的事情，如 這個廣告圖片是什么顏色的？我們不必同意這些事情。這不是真正的測試，這個事情讓人困擾。人們實際上卻認為這些算法是完美的。沒有理由認為他們工作會犯錯。就像一家汽車廠商沒有測量結果，沒有經(jīng)過安全測試，就將車輛直接上路行駛一樣。因此人們必須測量和驗證。

編輯：Harris