算法霸權(quán)：數(shù)學(xué)殺傷性武器的威脅

　　數(shù)據(jù)科學(xué)家凱西·奧尼爾認(rèn)為，我們應(yīng)該警惕不斷滲透和深入我們生活的數(shù)學(xué)模型——它們的存在，很有可能威脅到我們的社會結(jié)構(gòu)。我們生活在一個依賴“算法”的時代，它對我們生活的影響越來越大——我們?nèi)ツ睦锷蠈W(xué)，我是不是應(yīng)該貸款買車，我們應(yīng)該花多少錢來買健康保險(xiǎn)——這些都不是由人來決定的，而是由大數(shù)據(jù)模型來決定的。理論上來說，這一模型應(yīng)該讓社會更加公平才是，每一個人的衡量標(biāo)準(zhǔn)都是一樣的，偏見是不存在的。但是，正如凱西？奧尼爾書里所揭示的那樣，事實(shí)并非如此。我們今天所使用的這些數(shù)學(xué)模型是不透明的、未經(jīng)調(diào)節(jié)的、極富爭議的，有的甚至還是錯誤的。*糟糕的是，數(shù)學(xué)模型和大數(shù)據(jù)算法加劇了偏見與不公。例如，一個貧困學(xué)生想申請貸款交付學(xué)費(fèi)，但是銀行大數(shù)據(jù)算法根據(jù)他居住地的郵政編碼判斷將錢帶給他存在風(fēng)險(xiǎn)，因此，拒絕給他提供貸款。他因此失去了受教育的機(jī)會，而這個機(jī)會可能幫助他擺脫貧困。大數(shù)據(jù)算法做的常常只是錦上添花的事兒，有時甚至是落井下石。通過個案追蹤，凱西？奧尼爾揭示了大數(shù)據(jù)是如何影響我們將來的，它不僅影響著個人，也影響著整個社會。這些數(shù)據(jù)評價著我們的老師、學(xué)生，篩選著我們的簡歷，審核著我們的貸款資格，衡量著員工的工作態(tài)度，監(jiān)視著投票者，監(jiān)控著我們的健康。凱西·奧尼爾呼吁數(shù)據(jù)模型的創(chuàng)造者們要對算法負(fù)責(zé)，政策的制定者及執(zhí)行者們在使用這一威力極大的“武器”前應(yīng)該更加慎重。但是*后，作者指出，大數(shù)據(jù)幾乎掌控著我們的生活，我們應(yīng)該增加對它的了解。這本書相當(dāng)?shù)闹匾?，它讓我們有能力去問一些十分尖銳的問題，幫助我們了解事實(shí)的真相，提出需要改變的地方。

　　凱西·奧尼爾（Cathy O'Neil），數(shù)據(jù)科學(xué)家，mathbabe.org的博主。博士畢業(yè)于哈佛大學(xué)，主修數(shù)學(xué)專業(yè)。她曾在巴納德學(xué)院任教，之后為私營企業(yè)服務(wù)，例如避險(xiǎn)基金。她還在各類新型公司擔(dān)任數(shù)據(jù)科學(xué)家，預(yù)測消費(fèi)者購買與點(diǎn)擊趨勢。每周她都會出現(xiàn)在“財(cái)富記賬”的播客上。