非盈利組織將研究如何解決AI系統(tǒng)顯示的根深蒂固的偏見問題。英聯(lián)邦科學(xué)與工業(yè)研究組織(CSIRO)Data61與IAG和悉尼大學(xué)共同創(chuàng)建了一個新的人工智能(AI)研究所，旨在探索新興技術(shù)的倫理。Data61解釋說，Gradient Institute是一個獨立的非盈利組織，負責研究人工智能的道德規(guī)范，以及開發(fā)基于人工智能的道德系統(tǒng)，主要側(cè)重于創(chuàng)建一個“所有系統(tǒng)都符合道德規(guī)范的世界”。“通過將道德規(guī)范納入人工智能，我們相信我們將能夠通過道德意識的機器學(xué)習創(chuàng)造更好的結(jié)果來選擇避免過去錯誤的方法，”研究院首席執(zhí)行官比爾辛普森說。

“例如，在招聘時，自動化系統(tǒng)使用歷史數(shù)據(jù)來指導(dǎo)決策，他們可能會偏向于某些職業(yè)中歷史上代表性不足的亞組。

“通過在創(chuàng)建人工智能中嵌入道德規(guī)范，我們可以緩解這些在零售，電信和金融服務(wù)等行業(yè)中顯而易見的偏見。”

除了研究之外，預(yù)計新研究所還將通過實踐，政策倡導(dǎo)，公眾意識和培訓(xùn)來探索人工智能的道德規(guī)范，特別是在人道主義的道德發(fā)展和使用方面。

Data61在周四的一份聲明中表示，該研究所將利用研究成果創(chuàng)建開源道德人工智能工具，可供企業(yè)和政府采用和調(diào)整。

“隨著人工智能的廣泛采用，確保技術(shù)的開發(fā)符合道德考慮因素至關(guān)重要，”Data61首席執(zhí)行官阿德里安特納補充道。“作為一個國家，我們需要做到這一點，從生產(chǎn)力的提高到新的世界價值，從AI中獲益。”

在Data61今年布里斯班年會期間與ZDNet一同在Data61的工程與設(shè)計代理主管Hilary Cinis表示道德規(guī)范就是減少傷害。

她說，解決根深蒂固的道德偏見的一種方法是確保構(gòu)建算法的團隊多樣化。她說，圍繞發(fā)展的“文化反思”需要發(fā)生。

同樣，Salesforce用戶研究架構(gòu)師Kathy Baxter在今年早些時候在悉尼舉行的人權(quán)與技術(shù)會議上表示，出現(xiàn)的一個主要問題是數(shù)據(jù)中很難看到偏見。她說，同樣復(fù)雜的是公平意味著什么。

“如果你按照頭條新聞，你會發(fā)現(xiàn)AI是性別歧視，種族主義，并且充滿了系統(tǒng)性的偏見，”她說。

“人工智能基于概率和統(tǒng)計，”她繼續(xù)道。“如果人工智能正在使用這些因素中的任何一個 - 種族，宗教，性別，年齡，性取向 - 它會不公平地剝奪一部分人口的權(quán)利，即使你沒有在算法中明確使用這些因素，是他們甚至不知道的代理人。

“在美國，郵政編碼加上收入等于種族。如果你的算法中有這兩個因素，你的算法可能會根據(jù)種族提出建議。”

她繼續(xù)建議研究需要提前進行，以確定誰將受到影響，并在“硅谷泡沫”或開發(fā)商所處的任何位置泡沫之外提供額外的觀點。

“人工智能從數(shù)據(jù)和數(shù)據(jù)中學(xué)習反映了過去 - 在漸變研究所，我們希望未來比過去更好，”Simpson-Young周四補充說。

Simpson-Young將由IAG的全資子公司Ambiata的聯(lián)合創(chuàng)始人兼首席科學(xué)家Tiberio Caetano博士加入，他將以首席科學(xué)家的身份指導(dǎo)該研究所的道德AI研究。