麻省理工學(xué)院媒體實(shí)驗(yàn)室的研究人員說(shuō)，社會(huì)需要用類似于行為學(xué)領(lǐng)域的多學(xué)科方法來(lái)研究算法，而不是簡(jiǎn)單地害怕“智能機(jī)器”?，F(xiàn)在我們知道該怎么稱呼，這是一個(gè)巨大的令人不安的人工智能問(wèn)題和我們想象的無(wú)數(shù)威脅，從機(jī)器偏差到丟失的工作，再到類似終結(jié)者的機(jī)器人：“機(jī)器行為”。這就是麻省理工學(xué)院媒體實(shí)驗(yàn)室的研究人員提出的一種新的跨學(xué)科研究領(lǐng)域，以確定人工智能是如何發(fā)展的，以及它對(duì)人類的意義。(他們使用英國(guó)拼寫，因?yàn)檫@是一本歐洲期刊。)

賭注很高，因?yàn)槿祟愑泻芏嗫赡芡ㄟ^(guò)算法放大，但也有很多危險(xiǎn)。

他們寫道，評(píng)論家和學(xué)者們“正在警告人工智能代理人可能表現(xiàn)出行為并產(chǎn)生下游社會(huì)影響的廣泛而無(wú)意的后果 - 無(wú)論是積極的還是消極的 - 他們的創(chuàng)造者都沒(méi)有預(yù)料到這種影響。”“人們擔(dān)心人類可能會(huì)失去對(duì)智能機(jī)器的監(jiān)督”，“自主武器”的發(fā)展意味著“機(jī)器可以決定誰(shuí)在武裝沖突中生活和死亡”。

雖然這里沒(méi)有任何結(jié)論，但這是一個(gè)很好的，雄心勃勃的努力，為研究AI在社會(huì)中的作用提供一些指導(dǎo)，而不僅僅是擔(dān)心它。

本周發(fā)表在“自然”雜志上的論文“機(jī)器行為”呼吁“設(shè)計(jì)和設(shè)計(jì)人工智能系統(tǒng)的領(lǐng)域以及傳統(tǒng)上使用科學(xué)方法研究生物制劑行為的領(lǐng)域”的共同努力。具體而言，作者建議不僅要研究機(jī)器學(xué)習(xí)算法的工作原理，還要研究它們?nèi)绾问芷溆绊懙沫h(huán)境的影響和影響。

它“類似于行為學(xué)和行為生態(tài)學(xué)如何通過(guò)將生理學(xué)和生物化學(xué) - 內(nèi)在屬性 - 與生態(tài)學(xué)和進(jìn)化學(xué)研究 - 由環(huán)境塑造的特性相結(jié)合來(lái)研究動(dòng)物行為。”

麻省理工學(xué)院的主要作者iyad Rahwan，Manuel Cebrian和Nick Obradovich與來(lái)自眾多機(jī)構(gòu)的20位其他研究人員合作，包括Facebook AI，微軟，斯坦福，耶魯大學(xué)社會(huì)學(xué)系和柏林馬克斯普朗克人類發(fā)展研究所等。他們還準(zhǔn)備了一篇關(guān)于這個(gè)主題的博客文章。Rahwan在媒體實(shí)驗(yàn)室內(nèi)設(shè)立了一個(gè)名為可擴(kuò)展合作小組的小組，該小組已經(jīng)開展了許多研究機(jī)器和道德問(wèn)題研究的途徑。

作者首先從大部分AI能夠發(fā)揮作用開始 - 盡管人類不理解它為什么起作用。

“正如他們所描述的那樣，它們被輸入并產(chǎn)生輸出”，但產(chǎn)生這些輸出的確切功能過(guò)程甚至難以解釋為自己生成算法的科學(xué)家。

“由于它們的普遍性和復(fù)雜性，預(yù)測(cè)智能算法對(duì)人類的影響 - 無(wú)論是積極的還是消極的 - 都構(gòu)成了巨大的挑戰(zhàn)，”作者指出。

作者從諾貝爾獎(jiǎng)得主尼古拉斯·廷伯根(Nikolaas Tinbergen)那里獲得了線索，他是道德學(xué)的共同創(chuàng)始人。Tinbergen將道德學(xué)描述為“行為的生物學(xué)研究”，他提出了構(gòu)成這樣一項(xiàng)研究的四個(gè)要素：機(jī)制，發(fā)展，功能和進(jìn)化。他們寫道，這四個(gè)概念可以成為探索機(jī)器行為的一種方式。

在這個(gè)框架中，他們提出，術(shù)語(yǔ)機(jī)制涉及AI中已經(jīng)研究最多的領(lǐng)域，例如神經(jīng)網(wǎng)絡(luò)模型，以及提供它們的數(shù)據(jù)。發(fā)展的概念涉及神經(jīng)網(wǎng)絡(luò)之類的東西，它們學(xué)習(xí)新的策略，因?yàn)樗鼈兣c環(huán)境的相互作用。“例如，受過(guò)最大化長(zhǎng)期利潤(rùn)培訓(xùn)的強(qiáng)化學(xué)習(xí)代理可以根據(jù)自己過(guò)去的行為和市場(chǎng)反饋來(lái)學(xué)習(xí)特殊的短期交易策略。”

作者將“函數(shù)”描述為算法為其人類創(chuàng)造者服務(wù)的目的之間的混合，以及算法可能采取的非預(yù)期角色，例如導(dǎo)致“過(guò)濾泡沫”和虛假新聞的社交媒體算法。作者在這里真正探索機(jī)器學(xué)習(xí)中“目標(biāo)函數(shù)”的問(wèn)題，即這些算法究竟應(yīng)該實(shí)現(xiàn)什么。

第四個(gè)方面，進(jìn)化，并不像你想象的那樣簡(jiǎn)單：有幾個(gè)方面，包括神經(jīng)網(wǎng)絡(luò)創(chuàng)造者推測(cè)某些算法與其他算法的傾向，以及“突變”的前景以意想不到的方式傳播。他們觀察到，“特定無(wú)人駕駛汽車的行為中的單一自適應(yīng)'突變'可能通過(guò)軟件更新立即傳播到數(shù)百萬(wàn)輛其他汽車。”

這四個(gè)領(lǐng)域引發(fā)了一些關(guān)于人工智能的有趣問(wèn)題，無(wú)論是大圖還是低級(jí)。

例如，對(duì)于諸如自動(dòng)駕駛汽車之類的東西，它們會(huì)提出諸如“汽車超越其他車輛的積極程度”這樣的問(wèn)題。并且“汽車如何在乘客和行人之間分配風(fēng)險(xiǎn)?”其他有趣的問(wèn)題是，會(huì)話式機(jī)器人最終是否能夠?qū)⒑⒆訏煸诋a(chǎn)品上，或者約會(huì)網(wǎng)站的匹配算法是否會(huì)“改變約會(huì)過(guò)程的分布結(jié)果”。

“機(jī)器塑造人類行為”是他們令人不安的觀察之一。“重要的是要研究算法中的小錯(cuò)誤或他們使用的數(shù)據(jù)是否會(huì)加劇產(chǎn)生整個(gè)社會(huì)的影響，以及我們學(xué)校，醫(yī)院和護(hù)理中心的智能機(jī)器人如何改變?nèi)祟惏l(fā)展和生活質(zhì)量，并可能影響殘疾人。”

這種研究并不容易，不僅因?yàn)樗婕暗絽R集了許多學(xué)科。作者指出，如果研究人員想要研究具有版權(quán)或?qū)＠Ｗo(hù)的商業(yè)算法，他們將面臨挑戰(zhàn)。在野外以經(jīng)驗(yàn)方式嘗試和觀察算法的選擇帶來(lái)了自己的一套道德問(wèn)題。

他們承認(rèn)，即使是他們反復(fù)用來(lái)指代人工智能創(chuàng)新的術(shù)語(yǔ)“代理人”，也會(huì)帶來(lái)人類和動(dòng)物相似的各種有問(wèn)題的假設(shè)。

“即使借用現(xiàn)有的行為科學(xué)方法可以證明對(duì)機(jī)器的研究有用，機(jī)器也可能表現(xiàn)出與生物制劑中所見(jiàn)的那些質(zhì)量不同的智力和行為形式 - 甚至是外來(lái)的 -