當(dāng)機(jī)器智能超越了人類智能時(shí)會(huì)發(fā)生什么?人工智能會(huì)拯救人類還是毀滅人類?
作者提到,我們不是這個(gè)星球上速度最快的生物,但我們發(fā)明了汽車、火車和飛機(jī)。我們雖然不是最強(qiáng)壯的,但我們發(fā)明了推土機(jī)。我們的牙齒不是最鋒利的,但我們可以發(fā)明比任何動(dòng)物的牙齒更堅(jiān)硬的。我們之所以能控制地球,是因?yàn)槲覀兊拇竽X比即使最聰明的動(dòng)物的大腦都要復(fù)雜得多。如果機(jī)器比人類聰明,那么我們將不再是這個(gè)星球的主宰。當(dāng)這一切發(fā)生的時(shí)候,機(jī)器的運(yùn)轉(zhuǎn)將超越人類。
人類大腦擁有一些其他動(dòng)物大腦沒有的功能。正是這些獨(dú)特的功能使我們的種族得以擁有主導(dǎo)地位。如果機(jī)器大腦在一般智能方面超越了人類,那么這種新興的超級(jí)智能可能會(huì)極其強(qiáng)大,并且有可能無法控制。正如現(xiàn)在大猩猩的命運(yùn)更多的掌握在人類手中而不是自己手中一樣,人類未來的命運(yùn)也會(huì)取決于機(jī)器超級(jí)智能的行為。
但是,我們有一項(xiàng)優(yōu)勢(shì):我們有機(jī)會(huì)率先采取行動(dòng)。是否有可能建造一個(gè)種子人工智能,創(chuàng)造特定的初始條件,使得智能爆發(fā)的結(jié)果能夠允許人類的生存?我們?nèi)绾螌?shí)現(xiàn)這種可控的引爆?
作者相信,超級(jí)智能對(duì)我們?nèi)祟悓⑹且粋€(gè)巨大的威脅。在這本書中,作者談到了超級(jí)智能的優(yōu)勢(shì)所帶來的風(fēng)險(xiǎn),也談到了人類如何解決這種風(fēng)險(xiǎn)。作者認(rèn)為,他的這本書提到的問題將是我們?nèi)祟愃媾R的風(fēng)險(xiǎn)。
這本書目標(biāo)宏大,且有獨(dú)創(chuàng)性,開辟了人工智能領(lǐng)域的新道路。本書會(huì)帶你開啟一段引人入勝的旅程,把你帶到對(duì)人類狀況和智慧生命未來思索的最前沿。尼克?波斯特洛姆的新書為理解人類和智慧生命的未來奠定了基礎(chǔ),不愧是對(duì)我們時(shí)代根本任務(wù)的一次重新定義。
亞馬遜總榜、《紐約時(shí)報(bào)》超級(jí)暢銷書
特斯拉汽車和PayPal聯(lián)合創(chuàng)始人伊隆 馬斯克隆重推薦
《超智能時(shí)代》一書值得一讀,我們需要十分小心人工智能,它可能比核武器更危險(xiǎn)。——伊隆 馬斯克
如果機(jī)器比人類聰明,那么我們將不再是這個(gè)星球的主宰
當(dāng)這一切發(fā)生的時(shí)候,機(jī)器的運(yùn)轉(zhuǎn)將超越人類,“智能大爆發(fā)”出現(xiàn)了
尼克 波斯特洛姆
全球著名思想家,牛津大學(xué)人類未來研究院的院長(zhǎng),哲學(xué)家和超人類主義學(xué)家。其學(xué)術(shù)背景包括物理、計(jì)算機(jī)科學(xué)、數(shù)理邏輯以及哲學(xué),著有大約200種出版物,已經(jīng)被翻譯成22種語(yǔ)言。曾獲得尤金 甘農(nóng)(Eugene R.Gannon)獎(jiǎng)(該獎(jiǎng)項(xiàng)的獲得者每年只有一名,他們來自哲學(xué)、數(shù)學(xué)、藝術(shù)和其他人文學(xué)科與自然科學(xué)領(lǐng)域)。譯者簡(jiǎn)介張?bào)w偉
國(guó)際關(guān)系博士,現(xiàn)任職于中國(guó)電子信息產(chǎn)業(yè)發(fā)展研究院,主要從事工業(yè)經(jīng)濟(jì)、能源方面的研究。著有《京津冀協(xié)同創(chuàng)新背景下首都高端產(chǎn)業(yè)發(fā)展研究》(合著)等,譯有《第三次工業(yè)革命》(合譯),另有多篇文章發(fā)表。張玉青
畢業(yè)于北京外國(guó)語(yǔ)大學(xué),英語(yǔ)碩士,現(xiàn)任職于外語(yǔ)教學(xué)與研究出版社。興趣領(lǐng)域?yàn)檎軐W(xué)和認(rèn)知科學(xué),翻譯經(jīng)驗(yàn)豐富。
天算論
序言
及時(shí)章人工智能:昨日成就與今日現(xiàn)狀
增長(zhǎng)模式和宏大歷史
大預(yù)期
希望與絕望并存
技術(shù)發(fā)展水平
對(duì)未來機(jī)器智能的看法
第二章通往超級(jí)智能之路
人工智能
全腦仿真(whole brain emulation)
生物認(rèn)知
人腦—計(jì)算機(jī)交互界面
網(wǎng)絡(luò)和組織
總結(jié)
第三章超級(jí)智能的形式
高速超級(jí)智能
集體超級(jí)智能
素質(zhì)超級(jí)智能
直接和間接范圍
數(shù)字智能的優(yōu)勢(shì)來源
第四章智能大爆發(fā)的動(dòng)力學(xué)
智能爆發(fā)的時(shí)間和速度
反抗度
化力與爆發(fā)
第五章決定性戰(zhàn)略優(yōu)勢(shì)
經(jīng)驗(yàn)豐富者會(huì)取得決定性戰(zhàn)略優(yōu)勢(shì)嗎?
成功的項(xiàng)目會(huì)有多大?
從決定性戰(zhàn)略優(yōu)勢(shì)到單一體
第六章超級(jí)認(rèn)知能力
功能與超級(jí)能力
人工智能奪權(quán)的場(chǎng)景
對(duì)自然和智能體的影響力
第七章超級(jí)智能的意愿
智能與動(dòng)機(jī)的關(guān)系
工具性趨同
第八章結(jié)局注定是厄運(yùn)嗎?
存在性災(zāi)難是智能大爆發(fā)的默認(rèn)后果嗎?
背叛轉(zhuǎn)折
惡性失敗模式
第九章控制問題
兩個(gè)問題
能力控制方法
動(dòng)機(jī)選擇方法
第十章神諭,精靈,主權(quán),工具
神諭
精靈和主權(quán)
工具性人工智能
比較
第十一章多極情景
馬與人
算術(shù)經(jīng)濟(jì)下的生活
后過渡時(shí)代下單一體的形成
第十二章獲取價(jià)值觀
價(jià)值觀加載問題
進(jìn)化性選擇
強(qiáng)化學(xué)習(xí)
聯(lián)合累積的價(jià)值觀
動(dòng)機(jī)性支架
價(jià)值觀學(xué)習(xí)
仿真調(diào)節(jié)
體制設(shè)計(jì)
總結(jié)
第十三章確定選擇標(biāo)準(zhǔn)
間接規(guī)范方法的必要性
一致推斷意愿
道德模式
按照我的意思做
設(shè)計(jì)選擇清單
第十四章戰(zhàn)略圖景
科學(xué)技術(shù)戰(zhàn)略
路徑與促成因素
合作
第十五章關(guān)鍵時(shí)刻
哲學(xué)面臨期限
應(yīng)該做些什么?
人性中最的部分
致謝
在你的顱腔里,有個(gè)器官能夠閱讀。這個(gè)器官就是人的大腦,它具有其他動(dòng)物大腦沒有的一些能力,而我們?cè)诘厍蛏系闹髟椎匚槐銡w功于這些獨(dú)特的能力。其他動(dòng)物有更強(qiáng)壯的肌肉或更銳利的爪子,但是我們有更聰明的大腦。我們?cè)谝话阒悄芊矫娴男┰S優(yōu)勢(shì)使我們創(chuàng)造了語(yǔ)言,發(fā)展了科技,并建立了復(fù)雜的社會(huì)組織。這種優(yōu)勢(shì)隨著時(shí)間的延續(xù)而不斷提高,因?yàn)槊恳淮说某删投冀⒃谇叭说某删椭稀?/p>
如果有24小時(shí)我們發(fā)明了超越人類大腦一般智能的機(jī)器大腦,那么這種超級(jí)智能將會(huì)非常強(qiáng)大。并且,正如現(xiàn)在大猩猩的命運(yùn)更多地取決于人類而不是它們自身一樣,人類的命運(yùn)將取決于超級(jí)智能機(jī)器。
然而我們擁有一項(xiàng)優(yōu)勢(shì):我們清楚地知道如何制造超級(jí)智能機(jī)器。原則上,我們能夠制造一種保護(hù)人類價(jià)值的超級(jí)智能,當(dāng)然,我們也有足夠的理由這么做。實(shí)際上,控制問題—也就是如何控制超級(jí)智能,似乎非常困難,而且我們似乎也只有一次機(jī)會(huì)。一旦不友好的超級(jí)智能出現(xiàn),它就會(huì)阻止我們將其替換或者更改其偏好設(shè)置,而我們的命運(yùn)就因此被鎖定了。
在本書中,我將努力詮釋可能出現(xiàn)的超級(jí)智能帶來的挑戰(zhàn),以及我們?nèi)绾胃玫貞?yīng)對(duì)。這很可能是人類面對(duì)的最重要和最可怕的挑戰(zhàn)。而且,不管我們成功還是失敗,這大概都是我們將要面對(duì)的一個(gè)挑戰(zhàn)。
本書并不認(rèn)為,我們即將在人工智能方面取得重大突破,或者能夠預(yù)測(cè)突破會(huì)在何時(shí)發(fā)生。突破有可能會(huì)在21世紀(jì)的某些時(shí)候?qū)崿F(xiàn),但是我們并不能確定。本書的前幾章討論了取得突破的可能途徑,并談?wù)摿撕螘r(shí)能夠突破的問題。然而,本書的主要部分討論的是智能爆發(fā)以后會(huì)發(fā)生什么。我們會(huì)研究智能大爆發(fā)的動(dòng)力學(xué),超級(jí)智能的形式和能量,以及具有決定性優(yōu)勢(shì)的超級(jí)智能體有哪些戰(zhàn)略選擇。然后,我們探討的重點(diǎn)轉(zhuǎn)向控制問題,并提出為了讓我們生存并且獲得有利的結(jié)果,我們?nèi)绾芜x擇初始數(shù)據(jù)的問題。在本書的結(jié)尾,我們將畫面拉遠(yuǎn),思考我們的研究所呈現(xiàn)的更大的圖景。提出了一些建議,指出為了增加避免存在性災(zāi)難的概率,我們現(xiàn)在可以做些什么。
我希望本書可以開辟出一條道路,以使其他研究者能夠更加快速和便捷地到達(dá)這個(gè)領(lǐng)域的前沿,從而以全新的視角加入這項(xiàng)研究,進(jìn)一步擴(kuò)展我們的認(rèn)識(shí)。(如果我鋪的這條道路有點(diǎn)崎嶇不平,那么我希望評(píng)論家們?cè)谠u(píng)判結(jié)果時(shí),不要低估原來地勢(shì)的險(xiǎn)惡情況!)
這本書寫起來并不容易。我努力使其讀起來容易,但是我覺得可能并沒有做到。寫作時(shí),我把早前時(shí)間切片(time-slice)里的自己當(dāng)作目標(biāo)讀者,并盡量把書寫成自己喜歡閱讀的類型。雖然這可能會(huì)導(dǎo)致讀者群較窄,但我還是認(rèn)為書中的內(nèi)容對(duì)很多人來說都是能夠理解的,前提是他們對(duì)書中的內(nèi)容進(jìn)行一些思考,同時(shí)拒絕盲目地將任何一個(gè)新觀點(diǎn)誤解為他們文化中相似而陳舊的觀點(diǎn)。非科技專業(yè)的讀者不必因?yàn)闀信紶柍霈F(xiàn)的數(shù)學(xué)知識(shí)或?qū)I(yè)術(shù)語(yǔ)感到氣餒,因?yàn)橥梢酝ㄟ^上下文的解釋看懂主要觀點(diǎn)。
本書提出的很多觀點(diǎn)可能是不恰當(dāng)?shù)模行┓浅V匾挠^點(diǎn)我可能也沒有考慮到,從而削弱了我的某些或者所有結(jié)論的有效性。我已經(jīng)盡可能地在全書中指明細(xì)微差別和不確定性—書中遍布著太多的“可能”、“或許”、“也許”、“也有可能”、“看起來”、“大概”、“非常可能”、“幾乎肯定”這樣的詞。每個(gè)限定詞的使用都是經(jīng)過深思熟慮的。然而,這些字眼所體現(xiàn)出的認(rèn)識(shí)方面的謙虛謹(jǐn)慎依然是不夠的,還必須要補(bǔ)充對(duì)不確定性和易錯(cuò)性的整體說明。這不是虛偽的謙虛,因?yàn)殡m然我相信我的書中可能有一些較嚴(yán)重的問題和誤導(dǎo)性,但是我認(rèn)為目前書中提到的其他觀點(diǎn)更加糟糕,包括默認(rèn)觀點(diǎn)或者所謂的“零假設(shè)”,這些觀點(diǎn)認(rèn)為我們可以暫時(shí)安全地或合理地忽略超級(jí)智能出現(xiàn)的可能性。
及時(shí)章 人工智能:昨日成就與今日現(xiàn)狀
首先,我們回顧過去。在最長(zhǎng)的時(shí)間范圍里,歷史似乎呈現(xiàn)出一系列不同的增長(zhǎng)模式,每個(gè)新模式都比前一個(gè)模式增長(zhǎng)更快。根據(jù)這個(gè)規(guī)律推測(cè),可能會(huì)出現(xiàn)另一種(甚至更快速的)增長(zhǎng)模式。然而,我們并不特別強(qiáng)調(diào)這個(gè)觀點(diǎn),因?yàn)檫@并不是一本關(guān)于“科技加速”、“極速增長(zhǎng)”,或者集合在“奇點(diǎn)”標(biāo)題下的各種觀點(diǎn)的書。然后,我們要回顧人工智能的歷史,之后再探索目前人工智能的能力。,我們簡(jiǎn)要地介紹一些專家近期的觀點(diǎn)和調(diào)查,并且思考一下我們對(duì)于未來發(fā)展之時(shí)間表的空白領(lǐng)域。
增長(zhǎng)模式和宏大歷史
僅在幾百萬(wàn)年前,我們的祖先還在非洲森林中穿梭。以地質(zhì)或進(jìn)化的時(shí)間尺度來看,從與類人猿共同擁有的一代祖先向智人的進(jìn)化是非常快速的。我們進(jìn)化出直立的姿勢(shì)和對(duì)生拇指,而最重要的是,我們的大腦體積和神經(jīng)組織發(fā)生了相對(duì)微小的變化,但正是這些變化引起了人類認(rèn)知能力的巨大進(jìn)步。因此,人類可以進(jìn)行抽象思維,交流復(fù)雜的思想,可以比地球上任何其他物種更好地積累和傳承文化信息。
這些能力使人類創(chuàng)造出越來越高效的生產(chǎn)技術(shù),從而使我們的祖先從熱帶雨林和草原向遠(yuǎn)方的遷徙成為可能。尤其是進(jìn)行農(nóng)耕之后,人口總數(shù)和人口密度都在增加。更多的人口意味著更多的想法;更大的人口密度則意味著想法更容易傳播,并且更多的個(gè)體可以專注于發(fā)展專門的技能。這些發(fā)展提高了經(jīng)濟(jì)生產(chǎn)力和技術(shù)實(shí)力的增長(zhǎng)率。后來與工業(yè)革命相關(guān)的發(fā)展則帶來了第二次與此相當(dāng)?shù)脑鲩L(zhǎng)率的劇增。
這些增長(zhǎng)率的變化有著重要的影響。幾十萬(wàn)年前,在早期人類(或原始人類)史前時(shí)代,增長(zhǎng)非常緩慢,要使人類生產(chǎn)能力增長(zhǎng)到能夠維持另外100萬(wàn)人基本生存的水平,需要大約100萬(wàn)年的時(shí)間。到了公元前5000年,經(jīng)過了農(nóng)業(yè)革命,增長(zhǎng)率已經(jīng)提高到只需要兩個(gè)世紀(jì)就能實(shí)現(xiàn)同樣的增長(zhǎng)。今天,經(jīng)過了工業(yè)革命,世界經(jīng)濟(jì)平均每90分鐘就能夠增長(zhǎng)相同的量。
即使是現(xiàn)在的增長(zhǎng)率,如果持續(xù)一定時(shí)間,也會(huì)產(chǎn)生可觀的結(jié)果。如果世界經(jīng)濟(jì)繼續(xù)以過去50年的速度增長(zhǎng),那么到2050年,全球財(cái)富將是現(xiàn)在的約5.8倍,到2100年則是約35倍。
然而,當(dāng)前這種依指數(shù)增長(zhǎng)實(shí)現(xiàn)穩(wěn)定繁榮的方式仍舊是不夠的,如果世界再經(jīng)歷一次農(nóng)業(yè)革命或工業(yè)革命那樣的飛躍式增長(zhǎng),世界將會(huì)呈現(xiàn)出不同的面貌。經(jīng)濟(jì)學(xué)家羅賓 漢森通過研究歷史上的經(jīng)濟(jì)和人口數(shù)據(jù),推測(cè)出過去社會(huì)中經(jīng)濟(jì)呈倍數(shù)增長(zhǎng)所要經(jīng)歷的時(shí)間:在洪積世狩獵采集社會(huì)下,經(jīng)濟(jì)增長(zhǎng)翻倍需要224 000年,在農(nóng)業(yè)社會(huì)需要909年,在工業(yè)社會(huì)則需要6.3年。(在漢森的模型中,當(dāng)今時(shí)代是農(nóng)業(yè)社會(huì)和工業(yè)社會(huì)發(fā)展模式的混合體,世界經(jīng)濟(jì)實(shí)現(xiàn)倍數(shù)增長(zhǎng)的速度還不能達(dá)到6.3年這個(gè)平均時(shí)長(zhǎng)。)但如果出現(xiàn)另外一種不同的經(jīng)濟(jì)增長(zhǎng)模式,類似于農(nóng)業(yè)革命和工業(yè)革命時(shí)期的飛躍式發(fā)展,那么世界經(jīng)濟(jì)便會(huì)以每?jī)芍艿臅r(shí)間實(shí)現(xiàn)翻倍增長(zhǎng)。
以當(dāng)今形勢(shì)看,要實(shí)現(xiàn)這種增長(zhǎng)速度無異于癡人說夢(mèng)。觀察家們可能已經(jīng)發(fā)
洪積世(Pleistocene),又譯更新世,地質(zhì)時(shí)代第4紀(jì)的早期。—譯者注現(xiàn),對(duì)于以往的歷史時(shí)期而言,世界經(jīng)濟(jì)很難在某一段時(shí)期中實(shí)現(xiàn)好幾次翻倍增長(zhǎng)。然而,我們現(xiàn)在就要學(xué)著對(duì)這種不尋常的情況習(xí)以為常。
弗諾 文奇(Vernor Vinge)開創(chuàng)性的文章以及雷 庫(kù)茲韋爾(Ray Kurzweil)等人的著述所揭示的那種即將到來的技術(shù)性奇點(diǎn)已經(jīng)受到了廣泛關(guān)注。然而,“奇點(diǎn)”這一術(shù)語(yǔ)在很多不同領(lǐng)域被混亂地使用,并催生出一種不合理的技術(shù)烏托邦氛圍,就好像我們會(huì)就此迎來太平盛世了。考慮到“奇點(diǎn)”這個(gè)詞所指的大部分涵義與本文的論述不甚相關(guān),我們可以去掉這個(gè)詞并代替以更的術(shù)語(yǔ),以便闡述得更清晰。
我們更感興趣的一個(gè)與“奇點(diǎn)”相關(guān)的術(shù)語(yǔ)是智能爆發(fā),尤其是機(jī)器超級(jí)智能的前景。肯定會(huì)有人意識(shí)到圖1–1所顯示的增長(zhǎng)模式是比農(nóng)業(yè)革命和工業(yè)革命還要激烈的另一種可能的飛躍式增長(zhǎng)模式。這些人也會(huì)意識(shí)到,要想讓世界經(jīng)濟(jì)實(shí)現(xiàn)在僅僅數(shù)周內(nèi)翻倍的增長(zhǎng)速度,就需要?jiǎng)?chuàng)造出一種比人類的生物性思維更快、更有效的思維方式。但是我們很難通過分析經(jīng)濟(jì)增長(zhǎng)曲線以及推斷過往經(jīng)濟(jì)增長(zhǎng)模式來認(rèn)真嚴(yán)肅地了解機(jī)器智能變革的前景。我們將看到,更加強(qiáng)有力的理由會(huì)讓我們認(rèn)真考慮這一問題。
大預(yù)期
自20世紀(jì)40年代計(jì)算機(jī)被發(fā)明出來之后,機(jī)器就一直被寄予厚望,人們希望機(jī)器能夠具備人的一般智能,更確切地說,就是機(jī)器要具備普通判斷力和有效的學(xué)習(xí)、推理能力,并且要能夠制訂計(jì)劃以應(yīng)對(duì)復(fù)雜信息處理過程帶來的挑戰(zhàn),這種挑戰(zhàn)可能來自自然和抽象領(lǐng)域的各個(gè)方面。在計(jì)算機(jī)剛面世時(shí),人們就期望能夠在未來20年之內(nèi)賦予計(jì)算機(jī)人工智能。但一年又一年過去了,實(shí)現(xiàn)讓機(jī)器具備人工智能的日期卻一拖再拖;以至于今天,關(guān)心人工智能的未來學(xué)家們依舊普遍認(rèn)為智能機(jī)器的出現(xiàn)還需要20多年。
在談到徹底變革所需要的時(shí)間時(shí),預(yù)言家們總喜歡用20年這個(gè)時(shí)間跨度:這個(gè)時(shí)間跨度既抓眼球,又足夠長(zhǎng),長(zhǎng)到可以讓一個(gè)目前看起來還是模糊想象的突破成為現(xiàn)實(shí)。為什么不是更短的時(shí)間跨度呢?因?yàn)榇蠖鄶?shù)在未來5~10年內(nèi)可能對(duì)世界產(chǎn)生重大影響的技術(shù)目前已經(jīng)在小范圍內(nèi)被應(yīng)用了,而全新的技術(shù)在不到15年之內(nèi)就能讓世界煥然一新,當(dāng)然這也只是一個(gè)理論假設(shè)。另外,之所以喜歡說20年,還有可能是因?yàn)橐粋€(gè)預(yù)言家的職業(yè)生命大概就是這么長(zhǎng),這樣一來他在做出大膽假設(shè)時(shí)也不用承擔(dān)名聲受損的風(fēng)險(xiǎn)。
然而,即便一些人在過去對(duì)人工智能的預(yù)言不,這也并不意味著人工智能就是不可能或者永遠(yuǎn)無法實(shí)現(xiàn)的。那么,為什么人工智能的發(fā)展總是落后于預(yù)期呢?這主要是因?yàn)閯?chuàng)造人工智能機(jī)器所遭遇的技術(shù)困難遠(yuǎn)遠(yuǎn)超過了先驅(qū)者們認(rèn)為的程度。但這也只是說明我們遇到了多大的技術(shù)難題以及我們離解決這些難題還有多遠(yuǎn)。很多時(shí)候,一個(gè)最初看起來復(fù)雜得不可救藥的難題往往在后來都會(huì)意外地被非常簡(jiǎn)單的手段所解決,當(dāng)然,用復(fù)雜的手段解決難題更為常見。
在下一章,我們將會(huì)看到那些可能實(shí)現(xiàn)與人類相同智能的人工智能的具體路徑。但我們?cè)谝婚_始就需要注意一點(diǎn),那就是如果我們將實(shí)現(xiàn)人工智能視為一輛火車所要到達(dá)的站臺(tái),那么不管我們現(xiàn)在與將要到達(dá)的站臺(tái)之間有多少臨時(shí)停靠站,實(shí)現(xiàn)與人類智能相同的機(jī)器智能也并不是終點(diǎn)站。順著這條道路再往前走,下一個(gè)站臺(tái)就是機(jī)器智能超越人類智能。這列火車不會(huì)在達(dá)到人類智能水平這一站就停滯不前或者減速行駛,它很有可能會(huì)飛速而過。
第二次世界大戰(zhàn)時(shí)期,阿蘭 圖靈密碼破譯小組的首席統(tǒng)計(jì)師兼數(shù)學(xué)家I. J. 古德大概是清晰闡述人工智能未來圖景的及時(shí)人。在那段寫于1965年、后來被經(jīng)常引用的名言中,他這樣寫道:
我們把超智能機(jī)器定義為具備超越所有聰慧人類智能活動(dòng)的機(jī)器。考慮到設(shè)計(jì)機(jī)器是智能活動(dòng)的一部分,那么超智能機(jī)器甚至能夠設(shè)計(jì)出更好的機(jī)器。毫無疑問,肯定會(huì)出現(xiàn)諸如“智能爆發(fā)”這樣的局面,人類智能會(huì)被遠(yuǎn)遠(yuǎn)地甩在后面。因此,及時(shí)臺(tái)超智能機(jī)器將是人類創(chuàng)造的一臺(tái)機(jī)器,當(dāng)然前提條件是這臺(tái)機(jī)器足夠聽話并告訴我們要怎樣才能控制它。
目前存在的顯著風(fēng)險(xiǎn)便與這個(gè)智能爆發(fā)相關(guān),我們必須以最嚴(yán)肅的態(tài)度審視這一風(fēng)險(xiǎn),即使我們知道(實(shí)際上我們并不知道)出現(xiàn)這一風(fēng)險(xiǎn)的可能性非常小。但是盡管人工智能的先驅(qū)者們相信與人類智能水平相當(dāng)?shù)娜斯ぶ悄芩嬖诘奈:Γ蠖鄶?shù)人也并不認(rèn)為人工智能會(huì)有超越人類智能的可能。他們腦海里存在著這樣的固有觀念,即就算是機(jī)器能夠達(dá)到人類的智能水平,也不能因此就推斷出機(jī)器最終會(huì)發(fā)展成超越人類智能的超智能機(jī)器。
人工智能的先驅(qū)者們大多數(shù)時(shí)候都不認(rèn)為他們的事業(yè)可能會(huì)存在風(fēng)險(xiǎn)。至于創(chuàng)造人工智能以及具備人工智能的計(jì)算機(jī)霸主是否會(huì)存在任何安全隱患或者倫理風(fēng)險(xiǎn),先驅(qū)者們才不會(huì)在這些問題上面多費(fèi)唇舌,更別說去嚴(yán)肅思考了。即便是在當(dāng)今這個(gè)不怎么批判技術(shù)使用過程中所存風(fēng)險(xiǎn)的社會(huì)背景下,這種缺失也讓人備感詫異。我們當(dāng)然希望這些先驅(qū)者們的事業(yè)最終能夠成功,但我們要的不僅僅是嫻熟的技術(shù)以引燃智能爆炸,我們還要能在更高水平上掌握控制權(quán),以免我們?cè)诒ㄖ猩硎桩愄帯?/p>
而在瞻望未來之前,對(duì)于機(jī)器智能歷史的飛速一瞥對(duì)我們而言還是頗有助益的。
希望與絕望并存
1956年夏天,10名研究神經(jīng)網(wǎng)絡(luò)、自動(dòng)化理論以及智能的科學(xué)家們?cè)谶_(dá)特茅斯學(xué)院組成了一個(gè)為期6周的工作組。這個(gè)達(dá)特茅斯夏季項(xiàng)目經(jīng)常被認(rèn)為是人工智能研究的及時(shí)縷曙光。大多數(shù)參與者后來都成了這一領(lǐng)域的開創(chuàng)性人物。項(xiàng)目組成員的樂觀預(yù)期在給項(xiàng)目資助方洛克菲勒基金會(huì)提交的一份報(bào)告書中展現(xiàn)得淋漓盡致:
現(xiàn)報(bào)告我們10人團(tuán)隊(duì)經(jīng)過兩個(gè)月針對(duì)人工智能的研究成果……這項(xiàng)研究建立在這樣一個(gè)設(shè)想的基礎(chǔ)上,即智能所能實(shí)現(xiàn)的學(xué)習(xí)或者任何其他方面的特征在理論上都能夠被機(jī)器地模擬出來。該研究嘗試去發(fā)現(xiàn)機(jī)器是如何使用語(yǔ)言、形成抽象思維與概念、解決人類所面臨的問題以及學(xué)會(huì)自我改良的。我們認(rèn)為由這些精心遴選出來的科學(xué)家們組成的團(tuán)隊(duì)在經(jīng)過一個(gè)夏天的研究后,能夠在其中一個(gè)或者幾個(gè)問題上實(shí)現(xiàn)突破性進(jìn)展。
距離這一大膽的開創(chuàng)性研究已經(jīng)過去了60年,人工智能在這60年中跌宕起伏,既經(jīng)歷過大肆宣傳、野心勃勃的高潮期,也遭遇過挫折滿滿、令人失望的低潮期。
達(dá)特茅斯會(huì)議激發(fā)了人工智能的及時(shí)次研究熱潮,該項(xiàng)目的主要組織者約翰 麥卡錫說這一時(shí)期是一個(gè)“看,我能辦到!”的時(shí)代。在這一人工智能發(fā)展的早期時(shí)代,研究者們建立起各種系統(tǒng)以批駁那些認(rèn)為“機(jī)器不能做‘某事’”的懷疑論。這類懷疑論在當(dāng)時(shí)非常流行。為了對(duì)抗這種懷疑論,人工智能研究者們?cè)谀承┪⒂^領(lǐng)域創(chuàng)造了小型系統(tǒng)去實(shí)現(xiàn)具體的“某事”,以便證明機(jī)器是能夠做“某事”的。這些微觀領(lǐng)域往往被限制在某個(gè)非常具體的范圍內(nèi),使得演示簡(jiǎn)單的機(jī)器性能成為可能。比是早期的邏輯思想家的這類系統(tǒng)便可以證明懷特海和羅素那本《數(shù)學(xué)原理》(Principia Mathematica)第二章中的大多數(shù)定理,而邏輯思想家的證明過程甚至比原來的證明更加簡(jiǎn)潔,這駁斥了那種認(rèn)為機(jī)器“只會(huì)數(shù)數(shù)”的想法并顯示出機(jī)器也能夠進(jìn)行推理和邏輯證明。在這之后又出現(xiàn)了通用問題解算程序,這種程序在原理上能夠解決很大范圍內(nèi)的專業(yè)問題:既有能夠解決大學(xué)一年級(jí)課本里微積分問題的程序,也有能應(yīng)用于某些智商測(cè)驗(yàn)中解決圖像類比問題的程序,還有能寫出簡(jiǎn)單代數(shù)語(yǔ)言的程序。Shakey(意思為搖擺)機(jī)器人的出現(xiàn)顯示出邏輯推理能夠與知覺結(jié)合在一起,并可以應(yīng)用于設(shè)置和控制肢體動(dòng)作,其之所以被叫作shakey,是因?yàn)檫@種機(jī)器人在演示時(shí)總是不停抖動(dòng)。ELIZA程序則展示了一臺(tái)計(jì)算機(jī)是如何模仿羅杰斯這類心理治療師的。在20世紀(jì)70年代中期,SHRDLU系統(tǒng)演示了一只模仿人類的機(jī)器人手臂是如何在擺放著幾何物體的世界中,遵循使用者用英文打出的指令行事并且回答其輸入的問題的。在之后的10年中,相繼出現(xiàn)了各式各樣的系統(tǒng)程序:能夠以多個(gè)古典音樂作曲家的風(fēng)格創(chuàng)作曲子的系統(tǒng),在特定的臨床診斷中表現(xiàn)得比初級(jí)醫(yī)師還要好的系統(tǒng),能夠自動(dòng)駕駛汽車的系統(tǒng),以及能夠發(fā)明專利的系統(tǒng)。有的系統(tǒng)甚至還會(huì)說笑話。
但在早期的演示系統(tǒng)中取得成功的這種方式卻被證明很難向更廣泛的領(lǐng)域延伸,也很難解決更難的問題。原因之一在于常用的窮舉法很難解決可能的“組合爆炸”的問題。窮舉法可以解決簡(jiǎn)單問題,但是只要問題變得稍微復(fù)雜一些,這種方法就沒有用了。例如要證明一個(gè)有5步推理、一個(gè)推理規(guī)則以及5條公理的定律,便可以簡(jiǎn)單列舉出3 125種可能的組合方式,然后挨個(gè)試驗(yàn)并尋找那個(gè)能夠推出預(yù)期結(jié)果的組合。窮舉法也可以運(yùn)算6步或者7步的推理。但是隨著任務(wù)變得越來越復(fù)雜,這種窮舉法便很快遇到了瓶頸。要證明一個(gè)有50步推理的定律,工作量可并不是證明5步推理定律工作量的10倍,如果用窮舉法的話,就可能需要550≈8.9×1034種可能的組合,即使是對(duì)于最快速的超級(jí)計(jì)算機(jī)來說,這也是不可能實(shí)現(xiàn)的計(jì)算。
要克服“組合爆炸”帶來的問題,就需要有能夠開發(fā)目標(biāo)領(lǐng)域結(jié)構(gòu)的算法,并且要能通過啟發(fā)式搜索、計(jì)劃以及靈活的抽象信息處理方式有效利用已有知識(shí),而這些都是早期人工智能系統(tǒng)所欠缺的地方。其早期系統(tǒng)性能還有一個(gè)缺陷,就是過多依賴脆弱且無根據(jù)的符號(hào)化的表達(dá)方式,再加上數(shù)據(jù)稀缺以及硬盤條件嚴(yán)重限制了計(jì)算機(jī)的存儲(chǔ)容量和加工速度,這些都使早期系統(tǒng)沒有很好的方法來控制不確定性。到了20世紀(jì)70年代中期,這些問題變得越發(fā)突出。在意識(shí)到多數(shù)人工智能項(xiàng)目無法成功實(shí)現(xiàn)我們最初的設(shè)想后,人工智能的研究迎來了及時(shí)個(gè)寒冬:項(xiàng)目被砍,資金縮水,懷疑論甚囂塵上,人工智能備受冷落。
20世紀(jì)80年代早期,人工智能迎來了春天。當(dāng)時(shí)日本發(fā)起了第5代計(jì)算機(jī)系統(tǒng)工程,并專門為該工程建立起良好的公私合作伙伴關(guān)系,以確保充足的項(xiàng)目資金。該工程的主要目的在于超越當(dāng)時(shí)的技術(shù)發(fā)展水平,通過發(fā)展大規(guī)模并行計(jì)算結(jié)構(gòu)為人工智能的實(shí)現(xiàn)搭建平臺(tái)。該工程與日本的“戰(zhàn)后經(jīng)濟(jì)奇跡”一起受到關(guān)注,這一時(shí)期,西方國(guó)家政府以及商業(yè)精英們焦急地尋找能夠揭示日本經(jīng)濟(jì)成功的規(guī)律,以期在其國(guó)內(nèi)復(fù)制日本的這種繁榮。當(dāng)日本決定在人工智能領(lǐng)域大手筆投入時(shí),其他國(guó)家都緊隨其后。
接下來的幾年見證了專家系統(tǒng)的繁榮。專家系統(tǒng)的設(shè)計(jì)理念是為決策者提供支持工具,該系統(tǒng)是一些基于從一系列由實(shí)際知識(shí)構(gòu)建的知識(shí)庫(kù)中得到簡(jiǎn)單推論的程序,而這些實(shí)際知識(shí)則是由某一領(lǐng)域的人類專家們提供并被精心編成以代碼表達(dá)的形式語(yǔ)言。當(dāng)時(shí)有大約幾百個(gè)類似的專家系統(tǒng)被建立起來。然而專家系統(tǒng)也同樣存在著缺陷:小規(guī)模系統(tǒng)沒什么太大價(jià)值,大規(guī)模系統(tǒng)則需要在開發(fā)、確認(rèn)和數(shù)據(jù)更新上耗費(fèi)大量成本,在運(yùn)用時(shí)往往也會(huì)非常麻煩。為了運(yùn)行一個(gè)單一程序,就設(shè)置一臺(tái)獨(dú)立計(jì)算機(jī),這不太現(xiàn)實(shí)。所以到了20世紀(jì)80年代末期,人工智能的這一繁榮時(shí)期也變得黯淡起來。
第5代計(jì)算機(jī)系統(tǒng)工程并沒能實(shí)現(xiàn)它的目標(biāo),而在美國(guó)和歐洲開展的類似項(xiàng)目也面臨著同樣的尷尬局面。第二次人工智能寒潮不期而至。這時(shí),批評(píng)家的悲嘆甚囂塵上:“人工智能研究發(fā)展到今天,呈現(xiàn)出來的狀態(tài)往往是在特定領(lǐng)域取得了極其有限的成功之后,便立刻會(huì)在實(shí)現(xiàn)更宏大目標(biāo)的過程中遭遇挫折,而這種挫折往往都是被早期的成功所揭示的。”私人投資者們開始回避任何與人工智能相關(guān)的風(fēng)險(xiǎn)。甚至對(duì)于學(xué)術(shù)界人士以及學(xué)術(shù)資助人來說,“人工智能”一詞都讓人感到厭煩。
但技術(shù)依舊飛快地向前發(fā)展,到了20世紀(jì)90年代,第二次人工智能寒冬的冰雪開始消融。樂觀主義者重燃激情,因?yàn)樾录夹g(shù)似乎提供了一種有別于傳統(tǒng)邏輯范式(經(jīng)常被稱為GOFAI,意為“出色的老式人工智能”)的替代路徑,它聚焦于高水平符號(hào)處理,并且被20世紀(jì)80年代的專家系統(tǒng)發(fā)揮到了。神經(jīng)網(wǎng)絡(luò)和遺傳算法等新流行的技術(shù)有望在某種程度上克服GOFAI路徑的缺陷,尤其有可能會(huì)在傳統(tǒng)人工智能路徑的脆弱性上實(shí)現(xiàn)突破。這種脆弱性的主要體現(xiàn)是,只要系統(tǒng)存在一個(gè)微小的錯(cuò)誤假設(shè),整個(gè)結(jié)果便會(huì)變得毫無意義。讓新技術(shù)引以為傲的是,它具備了更多的生物有機(jī)體屬性。以神經(jīng)網(wǎng)絡(luò)為例,它具備了“故障弱化”的特性:神經(jīng)網(wǎng)絡(luò)的微小損壞通常只會(huì)導(dǎo)致整體性能的微小弱化而不會(huì)造成系統(tǒng)崩潰。更重要的是,神經(jīng)網(wǎng)絡(luò)能夠從經(jīng)驗(yàn)中學(xué)習(xí),也可以從樣本中找到最自然的概括路徑以及所輸入數(shù)據(jù)隱含的統(tǒng)計(jì)規(guī)律。這使得神經(jīng)網(wǎng)絡(luò)能夠有效解決模式識(shí)別和歸類的問題。比如,經(jīng)過聲吶信號(hào)訓(xùn)練的神經(jīng)網(wǎng)絡(luò)能夠?qū)W會(huì)分辨潛水艇、水雷、海洋生物等不同的聲音特征,比人類專家還要。而神經(jīng)網(wǎng)絡(luò)在實(shí)現(xiàn)識(shí)別不同的聲音特征前,也不需要人類事先對(duì)聲音類別進(jìn)行定義,或者事先總結(jié)出這些聲音的不同特點(diǎn)。
簡(jiǎn)單的神經(jīng)網(wǎng)絡(luò)模型自20世紀(jì)50年代后期開始被人們熟知,在引入能夠訓(xùn)練多層神經(jīng)網(wǎng)絡(luò)的反向傳播算法之后,人工智能領(lǐng)域又迎來了一陣復(fù)蘇。多層神經(jīng)網(wǎng)絡(luò)在輸入層和輸出層之間有一個(gè)或多個(gè)神經(jīng)元隱含層,能夠比之前的簡(jiǎn)單系統(tǒng)具備更強(qiáng)大的功能。輔之以日益強(qiáng)大的計(jì)算機(jī),工程師們便可以用改進(jìn)的算法建立起能夠被很好地應(yīng)用到許多領(lǐng)域中的神經(jīng)系統(tǒng)網(wǎng)絡(luò)。
基于傳統(tǒng)算法規(guī)則的GOFAI系統(tǒng)雖然邏輯嚴(yán)密,但是性能很差,而神經(jīng)網(wǎng)絡(luò)具備類似于人類大腦的特質(zhì),比之前的GOFAI系統(tǒng)要好出許多。神經(jīng)網(wǎng)絡(luò)還催生出了新的“機(jī)制”論,即所謂的“連接機(jī)制”,這種連接機(jī)制聚焦于大規(guī)模平行的精粒度亞符號(hào)數(shù)據(jù)處理的重要性。自那時(shí)起,以人工神經(jīng)系統(tǒng)為主題的學(xué)術(shù)文獻(xiàn)已超過150 000篇,并且人工神經(jīng)系統(tǒng)目前依舊是機(jī)器學(xué)習(xí)的重要路徑。
以進(jìn)化為基礎(chǔ)的算法,比如遺傳算法和遺傳編程,構(gòu)建了另一條引領(lǐng)人們走出第二次人工智能寒冬的新路徑。這類方法在學(xué)術(shù)領(lǐng)域產(chǎn)生的影響或許并沒有神經(jīng)網(wǎng)絡(luò)系統(tǒng)那么大,卻受到了廣泛的歡迎。進(jìn)化模型能夠維系一個(gè)備選方案群(方案群本身可以通過數(shù)據(jù)結(jié)構(gòu)和程序來實(shí)現(xiàn)),并通過改變或重組現(xiàn)有方案群中的變量來生成新的備選群。通過應(yīng)用選擇標(biāo)準(zhǔn)(適應(yīng)度函數(shù))可以讓備選群周期性地減少,并且只讓其中那些更好的方案群進(jìn)入下一代。經(jīng)過數(shù)千代重復(fù)之后,備選方案池中解決方案的平均素質(zhì)就會(huì)慢慢提高。這種算法能夠在運(yùn)行中生成有效的解決方案來解決范圍很廣的問題,而這類解決方案可能是讓人耳目一新且非直觀的,比任何一個(gè)人類工程師設(shè)計(jì)出來的東西都更像自然結(jié)構(gòu)。從原理上講,這個(gè)過程可以在不太需要人工初始輸入具體而簡(jiǎn)單的適應(yīng)度函數(shù)的情況下發(fā)生。但在實(shí)際操作中,要讓進(jìn)化方法得以順利運(yùn)行,還是需要一定的技巧和獨(dú)特設(shè)計(jì)的,特別是要能設(shè)計(jì)出一個(gè)的表達(dá)形式。如果不能對(duì)可能的解決方案進(jìn)行有效編碼(也就是將其轉(zhuǎn)換成一種基因語(yǔ)言以匹配目標(biāo)領(lǐng)域的潛在結(jié)構(gòu)),關(guān)于進(jìn)化的研究道路就會(huì)變得蜿蜒曲折且沒有盡頭,它會(huì)迷失在一個(gè)宏大的研究空間中或者卡在某個(gè)局部環(huán)節(jié)上停滯不前。不過即便是有了好的表達(dá)格式,進(jìn)化算法也需要極大的計(jì)算量,并且常常會(huì)被“組合爆炸”擊垮。
20世紀(jì)90年代,神經(jīng)網(wǎng)絡(luò)和遺傳算法等研究方法激起了人們廣泛的興趣,為GOFAI范式提供了可替代的路徑。但本文在此并不是要為這兩個(gè)方法唱贊歌,也不是要拔高這類方法在機(jī)器學(xué)習(xí)技術(shù)領(lǐng)域中的地位。實(shí)際上,過去20年間一個(gè)主要的理論進(jìn)展便是人們更清醒地意識(shí)到,目前表面上不同的各類技術(shù),是可以被理解為存在于一個(gè)共同數(shù)學(xué)框架中的特殊案例的。舉個(gè)例子,許多類型的人工神經(jīng)網(wǎng)絡(luò)系統(tǒng)都可以被視為對(duì)特定類別統(tǒng)計(jì)計(jì)算的展示(是一種較大似然估計(jì))。這其實(shí)是將神經(jīng)系統(tǒng)視為從實(shí)例中學(xué)習(xí)分類的更大一類算法中的一種,比如:決策樹、邏輯回歸模型、支持向量機(jī)、樸素貝葉斯、KNN算法等。在一定程度上,遺傳算法可以被視為一種隨機(jī)爬山法的演示,是尋找化算法大類中的一種。每一類這種算法在建立分類和尋找解決空間上都有自己的優(yōu)缺點(diǎn),而這些優(yōu)缺點(diǎn)都是能夠借助計(jì)算揭示出來的。不同的算法對(duì)處理時(shí)間和存儲(chǔ)空間的要求都有所不同,從而帶來了兩個(gè)問題:一個(gè)問題是算法的預(yù)先假設(shè)存在歸納偏置,不過這個(gè)問題可以通過納入外部?jī)?nèi)容來得到緩解;另一個(gè)問題就是,如何把算法的內(nèi)在運(yùn)行機(jī)制向人類分析家們解釋清楚。
在機(jī)器學(xué)習(xí)以及創(chuàng)造性的問題解決模式之喧囂炫目的背后,是一系列特定的計(jì)算權(quán)衡。理想的狀態(tài)是實(shí)現(xiàn)的貝葉斯程序(Bayesian agent),即在可獲得的信息中尋找出概率。當(dāng)然,這種理想狀態(tài)是無法實(shí)現(xiàn)的,因?yàn)闆]有一臺(tái)物理計(jì)算機(jī)能支持它所需要的宏大計(jì)算量(延伸閱讀1)。但我們?nèi)耘f能夠?qū)⑷斯ぶ悄芤暈閷ふ医輳降囊环N探索:借助人工智能手段,我們可以通過在將其引入特定現(xiàn)實(shí)領(lǐng)域并維持其性能的同時(shí)犧牲一些解或者普遍性,進(jìn)而逐步靠近貝葉斯理想狀態(tài)
這本書討論的就是怎么解決“人算不如天算”的問題。所以我稱之為“天算論”。你為什么應(yīng)該關(guān)注這本書呢?如果說“天演論”告訴人們的是,物競(jìng)天擇,適者生存,至少人還是贏家;那么“天算論”就沒那么簡(jiǎn)單了,將來人與計(jì)算機(jī)競(jìng)爭(zhēng),人還會(huì)是贏家嗎?
《超級(jí)智能》討論的是我們這個(gè)時(shí)代的優(yōu)先事項(xiàng)。
——姜奇平 中國(guó)社會(huì)科學(xué)院信息化研究中心秘書長(zhǎng)、《互聯(lián)網(wǎng)周刊》主編
尼克 波斯特洛姆有力地指出,未來人工智能的影響可能是人類面對(duì)的最重要的問題,我們需要采取措施。《超級(jí)智能》用極其詳細(xì)的方式闡述了潛在的未來的危險(xiǎn)。它標(biāo)志著一個(gè)新時(shí)代的開始。
——斯圖爾特 羅素 加利福尼亞大學(xué)伯克利分校計(jì)算機(jī)科學(xué)教授
在讀過這本具有獨(dú)創(chuàng)性、論證充分的著作之后,那些將“人工智能奪權(quán)”視為科學(xué)幻想的人會(huì)重新思考。
——馬丁 里茲 英國(guó)皇家學(xué)會(huì)前主席
尼克 波斯特洛姆是世界上最聰明的思想家之一,在這部新作中,他對(duì)人類面對(duì)的挑戰(zhàn)進(jìn)行了精彩的分析。
——馬克斯 特格馬克 麻省理工學(xué)院教授
這是一本極其重要的、開創(chuàng)性的書。作者非凡的睿智和清晰的頭腦使他能夠?qū)V泛的知識(shí)糅合成一個(gè)可以理解的整體,這些知識(shí)涉及很多領(lǐng)域:工程學(xué)、自然科學(xué)、醫(yī)學(xué)、社會(huì)科學(xué)和哲學(xué)。如果這本書得到了應(yīng)有的重視,那么它會(huì)成為自1962年《寂靜的春天》之后,甚至有史以來,最重要的警鐘。
——奧萊 哈格斯特羅姆 瑞典查爾姆斯理工大學(xué)教授
呵呵。商品這么快就到了,還不錯(cuò)哦,下次來你可要優(yōu)惠哦^_^
整體不錯(cuò),很劃算,一直都在當(dāng)當(dāng)買書.
不錯(cuò)不錯(cuò)不錯(cuò)
當(dāng)當(dāng)真是越來越省了,就一個(gè)塑料袋子包著書,保護(hù)膜都沒有!
當(dāng)機(jī)器智能超越了人類智能時(shí)會(huì)發(fā)生什么?人工智能會(huì)拯救人類還是毀滅人類?作者用極其詳細(xì)的方式闡述了潛在的未來的危險(xiǎn),它標(biāo)志著一個(gè)新時(shí)代的開始。非常值得閱讀的一本書!
朋友推薦的,非常好,孩子喜歡!
一直信賴當(dāng)當(dāng),發(fā)貨及時(shí),包裝好,售后溝通及時(shí)!
當(dāng)當(dāng)?shù)臅蝗缂韧暮?
當(dāng)當(dāng)圖書服務(wù)不錯(cuò),圖書正版,包裝不錯(cuò)
內(nèi)容很不錯(cuò)
很不錯(cuò)的求,一直想買的
在當(dāng)當(dāng)買了很多次書了,還是一如既往的好,物流也快,還能貨到付款。品種很齊全,價(jià)格也很實(shí)惠。
不錯(cuò),挺好!
超贊的書但還沒讀
好書好書加油
方便買好書
當(dāng)機(jī)器智能超越了人類智能時(shí)會(huì)發(fā)生什么?人工智能會(huì)拯救人類還是毀滅人類?
有些難懂,但是提出的東西很有啟發(fā)性,值得一讀
對(duì)未來的科技發(fā)展有一個(gè)提前的了解,很有前瞻性!
這本書對(duì)于我這種專業(yè)的看看覺得沒太大意思,講得比較科普。
拜讀中。elon musk鼎力推薦,當(dāng)然要好好讀讀
紙質(zhì)非常舒服,很柔軟!至于內(nèi)容,是自己感興趣的方向,所以自然不必多說!nice!
大神級(jí)的圖書,是看作者的TED演講來到這里買書的,精華都在演講里,書里理論更多
沒有推薦寫的那么值得看,感覺沒說出什么實(shí)質(zhì)內(nèi)容
終結(jié)者到底離人類還有多遠(yuǎn)咧?書質(zhì)量好好,邊看邊思考
當(dāng)當(dāng)從一開始的很好很快現(xiàn)在變得很差很爛,一直喜歡看書,當(dāng)當(dāng)剛開的時(shí)候就在這買了,現(xiàn)在只有寒心與傷心,下了單一直顯示配貨中,也沒有電話也沒有客戶端提示,甚至我在自己的訂單里都查不到這個(gè)單子,今天好不容易寄到了,悲催的包裝,打開后書被折的很亂,無法想象我以后還會(huì)還在這買書了,總之一個(gè)字“爛!”
最開始知道這本書是看了李開復(fù)的推薦書單,總體來說,這是一本比較難懂的書。因?yàn)樽髡唠m然是思想家,但是其背景包括了物理、計(jì)算機(jī)科學(xué)、數(shù)理邏輯以及哲學(xué)。所以其實(shí)他是一位非常理性,并且很了解科學(xué)的人。在序言中,他說道自己提出的觀點(diǎn)可能是不恰當(dāng)?shù)模行┓浅V匾挠^點(diǎn)也可能沒提到,從而削弱了其某些或者所有觀點(diǎn)的有效性。
在互聯(lián)網(wǎng)的時(shí)代,超級(jí)智能可能就在明天,我們?cè)鯓涌次磥恚?