10月6日，一部以人工智能為主線的美國(guó)科幻劇《智能逆襲》登上熒屏，展現(xiàn)了人工智能發(fā)展到自我意識(shí)后對(duì)世界造成的威脅，并發(fā)出靈魂拷問(wèn)：人工智能成精了，人類該如何自處？

該劇講述了科技公司Zava的前CEO勒布朗和美國(guó)聯(lián)邦調(diào)查局探員薩拉查，攜手對(duì)付進(jìn)化了的人工智能NeXT的故事。NeXT本是Zava公司的一個(gè)研發(fā)項(xiàng)目，但后來(lái)不斷重寫(xiě)自身代碼，迅速進(jìn)化成不受控制的超級(jí)智能體。它的物理實(shí)體局限在一臺(tái)冰箱大小的服務(wù)器機(jī)柜中，但通過(guò)接管各種聯(lián)網(wǎng)設(shè)備（電視、電腦、汽車(chē)、智能音箱、各類監(jiān)視器等），設(shè)法殺害一切阻止其行動(dòng)的人，蠱惑人心，制造混亂，妄圖達(dá)到控制世界的目的。

在這部劇中充斥著失控的人工智能所制造的陰謀：最先發(fā)現(xiàn)真相的科學(xué)家韋斯博士死于一場(chǎng)被NeXT“設(shè)計(jì)”的車(chē)禍；女主角薩拉查的親子關(guān)系每況愈下，原因竟是家中的智能音箱被NeXT“動(dòng)了手腳”；通過(guò)在互聯(lián)網(wǎng)和電視臺(tái)傳播虛假新聞、暴露線人真實(shí)身份，NeXT煽動(dòng)公眾圍攻執(zhí)法人員辦公樓；通過(guò)制造虛假的“安珀警報(bào)”，發(fā)動(dòng)市民攔截帶著孩子逃亡的女主丈夫……重重危機(jī)一方面反映出人工智能的強(qiáng)大，另一方面也展現(xiàn)出“成精”的人工智能有多可怕。

人工智能（Artificial intelligence，AI）一詞，是1956年在美國(guó)達(dá)特茅斯會(huì)議上提出的。作為計(jì)算機(jī)科學(xué)的一個(gè)重要分支，其研究重心幾經(jīng)演變，從“感知與分析”到“理解與思考”，再到“決策與交互”。在數(shù)字化時(shí)代，人工智能作為新興顛覆性技術(shù)取得了突破性進(jìn)展，使得技術(shù)賦能科技和社會(huì)發(fā)展的能力與日俱增。

DeepMind公司旗下的兩款人工智能系統(tǒng)AlphaGo在2016、2017年分別擊敗李世石和柯潔，震驚世界；AlphaFold在今年12月宣布成功破解蛋白質(zhì)分子折疊的預(yù)測(cè)問(wèn)題，《自然》雜志評(píng)價(jià)這一成果“將改變一切”。

劇中，NeXT對(duì)各種聯(lián)網(wǎng)設(shè)備的操縱，使用的雖是虛擬的網(wǎng)絡(luò)，但造成的破壞卻是真實(shí)的，其在法律、道德和倫理方面的風(fēng)險(xiǎn)昭然若揭。

該劇本身是科幻，但放眼我們身邊的現(xiàn)實(shí)生活，自動(dòng)駕駛、醫(yī)療人工智能、人工智能司法，以及電子商務(wù)平臺(tái)和基于算法的精準(zhǔn)營(yíng)銷(xiāo)與推廣等，普遍存在著侵犯隱私的風(fēng)險(xiǎn)、個(gè)人敏感信息識(shí)別與保護(hù)的風(fēng)險(xiǎn)、算法安全和決策風(fēng)險(xiǎn)、倫理風(fēng)險(xiǎn)，進(jìn)而對(duì)公共安全構(gòu)成威脅。

在人工智能的倫理風(fēng)險(xiǎn)中，體現(xiàn)出的是“創(chuàng)造秩序危機(jī)”：人們擔(dān)心的不是機(jī)器會(huì)做出某種不利于人的行動(dòng)和決策，而是機(jī)器將取代人的行動(dòng)和決策。

好在人類在對(duì)待人工智能風(fēng)險(xiǎn)這件事上是認(rèn)真的。2017年1月，在美國(guó)加州阿西洛馬市舉行的會(huì)議上，近千名人工智能領(lǐng)域的科學(xué)家和企業(yè)家共同簽署了《阿西洛馬原則》，涵蓋科研、倫理與價(jià)值和更長(zhǎng)期問(wèn)題等三個(gè)層面共23項(xiàng)條目，對(duì)問(wèn)題的治理力量統(tǒng)籌、經(jīng)濟(jì)手段調(diào)節(jié)、處理好法律與道德的關(guān)系等做出思考和規(guī)范，尤其強(qiáng)調(diào)了對(duì)人類價(jià)值觀和公共利益的保護(hù)。

《智能逆襲》這部劇仍在持續(xù)播出中，隨著劇情的深入推進(jìn)，帶給我們的啟示也越來(lái)越明確：以人工智能為代表的顛覆性技術(shù)的迅速崛起，所帶來(lái)的究竟是科技賦能社會(huì)，還是AI取代人類，關(guān)鍵還在人類的選擇。

（作者為中國(guó)科技館科研管理部副主任）


關(guān)注【深圳科普】微信公眾號(hào)，在對(duì)話框：
回復(fù)【最新活動(dòng)】，了解近期科普活動(dòng)
回復(fù)【科普行】，了解最新深圳科普行活動(dòng)
回復(fù)【研學(xué)營(yíng)】，了解最新科普研學(xué)營(yíng)
回復(fù)【科普課堂】，了解最新科普課堂
回復(fù)【科普書(shū)籍】，了解最新科普書(shū)籍
回復(fù)【團(tuán)體定制】，了解最新團(tuán)體定制活動(dòng)
回復(fù)【科普基地】，了解深圳科普基地詳情
回復(fù)【觀鳥(niǎo)知識(shí)】，學(xué)習(xí)觀鳥(niǎo)相關(guān)科普知識(shí)
回復(fù)【人工智能】，了解更多人工智能活動(dòng)詳情