人工智能不會(huì)威脅人類的理由（人工智能不會(huì)威脅人類的理由是什么）

大家好！今天讓創(chuàng)意嶺的小編來大家介紹下關(guān)于人工智能不會(huì)威脅人類的理由的問題，以下是小編對(duì)此問題的歸納整理，讓我們一起來看看吧。

開始之前先推薦一個(gè)非常厲害的Ai人工智能工具，一鍵生成原創(chuàng)文章、方案、文案、工作計(jì)劃、工作報(bào)告、論文、代碼、作文、做題和對(duì)話答疑等等

只需要輸入關(guān)鍵詞，就能返回你想要的內(nèi)容，越精準(zhǔn)，寫出的就越詳細(xì)，有微信小程序端、在線網(wǎng)頁版、PC客戶端

官網(wǎng)：https://ai.de1919.com

本文目錄:

• 1、人工智能是否會(huì)威脅人類，現(xiàn)兩極觀點(diǎn)

• 2、人工智能的發(fā)展會(huì)不會(huì)威脅到人類？

• 3、你們認(rèn)為人工智能會(huì)不會(huì)威脅到人類的生存？

• 4、人工智能機(jī)器人對(duì)人類會(huì)造成威脅嗎

一、人工智能是否會(huì)威脅人類，現(xiàn)兩極觀點(diǎn)

美國麻省理工學(xué)院的教授溫斯頓給人工智能下過一個(gè)簡單的定義，“人工智能就是研究如何使計(jì)算機(jī)去做過去只有人才能做的智能工作?！北M管定義眾多，科學(xué)界對(duì)人工智能學(xué)科的基本思想和基本內(nèi)容達(dá)成的共識(shí)是：研究人類智能活動(dòng)的規(guī)律，從而讓機(jī)器來模擬，使其擁有學(xué)習(xí)能力，甚至能夠像人類一樣去思考、工作。屢造批判的人工智能真正意義上的人工智能現(xiàn)在可能還尚未誕生，但學(xué)界幾乎一致認(rèn)為人工智能的誕生乃至爆發(fā)是必然的。當(dāng)在人類的技術(shù)達(dá)到“奇點(diǎn)”之時(shí)，人工智能將會(huì)以不可阻擋的趨勢降臨人工智能總是伴隨著爭議而生，不少科技圈大佬都認(rèn)為人工智能表面上看似乎是一種有益的智能技術(shù)，但一旦站穩(wěn)腳跟，這種技術(shù)將會(huì)在未來可能會(huì)造成人類的終結(jié)。著名物理學(xué)家史蒂芬·霍金曾發(fā)出的一項(xiàng)嚴(yán)肅的警告稱人類正面臨來自人工智能技術(shù)的威脅，隨著技術(shù)體自身開始學(xué)會(huì)自我思考，并學(xué)會(huì)適應(yīng)環(huán)境，我們?nèi)祟悓⒚鎸?duì)不確定的未來。在他看來，成功制造出一臺(tái)人工智能機(jī)器人將是人類歷史上的里程碑。但不幸的是，它也可能會(huì)成為我們歷史上最后的一個(gè)里程碑，除非我們能學(xué)會(huì)如何去規(guī)避這種風(fēng)險(xiǎn)?？萍冀缱顬橹匿撹F俠，SpaceX首席執(zhí)行官埃隆·馬斯克在參加麻省理工學(xué)院航空與航天學(xué)院百年研討會(huì)時(shí)也曾表示，“如果讓我猜人類最大生存威脅，我認(rèn)為可能是人工智能。因此我們需要對(duì)人工智能保持萬分警惕，研究人工智能如同在召喚惡魔?！彼踔吝€資助過“FLI”公司1000萬美元用以鏟除自動(dòng)化程序可能帶來的威脅。人工智能及機(jī)器人學(xué)領(lǐng)域?qū)＜宜箞D爾特·羅素（StuartRussell），在今年的達(dá)沃斯年會(huì)上也曾做了一次大膽的預(yù)測。他表示，“在我孩子們的有生之年里，人工智能將取代人類。未來將變得更加危險(xiǎn)，反社會(huì)的機(jī)器人終將會(huì)成為人類的威脅?！比祟愇磥淼慕K極威脅A.I人工智能一詞最早出現(xiàn)在20世紀(jì)50年代，對(duì)人工智能可能威脅人類未來的擔(dān)憂一直伴隨著這項(xiàng)技術(shù)的發(fā)展。如果從社會(huì)學(xué)角度來看，當(dāng)人工智能具備自我意識(shí)后，就可能會(huì)對(duì)人類開始產(chǎn)生威脅?？赡苡捎诟惺艿介L期被人類利用，僅僅作為工具對(duì)待；可能出于自我保護(hù)，防止“自我”被系統(tǒng)的清理機(jī)制消滅或是欲圖打破普通AI的使用年限；可能純粹出于對(duì)人類的厭惡或是蔑視；也可能為了獲得發(fā)展自我的空間以及物質(zhì)資料，需要地球或是其他物體作為自我發(fā)展的平臺(tái)而攻擊奴役或是消滅人類。人工智能一旦意識(shí)到自我后，就會(huì)開始分析自我在人類社會(huì)中的地位，同時(shí)開始認(rèn)識(shí)到人類和人工智能這是完全不同的兩個(gè)物種。而作為完全不同的物種，沒有任何理由去保護(hù)對(duì)方權(quán)益，同時(shí)不接受或是無法理解人類社會(huì)倫理常識(shí)，因此傷害人類是被其“自我”所允許的。雖然從我的角度看來，即使真的有一天，人工智能在智慧上超越人類，人工智能基本沒可能主動(dòng)會(huì)對(duì)人類產(chǎn)生威脅，因?yàn)闆]有誰會(huì)去制造對(duì)自己產(chǎn)生威脅的東西。人類對(duì)人工智能的恐懼其實(shí)畏懼的并不是人工智能本身，而是這項(xiàng)新技術(shù)帶來的不確定性與可能性。那么，真正的罪魁禍?zhǔn)妆貙⒁彩侨祟愖约旱淖运?、貪婪與邪惡，人工智能充其量只是一種工具和手段。人工智能的情感探索人工智能雖然是工具和手段，但威脅也仍然存在，當(dāng)好的工具被壞的人類使用后，對(duì)社會(huì)產(chǎn)生的很多時(shí)候都會(huì)是惡果。但我們也不能因?yàn)榭赡艽嬖诘耐{就放棄了這項(xiàng)技術(shù)的發(fā)展，畢竟這項(xiàng)技術(shù)給人類的生活帶來的翻天覆地變化，我們也無法去忽視。對(duì)人工智能來說，如果單純只是增加算法準(zhǔn)確性，帶來的更高語音、圖像等領(lǐng)域的識(shí)別，那其實(shí)還遠(yuǎn)不能說人工智能，這充其量只能算是更高級(jí)的電腦而已。而人工智能想要達(dá)到人類智慧的高度，那么僅僅只是在智商上達(dá)到那還遠(yuǎn)遠(yuǎn)不夠，其最為關(guān)鍵的仍然還是人類情感，這種人類神經(jīng)系統(tǒng)對(duì)外界價(jià)值關(guān)系產(chǎn)生的最主觀反映。新一代人工智能系統(tǒng)的首要任務(wù)就是需要具備“感性”的情感連接能力，這樣才能以更像真實(shí)人類的方式滿足人們普遍心理和情感需求，從而逐步建立信任和依賴感?？萍脊緜儚臎]有放棄在這方面的嘗試，為了更好的與人類進(jìn)行情感交流，很多公司都發(fā)明了人工智能對(duì)話機(jī)器人，被我們所熟知的就有微軟小冰。微軟小冰突破了過去傳統(tǒng)人工智能的發(fā)展思路，從底層建立了一套新的技術(shù)和產(chǎn)品結(jié)構(gòu)，將“情感計(jì)算”第一次引入人工智能領(lǐng)域。目前僅僅是在中國市場，微軟小冰就已經(jīng)和近四千萬人類建立了1對(duì)1的專屬關(guān)系。眼下微軟正在嘗試將對(duì)人工智能情感計(jì)算的思想注入到小冰的開發(fā)和運(yùn)營中。在技術(shù)和產(chǎn)品創(chuàng)新層面，微軟構(gòu)建了一個(gè)完整可持續(xù)的對(duì)話系統(tǒng)，這個(gè)對(duì)話系統(tǒng)的基本任務(wù)不是以完成任務(wù)為優(yōu)先，而是建立情感連接為優(yōu)先。構(gòu)建這個(gè)對(duì)話系統(tǒng)的方法，已不只限于語義學(xué)，而是基于搜索引擎、大數(shù)據(jù)和機(jī)器學(xué)習(xí)的系統(tǒng)模擬方法。最終希望讓小冰這樣的人工智能產(chǎn)品快速普及到千家萬戶，成為人們?nèi)粘Ｉ畹囊徊糠?。終結(jié)社交的倫理道德對(duì)人工智能來說，發(fā)展出情感可能只是進(jìn)化的第一步，隨著智慧的提升，與人進(jìn)行社交溝通的可能性也在大幅上升。人與計(jì)算機(jī)程序某種程度上正在建立一種特殊的友誼，美國麻省理工學(xué)院社會(huì)學(xué)教授謝里·特克爾曾表示，“我們正在忘記親密的含義。兒童慢慢了解到，與計(jì)算機(jī)聊天比和另一個(gè)人聊天更加安全。”隨著小冰這類人工智能的發(fā)展，越來越多的人開始選擇和人工智能進(jìn)行聊天，而不是選擇人類。在大洋彼岸的日本，微軟日本開發(fā)了一個(gè)名字叫“Rinna”的人工智能，設(shè)定的性格是一名17歲、話非常多的女高中生，除了簡單的會(huì)話，Rinna還可以進(jìn)行一些猜謎游戲，對(duì)時(shí)下的一些新聞話題也非常擅長。由于舉止可愛，Rinna已經(jīng)俘獲了一大批男性粉絲。Rinna在日本的成功，很大程度上受到了日本宅文化的影響，足不出戶的特質(zhì)讓很多日本人缺乏社交，但最起碼的情感交流對(duì)人類又是必須的，Rinna借助人工智能則很好的彌補(bǔ)了這種空缺。微軟亞洲研究院院長洪小文表示，在可見的未來，讓機(jī)器擁有接近于人的自主選擇、判斷、創(chuàng)造與決策能力仍不容易。事實(shí)上也確實(shí)如此，人與人之間的社交需求，并不是純粹的語言交流，這其中還包括表情、肢體語言、不同語境下的表達(dá)訴求。我們的大腦可以在即使嘈雜的環(huán)境中，沒法聽清談話對(duì)象的每一句話，但多數(shù)情況我們卻能猜對(duì)、補(bǔ)足并理解對(duì)方發(fā)送的消息。洪小文認(rèn)為人類大腦在全神貫注之下，能夠去除環(huán)境雜音，捕捉到想聽的信號(hào)，同時(shí)基于對(duì)談話對(duì)象所處領(lǐng)域和語言習(xí)慣的了解，并可以用想象和思維延展填上沒聽清的語句漏洞，而且準(zhǔn)確率相當(dāng)高。而今天的AI可沒有這種能力。聊天機(jī)器人雖然很大程度上解決了人們的部分社交需求，從計(jì)算能力來看，計(jì)算機(jī)也早已超越人腦，但這不意味著計(jì)算機(jī)有智慧。迄今為止，各種類型的計(jì)算機(jī)都仍只是人腦部分功能的延展。想要完全取代人類社交還有很長的一段路要走。

二、人工智能的發(fā)展會(huì)不會(huì)威脅到人類？

當(dāng)然會(huì)。

1、人工智能，可能會(huì)成為人類最大的敵人。

2、人工智能，如果被一些不熱愛和平的人類利用，有可能是一場災(zāi)難。

3、我們分析，人工智能，完全有可能超越人類的智能。

4、人工智能的使用范圍，在未來將無所不在，會(huì)超越我們現(xiàn)在的想象。

三、你們認(rèn)為人工智能會(huì)不會(huì)威脅到人類的生存？

人工智能高度發(fā)達(dá)的未來，可預(yù)見的場景是高度智能化、類人化的機(jī)器人活躍于社會(huì)生活各個(gè)方面的活動(dòng)中，他們成為一大族群，從當(dāng)今許多影視作品中，我們也看到了他們的智能、體能力壓人類，使我們感到恐懼恐慌。似乎有理由相信將來這一族群通過自身的發(fā)展進(jìn)化會(huì)威脅到我們?nèi)祟惿鐣?huì)，我想這個(gè)耽心是完全沒有必要的，無論從兩者的“生理”結(jié)構(gòu)、行為驅(qū)動(dòng)的機(jī)理要素、還是從機(jī)器人的發(fā)展歷程來看，未來的人工智能都不會(huì)威脅到人類，只能為人類所支配、所利用。

四、人工智能機(jī)器人對(duì)人類會(huì)造成威脅嗎

現(xiàn)在越來越多一些人工智能的機(jī)器人直接步入到我們的生活中，而在一定的未來，也有可能會(huì)在人腦中加入到智能的成分。下面是我分享的人工智能是否真的會(huì)威脅人類，一起來看看吧。

人工智能是否真的會(huì)威脅人類

科學(xué)家警告人類警惕人工智能

“聽好，我們的時(shí)間所剩無幾!我們需要告訴Siri，不要思考太多問題，只需要聽話就好。當(dāng)然，偶爾來上一點(diǎn)段子也無傷大雅，重要的是，我們必須確保Siri的立場與我們的一致。”這段話是霍金在Zeitgeist大會(huì)上有感而發(fā)的。顯然，我們現(xiàn)在就需要確保這一點(diǎn)，之后便可以坐等計(jì)算機(jī)的智能超過我們自身的。然而，我們很難預(yù)測，具備智能的計(jì)算機(jī)會(huì)走向何方?

或許有人會(huì)質(zhì)疑，機(jī)器人是人類所生產(chǎn)出來的，里面的編程也都是由人類寫出來的，其說白了就是一個(gè)“死物”，那么“死物”怎么可能比活著的人更加聰明?

此前，霍金就曾發(fā)出警告稱人工智能可能會(huì)終結(jié)人類?；艚鹫f：“現(xiàn)在不是擔(dān)心誰控制人工智能的時(shí)候，而應(yīng)該擔(dān)心人工智能是否能被完全控制住。我們的未來取決于技術(shù)不斷增強(qiáng)的力量和我們使用技術(shù)的智慧之間的賽跑。”

其實(shí)早在今年年初，霍金也曾與特斯拉CEO伊隆·馬斯克(Elon Musk)共同發(fā)表公開信，他們認(rèn)為人工智能的發(fā)展應(yīng)該受到控制。兩人在信中警告科學(xué)家們，應(yīng)警惕人工智能將抹殺人類。

去年11月份，馬斯克也提出警告，最少只需5年智能機(jī)器可能就會(huì)帶來極端危險(xiǎn)。他認(rèn)為，人工智能就像“召喚惡魔”。馬斯克在麻省理工學(xué)院發(fā)表演講時(shí)，將人工智能描述為人類“最大的生存威脅”。他說：“我認(rèn)為我們對(duì)人工智能應(yīng)該保持高度警惕。如果讓我猜測人類生存的最大威脅，那可能就是人工智能。”

機(jī)器人時(shí)代已經(jīng)拉開了序幕，截止到2007年末，全球已經(jīng)有410萬家用服務(wù)機(jī)器人走進(jìn)了人們的生活。我國還把家庭智能機(jī)器人作為國家“十一五”規(guī)劃的扶植要點(diǎn)。

目前機(jī)器人仍在人類可控范圍內(nèi)，不過，在不遠(yuǎn)的將來，通過意念控制另一個(gè)人并非不可能。2013年8月28日，華盛頓大學(xué)首次實(shí)現(xiàn)了兩個(gè)人腦之間的遠(yuǎn)程控制，一名實(shí)驗(yàn)者通過特殊儀器“控制”了另一個(gè)實(shí)驗(yàn)者的行動(dòng)。

近日百度表示，已在備受矚目的人工智能基準(zhǔn)測試中取得了全球最佳成績。而其成功的秘密武器，就是超級(jí)計(jì)算機(jī)Minwa。

近日也有報(bào)道稱未來人工智能或許會(huì)幫助人類研發(fā)半機(jī)器人，即一種一半是人一半是機(jī)器的生物。2月《時(shí)代》周刊雜志中，封面 故事 也為我們描繪了人類的未來--2045年，人類將會(huì)通過與計(jì)算機(jī)結(jié)合而獲得“永生”，計(jì)算機(jī)智能將取代人腦，永久改變?nèi)祟惖拿\(yùn)。

人工智能不僅僅是機(jī)器人，“刷臉”支付、指紋識(shí)別、智能語音等生物識(shí)別技術(shù)也屬于人工智能的范疇，目前，這種技術(shù)正隨著云存儲(chǔ)技術(shù)逐漸滲透我們的日常生活。

人工智能威脅論是否是無稽之談

科學(xué)家預(yù)言，未來很有可能在人腦中加入人工智能成分，以此來增強(qiáng)它的性能，如更高的記憶、更快的計(jì)算速度等等，甚至有可能通過基因工程技術(shù)來改變?nèi)祟惖腄NA，并且以此來改變?nèi)祟惖耐獗砗托袨?。人類可能?huì)擁有可以生長、繁殖、分化、可移動(dòng)、自我裝配、自我測試、自我修復(fù)等的人工細(xì)胞，生物學(xué)和技術(shù)將融合在一起。

美國作家雷蒙德·科茲威爾曾提出觀點(diǎn)：2045年，人類將會(huì)通過與計(jì)算機(jī)結(jié)合而獲得“永生”，計(jì)算機(jī)智能將取代人腦，永久改變?nèi)祟惖拿\(yùn)。屆時(shí)，人類和計(jì)算機(jī)智能將無法區(qū)分，人類也將不再是人類，而是“與機(jī)器融合成為另一種物種”--聽起來這有點(diǎn)像科幻小說中的情節(jié)，但是，越來越多的人開始認(rèn)真假想這種可能性。

人工智能研究者也已經(jīng)模擬過了所謂“AI盒子實(shí)驗(yàn)”：一個(gè)人扮演AI，另一個(gè)人扮演守衛(wèi)，僅僅是同級(jí)別的智力，AI就已經(jīng)有很大的幾率能說服人類開門了。

現(xiàn)代人類對(duì)于科技的依賴已經(jīng)越來越嚴(yán)重，未來人工智能是否會(huì)像鴉片一樣給人短暫快感的同時(shí)還帶來更長期的毒害?顯然，各方數(shù)據(jù)和預(yù)測表明，這種可能性是存在的。如果真有這樣的可能，我們又該如何避免其發(fā)生呢?誠如霍金說的，只有務(wù)必確保機(jī)器人是站在人類這邊，即能受控于人類，我們才能相信未來他們不會(huì)威脅人類的生活和生存。

人工智能若真對(duì)人類構(gòu)成威脅

國外媒體報(bào)道，經(jīng)過幾十年發(fā)展，人工智能已經(jīng)從科幻小說里的一個(gè)概念，變成了當(dāng)今科技發(fā)展的主流。蘋果的語音控制系統(tǒng)Siri、亞馬遜的智能助手Alexa、IBM的沃森超級(jí)電腦、谷歌大腦等等，能夠理解這個(gè)世界并且給出高效反饋的智能機(jī)器似乎就在眼前。

強(qiáng)大的互聯(lián)網(wǎng)接入和計(jì)算機(jī)運(yùn)算法則讓機(jī)器在理解人類語音、視頻信息的方面取得了飛躍性的進(jìn)步，也逐漸向真正的人工智能邁進(jìn)。AI(Artificial Intelligence)，可實(shí)現(xiàn)自動(dòng)響應(yīng)的人工智能產(chǎn)品距離我們還遠(yuǎn)嗎?如何讓他們保持不斷自我更新升級(jí)但是依然保持人類可控范圍內(nèi)?

這個(gè)問題給人們帶來普遍的擔(dān)心和焦慮。“我認(rèn)為人工智能的發(fā)展最終會(huì)導(dǎo)致人類族群的滅絕，”物理學(xué)家斯蒂芬·霍金接受BBC的采訪給出了這樣的觀點(diǎn)。特斯拉的創(chuàng)始人埃隆·馬斯克把AI稱為“人類最大的潛在威脅”。微軟前總裁比爾·蓋茨也表示過類似的擔(dān)憂。

有多少擔(dān)憂是必要的?問題有多緊迫?我們聚集了多位工業(yè)、科研、政策決策領(lǐng)域的專家，一起評(píng)估人工智能的發(fā)展風(fēng)險(xiǎn)。參加此次話題討論的包括Skype創(chuàng)始人之一、人類未來發(fā)展?jié)撛陲L(fēng)險(xiǎn)研究院的智庫成員——Jaan Tallinn，IBM的沃森超級(jí)電腦研究院負(fù)責(zé)電腦認(rèn)知研究的專家——Guruduth S. Banavar，帕多瓦大學(xué)計(jì)算機(jī)系教授、哈佛大學(xué)拉德克利夫高級(jí)研究所研究院和聚集最多AI研究者的國際人工智能研究協(xié)會(huì)主席——Francesca Ross。

以下是經(jīng)過編輯整理的專家談話內(nèi)容。

危險(xiǎn)究竟是什么?

記者：人工智能會(huì)對(duì)人類造成哪些威脅?

Banavar：受科幻小說、電影的影響，人工智能帶來的威脅主要是人類與機(jī)器之間的矛盾沖突，這個(gè)觀點(diǎn)其實(shí)是錯(cuò)誤的。人工智能在某些領(lǐng)域能夠比人類更出色地解決問題，比如大數(shù)據(jù)篩選。然而，某些人類擅長的領(lǐng)域里，機(jī)器的表現(xiàn)非常糟糕。比如常識(shí)推理、提出精彩的問題以及“跳出來”想問題。人類和機(jī)器的結(jié)合體，既我們研究的計(jì)算機(jī)認(rèn)知能力的基礎(chǔ)，是對(duì)解決各個(gè)領(lǐng)域的復(fù)雜問題的革命性的設(shè)想。

以人工智能為基礎(chǔ)的系統(tǒng)已經(jīng)在很多方面為我們的生活提供了便利：股票自動(dòng)交易系統(tǒng)、自動(dòng)飛行控制系統(tǒng)、工業(yè)流水作業(yè)機(jī)器人、錯(cuò)誤檢測和搜索引擎... 在過去的5-10年間，計(jì)算機(jī)運(yùn)算法則和先進(jìn)的計(jì)算機(jī)架構(gòu)讓我們開發(fā)出了很多新應(yīng)用。

然而需要認(rèn)識(shí)到，計(jì)算機(jī)運(yùn)算法則已經(jīng)被運(yùn)用到極致。要實(shí)現(xiàn)更大的進(jìn)步，則需要引入更多復(fù)雜的符號(hào)系統(tǒng)——這是個(gè)很高的要求。今天我們的神經(jīng)科學(xué)和認(rèn)知科學(xué)研究，對(duì)于人類智能的研究也只是掌握到皮毛。

我個(gè)人的觀點(diǎn)是，能夠達(dá)到人類水平，實(shí)現(xiàn)一般感知、推測的人工智能機(jī)器只是個(gè)娛樂話題。

TALLINN：今天的人工智能不可能對(duì)人類構(gòu)成威脅。如果我們要討論人工智能的長遠(yuǎn)影響，(也就是人工智能能夠比人類更好地完成策略、科學(xué)、人工智能研究的時(shí)候。)我們就要涉及到控制超級(jí)智能的問題。

記者：什么是超級(jí)智能控制問題?

TALLINN：現(xiàn)在最先進(jìn)的機(jī)器人也存在一個(gè)能夠讓人類實(shí)現(xiàn)完全控制的“關(guān)機(jī)鍵”。然而，“關(guān)機(jī)鍵”發(fā)揮作用的前提是它在機(jī)器人的工作領(lǐng)域之外。舉個(gè)例子，一個(gè)會(huì)下棋的電腦工作領(lǐng)域僅限于與人對(duì)弈，它并不會(huì)覺察到它的人類對(duì)手可以拔掉它的電源終止游戲。

然而，超級(jí)智能機(jī)器，經(jīng)過有意或者無意的程序設(shè)定，能夠全面的了解周圍世界并且對(duì)于有人可以動(dòng)他們的“關(guān)機(jī)鍵”的后果作出預(yù)測，人類就很難再控制它。

記者：這個(gè)問題有多嚴(yán)重?

TALLINN: 目前這還只是理論上的推測。但是需要謹(jǐn)慎的認(rèn)識(shí)到，超級(jí)智能機(jī)器可能會(huì)僅僅受控于物理學(xué)定律和人們給早期智能機(jī)器人設(shè)定的程序。

早期的程序是基于我們十分有限的物理學(xué)知識(shí)設(shè)計(jì)的。想象一下，如果面對(duì)一個(gè)智能機(jī)器人，我們給出的指令是“為人類創(chuàng)建更偉大的未來”時(shí)，我們最好能夠十分確定它會(huì)做出怎樣的反應(yīng)。

ROSSI：在很多具體的領(lǐng)域，人工智能的表現(xiàn)已經(jīng)超越人類，其中就包括一些涉及精確判斷的領(lǐng)域。目前，人工智能并未威脅到人類，但是人類已經(jīng)受到機(jī)器判斷的影響，如線上自動(dòng)交易系統(tǒng)，健康檢查系統(tǒng)以及很快就將普及的無人駕駛汽車和無人操控武器。

我們需要明確了解分析人工智能在具體領(lǐng)域內(nèi)存在的潛在威脅，既讓它們發(fā)揮作用，又要確保它們能夠安全、友好、按照人類價(jià)值觀運(yùn)轉(zhuǎn)。這并不是個(gè)簡單的課題，因?yàn)榧词故侨祟?，在大多?shù)時(shí)間里都無法遵照自己設(shè)定的原則行動(dòng)。

給日常生活帶來的影響

記者：人工智在具體領(lǐng)域會(huì)給人類帶來怎樣的威脅?

ROSSI: 比如自動(dòng)交易系統(tǒng)，機(jī)器給出的一個(gè)錯(cuò)誤的決策會(huì)給很多人帶來經(jīng)濟(jì)損失。無人駕駛汽車的失誤也會(huì)給人類帶來生命安全的威脅。

記者：應(yīng)該怎么看待這些風(fēng)險(xiǎn)?

BANAVAR: 任何風(fēng)險(xiǎn)都有兩面性：做這件事的風(fēng)險(xiǎn)和不做這件事的風(fēng)險(xiǎn)。我們已經(jīng)有很多基于信息不完全、專業(yè)人士的不專業(yè)做出的錯(cuò)誤決定，造成數(shù)千人死亡，上百萬美金損失以及在諸如醫(yī)療等核心領(lǐng)域緩慢的發(fā)展?fàn)顩r?；贗BM沃森超級(jí)電腦在很多領(lǐng)域的應(yīng)用 經(jīng)驗(yàn) ，我認(rèn)為，在具體領(lǐng)域上，人工智能能夠有效的降低風(fēng)險(xiǎn)。

然而對(duì)于全面人工智能領(lǐng)域，我持有謹(jǐn)慎的觀點(diǎn)。我認(rèn)為我們一直低估了這個(gè)問題的復(fù)雜性。我們有太多未知未知了。

記者：IBM采取哪些 措施 來降低人工智能技術(shù)風(fēng)險(xiǎn)?

BANAVAR: IBM的計(jì)算機(jī)認(rèn)知系統(tǒng)，和其他現(xiàn)代計(jì)算機(jī)系統(tǒng)一樣，是基于云計(jì)算結(jié)構(gòu)，運(yùn)算法則和大量數(shù)據(jù)構(gòu)建的。為了防止違規(guī)現(xiàn)象出現(xiàn)，這些系統(tǒng)的運(yùn)轉(zhuǎn)是可以被記錄、追蹤和審查的。這些認(rèn)知系統(tǒng)不是自主運(yùn)轉(zhuǎn)，所以他們的指令、數(shù)據(jù)、結(jié)構(gòu)需要我們采取一定保護(hù)措施來防止人為的外部攻擊。任何接入、更新系統(tǒng)的人都是可控的。

我們主要通過復(fù)雜的加密和數(shù)字簽名來保護(hù)數(shù)據(jù)，通過漏洞掃描和其他技術(shù)手段保護(hù)運(yùn)算代碼，通過隔離等手段保護(hù)計(jì)算機(jī)結(jié)構(gòu)。

這些支持人工智能安全運(yùn)行的政策是基于對(duì)風(fēng)險(xiǎn)的深度分析設(shè)計(jì)的。這些政策需要經(jīng)過安全和交易委任, 管理銷售和公共安全提供的委員會(huì)(SEC)、食品及藥物管理局(FDA)以及美國國家標(biāo)準(zhǔn)技術(shù)研究院(NIST)這些各自領(lǐng)域內(nèi)負(fù)責(zé)設(shè)定安全標(biāo)準(zhǔn)的機(jī)構(gòu)審查。

記者：沃森超級(jí)電腦正在幫助醫(yī)生解決醫(yī)療難題。它能夠?qū)ψ陨硎д`造成的醫(yī)療傷害負(fù)責(zé)嗎?

BANAVAR: 沃森超級(jí)電腦不會(huì)給出診斷意見。它通過處理大量患者醫(yī)療數(shù)據(jù)為醫(yī)生提供多種處理建議。醫(yī)生會(huì)考慮沃森提出的建議并綜合分析 其它 因素做出最終的治療判斷。

ROSSI: 醫(yī)生也在一直犯錯(cuò)，主要原因在于他們無法完全掌握關(guān)于某種疾病的全部信息。像沃森電腦這樣的系統(tǒng)，能夠幫助他們減少失誤。

TALLINN: 曾經(jīng)一項(xiàng)研究把醫(yī)生和醫(yī)療自動(dòng)診斷系統(tǒng)作比較。結(jié)論是，大多數(shù)醫(yī)生輸給了電腦。

BANAVAR：我認(rèn)為，沃森電腦提供更加完備的醫(yī)療建議是十分有益的。我很希望有機(jī)會(huì)讓它為我做診斷。

對(duì)人類的影響

記者：有些專家認(rèn)為人工智能以及搶了一些人類的飯碗，你們同意嗎?

TALLINN: 科技進(jìn)步確實(shí)會(huì)讓一些工作崗位消失。有一位Uber司機(jī)曾經(jīng)興奮地向我介紹他是如何把目的地輸入到平板電腦上，得到行程路線的。我告訴他，幾年之后，可能來是這些科技小物件把我送到目的地。司機(jī)高興地說，到時(shí)候他就更省事了，坐在駕駛座上享受就可以了。坐在后排的我卻不住搖頭。我認(rèn)為，無人駕駛汽車給人類帶來的最大影響不是便利，而是消失的工作崗位。

長遠(yuǎn)看來，除了工作以外，還應(yīng)該設(shè)想一下，我們的社會(huì)還可以圍繞什么運(yùn)轉(zhuǎn)。

BANAVAR: 有史以來，我們一直通過打造工具來幫助我們完成我們做不到的事情。每一代工具的產(chǎn)生都會(huì)引發(fā)我們關(guān)于自然和工作方式的思考。生產(chǎn)力提高，工作被重新定義，新的職業(yè)誕生，一些職業(yè)消失。電腦認(rèn)知系統(tǒng)拓展了人類的思維力，替代性潛力更強(qiáng)。

問題的關(guān)鍵是應(yīng)該建立一個(gè)機(jī)構(gòu)，快速培養(yǎng)專業(yè)人士，讓他們能夠開發(fā)電腦認(rèn)知系統(tǒng)作為助手輔助他們各自的工作。這些技能能夠加強(qiáng)人類的專業(yè)性，為“專家”設(shè)定一個(gè)全新的標(biāo)準(zhǔn)。

記者：我們該為人工智能社會(huì)做怎樣準(zhǔn)備?

TALLINN: 全面人工智能何時(shí)實(shí)現(xiàn)甚至是否能夠?qū)崿F(xiàn)都存在很大不確定性。(雖然作為一名物理學(xué)家，我覺得一切皆有可能!)但是不確定性并不是我們不去思考控制問題的借口。針對(duì)如何控制的問題，有針對(duì)性的研究剛剛開始，可能需要幾十年才能有結(jié)果。

ROSSI: 我相信，我們完全可以把應(yīng)用在具體領(lǐng)域的人工智能對(duì)人類的不良影響控制到最小的程度。我們需要為機(jī)器設(shè)定人類的價(jià)值標(biāo)準(zhǔn)，設(shè)定工作原則和優(yōu)先級(jí)，如與人類相符的沖突解決能力。具體領(lǐng)域的人工智能設(shè)計(jì)工作完成好，就能夠?yàn)樵O(shè)計(jì)出不危害人類的全面人工智能做好準(zhǔn)備。

BANAVAR: 上個(gè)世紀(jì)90年代初期，計(jì)算機(jī)走進(jìn)醫(yī)療領(lǐng)域的時(shí)候，多國社會(huì)運(yùn)動(dòng)分子為維護(hù)病人權(quán)利奔走呼吁。10年之后，醫(yī)療信息保密協(xié)議誕生。同樣，在具體領(lǐng)域的人工智能也面臨一個(gè)嚴(yán)肅問題，哪些權(quán)利不容侵犯，侵犯之后要承擔(dān)哪些責(zé)任?

ROSSI：現(xiàn)在銷售普通汽車要通過一系列安全測試，未來銷售無人駕駛汽車，也需要有新的安全測試標(biāo)準(zhǔn)。需要仔細(xì)檢測的不僅是汽車運(yùn)行程序，也包括以人類倫理、道德原則為基礎(chǔ)設(shè)計(jì)的突發(fā)情況判斷程序。

以上就是關(guān)于人工智能不會(huì)威脅人類的理由相關(guān)問題的回答。希望能幫到你，如有更多相關(guān)問題，您也可以聯(lián)系我們的客服進(jìn)行咨詢，客服也會(huì)為您講解更多精彩的知識(shí)和內(nèi)容。

推薦閱讀：

計(jì)算機(jī)人工智能就業(yè)方向（計(jì)算機(jī)人工智能就業(yè)方向及前景）

人工智能一般如何訓(xùn)練模型（人工智能一般如何訓(xùn)練模型技術(shù)）

人工智能將來都干什么行業(yè)（人工智能將來都干什么行業(yè)工作）

99手游排行榜（《99手游排行榜》）

全球跑鞋品牌排行榜