人們需要怎樣的機(jī)器人?“機(jī)器人三定律”有待超越

時(shí)間:2019-03-21

來(lái)源:品讀百卷

導(dǎo)語(yǔ):1940年,享譽(yù)全球的科幻小說(shuō)作家艾薩克.阿西莫夫(IsaacAsimov)構(gòu)思和醞釀了“機(jī)器人三定律”,于1941年5月至10月完成和發(fā)表的一系列短篇小說(shuō)中,把“機(jī)器人三定律”公之于眾:*定律.機(jī)器人不得傷害人類(lèi)個(gè)體、或者目睹人類(lèi)個(gè)體遭遇危險(xiǎn)卻袖手旁觀;第二定律.機(jī)器人必須服從人類(lèi)給予它的命令,除非這一命令與*定律相矛盾;第三定律.不違反*定律和第二定律的前提下,機(jī)器人要盡可能的確保自己的生存。

1940年,享譽(yù)全球的科幻小說(shuō)作家艾薩克.阿西莫夫(IsaacAsimov)構(gòu)思和醞釀了“機(jī)器人三定律”,于1941年5月至10月完成和發(fā)表的一系列短篇小說(shuō)中,把“機(jī)器人三定律”公之于眾:*定律.機(jī)器人不得傷害人類(lèi)個(gè)體、或者目睹人類(lèi)個(gè)體遭遇危險(xiǎn)卻袖手旁觀;第二定律.機(jī)器人必須服從人類(lèi)給予它的命令,除非這一命令與*定律相矛盾;第三定律.不違反*定律和第二定律的前提下,機(jī)器人要盡可能的確保自己的生存?;凇皺C(jī)器人三定律”,艾薩克.阿西莫夫希望人類(lèi)(即“碳文明”)和機(jī)器人(即“硅文明”)可以攜手并進(jìn)、共生共存。

盡管“機(jī)器人三定律”堪稱(chēng)機(jī)器人學(xué)的金科玉律,可它的局限性也顯而易見(jiàn),比如*定律中,艾薩克.阿西莫夫強(qiáng)調(diào)了“人類(lèi)個(gè)體”、卻忽視了“人類(lèi)整體”,因此,對(duì)于“機(jī)器人三定律”的修訂和補(bǔ)充也陸陸續(xù)續(xù)的提了出來(lái)。艾倫人工智能研究所的*執(zhí)行官埃齊奧尼認(rèn)為,于“機(jī)器人三定律”的基礎(chǔ)上,還要增補(bǔ)“人工智能系統(tǒng)必須明確的表示它不是人類(lèi)”、“未經(jīng)允許,人工智能系統(tǒng)不能保留和披露機(jī)密信息”等等規(guī)則。不過(guò),中國(guó)科技大學(xué)的陳小平教授說(shuō),修訂和補(bǔ)充“機(jī)器人三定律”的意義和效用并不大,迫在眉睫的問(wèn)題不是“原則”、而是“細(xì)節(jié)”,人類(lèi)急需完善人工智能和智能機(jī)器人相關(guān)的倫理細(xì)節(jié)。

*定律中,“機(jī)器人不得傷害人類(lèi)個(gè)體”,那么“傷害”究竟是指什么呢?機(jī)器人對(duì)待某一人類(lèi)個(gè)體的什么方式才稱(chēng)得上“傷害”呢?人們?nèi)绾瘟炕蜆?biāo)準(zhǔn)化“傷害”、且準(zhǔn)確的認(rèn)定和排除“傷害”呢?若機(jī)器人對(duì)某一人類(lèi)個(gè)體并未造成生理層面的損害,但這一人類(lèi)個(gè)體因主觀的厭惡和恐懼而出現(xiàn)了精神層面的問(wèn)題,這是不是一種“傷害”呢?以上的問(wèn)題僅僅是九牛一毛而已,還有數(shù)之不盡的問(wèn)題需要細(xì)化和深究,更需要人們探討和制定比較具體的規(guī)則來(lái)“防患于未然”,不能停留在“機(jī)器人三定律”的框架中。

美國(guó)人工智能倫理領(lǐng)域的知名學(xué)者泰格馬克呼吁人們超越艾薩克.阿西莫夫的“機(jī)器人三定律”,商討和確立新的人工智能倫理原則,確保人類(lèi)的利益不受人工智能的損害、且人工智能與人類(lèi)的發(fā)展目標(biāo)一致。因此,泰格馬克發(fā)起了“AI有益運(yùn)動(dòng)”,倡導(dǎo)人們把“有益于人類(lèi)”樹(shù)立為核心,圍繞著這一核心而開(kāi)創(chuàng)一套人工智能倫理體系,已故的物理學(xué)家斯蒂芬.霍金和多位*科學(xué)家支持“AI有益運(yùn)動(dòng)”。泰格馬克一再?gòu)?qiáng)調(diào),AI人工智能在“乘數(shù)效應(yīng)”的推動(dòng)下會(huì)變得越來(lái)越強(qiáng)大,留給人類(lèi)試錯(cuò)的時(shí)間和空間越來(lái)越小了。

為了呼應(yīng)泰格馬克,美國(guó)機(jī)器智能研究院的開(kāi)創(chuàng)者尤德科夫斯基提出“友善人工智能”的理念,他號(hào)召人工智能領(lǐng)域的研發(fā)人員和科研機(jī)構(gòu)把“友善”樹(shù)立為核心,從人工智能的設(shè)計(jì)和開(kāi)發(fā)之初,就把“友善”植入智能系統(tǒng)中,這樣的話,“友善”就成了人工智能倫理的基礎(chǔ)和宗旨了。

陳小平教授認(rèn)為,現(xiàn)階段的人工智能和智能機(jī)器人并無(wú)重大的隱患和風(fēng)險(xiǎn),短期之內(nèi),只有網(wǎng)絡(luò)用戶(hù)個(gè)人隱私安全和相關(guān)技術(shù)濫用等等問(wèn)題急需管控和防范,但從長(zhǎng)遠(yuǎn)的角度來(lái)說(shuō),嶄新和完善的人工智能倫理體系必須盡快的確立和落實(shí),絕不能出了嚴(yán)重的問(wèn)題之后再“亡羊補(bǔ)牢”,畢竟一些犯錯(cuò)的代價(jià)是人類(lèi)無(wú)法承受的。

聲明:本文為轉(zhuǎn)載類(lèi)文章,如涉及版權(quán)問(wèn)題,請(qǐng)及時(shí)聯(lián)系我們刪除(QQ: 2737591964,不便之處,敬請(qǐng)諒解!

中傳動(dòng)網(wǎng)版權(quán)與免責(zé)聲明:

凡本網(wǎng)注明[來(lái)源:中國(guó)傳動(dòng)網(wǎng)]的所有文字、圖片、音視和視頻文件,版權(quán)均為中國(guó)傳動(dòng)網(wǎng)(m.y3602.cn)獨(dú)家所有。如需轉(zhuǎn)載請(qǐng)與0755-82949061聯(lián)系。任何媒體、網(wǎng)站或個(gè)人轉(zhuǎn)載使用時(shí)須注明來(lái)源“中國(guó)傳動(dòng)網(wǎng)”,違反者本網(wǎng)將追究其法律責(zé)任。

本網(wǎng)轉(zhuǎn)載并注明其他來(lái)源的稿件,均來(lái)自互聯(lián)網(wǎng)或業(yè)內(nèi)投稿人士,版權(quán)屬于原版權(quán)人。轉(zhuǎn)載請(qǐng)保留稿件來(lái)源及作者,禁止擅自篡改,違者自負(fù)版權(quán)法律責(zé)任。

如涉及作品內(nèi)容、版權(quán)等問(wèn)題,請(qǐng)?jiān)谧髌钒l(fā)表之日起一周內(nèi)與本網(wǎng)聯(lián)系,否則視為放棄相關(guān)權(quán)利。

關(guān)注伺服與運(yùn)動(dòng)控制公眾號(hào)獲取更多資訊

關(guān)注直驅(qū)與傳動(dòng)公眾號(hào)獲取更多資訊

關(guān)注中國(guó)傳動(dòng)網(wǎng)公眾號(hào)獲取更多資訊

最新新聞
查看更多資訊

娓娓工業(yè)

廣州金升陽(yáng)科技有限公司

熱搜詞
  • 運(yùn)動(dòng)控制
  • 伺服系統(tǒng)
  • 機(jī)器視覺(jué)
  • 機(jī)械傳動(dòng)
  • 編碼器
  • 直驅(qū)系統(tǒng)
  • 工業(yè)電源
  • 電力電子
  • 工業(yè)互聯(lián)
  • 高壓變頻器
  • 中低壓變頻器
  • 傳感器
  • 人機(jī)界面
  • PLC
  • 電氣聯(lián)接
  • 工業(yè)機(jī)器人
  • 低壓電器
  • 機(jī)柜
回頂部
點(diǎn)贊 0
取消 0