亚洲二区三区在线,久久久久高清毛片一级,亚洲综合一区二区三区不卡,中文不卡av

第一，機(jī)器人不得傷害人類(lèi)，也不得坐視人類(lèi)受到傷害而袖手旁觀；

第二，在滿(mǎn)足第一定律的情況下，機(jī)器人必須服從人類(lèi)的命令；

第三，在滿(mǎn)足第一定律和第二定律的情況下，機(jī)器人必須保護(hù)自己。

——阿西莫夫“機(jī)器人三定律”

==============================

第二十六屆上海國(guó)際電影節(jié)“一帶一路”電影周期間，套開(kāi)了一個(gè)以“AIGC時(shí)代的科幻創(chuàng)意與技術(shù)變革”為主題的第六屆上海科幻影視產(chǎn)業(yè)論壇，探討的是人工智能生成內(nèi)容（AIGC）如何改變科幻影視產(chǎn)業(yè)，其中又設(shè)立了“機(jī)器人倫理道德與公共安全”的分論壇。

這個(gè)分論壇實(shí)際上是五個(gè)人對(duì)談。身為科幻作家的主持人竹君開(kāi)場(chǎng)就提出了一個(gè)關(guān)于機(jī)器人的核心問(wèn)題：長(zhǎng)期以來(lái)被研究機(jī)器人和人工智能倫理的人奉為經(jīng)典的阿西莫夫“機(jī)器人三定律”，是否仍適用于解決當(dāng)今的機(jī)器人倫理與道德問(wèn)題？

首先回答這個(gè)問(wèn)題的豪微研究院院長(zhǎng)孔華威指出，現(xiàn)在的人工智能和機(jī)器人技術(shù)已經(jīng)超越了阿西莫夫科幻小說(shuō)中的想象，需要新的倫理框架來(lái)約束和指導(dǎo)機(jī)器人行為。

我在回答問(wèn)題前作了一些補(bǔ)充介紹：阿西莫夫“機(jī)器人三定律”的完整表述，最早出現(xiàn)在阿西莫夫1941年創(chuàng)作的科幻小說(shuō)《環(huán)舞》（又譯《轉(zhuǎn)圈圈》）中。這三條定律構(gòu)成了支配機(jī)器人行為的一套“道德標(biāo)準(zhǔn)”，從而給“機(jī)器人社會(huì)”賦予了新的倫理。阿西莫夫通過(guò)這三大定律的相互作用，構(gòu)思出一系列情節(jié)緊張、妙趣橫生的短篇科幻小說(shuō)《我，機(jī)器人》。好萊塢曾根據(jù)阿西莫夫機(jī)器人科幻小說(shuō)改編拍攝過(guò)兩部著名的科幻電影《機(jī)器管家》和《機(jī)械公敵》。人們也盡可想象，現(xiàn)實(shí)科技中它們會(huì)作為準(zhǔn)則被編成程序，輸入到計(jì)算機(jī)化的機(jī)器人大腦中去，成為研制和使用機(jī)器人必須遵循的基本法則。

“機(jī)器人三定律”的制定，反映了人類(lèi)對(duì)機(jī)器人的恐懼心理。出于保護(hù)人類(lèi)自身安全的考慮，對(duì)這種“人造機(jī)器”，必須要有明確的程序和技術(shù)手段來(lái)限制其行為。不過(guò)，在今天復(fù)雜的技術(shù)環(huán)境中，“機(jī)器人三定律”顯得過(guò)于理想化了。確保機(jī)器人行為的安全和可控，需要更復(fù)雜的倫理和法律框架來(lái)規(guī)范，自然也要有更先進(jìn)的技術(shù)介入。

AI+海洋科創(chuàng)中心常務(wù)副主任趙輝提到，“機(jī)器人三定律”在實(shí)際應(yīng)用中常常被忽視，例如在戰(zhàn)場(chǎng)上，無(wú)人機(jī)執(zhí)行的是人的指令，而不是遵循“機(jī)器人三定律”。科幻作家江波談及，“機(jī)器人三定律”是一種美好的愿景，但在實(shí)際的技術(shù)實(shí)現(xiàn)中，存在許多難以克服的挑戰(zhàn)。目前的技術(shù)和倫理討論，應(yīng)該更加關(guān)注如何在現(xiàn)實(shí)中實(shí)施有效的控制和監(jiān)督機(jī)制，以規(guī)避不可控的風(fēng)險(xiǎn)。

討論還涉及到機(jī)器人未來(lái)可能具備的自主意識(shí)。確實(shí)，現(xiàn)代科技術(shù)語(yǔ)“涌現(xiàn)”的提出、復(fù)雜性科學(xué)的發(fā)展，大大擴(kuò)展了人類(lèi)的認(rèn)知邊界，也啟迪我們思考類(lèi)似這樣的問(wèn)題：機(jī)器人或人工智能體是否能夠擁有自由意志或自我意識(shí)？阿西莫夫1976年發(fā)表的機(jī)器人科幻名篇《活了兩百歲的人》，對(duì)此做了非常精彩的想象和描述。

美國(guó)計(jì)算機(jī)專(zhuān)家和科幻作家弗諾·文奇、發(fā)明家和未來(lái)學(xué)家雷·庫(kù)茲韋爾等學(xué)者則早在20多年前就關(guān)注到“奇點(diǎn)”話(huà)題，并把它當(dāng)作一個(gè)“隱喻”：由超人類(lèi)智能驅(qū)動(dòng)的進(jìn)步異常迅猛，并將達(dá)到一種臨界聚集狀態(tài)。當(dāng)智能機(jī)器的能力跨越這一臨界點(diǎn)后再加速?lài)姲l(fā)，有可能就會(huì)突破任何試圖對(duì)它進(jìn)行的管控。

也有這樣一種可能：未來(lái)的機(jī)器人通過(guò)大數(shù)據(jù)與算法自行學(xué)習(xí)和進(jìn)化，并給人類(lèi)社會(huì)帶來(lái)不可預(yù)見(jiàn)的倫理挑戰(zhàn)。例如，機(jī)器人可能會(huì)在無(wú)人監(jiān)管的情況下，進(jìn)行自我優(yōu)化和升級(jí)，從而發(fā)展出與原始設(shè)計(jì)意圖完全不同的模式。這種能力很可能會(huì)超出人類(lèi)的控制范圍。未來(lái)技術(shù)的核心，或許是通過(guò)計(jì)算與大數(shù)據(jù)來(lái)管理和規(guī)范機(jī)器人行為。

要警惕陷入這樣一種“技術(shù)困境”：當(dāng)我們不期然跨越了某種技術(shù)的門(mén)檻、越過(guò)了社會(huì)限定的紅線(xiàn)，才認(rèn)識(shí)到我們不希望的后果終究出現(xiàn)的時(shí)候，技術(shù)已經(jīng)深度融入我們的社會(huì)經(jīng)濟(jì)生活，我們除了無(wú)奈接受，對(duì)它的控制也變得尤其困難了。