南方財(cái)經(jīng)全媒體記者 陳思琦 深圳報(bào)道

“機(jī)器人不得傷害人類個(gè)體，必須服從人給予它的命令，在不違反前述二者的情況下盡可能保護(hù)自己的生存?！?/p>

1950年，科幻小說(shuō)作家艾薩克·阿西莫夫在《我，機(jī)器人》中提出“機(jī)器人三定律”，讓世界警惕技術(shù)進(jìn)步帶來(lái)的反噬與反叛風(fēng)險(xiǎn)。

(資料圖片)

連日來(lái)，“AI教父”杰弗里·辛頓（Geoffrey Hinton）從谷歌離職、馬斯克聯(lián)合近千科技人員呼吁未來(lái)6個(gè)月暫停訓(xùn)練巨型GPT模型——ChatGPT浪潮下，人工智能倫理爭(zhēng)議愈發(fā)激烈，“三定律”有了衍生意義。

“ChatGPT使社會(huì)系統(tǒng)結(jié)構(gòu)發(fā)生變化，要求我們更注重人機(jī)關(guān)系研究。人工智能不再是單純的輔助工具，而是走向了人機(jī)融合、人機(jī)平衡?！?/p>

在5月5日于深圳大學(xué)舉辦的“智慧城市與數(shù)字經(jīng)濟(jì)交叉學(xué)科高端論壇”上，華中科技大學(xué)特聘教授、中國(guó)管理科學(xué)與工程學(xué)會(huì)副理事長(zhǎng)王紅衛(wèi)作為首位發(fā)言者，以對(duì)人機(jī)關(guān)系的關(guān)注開(kāi)啟了接近3小時(shí)的圓桌討論。

與會(huì)專家認(rèn)為，ChatGPT等技術(shù)可為管理學(xué)、心理學(xué)、地理學(xué)等領(lǐng)域研究提供極大幫助，但隨之而來(lái)的技術(shù)倫理問(wèn)題要求我們關(guān)注立法，以完善的制度法規(guī)約束AI的無(wú)序發(fā)展。

另一方面，技術(shù)的迅猛進(jìn)步對(duì)人才培養(yǎng)提出新的挑戰(zhàn)。25年前，誕生于深圳的騰訊被認(rèn)為破解了互聯(lián)網(wǎng)“密碼”。如今培養(yǎng)破解AI“密碼”的創(chuàng)新團(tuán)隊(duì)，深圳最具土壤，要求高校從源頭上推進(jìn)科技與人文的雙輪驅(qū)動(dòng)，重構(gòu)教育體系以培養(yǎng)更多具備跨學(xué)科素養(yǎng)的“多面手”。

實(shí)現(xiàn)可控、有邊界的AI發(fā)展

ChatGPT橫空出世，能以極快的速度回答各種領(lǐng)域的問(wèn)題，被認(rèn)為大大提高了人類的工作效率與生活質(zhì)量。

然而，直接引用ChatGPT答案會(huì)產(chǎn)生極大的倫理風(fēng)險(xiǎn)，如個(gè)人隱私侵犯、虛假信息傳播等。離開(kāi)谷歌的辛頓也坦言，網(wǎng)上充斥的虛假圖片、視頻和文字，將讓普通人“無(wú)法再辨別真假”。

論壇上，中國(guó)人民大學(xué)信息學(xué)院教授、中國(guó)計(jì)算機(jī)學(xué)會(huì)會(huì)士孟小峰指出，當(dāng)前ChatGPT“吃”掉的素材全是人類的知識(shí)成果，與人類自身吸收、學(xué)習(xí)的素材同源，而人類消化了同樣的信息可能無(wú)法生成與ChatGPT同等質(zhì)量的答案。

“核聚變是毀滅人類的，‘可控的’核聚變才可被人類應(yīng)用。人工智能同樣不能直接服務(wù)于經(jīng)濟(jì)社會(huì)，需要像核聚變一樣探索一個(gè)可控的、有邊界的機(jī)制。”

孟小峰認(rèn)為，不能單純從倫理角度“一刀切”地認(rèn)為ChatGPT生成的結(jié)果不可接受，人工智能也需要一套可控的技術(shù)體系。

深圳大學(xué)黨委書(shū)記、光明實(shí)驗(yàn)室主任李清泉?jiǎng)t強(qiáng)調(diào)了法律約束的重要性。技術(shù)發(fā)展的“可控”需要加強(qiáng)頂層設(shè)計(jì)和規(guī)劃，從法律法規(guī)到產(chǎn)業(yè)扶持政策都需進(jìn)一步完善，尤其法律的約束對(duì)象要從“人”拓展到人工智能。

以智能駕駛為例，即使技術(shù)達(dá)到相對(duì)成熟的水平，其大規(guī)模推廣也面臨著復(fù)雜城市路況帶來(lái)的高度不確定性與道德倫理困境，事故權(quán)責(zé)歸屬問(wèn)題尤為棘手。

在這方面，深圳發(fā)揮經(jīng)濟(jì)特區(qū)立法優(yōu)勢(shì)，于2022年8月出臺(tái)實(shí)施全國(guó)首部智能網(wǎng)聯(lián)汽車管理法規(guī)《深圳經(jīng)濟(jì)特區(qū)智能網(wǎng)聯(lián)汽車管理?xiàng)l例》，全國(guó)首部人工智能產(chǎn)業(yè)專項(xiàng)立法《深圳經(jīng)濟(jì)特區(qū)人工智能產(chǎn)業(yè)促進(jìn)條例》也于去年11月正式生效。

學(xué)界與業(yè)界也持續(xù)發(fā)力。李清泉透露，以深圳大學(xué)為牽頭建設(shè)單位的人工智能與數(shù)字經(jīng)濟(jì)廣東省實(shí)驗(yàn)室（深圳）（即光明實(shí)驗(yàn)室）正在探索與保險(xiǎn)公司合作，生成無(wú)人駕駛的保費(fèi)模型。

推進(jìn)科技與人文的雙輪驅(qū)動(dòng)

“藝術(shù)與科學(xué)總是在山腳下分手，又在山頂上相遇?！闭绶▏?guó)作家福樓拜所言，科學(xué)思維與藝術(shù)思維是相輔相成、相得益彰的。

與會(huì)專家認(rèn)為，ChatGPT對(duì)高校人才培養(yǎng)帶來(lái)了新的機(jī)遇和挑戰(zhàn)，要求重構(gòu)教育體系，重視科技與人文雙輪驅(qū)動(dòng)，培養(yǎng)學(xué)生成為具備多學(xué)科素養(yǎng)的“多面手”。

北京大學(xué)計(jì)算機(jī)學(xué)院教授、中國(guó)計(jì)算機(jī)學(xué)會(huì)會(huì)士李曉明提到，其曾在北京大學(xué)開(kāi)設(shè)通識(shí)課程“社會(huì)科學(xué)中的計(jì)算思維方法”“社會(huì)科學(xué)問(wèn)題研究的計(jì)算實(shí)踐”等，培養(yǎng)人文社科學(xué)生的計(jì)算思維。

如今擔(dān)任大灣區(qū)大學(xué)（籌）科教負(fù)責(zé)人，李曉明透露，該校擬面向全校開(kāi)設(shè)一門為期一年的計(jì)算機(jī)通識(shí)課，而這將是一門“認(rèn)真的通識(shí)課”，幫助學(xué)生邁出舒適圈，推進(jìn)理工科與人文社科更緊密地融合。

華東師范大學(xué)心理與認(rèn)知科學(xué)學(xué)院院長(zhǎng)周曉林提出，ChatGPT在很多方面的行為表現(xiàn)與人非常相似，但在心理學(xué)領(lǐng)域，還缺乏“機(jī)器人心理學(xué)”這類二級(jí)學(xué)科。

周曉林舉例說(shuō)，機(jī)器人行走的角度與速度不同，與人類發(fā)生碰撞的可能性不同，人類由此產(chǎn)生的心理認(rèn)知也有很大差異。因此，建議高校設(shè)置“機(jī)器人心理學(xué)”等前沿學(xué)科，探索將人類的心理特性融入機(jī)器人設(shè)計(jì)中，讓心理學(xué)更好賦能技術(shù)進(jìn)步。

“ChatGPT成功的背后，是一幫年輕人掌握了‘密碼’。我們要培養(yǎng)潛心修煉、能夠破解AI‘密碼’的創(chuàng)新團(tuán)隊(duì)，而深圳最有培養(yǎng)這種團(tuán)隊(duì)的土壤和條件?！泵闲》鍖?duì)曾孕育出騰訊，在互聯(lián)網(wǎng)浪潮中取得先機(jī)的深圳寄予厚望。

深圳大學(xué)作為深圳高等教育“長(zhǎng)子”，李清泉透露，該校正探索將ChatGPT等技術(shù)與教育信息化結(jié)合，為傳統(tǒng)教育賦能。

“公立大學(xué)受限于成本，長(zhǎng)期以來(lái)難以實(shí)現(xiàn)個(gè)性化教育。而ChatGPT可以根據(jù)學(xué)生的基礎(chǔ)條件、素質(zhì)、愛(ài)好等，生成其所需要的課程，并根據(jù)其學(xué)習(xí)過(guò)程展開(kāi)評(píng)價(jià)，對(duì)后續(xù)的學(xué)習(xí)提供有針對(duì)性的幫助。深大希望在這方面積極探索，起到引領(lǐng)作用?！崩钋迦硎?。

關(guān)鍵詞：