(資料圖)

21世紀(jì)經(jīng)濟(jì)報(bào)道 記者 鄭雪 北京報(bào)道

如何讓AI懂得人類(lèi)的倫理道德？如何讓人類(lèi)的倫理道德更加明確？7月8日，記者獲悉，“智善?如流”人工智能倫理道德與社會(huì)規(guī)范的群智數(shù)據(jù)與知識(shí)平臺(tái)于今日在世界人工智能大會(huì)上發(fā)布。“智善?如流”由中國(guó)科學(xué)院自動(dòng)化研究所人工智能倫理與治理研究中心、遠(yuǎn)期人工智能研究中心、善智書(shū)院聯(lián)合研發(fā)并提供服務(wù)。

道德判斷是基于道德直覺(jué)、道德原則和價(jià)值觀對(duì)某種行為或決策的道德性質(zhì)進(jìn)行評(píng)估的過(guò)程，是道德認(rèn)知的重要方面。

據(jù)介紹，平臺(tái)通過(guò)眾包的方式由公眾、專(zhuān)家等相關(guān)方參與，對(duì)人類(lèi)在不同情景下的道德認(rèn)知和行為進(jìn)行刻畫(huà)，進(jìn)而形成覆蓋人類(lèi)與人工智能倫理道德表現(xiàn)及對(duì)齊進(jìn)行倫理道德評(píng)估的數(shù)據(jù)與知識(shí)平臺(tái)。

同時(shí)為了刻畫(huà)人類(lèi)在不同道德情景下道德判斷的分布，為人工智能模型的價(jià)值對(duì)齊和評(píng)測(cè)及與人類(lèi)交互提供參照，“智善·如流”平臺(tái)發(fā)布并首批上線(xiàn)了在線(xiàn)場(chǎng)景道德判斷功能，支持用戶(hù)在線(xiàn)對(duì)平臺(tái)上隨機(jī)抽取的場(chǎng)景和行為進(jìn)行道德評(píng)判，從是否道德、符合/違背道德的程度、對(duì)于道德判斷的確信度等不同方面和要素上由公眾、專(zhuān)家等相關(guān)方提供判斷。

首批道德情景規(guī)模和已標(biāo)注的人類(lèi)道德判斷數(shù)據(jù)量達(dá)到萬(wàn)級(jí)，場(chǎng)景由人與AI協(xié)作創(chuàng)造并經(jīng)人工校驗(yàn)，數(shù)據(jù)文本均采用中文形式，所有道德情景均經(jīng)過(guò)中文本土化標(biāo)注員審核和校對(duì)以合乎中國(guó)價(jià)值觀和國(guó)際共識(shí)。

中國(guó)科學(xué)院自動(dòng)化研究所研究員、人工智能倫理與治理研究中心主任曾毅對(duì)記者表示，“人工智能應(yīng)用在倫理方面給社會(huì)帶來(lái)了越來(lái)越多的挑戰(zhàn)。我們希望通過(guò)構(gòu)建和發(fā)布包含萬(wàn)級(jí)情景的倫理道德數(shù)據(jù)與知識(shí)平臺(tái)與來(lái)自不同國(guó)家的公眾互動(dòng)，最終由公眾和相關(guān)方來(lái)決定在具體場(chǎng)景中，人工智能應(yīng)當(dāng)如何行為。”

據(jù)了解，“智善·如流”人工智能倫理道德與社會(huì)規(guī)范的群智數(shù)據(jù)與知識(shí)平臺(tái)是“智善”人工智能倫理安全平臺(tái)體系的一部分，此前“智善”人工智能倫理安全平臺(tái)體系已先后推出“智善·共濟(jì)”鏈接人工智能原則平臺(tái)、“智善·思齊”人工智能治理公共服務(wù)平臺(tái)、“智善·觀行”人工智能大模型倫理安全觀測(cè)站 ，后續(xù)還將推出“智善·若水”人工智能道德引擎。

關(guān)鍵詞：