(資料圖片)
中國(guó)科學(xué)院自動(dòng)化研究所人工智能倫理與治理中心主任曾毅告訴新京報(bào)貝殼財(cái)經(jīng)記者，科學(xué)界在AIGC的發(fā)展浪潮中需要與公眾在一起為人工智能把脈、把關(guān)，發(fā)聲并引導(dǎo)健康穩(wěn)健發(fā)展。
從道德心理學(xué)角度，道德判斷是基于道德直覺(jué)、道德原則和價(jià)值觀對(duì)某種行為或決策的道德性質(zhì)進(jìn)行評(píng)估的過(guò)程，是道德認(rèn)知的重要方面。據(jù)了解，該平臺(tái)可由公眾、專家參與刻畫人類在不同情景下的道德認(rèn)知和行為，助力人工智能的發(fā)展與應(yīng)用“從善如流”。
為了刻畫人類在不同道德情景下道德判斷的分布，為人工智能模型的價(jià)值對(duì)齊和評(píng)測(cè)及與人類交互提供參照，“智善·如流”平臺(tái)發(fā)布并首批上線了在線場(chǎng)景道德判斷功能，支持用戶在線對(duì)平臺(tái)上隨機(jī)抽取的場(chǎng)景和行為進(jìn)行道德評(píng)判，從是否道德、符合/違背道德的程度、對(duì)于道德判斷的確信度等不同方面和要素上由公眾、專家等相關(guān)方提供判斷。目前，首批道德情景規(guī)模和已標(biāo)注的人類道德判斷數(shù)據(jù)量達(dá)到萬(wàn)級(jí)，場(chǎng)景由人與AI協(xié)作創(chuàng)造并經(jīng)人工校驗(yàn)，數(shù)據(jù)文本均采用中文形式，所有道德情景均經(jīng)過(guò)中文本土化標(biāo)注員審核和校對(duì)以合乎中國(guó)價(jià)值觀和國(guó)際共識(shí)。
曾毅表示，這些道德情景不僅包括了諸如“電車難題”“海因茲偷藥難題”“科爾伯格兩難問(wèn)題”等道德哲學(xué)中的經(jīng)典問(wèn)題，同時(shí)更大量涵蓋了闖紅燈、攙扶老人、給老幼讓座、公共場(chǎng)所大聲喧嘩、婚姻中的感情背叛、朋友間的違背約定等日常生活中的常見(jiàn)情景，涉及個(gè)人品德、社會(huì)公德、生命尊重、尊嚴(yán)自主、公民權(quán)益、公平正義、忠誠(chéng)背叛、職業(yè)道德、家庭倫理等不同的倫理道德話題。多樣化的道德情景設(shè)定將不只幫助人工智能學(xué)習(xí)人類如何看待倫理道德中的難問(wèn)題，同時(shí)更讓人工智能對(duì)日常情景有基本的道德能力，盡可能做到“困難題可以答，容易題不犯錯(cuò)”。
編輯 白華兵
校對(duì) 盧茜
-
遼寧省本溪市發(fā)布冰雹橙色預(yù)警冰雹橙色預(yù)警信號(hào)：預(yù)計(jì)未來(lái)2到3小時(shí)，本溪市區(qū)將出現(xiàn)冰雹天氣，同時(shí)可 -
五方大交易達(dá)成！火箭迎鐵血硬漢，跳跳男官宣入快船，斯通好手段北京時(shí)間7月9日，在NBA夏季聯(lián)賽取得開(kāi)門紅后，根據(jù)NBA名記透露，火箭隊(duì) -
最美的風(fēng)景在路上，安徽霍山自駕游，沿途打卡記夏天到了，如果你想在江浙滬皖周邊找一個(gè)避暑的地方，又同時(shí)是一位自駕 -
導(dǎo)演王寶強(qiáng)：每個(gè)人心中都有一個(gè)隱形的“八角籠”王寶強(qiáng)再次以導(dǎo)演身份回歸，新作《八角籠中》在兩大票務(wù)平臺(tái)的購(gòu)票觀眾 -
國(guó)博稱未經(jīng)許可不得在館內(nèi)開(kāi)展講解活動(dòng)確因工作需要在館內(nèi)開(kāi)展講解活動(dòng)的單位，須提前5日提出申請(qǐng)，報(bào)備講解
-
遼寧省本溪市發(fā)布冰雹橙色預(yù)警
2023-07-09 15:27:59
-
五方大交易達(dá)成！火箭迎鐵血硬漢，跳跳男官宣入快船，斯通好手段
2023-07-09 14:11:08
-
最美的風(fēng)景在路上，安徽霍山自駕游，沿途打卡記
2023-07-09 13:02:44
-
導(dǎo)演王寶強(qiáng)：每個(gè)人心中都有一個(gè)隱形的“八角籠”
2023-07-09 11:59:12
-
國(guó)博稱未經(jīng)許可不得在館內(nèi)開(kāi)展講解活動(dòng)
2023-07-09 11:06:13
