國外有IBM沃森的醫(yī)療人工智能產(chǎn)品作出錯誤診斷并開出不安全藥物的教訓,國內(nèi)有杭州動物園發(fā)生的“中國人臉識別第一案”……近年來,人工智能的監(jiān)管問題已成為其發(fā)展道路上不可忽視的關(guān)鍵問題。
4月12日,“AI可信專題論壇”在上海召開,專家們圍繞人工智能是否可信這一問題展開探討。中國科學院院士何積豐指出:“技術(shù)的發(fā)展從來都是一把雙刃劍,人工智能在給人類社會帶來便利的同時,也帶來了新的安全問題及風險?!?/p>
“人工智能發(fā)展仍舊面臨諸多挑戰(zhàn)?!本〇|集團技術(shù)委員會主席、京東人工智能研究院院長周伯文說,真實世界環(huán)境開放、邊界和規(guī)則模糊、數(shù)據(jù)噪音多、人工智能模型的部分結(jié)果難以信賴等引發(fā)的問題層出不窮。如智能攝像頭將公交車上的廣告人物識別為闖紅燈者等,這些人工智能暴露的問題已經(jīng)逐漸與人們的生活密切相關(guān)。
復旦大學計算機科學技術(shù)學院院長姜育剛指出,要通過“技術(shù)+規(guī)則”雙輪驅(qū)動算法治理:“技術(shù)與規(guī)則聯(lián)動,一方面研究更符合規(guī)則的人工智能算法,發(fā)展評估技術(shù)以度量現(xiàn)有人工智能算法的合規(guī)程度;另一方面通過規(guī)則自上而下約束人工智能技術(shù)活動,牽引其健康發(fā)展。”
清華大學人工智能國際治理研究院副院長梁正表示,當前人工智能治理的挑戰(zhàn)主要集中于三個方面:數(shù)據(jù)、算法、平臺等新興治理對象的涌現(xiàn)使得追責的難度不斷增大;人工智能技術(shù)的發(fā)展和應(yīng)用場景的拓寬使得潛在的重大技術(shù)、經(jīng)濟和道德風險開始沖擊人類社會現(xiàn)存的價值體系、競爭格局;現(xiàn)存的法律、監(jiān)管制度供給的缺陷和全球范圍內(nèi)靈活、有效治理機制的缺失問題進一步凸顯。
“在治理過程中,除了應(yīng)對以上挑戰(zhàn)所帶來的風險外,還要實現(xiàn)發(fā)展與治理的平衡,既要避免規(guī)范不足導致的社會問題,也要避免過度監(jiān)管阻滯技術(shù)的發(fā)展?!绷赫f。
?。ㄔd4月16日《科技日報》)
評論