歡迎光臨南京品微智能科技有限公司官網(wǎng)! 熱線(xiàn)電話(huà):(025)8526-3812 | 設為首頁(yè) | 加入收藏
首頁(yè) >> 新聞中心 >>  行業(yè)動(dòng)態(tài)

聯(lián)系我們


地址:南京市江北新區研創(chuàng )園騰飛大廈A座8樓
手機:13951803071
郵箱:hr@pwsmart.com.cn
行業(yè)動(dòng)態(tài)

可控的人工智能 才有未來(lái)

時(shí)間:2019-08-20 16:07:20 點(diǎn)擊:

盡管并非所有人都認同AI的這幾個(gè)“可”,但這提出了AI的一種方向,即AI產(chǎn)品的研發(fā)和使用必須同時(shí)具有幾個(gè)維度,而不能只發(fā)展一個(gè)方面。AI或其他科技產(chǎn)品無(wú)論如何新穎和實(shí)用,也需要在可控的狀態(tài)下才能受到人們的歡迎,并且在獲得極大效益的同時(shí),防止和減少對人類(lèi)社會(huì )可能造成的麻煩和災難。這或許是反思世界各國經(jīng)濟發(fā)展與環(huán)境保護曾犯下的錯誤后得出的經(jīng)驗。

  確保AI的“知、控、用、靠”也是總結了科技史上的先研發(fā)、后管理的傳統思路和做法的教訓。在科技史上,汽車(chē)的發(fā)明把人類(lèi)社會(huì )帶入了工業(yè)文明時(shí)代,但是,在汽車(chē)的使用過(guò)程中,人們卻較難控制其帶來(lái)的交通事故和傷害,安全帶的發(fā)明和使用就是控制汽車(chē)傷害事件的一個(gè)要素,但是,汽車(chē)發(fā)明之后80年才研發(fā)出安全帶。

  基于這樣的認知,微軟提出了其人工智能發(fā)展的一項原則——每一項AI產(chǎn)品都要經(jīng)過(guò)AI倫理道德審查。AI的迅猛發(fā)展也讓人類(lèi)認識到,如果AI在可用的同時(shí)不可控的話(huà),人類(lèi)將付出更大的代價(jià)。因此,對每一種AI產(chǎn)品進(jìn)行倫理審查和立規也成為AI研發(fā)必須同時(shí)完成的任務(wù)。2016年微軟的CEO薩提亞·納德拉(Satya Nadella)提出了人工智能的十大倫理:AI必須用來(lái)輔助人類(lèi);AI必須是透明的;AI必須實(shí)現效能最大化,同時(shí)又不能傷害人的尊嚴;AI必須保護人的隱私;AI必須承擔算法責任以便人類(lèi)可以撤銷(xiāo)非故意的傷害;AI必須防止偏見(jiàn)。

  以上6項是對AI產(chǎn)品提出的,但同時(shí)也提出了使用AI產(chǎn)品的人類(lèi)應該擁有的4個(gè)倫理原則,包括人要有同理心,這在人與AI共存的世界里非常有價(jià)值;教育,為研發(fā)和管理AI提供基礎;保持人的創(chuàng )造力,機器也會(huì )繼續豐富和增強人們的創(chuàng )造力;裁決和責任,最終由人來(lái)對AI的判決或診斷,或對AI產(chǎn)生的所有結果負責。

  如果能實(shí)施,這些原則當然能對AI進(jìn)行有效的控制。但實(shí)際上,由于種種原因,很多機構和研發(fā)者設計的AI產(chǎn)品并非可控,也因此會(huì )在應用時(shí)出現種種問(wèn)題。目前最大的問(wèn)題就是侵犯人們的隱私,難以保證安全,也因此受到人們的批評和反對。

  最近一個(gè)比較大的教訓是蘋(píng)果產(chǎn)品的語(yǔ)音助手西瑞(Siri)。2019年7月,媒體報道,西瑞會(huì )偷錄用戶(hù)的隱私語(yǔ)音,如就診時(shí)的醫療信息等,并轉化為聲音檔案,發(fā)送給蘋(píng)果公司在不同國家的承包商。聲音檔案同時(shí)也記錄用戶(hù)的位置、使用數據與通訊內容。在經(jīng)過(guò)一番解釋和拉鋸之后,蘋(píng)果公司于8月28日就西瑞秘密錄下與用戶(hù)的交流,并將文件泄露給外包商正式道歉。由于隱私不保,用戶(hù)提出了批評,而且如果這些情況不能改善,就會(huì )讓蘋(píng)果失去大量的用戶(hù),甚至被市場(chǎng)拋棄。

  不過(guò)這種情況也表明,人工智能的發(fā)展最終還是取決于是否能受人控制,因為離開(kāi)了人的控制,AI就無(wú)法進(jìn)化和升級。正是在人與AI的互動(dòng)情況之下,才有可能讓AI的倫理審查和監控失靈或失范,并造成安全漏洞。

  因此,不只是可知可用,可控和可靠也要同時(shí)得到保證和保障,AI才會(huì )有未來(lái)。其他產(chǎn)品同樣如此。


首頁(yè) | 關(guān)于我們 | 產(chǎn)品中心 | 解決方案 | 聯(lián)系我們 | 在線(xiàn)留言 | 企業(yè)簡(jiǎn)介

地址:南京市江北新區研創(chuàng )園騰飛大廈A座8樓
服務(wù)熱線(xiàn) : 025-8526-3812 電子郵箱:hr@pwsmart.com.cn 備案號:蘇ICP備19046346號

關(guān)注微信號