人工智能應(yīng)用方興未艾同時(shí)也帶來安全風(fēng)險(xiǎn)隱患

2019-03-25 17:20:52 來源: 人民日報(bào)

觀眾在首屆中國國際智能產(chǎn)業(yè)博覽會(huì)上體驗(yàn)醫(yī)療人工智能產(chǎn)品。新華社發(fā)

人工智能技術(shù)和應(yīng)用飛速發(fā)展，在推動(dòng)經(jīng)濟(jì)社會(huì)創(chuàng)新發(fā)展的同時(shí)，也帶來安全、倫理、法律法規(guī)等方面的風(fēng)險(xiǎn)挑戰(zhàn)。

隨著數(shù)據(jù)越來越多被收集，應(yīng)用場景增加，用戶個(gè)人信息泄露的風(fēng)險(xiǎn)也隨之提升。

人工智能的研究和應(yīng)用要有倫理和法律界限，即應(yīng)以人類的根本利益和責(zé)任為原則。

剛剛結(jié)束的全國兩會(huì)上，“拓展‘智能+’”首次被寫入今年的《政府工作報(bào)告》，作為未來的重要基礎(chǔ)性技術(shù)，人工智能已連續(xù)三年出現(xiàn)在《政府工作報(bào)告》中。可以預(yù)見，隨著人工智能、大數(shù)據(jù)的深入應(yīng)用，生產(chǎn)生活的數(shù)字化轉(zhuǎn)型是大勢所趨。

人們在擁抱人工智能、邁向數(shù)字社會(huì)的同時(shí)，也需要正視人工智能等新技術(shù)應(yīng)用在安全、倫理、法律法規(guī)、社會(huì)治理等方面的挑戰(zhàn)。只有未雨綢繆，研判和防范潛在風(fēng)險(xiǎn)，才能安享“智能+”的時(shí)代紅利。

人工智能應(yīng)用方興未艾，同時(shí)也帶來安全風(fēng)險(xiǎn)隱患

前不久，一項(xiàng)人工智能深度換臉技術(shù)引發(fā)爭議。原來，這項(xiàng)技術(shù)能做到幾乎毫無痕跡地給視頻中的人物“換臉”，引發(fā)人們對隱私和肖像權(quán)被侵犯的擔(dān)憂。更深的擔(dān)憂在于，如果這一技術(shù)被濫用，是否意味著大量視頻會(huì)被“移花接木”?

今年全國兩會(huì)上，人工智能、大數(shù)據(jù)等技術(shù)應(yīng)用帶來的安全風(fēng)險(xiǎn)，成為代表委員關(guān)注的焦點(diǎn)之一。全國政協(xié)委員、360集團(tuán)董事長兼首席執(zhí)行官周鴻祎就表示，安全應(yīng)該成為人工智能發(fā)展的基礎(chǔ)與前提。全國人大代表、蘇寧控股集團(tuán)董事長張近東也提出，數(shù)據(jù)安全是數(shù)字中國建設(shè)的重中之重，發(fā)展高質(zhì)量的數(shù)字經(jīng)濟(jì)，需要加強(qiáng)對數(shù)據(jù)的安全保護(hù)和合規(guī)共享。

從信息安全角度看，當(dāng)前人工智能應(yīng)用的安全風(fēng)險(xiǎn)點(diǎn)主要有哪些?

中國信息通信研究院移動(dòng)安全聯(lián)盟秘書長楊正軍說，人工智能高度依賴海量數(shù)據(jù)的采集和訓(xùn)練分析。隨著數(shù)據(jù)越來越多被收集，應(yīng)用場景增加，用戶個(gè)人信息泄露的風(fēng)險(xiǎn)也隨之提升。

“人工智能算法不僅能直接采集用戶個(gè)人信息，也會(huì)深度挖掘分析看似不相關(guān)的數(shù)據(jù)。”楊正軍介紹，他們開展的一項(xiàng)調(diào)研顯示，當(dāng)前濫用個(gè)人信息現(xiàn)象較為普遍。同時(shí)，人工智能及大數(shù)據(jù)場景下無所不在的數(shù)據(jù)收集、專業(yè)化多樣化的數(shù)據(jù)處理技術(shù)，使得信息主體難以了解、控制其信息是如何被收集和利用的。信息安全保護(hù)已經(jīng)成為人工智能發(fā)展的重要課題。

專家表示，技術(shù)本身是中性的，只要利用得當(dāng)，人工智能也能用來提升網(wǎng)絡(luò)安全水平。比如，人工智能在識(shí)別惡意代碼方面就很有優(yōu)勢。

北京神州綠盟科技有限公司安全研究員吳子建說，惡意代碼往往是基于一些開源代碼修改而成，它們通常有相似的行為模式。借助人工智能技術(shù)訓(xùn)練的檢測工具，能夠比較高效地發(fā)現(xiàn)惡意代碼。

人工智能技術(shù)也普遍用于企業(yè)內(nèi)網(wǎng)安全防護(hù)。吳子建介紹，傳統(tǒng)的防護(hù)手段是在網(wǎng)絡(luò)的入口處設(shè)置防御措施，但內(nèi)網(wǎng)之間很少進(jìn)行防御。采用人工智能等技術(shù)手段關(guān)聯(lián)數(shù)據(jù)，可以有效檢測內(nèi)網(wǎng)中的異常。與傳統(tǒng)的方法相比，這種方法不僅能發(fā)現(xiàn)已知威脅，還可以檢測到未知風(fēng)險(xiǎn)。

吳子建認(rèn)為，業(yè)內(nèi)還需要做更多深入的研究，不斷提升人工智能在安全防護(hù)上的價(jià)值。

應(yīng)提前研判智能時(shí)代的法律倫理風(fēng)險(xiǎn)，引導(dǎo)人機(jī)良性合作

人工智能的應(yīng)用越來越多，衍生出一系列倫理、法律難題。比如，無人駕駛汽車發(fā)生交通事故時(shí)如何界定責(zé)任，醫(yī)療外科手術(shù)機(jī)器人出現(xiàn)意外怎樣處置……

“人工智能的研究和應(yīng)用要有倫理和法律界限，即應(yīng)以人類的根本利益和責(zé)任為原則，以實(shí)現(xiàn)人類根本利益為終極目標(biāo)。這一要求也是人工智能和人的關(guān)系決定的。”中國人民大學(xué)法學(xué)院副教授郭銳認(rèn)為。

“當(dāng)前技術(shù)條件下，智能機(jī)器尚未具備倫理決策的能力，但其決策會(huì)引發(fā)有倫理意義的后果。”郭銳認(rèn)為，通常法律針對的是能夠遵循這些原則的主體，也就是自然人或者法律看作是主體的組織(法人)，但考慮到人工智能的特征是對人的智能的模擬、延伸和擴(kuò)展，因此倫理原則應(yīng)當(dāng)適用于人工智能系統(tǒng)。

北京師范大學(xué)哲學(xué)學(xué)院教授田海平認(rèn)為，人工智能的主體構(gòu)成不是孤立的個(gè)體，而是多種關(guān)聯(lián)形態(tài)的總和。“人工智能的構(gòu)成主體分為研發(fā)者(包括算法的開發(fā)者)、生產(chǎn)商、運(yùn)營商、電信網(wǎng)絡(luò)服務(wù)商等。一旦發(fā)生交通或醫(yī)療事故，由于無法找到某個(gè)確定的責(zé)任主體，給責(zé)任界定帶來很大困難，因此需要確立代理人來界定責(zé)任與權(quán)利。”

近年來，學(xué)界和產(chǎn)業(yè)界日益重視人工智能中的倫理與法律問題，并推動(dòng)制定相關(guān)技術(shù)標(biāo)準(zhǔn)及社會(huì)規(guī)范。專家表示，人工智能倫理法律涉及科學(xué)界、企業(yè)界，哲學(xué)、法學(xué)等多個(gè)領(lǐng)域，有必要成立應(yīng)對人工智能發(fā)展的聯(lián)盟組織，吸納各方面的力量，共同推進(jìn)相關(guān)研究。

郭銳建議，要考慮到人工智能開發(fā)和部署過程中的權(quán)責(zé)歸屬，通過為技術(shù)開發(fā)者、產(chǎn)品生產(chǎn)者或者服務(wù)提供者、使用者界定權(quán)利和義務(wù)，讓自動(dòng)駕駛、無人機(jī)等人工智能應(yīng)用安全落地。

專家表示，人工智能大規(guī)模進(jìn)入人們生活之前，還應(yīng)建立相對統(tǒng)一的風(fēng)險(xiǎn)評估指標(biāo)體系，設(shè)立具體、可操作的指標(biāo)，為相關(guān)研究及應(yīng)用提供指引。

專家特別提醒，人和機(jī)器各有優(yōu)勢，要互相了解才能實(shí)現(xiàn)人機(jī)協(xié)作，但人還是人機(jī)關(guān)系的主導(dǎo)者。惟其如此，才能將人工智能引向人機(jī)合作的良性發(fā)展道路。

全球人工智能法律治理面臨共同難題，當(dāng)前應(yīng)加強(qiáng)個(gè)人隱私安全管理

針對人工智能應(yīng)用在安全、倫理等領(lǐng)域的潛在威脅，世界各國已經(jīng)開始了相關(guān)法律治理研究。

楊正軍介紹，各國對人工智能風(fēng)險(xiǎn)的關(guān)注重點(diǎn)和重視程度有所不同。以安全為例，美國關(guān)注人工智能對國家安全的影響，2018年3月美國國會(huì)發(fā)起提案，建議成立國家人工智能安全委員會(huì)，并將制定相關(guān)法案;歐盟和英國關(guān)注人工智能對隱私、就業(yè)及倫理的影響;俄羅斯、以色列、印度則重點(diǎn)關(guān)注人工智能在國防領(lǐng)域的應(yīng)用以及對軍事安全的影響。

北京師范大學(xué)刑科院暨法學(xué)院副教授、中國互聯(lián)網(wǎng)協(xié)會(huì)研究中心秘書長吳沈括表示，在規(guī)范人工智能發(fā)展方面，我國起步較早。2017年7月，國務(wù)院頒布《新一代人工智能發(fā)展規(guī)劃》;2017年12月，工信部發(fā)布《促進(jìn)新一代人工智能產(chǎn)業(yè)發(fā)展三年行動(dòng)計(jì)劃(2018—2020年)》，都對人工智能產(chǎn)業(yè)的規(guī)范發(fā)展提出了要求。

“這些政策能夠引導(dǎo)和助推相關(guān)產(chǎn)業(yè)的發(fā)展。關(guān)于人工智能技術(shù)標(biāo)準(zhǔn)，我國也發(fā)布過一些文件。然而，當(dāng)前立法中對于人工智能帶來的安全問題還存在比較大的空白，這也是全球人工智能的法律治理面臨的共同難題。”吳沈括說。

隨著人工智能應(yīng)用的深入，其附屬的相關(guān)風(fēng)險(xiǎn)也日益凸顯，加強(qiáng)對人工智能相關(guān)的法律治理至關(guān)重要。人工智能法律治理呈現(xiàn)出哪些趨勢，現(xiàn)實(shí)中又有哪些需要迫切注意的問題?

吳沈括認(rèn)為，人工智能立法治理上可能會(huì)呈現(xiàn)出三個(gè)趨勢：一是立法將更加細(xì)化，更有針對性。比如，針對自動(dòng)駕駛、機(jī)器人、生物識(shí)別等領(lǐng)域頒布一些規(guī)范性文件，立法監(jiān)管也會(huì)更加多元;二是立法將與產(chǎn)業(yè)特性緊密結(jié)合;三是立法將以規(guī)范為主，監(jiān)管則重在為產(chǎn)業(yè)發(fā)展提供指引。

“由于法律往往存在一定的滯后性，考慮到人工智能等新技術(shù)應(yīng)用前景廣闊，立法需要預(yù)留一定的空間，盡量實(shí)現(xiàn)產(chǎn)業(yè)應(yīng)用與風(fēng)險(xiǎn)前瞻的恰當(dāng)平衡。在確定監(jiān)管什么內(nèi)容、如何監(jiān)管以及怎樣執(zhí)行時(shí)，要把握好力度，不宜影響產(chǎn)業(yè)的發(fā)展活力。”吳沈括說。

楊正軍說，從行業(yè)調(diào)研情況來看，當(dāng)前應(yīng)該加強(qiáng)個(gè)人隱私安全管理。他建議，隱私保護(hù)應(yīng)從立法監(jiān)管和技術(shù)能力提升兩方面入手：一方面，針對我國個(gè)人信息保護(hù)法律條款分散、不成體系的現(xiàn)狀，加快統(tǒng)一立法，明確數(shù)據(jù)不當(dāng)收集、使用、泄露等的責(zé)任，同時(shí)也要界定好數(shù)據(jù)歸屬權(quán)等問題;另一方面，應(yīng)加強(qiáng)新技術(shù)在個(gè)人隱私保護(hù)方面的應(yīng)用。

數(shù)據(jù)的合理合法收集是數(shù)據(jù)利用的前提。專家表示，我們不應(yīng)回避智能化與隱私安全保護(hù)的沖突，而應(yīng)積極作為，找到智能時(shí)代技術(shù)應(yīng)用與風(fēng)險(xiǎn)防護(hù)的最大公約數(shù)，為智能生活保駕護(hù)航。(記者喻思南劉詩瑤)

關(guān)鍵詞：人工智能風(fēng)險(xiǎn)隱患

人工智能應(yīng)用方興未艾同時(shí)也帶來安全風(fēng)險(xiǎn)隱患

您可能也感興趣:

今日熱點(diǎn)

黑龍江科技招商大會(huì)大慶專場舉行推動(dòng)科技成果落地轉(zhuǎn)化

上海：去年科技信貸授信規(guī)模1583億元，科技保險(xiǎn)助力科研穩(wěn)發(fā)展

蘭州新區(qū)科創(chuàng)能力大幅提升新培育科技型企業(yè)160家

更多

更多

排行

最近更新

今日要聞

人工智能應(yīng)用方興未艾 同時(shí)也帶來安全風(fēng)險(xiǎn)隱患

您可能也感興趣:

今日熱點(diǎn)

黑龍江科技招商大會(huì)大慶專場舉行 推動(dòng)科技成果落地轉(zhuǎn)化

上海：去年科技信貸授信規(guī)模1583億元，科技保險(xiǎn)助力科研穩(wěn)發(fā)展

蘭州新區(qū)科創(chuàng)能力大幅提升 新培育科技型企業(yè)160家

為您推薦

8家險(xiǎn)企股權(quán)被掛牌轉(zhuǎn)讓，為何險(xiǎn)企股權(quán)不再被追捧？

深圳最低工資標(biāo)準(zhǔn)調(diào)整為2360元/月 失業(yè)保險(xiǎn)金為2124元/月

遼寧實(shí)施失業(yè)保險(xiǎn)省級(jí)統(tǒng)籌 對缺口核定等作出詳細(xì)規(guī)定

部分保險(xiǎn)公司推出隔離險(xiǎn) 理賠卻存在諸多限制

更多

更多

排行

最近更新

今日要聞

人工智能應(yīng)用方興未艾同時(shí)也帶來安全風(fēng)險(xiǎn)隱患

黑龍江科技招商大會(huì)大慶專場舉行推動(dòng)科技成果落地轉(zhuǎn)化

蘭州新區(qū)科創(chuàng)能力大幅提升新培育科技型企業(yè)160家

深圳最低工資標(biāo)準(zhǔn)調(diào)整為2360元/月失業(yè)保險(xiǎn)金為2124元/月

遼寧實(shí)施失業(yè)保險(xiǎn)省級(jí)統(tǒng)籌對缺口核定等作出詳細(xì)規(guī)定