生成式人工智能(以下簡稱AIGC,Artificial Intelligence Generated Content)作為人工智能領域的重要分支,在文本生成、圖像設計、音樂創(chuàng)作等領域都取得了突破性進展,國內(nèi)大模型項目的數(shù)量呈井噴式增長的態(tài)勢,引發(fā)了各行各業(yè)的廣泛關注。技術的迅猛發(fā)展,也伴隨著安全和挑戰(zhàn)。

10月18日,由北京市科學技術協(xié)會指導,北京軟件和信息服務業(yè)協(xié)會主辦,北京人工智能產(chǎn)業(yè)聯(lián)盟人工智能安全專委會協(xié)辦的2023年首都學術資源開放共享沙龍“生成式人工智能應用及安全”專場活動于中關村知識產(chǎn)權大廈成功舉辦。活動邀請了人工智能領域的專家學者、產(chǎn)業(yè)和技術大咖分享其在AIGC研究和實踐中的經(jīng)驗,探討AIGC應用的安全與合規(guī)、發(fā)展與治理、知識產(chǎn)權保護等話題,助力AIGC行業(yè)的健康與規(guī)范發(fā)展。活動由北京軟件和信息服務業(yè)協(xié)會首席研究員倉劍主持。

北京軟件和信息服務業(yè)協(xié)會首席研究員倉劍

嘉賓演講

今年以來,圍繞AIGC的競賽愈加激烈,國內(nèi)科技企業(yè)爭相進入了大模型賽道,據(jù)悉,北京市已有百余款大模型產(chǎn)品,占全國總量的一半左右。自8月15日起,《生成式人工智能服務管理暫行辦法》(以下簡稱“《暫行辦法》”)施行,對生成式人工智能進行專項監(jiān)管。8月底,北京首批五個大型模型備案,并陸續(xù)向公眾提供服務。《暫行辦法》對于AIGC的提供者和使用者的影響和作用是什么?在主旨演講環(huán)節(jié),中國信通院產(chǎn)業(yè)與規(guī)劃所主任工程師王強對其重點內(nèi)容進行了分享,他表示,促進AIGC健康發(fā)展和規(guī)范應用,是《生成式人工智能服務管理暫行辦法》的核心主旨,為此,《辦法》通過“劃定合規(guī)底線”、“采取有效措施鼓勵發(fā)展”、“采取更精細化監(jiān)管舉措”這三個層面推進落實。

中國信通院產(chǎn)業(yè)與規(guī)劃所主任工程師 王強

AIGC飛速發(fā)展,與此同時,虛假信息、學術倫理等安全合規(guī)的問題也引發(fā)了關注和熱議,中國政法大學教授、博士生導師、中國政法大學互聯(lián)網(wǎng)金融法律研究院院長李愛君以法學的視角圍繞“生成式人工智能安全合規(guī)”的主題進行了發(fā)言。她表示,生成式人工智能的安全合規(guī)的核心是數(shù)據(jù)安全合規(guī)和生成內(nèi)容的合規(guī)。AIGC的發(fā)展過程中應充分發(fā)揮《數(shù)據(jù)二十條》中的原則和指導思想進而促進AIGC的健康發(fā)展。

中國政法大學教授、博士生導師、　中國政法大學互聯(lián)網(wǎng)金融法律研究院院長 李愛君

伴隨著大模型演進發(fā)展,AIGC內(nèi)容的合規(guī)性要求也越發(fā)清晰,百度安全副總經(jīng)理馮景輝圍繞大模型在訓練,部署,推理和運營的全生命周期內(nèi)遇到的安全挑戰(zhàn),分別從數(shù)據(jù)清洗,敏感數(shù)據(jù)保護、業(yè)務風險控制和內(nèi)容合規(guī)等多個角度介紹目前主要的風險類型,并貼合《生成式人工智能服務管理暫行辦法》及“生成式人工智能上線備案要求”等合規(guī)性規(guī)范,闡述了百度在構建大模型安全防線的最佳實踐。

百度安全副總經(jīng)理 馮景輝

分享交流

在分享交流環(huán)節(jié),北京師范大學新聞傳播學院副教授劉茜、北京郵電大學計算機學院副教授張成文、國家工業(yè)信息安全發(fā)展研究中心人工智能所工程師王淼、中國科學院自動化研究所研究員趙曉光、華為戰(zhàn)略研究院AI治理產(chǎn)業(yè)發(fā)展首席專家柳嘉琪、騰訊安全內(nèi)容安全總經(jīng)理王翔、智譜AI安全負責人王笑塵、中科聞歌副總經(jīng)理王璋盛、智源研究院數(shù)據(jù)智能研究中心趙波博士等十余位專家、學者、企業(yè)代表暢所欲言,碰撞思維的火花。圍繞AIGC在快速發(fā)展和不同場景應用落地的過程中所面臨的安全風險問題和應對措施進行了深入的交流和熱烈的討論。

活動尾聲

當前,AIGC的迅猛發(fā)展持續(xù)為各行各業(yè)帶來新變化,并不斷催生著新產(chǎn)業(yè)、新業(yè)態(tài)和新商業(yè)模式,培育了經(jīng)濟發(fā)展的新動能。北京是我國人工智能行業(yè)發(fā)展的開拓先驅和創(chuàng)新高地,北京軟件與信息服務業(yè)協(xié)會基于數(shù)字驅動創(chuàng)新的發(fā)展模式,秉承“提供價值服務 促進產(chǎn)業(yè)發(fā)展”的宗旨,將為產(chǎn)、學、研、用各方搭建交流、場景開放、需求對接平臺,以推動人工智能產(chǎn)業(yè)的深度融合發(fā)展。

免責聲明：市場有風險，選擇需謹慎！此文僅供參考，不作買賣依據(jù)。

關鍵詞：