申花巨變：中超前3將不保，足協(xié)杯冠軍也要丟，超一半主力被抽走
2023-09-20 14:10:44
ADVANCE.AI數(shù)字化風險管理策略助力在線服務平臺加強對AI技術的應用管理
2023-09-20 14:10:44 來源: 新浪網(wǎng)
生成式人工智能技術(下文簡稱“生成式AI技術”)的廣泛應用給很多行業(yè)帶來了新的市場增長引爆點，但同時，也帶來了偽造賬戶、傳播虛假信息、數(shù)據(jù)安全等風險。其中，企業(yè)最需要關注、防范的風險之一，就是詐騙分子利用生成式AI技術進行深度內(nèi)容偽造從而實施的新型詐騙(下文簡稱“AI欺詐”)。
全球反洗錢合規(guī)和數(shù)字身份驗證技術服務商、人工智能企業(yè)ADVANCE.AI副總裁崔琦曾指出：“計算機圖像、語音合成等前沿AI技術的快速發(fā)展，降低了不法分子盜取、偽造用戶人臉圖像、語音等身份信息進行欺詐的技術門檻，為全球網(wǎng)絡安全埋下了一個重要隱患。”
而對于用戶數(shù)量眾多的社交、直播、跨境電商、游戲等在線服務企業(yè)，嚴防新型AI欺詐更是需要提上業(yè)務管理的日程，因為這些在線服務企業(yè)，不僅已經(jīng)是生成式AI內(nèi)容傳播的主要渠道，更是成為了被欺詐分子覬覦的“欺詐資源”。
ADVANCE.AI副總裁崔琦表示： “嚴防AI欺詐，各類提供在線服務的企業(yè)不僅要確保各項業(yè)務的合規(guī)運營，還要加強對AI技術應用的自治管理。比如，通過在用戶注冊、登錄環(huán)節(jié)部署合理的數(shù)字化身份欺詐風險防范策略;在業(yè)務運營中設置異常用戶行為報告制度;均能夠助力有效識別具有危害性的生成式AI內(nèi)容，包括但不限于虛假賬戶、偽造產(chǎn)品圖片、惡意輿論等。如果已知有相關風險內(nèi)容存在時，各類在線服務企業(yè)要通過打標簽、權(quán)限降級、關停、刪除賬戶等手段積極干預調(diào)整。”
01企業(yè)加強AI技術應用自治管理的必要性
必要原因一AI欺詐不分地域，正在全球范圍爆發(fā)。
詐騙分子常利用AI技術生成的虛假視頻、圖片或聲音，冒充被害人的某個領導、朋友、親戚等熟人身份進行欺詐，因仿真度過高，混淆性極強，導致普通用戶難以分辨，且經(jīng)常實施遠程詐騙，使得這種欺詐行為在當下的欺詐成功率竟接近100%，給公眾財產(chǎn)安全、信息安全、甚至人身安全都帶來了嚴重威脅。
讓我們了解兩個發(fā)生在海外國家的AI欺詐典型案例：
案例一：根據(jù)網(wǎng)絡公開信息的講述，詐騙分子通過AI技術偽造了一位德國公司高管的音頻片段，并利用這段偽造的音頻，聯(lián)系了該公司在英國分公司的CEO，要求其安排員工給一個匈牙利的賬戶匯款24.3萬美元，欺詐分子利用這段偽造的音頻給英國分公司負責人前后致電了3次電話均未被當事人發(fā)覺異常。
案例二：根據(jù)海外媒體的報道，詐騙分子通過AI技術偽造了一位美國小孩在異地遭遇困境的聲音和場景，并利用這段偽造音頻聯(lián)系了小孩的母親，在確認這位母親已上當且認為自己小孩遇險后，詐騙分子開始勒索，警告這位母親不允許報警，并提出了要給付100萬美元的贖金要求。
必要原因二 針對企業(yè)的自動化欺詐顯著增多，防不勝防。
欺詐分子會利用生成式AI技術大規(guī)模創(chuàng)建新的身份和賬戶，用虛假賬戶代表獨特的“人”，然后利用這些虛假賬戶發(fā)布有關個人、團體或組織的虛假信息、制造惡劣輿論、或冒充他人獲取未經(jīng)授權(quán)的權(quán)限，進一步實施犯罪行為。
當下，通過惡意機器人進行的自動化網(wǎng)絡欺詐和攻擊正在顯著增多，表現(xiàn)出來的攻擊趨勢包括:
節(jié)假日或特定活動事件發(fā)生前后的自動化攻擊顯著增加。
來自移動端設備的惡意請求正在增加。
惡意機器人流量在全網(wǎng)在線流量中的比例增長迅速。
必要原因三 僅有少量國家已針對生成式AI的應用發(fā)布監(jiān)管細則，大多數(shù)國家尚未公布專門針對AI技術發(fā)展的規(guī)制性文件。
面對生成式AI模型的激增和可能帶來的風險，雖然大部分國家的監(jiān)管部門都已經(jīng)在啟動監(jiān)管探索，但當下，僅有少數(shù)國家完成了相關監(jiān)管立法。
然而，AI欺詐具有全球化、跨地域、易于遠程實施等特點，不同地區(qū)監(jiān)管力度和監(jiān)管方式不一致的客觀情況，極易被欺詐分子所利用，導致欺詐行為難以被問責或被害人的損失難以追討。
因此，嚴防AI欺詐，企業(yè)加強自治管理的必要性意義更加凸顯：一方面，在外部監(jiān)管不確定性較強、不同國家監(jiān)管現(xiàn)狀差異性較大的情況下，企業(yè)能夠通過嚴格的自治管理，切實保障用戶權(quán)益和服務運營的穩(wěn)定性;另一方面，也可以向監(jiān)管部門傳遞積極的信號，告知監(jiān)管部門企業(yè)可以通過自治的方式有效控制新技術的應用風險，這將有利于數(shù)字經(jīng)濟行業(yè)整體的穩(wěn)定發(fā)展。
02 一站式數(shù)字身份驗證和風險管理解決方案助力企業(yè)自治管理
在企業(yè)加強欺詐防范能力的自治管理策略上，ADVANCE.AI推薦可部署的數(shù)字化策略包括：
第一, 可以在用戶注冊、登錄環(huán)節(jié)部署活體檢測和人臉比對等身份驗證工具，可以防范利用偽造身份、虛假身份進行在線欺詐的不法分子。
第二，定制化部署風險評估模型，比如通過用戶的手機號、聯(lián)系人手機號、常用郵箱賬戶、常用社交媒體賬戶、IP地址等維度做聚集性關聯(lián)分析(若歷史數(shù)據(jù)足夠可發(fā)展關系網(wǎng)絡等)，實時攔截異常注冊或登錄申請，可以防范虛假賬號生成。
而根據(jù)社交、直播、跨境電商、游戲等在線服務企業(yè)運營海外市場的實際需求和欺詐防范痛點，ADVANCE.AI特別推出了“星鑒”數(shù)字身份驗證與風險管理解決方案——這是一套端對端、一站式、可定制化的數(shù)字化解決方案，集成了數(shù)字身份驗證、無感知風險管理、反洗錢合規(guī)三大解決方案業(yè)務體系，能夠幫助容易面臨高欺詐風險的企業(yè)和金融機構(gòu)，輕松管理全球用戶、防范欺詐風險、落實反洗錢監(jiān)管要求、合規(guī)管理用戶數(shù)據(jù)，尤其適合需要開拓東南亞、拉丁美洲、非洲等新興國家市場的企業(yè)或金融機構(gòu)進行選擇。
“星鑒”數(shù)字身份驗證與風險管理解決方案部署流程
ADVANCE.AI的“星鑒”解決方案包含的生物識別、人臉比對功能，人像識別精準率超過99%，并特別針對東南亞、拉丁美洲、非洲等地區(qū)的用戶使用習慣進行了優(yōu)化，識別不受當?shù)赜脩舻团涫謾C攝像頭或驗證環(huán)境光照條件的影響，且能夠控制識別響應時速在1秒以內(nèi)。
同時，ADVANCE.AI的生物識別技術還對用戶戴著帽子、眼鏡或化妝之后進行人臉識別時的驗證效果進行了優(yōu)化。
ADVANCE.AI的“星鑒”解決方案還包含了活體檢測功能，可以識別部分通過AI工具生成的人臉圖像或視頻，助力防范新型的“AI欺詐”。
目前，ADVANCE.AI的技術服務已助力全球超過700家金融機構(gòu)和企業(yè)提升了其在用戶登錄、注冊環(huán)節(jié)的身份驗證操作體驗，提高了審核精準度和業(yè)務運營的效率和安全，身份驗證產(chǎn)品的API日均調(diào)用量達到400萬次，年調(diào)用量已接近近20億次。
關于ADVANCE.AI
ADVANCE.AI成立于2016年，是領先的人工智能公司，提供數(shù)字轉(zhuǎn)型、反欺詐和流程自動化等解決方案，已成功服務全球超700家知名企業(yè)客戶，聚焦服務行業(yè)和領域包括銀行、金融服務、金融科技、支付、零售、電商、物聯(lián)網(wǎng)、出行以及共享經(jīng)濟;總部位于新加坡，并在全球如印尼、印度、菲律賓、馬來西亞和越南等國設有本地客戶支持團隊;隸屬Advance Intelligence Group，其業(yè)務覆蓋12個市場，擁有1500名員工，旗下企業(yè)和消費者業(yè)務共服務超過700家企業(yè)客戶、10萬家商戶和2000萬消費者。
免責聲明：市場有風險，選擇需謹慎！此文僅供參考，不作買賣依據(jù)。
關鍵詞：
您可能也感興趣:
為您推薦
霍華德加內(nèi)特誰高_霍華德加內(nèi)特
2023-09-20 14:10:44
145名牙醫(yī)抱團上市，馬瀧齒科為何難以賺錢？
2023-09-20 14:10:44
理解不同的企業(yè)重組類型
2023-09-20 14:10:44
排行
- Soul創(chuàng)始人張璐團隊攜手UCCA Edge以藝術為“橋”，幫助年輕...
- CBE中國美容博覽會開幕在即，諾斯貝爾攜新品彰顯“戰(zhàn)痘”實力
- 教育賽道未來可期，科大訊飛智慧教育助力孩子個性化發(fā)展
- 陸金所會員2.0襲來：多元化升級用戶權(quán)益，為美好生活賦能
- 明星主播唐笑應邀參加首屆中國國際消費品博覽會簽約儀式 助...
- 黃河旋風：超硬材料單晶產(chǎn)品支撐行業(yè)下游產(chǎn)業(yè)發(fā)展
- 重塑IP新場景！鄭州絨言絨語走進鄂爾多斯金鼎亨深度探索
- 一家線上美妝店的反向成長之路：話梅的新零售
- 荷蘭佳貝艾特——進口羊奶粉市場的風向標，營養(yǎng)新選擇
- 滴滴出行上市，估值高達千億美金，竟因這個你沒聽過的業(yè)務！
最近更新
- ADVANCE.AI數(shù)字化風險管理策略助力在線服務平臺加強對AI技術...
- 三個維度解讀麗怡酒店的求新立異
- Soul創(chuàng)始人張璐團隊攜手UCCA Edge以藝術為“橋”，幫助年輕...
- 招商銀行：董事會同意聘任王穎、彭家文為副行長
- 歐萊雅因不正當競爭被判賠嬌蘭120萬元
- 陜西省丹鳳縣扎實推進清廉建設
- 完善人才培養(yǎng)制度體系 福華化學2023年應屆生入職培訓圓滿收官
- 楊月欣教授榮譽當選為亞洲營養(yǎng)學會聯(lián)合會主席
- 外交部：已有110多個國家代表確認參加第三屆“一帶一路”國際...
- 攜手成都中醫(yī)藥大學國醫(yī)館 盈康生命旗下友誼醫(yī)院開設中醫(yī)館
- 共創(chuàng)美好生活 富德生命人壽多措并舉開展金融消費者權(quán)益保護...
- 延邊農(nóng)商銀行旗下3家村鎮(zhèn)銀行被罰 違規(guī)發(fā)放貸款等
- 瀘州老窖全新消費者互動IP“窖主節(jié)”秦皇島站熱力開啟
- 2023中亞區(qū)域經(jīng)貿(mào)發(fā)展論壇成功舉辦
- 滇藏鐵路麗江至香格里拉段鋪軌完成
- “老外”共撰“邀請函”：來浦東，感受自貿(mào)魅力
- 能建城發(fā)舉辦全國“質(zhì)量月”活動 首屆“工程師文化周”順利舉辦
- 第21屆東博會、峰會初步定于2024年9月23—27日舉辦
- 交通運輸部：全面恢復進出我國境內(nèi)郵輪港口的國際郵輪運輸
- 國產(chǎn)大型郵輪將于2024年商業(yè)首航 首航船票自9月20日起發(fā)售
- 【高質(zhì)量發(fā)展調(diào)研行】大漠長河間 崛起一個個產(chǎn)業(yè)集群
- 2022年我國研發(fā)經(jīng)費投入突破3萬億元 創(chuàng)新型國家建設獲有力支撐
- 和合共生 再啟新程
- 國家能源局：截至8月底，全國累計發(fā)電裝機容量約27.6億千瓦
- 釋放中歐班列更大活力
- 青島啤酒率“鮮”閃耀第20屆中國—東盟博覽會
- （聚焦中國高質(zhì)量發(fā)展）新疆“超級棉田”引領智慧農(nóng)業(yè)新業(yè)態(tài)
- 小紅書集中資源發(fā)展多元電商 福利社店鋪將停止售賣
- 9月20日起廣鐵集團對部分普速客車進行調(diào)整
- 第二屆中外地理標志產(chǎn)品博覽會在四川瀘州啟幕
今日要聞
- 三個維度解讀麗怡酒店的求新立異
- Soul創(chuàng)始人張璐團隊攜手UCCA Edge以藝術為“橋”，幫助年輕人鏈接同好
- ADVANCE.AI數(shù)字化風險管理策略助力在線服務平臺加強對AI技術的應用管理
- 首創(chuàng)大吸力低噪音轉(zhuǎn)輪除濕機，阿斯麥除濕再奪除濕技術制高點
- 注入金融“活水” 助力制造業(yè)發(fā)展提質(zhì)增效
- 2023年云南非公企業(yè)百強榜揭曉 13戶企業(yè)營收超百億元
- 中國對非法引進外來入侵物種犯罪行為開展專項打擊
- 截至8月底中國太陽能發(fā)電裝機容量同比增逾四成
- 月韻風華 禮遇良辰 | 與智庫共嬋娟
- 去年江西全省基地制繁雜交水稻種子29萬畝 占全國15%