ADVANCE.AI數(shù)字化風險管理策略助力在線服務平臺加強對AI技術的應用管理

2023-09-20 14:10:44 來源: 新浪網(wǎng)

生成式人工智能技術(下文簡稱“生成式AI技術”)的廣泛應用給很多行業(yè)帶來了新的市場增長引爆點，但同時，也帶來了偽造賬戶、傳播虛假信息、數(shù)據(jù)安全等風險。其中，企業(yè)最需要關注、防范的風險之一，就是詐騙分子利用生成式AI技術進行深度內(nèi)容偽造從而實施的新型詐騙(下文簡稱“AI欺詐”)。

全球反洗錢合規(guī)和數(shù)字身份驗證技術服務商、人工智能企業(yè)ADVANCE.AI副總裁崔琦曾指出：“計算機圖像、語音合成等前沿AI技術的快速發(fā)展，降低了不法分子盜取、偽造用戶人臉圖像、語音等身份信息進行欺詐的技術門檻，為全球網(wǎng)絡安全埋下了一個重要隱患。”

而對于用戶數(shù)量眾多的社交、直播、跨境電商、游戲等在線服務企業(yè)，嚴防新型AI欺詐更是需要提上業(yè)務管理的日程，因為這些在線服務企業(yè)，不僅已經(jīng)是生成式AI內(nèi)容傳播的主要渠道，更是成為了被欺詐分子覬覦的“欺詐資源”。

ADVANCE.AI副總裁崔琦表示： “嚴防AI欺詐，各類提供在線服務的企業(yè)不僅要確保各項業(yè)務的合規(guī)運營，還要加強對AI技術應用的自治管理。比如，通過在用戶注冊、登錄環(huán)節(jié)部署合理的數(shù)字化身份欺詐風險防范策略;在業(yè)務運營中設置異常用戶行為報告制度;均能夠助力有效識別具有危害性的生成式AI內(nèi)容，包括但不限于虛假賬戶、偽造產(chǎn)品圖片、惡意輿論等。如果已知有相關風險內(nèi)容存在時，各類在線服務企業(yè)要通過打標簽、權(quán)限降級、關停、刪除賬戶等手段積極干預調(diào)整。”

01企業(yè)加強AI技術應用自治管理的必要性

必要原因一AI欺詐不分地域，正在全球范圍爆發(fā)。

詐騙分子常利用AI技術生成的虛假視頻、圖片或聲音，冒充被害人的某個領導、朋友、親戚等熟人身份進行欺詐，因仿真度過高，混淆性極強，導致普通用戶難以分辨，且經(jīng)常實施遠程詐騙，使得這種欺詐行為在當下的欺詐成功率竟接近100%，給公眾財產(chǎn)安全、信息安全、甚至人身安全都帶來了嚴重威脅。

讓我們了解兩個發(fā)生在海外國家的AI欺詐典型案例：

案例一：根據(jù)網(wǎng)絡公開信息的講述，詐騙分子通過AI技術偽造了一位德國公司高管的音頻片段，并利用這段偽造的音頻，聯(lián)系了該公司在英國分公司的CEO，要求其安排員工給一個匈牙利的賬戶匯款24.3萬美元，欺詐分子利用這段偽造的音頻給英國分公司負責人前后致電了3次電話均未被當事人發(fā)覺異常。

案例二：根據(jù)海外媒體的報道，詐騙分子通過AI技術偽造了一位美國小孩在異地遭遇困境的聲音和場景，并利用這段偽造音頻聯(lián)系了小孩的母親，在確認這位母親已上當且認為自己小孩遇險后，詐騙分子開始勒索，警告這位母親不允許報警，并提出了要給付100萬美元的贖金要求。

必要原因二針對企業(yè)的自動化欺詐顯著增多，防不勝防。

欺詐分子會利用生成式AI技術大規(guī)模創(chuàng)建新的身份和賬戶，用虛假賬戶代表獨特的“人”，然后利用這些虛假賬戶發(fā)布有關個人、團體或組織的虛假信息、制造惡劣輿論、或冒充他人獲取未經(jīng)授權(quán)的權(quán)限，進一步實施犯罪行為。

當下，通過惡意機器人進行的自動化網(wǎng)絡欺詐和攻擊正在顯著增多，表現(xiàn)出來的攻擊趨勢包括:

節(jié)假日或特定活動事件發(fā)生前后的自動化攻擊顯著增加。

來自移動端設備的惡意請求正在增加。

惡意機器人流量在全網(wǎng)在線流量中的比例增長迅速。

必要原因三僅有少量國家已針對生成式AI的應用發(fā)布監(jiān)管細則，大多數(shù)國家尚未公布專門針對AI技術發(fā)展的規(guī)制性文件。

面對生成式AI模型的激增和可能帶來的風險，雖然大部分國家的監(jiān)管部門都已經(jīng)在啟動監(jiān)管探索，但當下，僅有少數(shù)國家完成了相關監(jiān)管立法。

然而，AI欺詐具有全球化、跨地域、易于遠程實施等特點，不同地區(qū)監(jiān)管力度和監(jiān)管方式不一致的客觀情況，極易被欺詐分子所利用，導致欺詐行為難以被問責或被害人的損失難以追討。

因此，嚴防AI欺詐，企業(yè)加強自治管理的必要性意義更加凸顯：一方面，在外部監(jiān)管不確定性較強、不同國家監(jiān)管現(xiàn)狀差異性較大的情況下，企業(yè)能夠通過嚴格的自治管理，切實保障用戶權(quán)益和服務運營的穩(wěn)定性;另一方面，也可以向監(jiān)管部門傳遞積極的信號，告知監(jiān)管部門企業(yè)可以通過自治的方式有效控制新技術的應用風險，這將有利于數(shù)字經(jīng)濟行業(yè)整體的穩(wěn)定發(fā)展。

02 一站式數(shù)字身份驗證和風險管理解決方案助力企業(yè)自治管理

在企業(yè)加強欺詐防范能力的自治管理策略上，ADVANCE.AI推薦可部署的數(shù)字化策略包括：

第一, 可以在用戶注冊、登錄環(huán)節(jié)部署活體檢測和人臉比對等身份驗證工具，可以防范利用偽造身份、虛假身份進行在線欺詐的不法分子。

第二，定制化部署風險評估模型，比如通過用戶的手機號、聯(lián)系人手機號、常用郵箱賬戶、常用社交媒體賬戶、IP地址等維度做聚集性關聯(lián)分析(若歷史數(shù)據(jù)足夠可發(fā)展關系網(wǎng)絡等)，實時攔截異常注冊或登錄申請，可以防范虛假賬號生成。

而根據(jù)社交、直播、跨境電商、游戲等在線服務企業(yè)運營海外市場的實際需求和欺詐防范痛點，ADVANCE.AI特別推出了“星鑒”數(shù)字身份驗證與風險管理解決方案——這是一套端對端、一站式、可定制化的數(shù)字化解決方案，集成了數(shù)字身份驗證、無感知風險管理、反洗錢合規(guī)三大解決方案業(yè)務體系，能夠幫助容易面臨高欺詐風險的企業(yè)和金融機構(gòu)，輕松管理全球用戶、防范欺詐風險、落實反洗錢監(jiān)管要求、合規(guī)管理用戶數(shù)據(jù)，尤其適合需要開拓東南亞、拉丁美洲、非洲等新興國家市場的企業(yè)或金融機構(gòu)進行選擇。

“星鑒”數(shù)字身份驗證與風險管理解決方案部署流程

ADVANCE.AI的“星鑒”解決方案包含的生物識別、人臉比對功能，人像識別精準率超過99%，并特別針對東南亞、拉丁美洲、非洲等地區(qū)的用戶使用習慣進行了優(yōu)化，識別不受當?shù)赜脩舻团涫謾C攝像頭或驗證環(huán)境光照條件的影響，且能夠控制識別響應時速在1秒以內(nèi)。

同時，ADVANCE.AI的生物識別技術還對用戶戴著帽子、眼鏡或化妝之后進行人臉識別時的驗證效果進行了優(yōu)化。

ADVANCE.AI的“星鑒”解決方案還包含了活體檢測功能，可以識別部分通過AI工具生成的人臉圖像或視頻，助力防范新型的“AI欺詐”。

目前，ADVANCE.AI的技術服務已助力全球超過700家金融機構(gòu)和企業(yè)提升了其在用戶登錄、注冊環(huán)節(jié)的身份驗證操作體驗，提高了審核精準度和業(yè)務運營的效率和安全，身份驗證產(chǎn)品的API日均調(diào)用量達到400萬次，年調(diào)用量已接近近20億次。

關于ADVANCE.AI

ADVANCE.AI成立于2016年，是領先的人工智能公司，提供數(shù)字轉(zhuǎn)型、反欺詐和流程自動化等解決方案，已成功服務全球超700家知名企業(yè)客戶，聚焦服務行業(yè)和領域包括銀行、金融服務、金融科技、支付、零售、電商、物聯(lián)網(wǎng)、出行以及共享經(jīng)濟;總部位于新加坡，并在全球如印尼、印度、菲律賓、馬來西亞和越南等國設有本地客戶支持團隊;隸屬Advance Intelligence Group，其業(yè)務覆蓋12個市場，擁有1500名員工，旗下企業(yè)和消費者業(yè)務共服務超過700家企業(yè)客戶、10萬家商戶和2000萬消費者。

免責聲明：市場有風險，選擇需謹慎！此文僅供參考，不作買賣依據(jù)。

關鍵詞：

ADVANCE.AI數(shù)字化風險管理策略助力在線服務平臺加強對AI技術的應用管理

您可能也感興趣:

今日熱點

江蘇啟東：海上風電運維母船順利下水

世界中餐聯(lián)合會企業(yè)家分會第二屆一次代表大會舉辦

國鐵集團發(fā)布中歐班列全程時刻表成果

更多

更多

排行

最近更新

今日要聞

ADVANCE.AI數(shù)字化風險管理策略助力在線服務平臺加強對AI技術的應用管理

您可能也感興趣:

今日熱點

江蘇啟東：海上風電運維母船順利下水

世界中餐聯(lián)合會企業(yè)家分會第二屆一次代表大會舉辦

國鐵集團發(fā)布中歐班列全程時刻表成果

為您推薦

申花巨變：中超前3將不保，足協(xié)杯冠軍也要丟，超一半主力被抽走

霍華德加內(nèi)特誰高_霍華德加內(nèi)特

145名牙醫(yī)抱團上市，馬瀧齒科為何難以賺錢？

理解不同的企業(yè)重組類型

更多

更多

排行

最近更新

今日要聞