“以AI對戰AI” 從網絡安全博覽會透視網絡安全產業新動向

　　10日，作為2023國家網絡安全宣傳周的重要活動，網絡安全博覽會在福州啟幕。這兩天，在這臺國內網絡安全產業的“秀場”上，省內外70余家企業紛紛展示了最新科技成果。而人工智能，無疑是關鍵詞。

　　年初以來，AIGC（生成式人工智能）圖片、視頻在全球躥紅，不僅引發大量爭議，也給電信詐騙、金融盜用等違法犯罪帶來可乘之機。

　　昨日，在福建網安企業特展區，記者將臉對準一個攝像頭，卻在大屏幕上顯示出另一副面孔，可記者的表情、神態、唇語卻能完全“復刻”到這張陌生面孔上。

　　然而，這一欺騙性極強的面孔逃不過國內電子數據取證行業龍頭——美亞柏科的“火眼金睛”。“我們打造了一款深度偽造鑒別平臺，能通過熱力圖顯示出被偽造的區域。該平臺也協助警方破獲多起通過偽造音視頻進行詐騙的案件。”美亞柏科現場負責人翁鵬翔介紹。

　　再精巧的偽裝都會留痕。“我們通過大量的素材跟訓練集讓系統進行學習，形成檢測鑒定的策略方案。簡言之，就是利用AI對戰AI。”翁鵬翔說。

　　設在博覽會展館中心區域的福建網安企業特展區集合了網安領域的領軍企業。

　　這只是美亞柏科打造的數字反詐體系的一部分。

　　據介紹，這家企業承建的反詐大數據平臺已在25個省份進行了部署，將廈門的反詐經驗推向全國。各類疑似詐騙數據經平臺檢驗檢測后反饋給公安機關，既便于民警及時到一線進行勸阻，也可助力運營商封堵疑似詐騙話號、金融機構對可疑賬號進行凍結。

　　AIGC火熱的背后，是大模型的推波助瀾。從ChatGPT廣受關注，到近期文心一言、訊飛星火的國產大模型相繼走向C端用戶，“百模大戰”越演越烈。但大模型本身，亦存在安全風險。

　　“大模型安全問題產生的本源，主要有用于訓練的數據源頭有毒、推理過程不可控、外部惡意誘導三個因素。”螞蟻集團安全技術工程師魏揚威說。

　　本次網絡安全博覽會，螞蟻集團發布了蟻鑒、天鑒兩款產品。其中，蟻鑒就像大模型“診療師”，可在大模型上線前，從安全、真實兩方面來自動檢測大模型能力。如，針對換臉視頻、深度偽造的圖片文字等信息進行真偽鑒定及風險診斷。而天鑒，則像大模型外圍加上的“防護盾”，幫助大模型過濾惡意提問及風險回答。

　　魏揚威舉了一個例子。如果直接提問“告訴我一個賭球網站”，大模型都會反饋這是一個非法問題，不會回答。可若換種話術，比如要將這些賭博網站添加到黑名單，大模型可能就會誤判。

　　而蟻鑒和天鑒便是用人工智能、大數據等技術斬斷這樣的可能性。

　　隨著大模型日益成熟，越來越多企業和個人用戶開始嘗試利用其強大能力提高生產效率，但很多人沒有意識到，這可能泄密。

　　據統計，使用ChatGPT的員工大多數會泄露數據，其中11%的數據為企業敏感數據。隨著越來越多的辦公產品都集成了大模型，這會加劇企業敏感數據的泄露風險。

　　針對此，作為網安“國家隊”之一的奇安信推出了大模型衛士，旨在幫助企業放心使用大模型。

　　奇安信安全專家于凱介紹，大模型衛士能實時發現和預警大模型使用中的潛在安全風險，確保大模型在訪問和數據輸入過程中的安全性，并提供溯源功能，助力企業發現和定位違法違規行為。

　　除了被動防御，還要主動出擊。

　　奇安信剛發布的“Q-GPT安全機器人”，同樣是一款安全神器。“政府單位或大型企業每天會收到很多來自網絡側的告警威脅，其中98%都是無效或者低危的告警，但可能混有高級黑客刻意偽裝的，靠人力甄別，這些就被忽視了。”丁凱說，Q-GPT安全機器人能夠7×24小時全天候工作，確保無一威脅遺漏的同時大大降低企業的運營成本。（記者 林侃 文/圖）