前沿 | 密碼與人工智能:從共同演化到量子革命
密碼學作為信息安全的基石,與日益發(fā)展的人工智能技術相結合,可提供強大的數(shù)據(jù)保護能力。而量子計算的潛力帶來全新的計算范式,其高速度和強大處理能力有可能徹底改變我們解決復雜問題的方式。這些技術的融合預示著一個更加安全、智能和高效的未來。
當今,密碼學、人工智能和量子計算的交叉研究領域正處于前沿?!禖rypto and AI: From Coevolution to Quantum Revolution》一書介紹了這一領域的最新進展,重點分析了這些技術的交叉點,探討了其對社會和科技發(fā)展的影響,并對其推動科技革命的進程進行了展望。作者在書中展示了密碼學和人工智能的融合和共同演化,并預計量子計算將在不久的將來加入密碼學-AI二元體系,擴展為三元體系,即密碼學、人工智能和量子的融合,為感興趣的研究者提出未來的研究建議。
本期簡報對該書內容進行了概括整理,為讀者提供參考。
一、人工智能與密碼學的交叉影響
為維護信息安全,密碼學通過使惡意第三方無法讀取信息來保護信息的機密性,已成為當今數(shù)據(jù)安全領域的研究重點;為解決密集的數(shù)據(jù)處理問題,利用人工智能模仿人類決策已被應用于各行各業(yè),形成了新一輪科技革命和產(chǎn)業(yè)變革的重要驅動力量。但近年來,隨著密碼學和人工智能協(xié)同演進的趨勢不斷增強,學科之間也存在著不可分割的耦合——人工智能在密碼學生態(tài)系統(tǒng)中幾乎無處不在,密碼學在人工智能生態(tài)系統(tǒng)中同樣隨處可見,在威脅、應用領域、推動因素、輸入數(shù)據(jù)類型等方面都存在著密不可分的交叉影響。?
二、人工智能與密碼學的對抗
長久以來,密碼學與人工智能技術處于“戰(zhàn)爭與和平”——對抗與共存的二元體系中。其中,人工神經(jīng)網(wǎng)絡(Artificial Neural Networks, ANNs)(簡稱神經(jīng)網(wǎng)絡,NNs)作為人工智能模型的核心,其與密碼學之間的關系愈發(fā)復雜——既存在在神經(jīng)網(wǎng)絡協(xié)助下對密碼學的攻擊對抗(即“戰(zhàn)爭”),又不乏密碼學和神經(jīng)網(wǎng)絡的相互支持(即“和平”)。
神經(jīng)網(wǎng)絡是一種模擬人腦的運算模型,由分層的節(jié)點網(wǎng)絡組成,其中節(jié)點代表生物神經(jīng)元,節(jié)點之間的連接代表突觸。其在模式識別、智能機器人、自動控制、預測估計、生物、醫(yī)學、經(jīng)濟等領域已成功地解決了許多現(xiàn)代計算機難以解決的實際問題,表現(xiàn)出了良好的智能特性。
在針對密碼學的神經(jīng)計算中,神經(jīng)網(wǎng)絡被用于檢測惡意加密、進行密碼分析、漏洞分析或直接攻擊密碼系統(tǒng)。其中,檢測惡意加密是為防止不法分子隱藏系統(tǒng)中的惡意軟件以待日后激活或混淆網(wǎng)絡流量,神經(jīng)網(wǎng)絡可用于識別加密網(wǎng)絡流量或帶有加密代碼的惡意軟件;密碼分析是指利用數(shù)學和信息理論方法研究密碼的運行,從而發(fā)現(xiàn)密碼漏洞的過程。盡管密碼分析通常與對密碼系統(tǒng)的攻擊聯(lián)系在一起,但它也可用于對當前系統(tǒng)進行審計,以改進系統(tǒng)。在某些情況下,因為可能構成攻擊初始階段的一部分,所以密碼分析可被視為針對密碼系統(tǒng)的攻擊活動;漏洞分析是指識別系統(tǒng)中易受特定威脅清單影響的資源或部件的行為。這一過程旨在識別和評估系統(tǒng)和網(wǎng)絡中可能被惡意行為者利用的缺陷。與密碼分析一樣,漏洞分析可以幫助對手設計針對密碼系統(tǒng)的攻擊方案。此外,一些研究人員已經(jīng)能夠利用神經(jīng)網(wǎng)絡的特征直接攻擊密碼系統(tǒng)。
三、人工智能與密碼學的融合
密碼學和人工智能之間和平共存的關系由兩個方面組成:人工智能影響的密碼學(AI-Influenced Cryptography, AIIC)和密碼學影響的人工智能(Crypto-Influenced AI, CIAI)。
(一)人工智能影響的密碼學
要想了解人工智能影響的密碼學(AIIC),首先要了解AIIC演變路徑的五個主要階段,即“人工智能無感密碼學”階段(AI-Unaware Cryptography, AIUC)、“人工智能韌性密碼學”階段(AI-Resilient Cryptography, AIRC)、“人工智能增強密碼學”階段(AI-Boosted Cryptography, AIBC)、“人工智能輔助密碼學”階段(AI-Assisted Cryptography, AIAC)、“人工智能嵌入密碼學”階段(AI-Embedded Cryptography, AIEC)。在這五個階段中,密碼學從AIUC階段易受人工智能攻擊的狀態(tài),逐步發(fā)展至AIEC階段中將人工智能技術應用于基本加密、解密組件的狀態(tài),最終形成了二者融合發(fā)展的態(tài)勢。
基于有關人工智能對密碼學影響現(xiàn)狀的研究,作者在本小節(jié)的最后就人工智能技術發(fā)展潮流將在未來可能對AIIC產(chǎn)生的影響進行了總結。在未來,“量子—人工智能支持的密碼學”可能將成為重要的發(fā)展方向,尤其是隨著量子啟發(fā)型神經(jīng)網(wǎng)絡和量子啟發(fā)型強化學習等領域的進一步研究,人工智能針對更復雜問題的決策和在機器學習算法方面將得到進一步的優(yōu)化。另外,人工智能技術也將在后量子密碼算法開發(fā)方面發(fā)揮關鍵作用,例如深度學習、機器學習、生成式人工智能等技術都將在強化密碼系統(tǒng)應對量子計算機攻擊的能力方面提供技術支撐,進一步提升密碼學領域應對技術快速變化的能力(本小節(jié)詳細解析請見寰球密碼簡報(第124期)丨顛覆、共變與融合:人工智能與密碼學的融合發(fā)展前瞻)。
(二)密碼學影響的人工智能
對人工智能而言,密碼學的應用也同樣支撐了其領域的發(fā)展。近年來,針對人工智能安全性的研究主要集中在一些特定的方面,如人工智能隱私和特定的一些技術(神經(jīng)網(wǎng)絡、機器學習、深度學習)等,密碼學被廣泛地應用于其中,對人工智能安全性的提升產(chǎn)生了長期的影響。
探討密碼學影響的人工智能(CIAI),就需要了解其演變路徑的五個不同階段,即“加密敏感型人工智能”階段(Crypto-Sensitive AI, CSAI)、“加密自適應人工智能”階段(Crypto-Adapted AI, CAAI)、“加密友好型人工智能”階段 (Crypto-Friendly AI, CFAI)、“加密激活型人工智能”階段(Crypto-Enabled AI, CEAI)、“加密保護型人工智能”階段 (Crypto-Protected AI, CPAI)。
在CSAI階段,密文中的惡性和良性加密數(shù)據(jù)已經(jīng)可以在不解密文件的情況下被人工智能模型檢測到。人工智能技術通過提取和分析不同數(shù)據(jù)的相關特征可以更好地識別加密數(shù)據(jù),有效地檢測隱藏在復雜加密方法背后的黑客惡意行為。
CAAI階段能夠處理和分析加密的輸入數(shù)據(jù),并以加密形式返回結果。為了保護數(shù)據(jù)免于遭受安全風險,新的機器學習和深度學習模式被啟用,以處理密文中的隱私敏感數(shù)據(jù)。這一階段中,有更多的功能可以被應用于保護人工智能的安全,包括識別加密算法、圖像恢復、檢查Wi-Fi流量的正常和異常行為,以及通過監(jiān)控加密網(wǎng)絡數(shù)據(jù)來預測視頻流的質量等。
在CFAI階段,在加密數(shù)據(jù)集上進行加密訓練,并以此創(chuàng)建加密模型的方式已經(jīng)被用于提升人工智能的安全和隱私。作為密碼學對人工智能影響的第三個階段,除了利用加密數(shù)據(jù)集上的訓練檢測惡意加密行為和處理加密數(shù)據(jù)外,使用加密數(shù)據(jù)集訓練深度學習和機器學習的模型也可以有效地改善人工智能中的數(shù)據(jù)隱私保護情況。
在CEAI階段,人工智能的繼承功能可以被用于編寫更復雜的密文,以改善自身的加密功能,降低密文被破解的可能性。人工智能可以被應用于更高階的任務中,例如公鑰加密、密鑰分發(fā)、哈希生成等。在這種模式下,加密技術可用于保護固件、專有IP和敏感數(shù)據(jù)等。可以說,這一階段是人工智能和密碼學真正開始整合的起點。
在CPAI階段,人工智能與加密緊密地交織在一起,加密技術可以被合理地應用于保護訓練集和模型參數(shù)的隱私,并以此保護人工智能模型。目前,同態(tài)加密和基于像素的加密被認為是這一階段中可用于保護人工智能的較為常見和有效的兩種加密技術。
四、未來展望:量子啟發(fā)式人工智能的前景
隨著量子計算能力的增強,傳統(tǒng)的加密算法將面臨嚴峻的挑戰(zhàn),可通過量子算法來增強密碼學的安全性。近年來,密碼學界充分吸收混沌理論、信息論等量子、人工智能領域技術理論,新興技術——量子啟發(fā)式人工智能(Quantum-Inspired AI, QiAI)由此誕生,提供了一種全新的安全框架,增強現(xiàn)有的加密技術,以抵御未來潛在的量子攻擊。
量子算法在處理大數(shù)據(jù)集時的超常能力,為人工智能的發(fā)展開辟了新的道路。QiAI在此處扮演“加速器”的角色,能夠提升算法的處理速度和精度,從而推動AI技術的進步。
書中預測了QiAI的未來應用,包括對藥物發(fā)現(xiàn)、金融模型、氣候變化預測等領域的潛在影響。作者認為,QiAI將成為推動這些領域創(chuàng)新的關鍵因素,因為它能夠處理以前無法解決的復雜問題,QiAI也將成為未來科技革命的重要驅動力。
五、結語
在前述內容的基礎上,本書作者重申密碼學-人工智能-量子計算三元體系的未來構想,并指出三者將以下列方式融合:人工智能用于改進量子密碼學,處理量子支持的加密數(shù)據(jù);量子計算用于改進人工智能輔助密碼學,處理人工智能輔助的加密數(shù)據(jù);量子啟發(fā)型人工智能(QiAI)用于構建密碼系統(tǒng)。
本書的最后對信息科學領域的研究人員提出了殷切期盼,建議學界加強對“人工智能和密碼學的協(xié)同作用導致共同演進過程”“量子革命對人工智能和密碼學二元體系未來影響”等方面的探討,系統(tǒng)研究量子計算、人工智能和密碼學之間的相互作用,以彌補本書研究的不足,進一步推動密碼學與神經(jīng)網(wǎng)絡等其他領域的交叉研究。
完
文章來源:蘇州信息安全法學所
作者:洪璐 祝媛 王宇潔?