在理想的世界中，我們希望各種先進的技術能夠在“陽光”下被使用，然而，現實世界從來不是烏托邦。
(資料圖)
眾所周知，“暗網”一直都是各種非法網絡活動的庇護所，甚至是滋生罪惡的溫床，以窩藏非法匿名網站和支持非法活動(例如交易被盜數據、毒品和武器)而臭名昭著。但是，暗網中也存在大量的商業數據和個人信息，而其中的很多數據是在公開網絡中難以獲取到的。試想一下，如果用暗網中的數據訓練AI，將會發生什么?
近日，韓國科學技術院 (KAIST) 的一個研究團隊發布了一款可應用于網絡安全領域的大語言模型工具——DarkBERT，這是一個專門從暗網獲取數據進行訓練的LLM。DarkBERT并非出于惡意目的而創建，研究人員的目標是創造一種超越現有安全方案的智能化暗網威脅監控工具，幫助威脅研究人員、執法機構和網絡安全分析師打擊網絡威脅。
據了解，此次發布的DarkBERT工具，是一個基于RoBERTa架構的transformer-based編碼器模型。該模型目前已經接受了數百萬個暗網網頁的訓練，全面包括了來自地下黑客論壇、詐騙網站和其他非法網站的數據。為了訓練DarkBERT，研究人員會通過Tor網絡進入暗網并收集原始數據，然后創建一個可以不斷完善的暗網數據資料庫，并在兩周內將更新后的數據提供給RoBERTa。
該研究團隊表示，即使是從最不尋常的來源所收集的數據，也可以訓練出有用的人工智能模型。盡管一些人可能會擔心暗網數據會帶有天然的“邪惡”屬性，并可能對DarkBERT造成不好的影響，但我們認為，在AI技術迅速發展的今天，需要更加關注如何讓這些數據能夠在受控和透明的環境下運行，并確保他們產生對社會有利的價值。
為了評估DarkBERT的有效性，研究人員將其與兩個著名的NLP工具BERT和RoBERTa進行了比較，并從以下三個關鍵網絡安全場景評估DarkBERT的實際可用性：
監控暗網論壇潛在的有害線程監控暗網論壇(通常用于交換非法信息)對于識別潛在的危險線程至關重要。由于人工檢查非常耗時，因此自動化過程對安全專家來說不可或缺。評估結果顯示，DarkBERT在準確率、召回率和漏報率方面的表現均不同程度優于其他兩種工具。
檢測包含機密信息的暗網站點黑客和勒索軟件組織會利用暗網創建泄密網站，供各種網絡犯罪分子將竊取的敏感數據(如密碼和財務信息)上傳到暗網，并以此進行牟利。在研究中，研究人員收集了臭名昭著的勒索軟件組織的數據，并分析了發布組織私人數據的勒索軟件泄漏站點。結果顯示，DarkBERT在識別和分類此類網站方面優于其他兩種工具，原因在于它對暗網論壇中所使用的語言有更好的理解。
識別暗網威脅關鍵字DarkBERT可以利用BERT家族語言模型的固有特征進行暗語轉化，從而準確識別與非法活動相關的關鍵字，例如暗網上的毒品銷售。評估結果顯示，當“MDMA”這個詞被隱藏在藥品銷售頁面上時，DarkBERT生成了與毒品相關的單詞，而其他工具則顯示了與毒品無關的一般單詞和術語，比如各種職業。
以上評估結果表明，DarkBERT模型對網絡罪犯的語言有著非凡的理解能力，并善于發現特定的潛在威脅。它可以幫助安全人員更好地研究暗網，并成功識別和標記數據泄露及勒索軟件等網絡安全威脅，成為打擊網絡安全犯罪活動的有力工具。
DarkBERT目前還并不向公眾開放，只接受部分將其用于學術研究目的的應用請求。因為像其他LLM模型一樣，DarkBERT還是一個尚在發展中的模型，有許多地方還需要通過不斷的訓練和調整去優化。創新模型的出現將會提高現有網絡安全防護體系的能力和性能，但同時，也必須要關注其可能帶來的新挑戰和問題，例如數據隱私、自主決策等方面的問題，需要得到充分的重視和解決。
參考鏈接：
https://www.makeuseof.com/what-is-darkbert-ai/。
https://cybersecuritynews.com/darkbert-ai/。
標簽：
