1.人工智能增強的社會(huì )工程攻擊

2024年，人工智能將進(jìn)一步擴大社交工程攻擊的規模和有效性，在短短幾分鐘內就能創(chuàng )建極具說(shuō)服力的網(wǎng)絡(luò )釣魚(yú)誘餌。網(wǎng)絡(luò )犯罪分子將利用人工智能，利用社交媒體和被入侵的電子郵件賬戶(hù)中的數據，制作個(gè)性化的網(wǎng)絡(luò )釣魚(yú)信息。這些復雜的誘餌將很難被發(fā)現，即使是訓練有素的員工也難以發(fā)現。

此外，生成式人工智能將使網(wǎng)絡(luò )犯罪分子成為更厲害的騙子。人工智能將幫助攻擊者用不同的語(yǔ)言編寫(xiě)出文筆流暢、令人信服的網(wǎng)絡(luò )釣魚(yú)電子郵件和網(wǎng)站，使他們能夠將攻擊范圍擴大到各個(gè)地區。我們期望看到社會(huì )工程攻擊的質(zhì)量得到提高，使目標和安全團隊更難發(fā)現誘餌。因此，我們可能會(huì )看到與社會(huì )工程相關(guān)的風(fēng)險和危害有所增加——從欺詐到網(wǎng)絡(luò )入侵。

隨著(zhù)人工智能生成的電子郵件與合法電子郵件幾乎難以區分，僅依靠員工培訓來(lái)保護用戶(hù)是不夠的。相反，安全團隊應該考慮隔離技術(shù)，如微虛擬化，它不依賴(lài)檢測來(lái)保護員工。這項技術(shù)在隔離的虛擬環(huán)境中打開(kāi)危險文件和鏈接，防止惡意軟件和軟件漏洞（甚至零日威脅）感染設備。

2.本地大型語(yǔ)言模型（LLM）

隨著(zhù)計算能力的提升，新一代計算機將能夠運行本地LLM，而無(wú)需依賴(lài)強大的外部服務(wù)器。這將使計算機和用戶(hù)能夠充分受益于A(yíng)I，重新定義人們與設備的交互方式。

這些本地LLM承諾提高效率和生產(chǎn)力，同時(shí)通過(guò)獨立于互聯(lián)網(wǎng)工作提供安全和隱私優(yōu)勢。然而，如果沒(méi)有得到妥善保護，本地模型及其處理的敏感數據可能會(huì )使端點(diǎn)成為攻擊者更大的目標。

此外，許多企業(yè)正在部署基于LLM的聊天機器人，以提升和擴展其客戶(hù)服務(wù)。但底層的人工智能技術(shù)可能會(huì )帶來(lái)新的信息安全和隱私風(fēng)險，例如可能泄露敏感數據。今年，我們可能會(huì )看到網(wǎng)絡(luò )犯罪分子試圖操縱聊天機器人繞過(guò)安全措施來(lái)獲取機密信息。

3.高級固件和硬件攻擊

人工智能正在推動(dòng)技術(shù)民主化，幫助技能水平較低的用戶(hù)更高效地執行更復雜的任務(wù)。然而，盡管人工智能提高了組織的防御能力，但它也有可能幫助惡意行為者對較低系統層（即固件和硬件）進(jìn)行攻擊，而近年來(lái)，對固件和硬件的攻擊力度一直在增加。

從歷史上看，此類(lèi)攻擊需要大量的技術(shù)專(zhuān)長(cháng)，但人工智能開(kāi)始有望降低這些障礙。這可能會(huì )導致更多人努力利用較低級別的系統，讓攻擊者在操作系統和業(yè)界最好的軟件安全防御之下立足。

隨著(zhù)時(shí)間的推移，我們預計針對系統固件的惡意軟件的頻率會(huì )增加。這些攻擊依賴(lài)于利用操作系統下的弱點(diǎn)。專(zhuān)注于關(guān)閉硬件和固件攻擊面對于應對這些威脅至關(guān)重要。

網(wǎng)絡(luò )安全的新前沿

人工智能將改變網(wǎng)絡(luò )安全，為安全團隊提供大量機會(huì )來(lái)改善其威脅檢測和響應。例如，人工智能將通過(guò)自動(dòng)檢測有針對性的網(wǎng)絡(luò )釣魚(yú)嘗試來(lái)幫助保護用戶(hù)。

2024年推出的計算機也將帶來(lái)安全優(yōu)勢，讓用戶(hù)可以在設備上安全地使用AI，而無(wú)需承擔將數據存儲在云端的風(fēng)險。這些設備還將通過(guò)自動(dòng)鎖定和隱私屏幕等功能增強數據隱私。

然而，要有效使用人工智能，企業(yè)應該首先考慮安全性。這意味著(zhù)了解數據和環(huán)境，建立威脅模型以了解風(fēng)險，選擇預防和檢測技術(shù)的平衡，并實(shí)施零信任原則以確保數據安全。最后，組織應考慮與值得信賴(lài)的人工智能安全提供商合作，以充分利用人工智能，同時(shí)最大限度地降低其安全和隱私風(fēng)險。