這些設備還將通過(guò)自動(dòng)鎖定和隱私屏幕等功能增強數據隱私
2024/5/11 0:17:29點(diǎn)擊:
1.人工智能增強的社會(huì )工程攻擊
2024年,人工智能將進(jìn)一步擴大社交工程攻擊的規模和有效性,在短短幾分鐘內就能創(chuàng )建極具說(shuō)服力的網(wǎng)絡(luò )釣魚(yú)誘餌。網(wǎng)絡(luò )犯罪分子將利用人工智能,利用社交媒體和被入侵的電子郵件賬戶(hù)中的數據,制作個(gè)性化的網(wǎng)絡(luò )釣魚(yú)信息。這些復雜的誘餌將很難被發(fā)現,即使是訓練有素的員工也難以發(fā)現。
此外,生成式人工智能將使網(wǎng)絡(luò )犯罪分子成為更厲害的騙子。人工智能將幫助攻擊者用不同的語(yǔ)言編寫(xiě)出文筆流暢、令人信服的網(wǎng)絡(luò )釣魚(yú)電子郵件和網(wǎng)站,使他們能夠將攻擊范圍擴大到各個(gè)地區。我們期望看到社會(huì )工程攻擊的質(zhì)量得到提高,使目標和安全團隊更難發(fā)現誘餌。因此,我們可能會(huì )看到與社會(huì )工程相關(guān)的風(fēng)險和危害有所增加——從欺詐到網(wǎng)絡(luò )入侵。
隨著(zhù)人工智能生成的電子郵件與合法電子郵件幾乎難以區分,僅依靠員工培訓來(lái)保護用戶(hù)是不夠的。相反,安全團隊應該考慮隔離技術(shù),如微虛擬化,它不依賴(lài)檢測來(lái)保護員工。這項技術(shù)在隔離的虛擬環(huán)境中打開(kāi)危險文件和鏈接,防止惡意軟件和軟件漏洞(甚至零日威脅)感染設備。
2.本地大型語(yǔ)言模型(LLM)
隨著(zhù)計算能力的提升,新一代計算機將能夠運行本地LLM,而無(wú)需依賴(lài)強大的外部服務(wù)器。這將使計算機和用戶(hù)能夠充分受益于A(yíng)I,重新定義人們與設備的交互方式。
這些本地LLM承諾提高效率和生產(chǎn)力,同時(shí)通過(guò)獨立于互聯(lián)網(wǎng)工作提供安全和隱私優(yōu)勢。然而,如果沒(méi)有得到妥善保護,本地模型及其處理的敏感數據可能會(huì )使端點(diǎn)成為攻擊者更大的目標。
此外,許多企業(yè)正在部署基于LLM的聊天機器人,以提升和擴展其客戶(hù)服務(wù)。但底層的人工智能技術(shù)可能會(huì )帶來(lái)新的信息安全和隱私風(fēng)險,例如可能泄露敏感數據。今年,我們可能會(huì )看到網(wǎng)絡(luò )犯罪分子試圖操縱聊天機器人繞過(guò)安全措施來(lái)獲取機密信息。
3.高級固件和硬件攻擊
人工智能正在推動(dòng)技術(shù)民主化,幫助技能水平較低的用戶(hù)更高效地執行更復雜的任務(wù)。然而,盡管人工智能提高了組織的防御能力,但它也有可能幫助惡意行為者對較低系統層(即固件和硬件)進(jìn)行攻擊,而近年來(lái),對固件和硬件的攻擊力度一直在增加。
從歷史上看,此類(lèi)攻擊需要大量的技術(shù)專(zhuān)長(cháng),但人工智能開(kāi)始有望降低這些障礙。這可能會(huì )導致更多人努力利用較低級別的系統,讓攻擊者在操作系統和業(yè)界最好的軟件安全防御之下立足。
隨著(zhù)時(shí)間的推移,我們預計針對系統固件的惡意軟件的頻率會(huì )增加。這些攻擊依賴(lài)于利用操作系統下的弱點(diǎn)。專(zhuān)注于關(guān)閉硬件和固件攻擊面對于應對這些威脅至關(guān)重要。
網(wǎng)絡(luò )安全的新前沿
人工智能將改變網(wǎng)絡(luò )安全,為安全團隊提供大量機會(huì )來(lái)改善其威脅檢測和響應。例如,人工智能將通過(guò)自動(dòng)檢測有針對性的網(wǎng)絡(luò )釣魚(yú)嘗試來(lái)幫助保護用戶(hù)。
2024年推出的計算機也將帶來(lái)安全優(yōu)勢,讓用戶(hù)可以在設備上安全地使用AI,而無(wú)需承擔將數據存儲在云端的風(fēng)險。這些設備還將通過(guò)自動(dòng)鎖定和隱私屏幕等功能增強數據隱私。
然而,要有效使用人工智能,企業(yè)應該首先考慮安全性。這意味著(zhù)了解數據和環(huán)境,建立威脅模型以了解風(fēng)險,選擇預防和檢測技術(shù)的平衡,并實(shí)施零信任原則以確保數據安全。最后,組織應考慮與值得信賴(lài)的人工智能安全提供商合作,以充分利用人工智能,同時(shí)最大限度地降低其安全和隱私風(fēng)險。
- 上一篇:隨著(zhù)城市快速采用新的數字工具和基于云的解決方案 2024/5/11
- 下一篇:可再生能源對IIOT的影響 2024/5/8