建站
咨詢
售后
建站咨詢
新聞中心
研究表明，人工智能技術(shù)為各行業(yè)組織的業(yè)務(wù)帶來了巨大的發(fā)展?jié)摿?，但同時(shí)也帶來了威脅和風(fēng)險(xiǎn)。如果某人或某個(gè)組織通過人工智能技術(shù)獲得不當(dāng)?shù)睦婊蜻`法犯罪，那么人工智能技術(shù)就是他們手中的武器，并會(huì)產(chǎn)生各種威脅。人工智能技術(shù)在安全方面并不完全是壞消息。例如人工智能在網(wǎng)絡(luò)監(jiān)控和分析方面非常有效。
人工智能如今已經(jīng)成為一個(gè)熱門話題，關(guān)于人工智能的用途以及可能帶來風(fēng)險(xiǎn)的誤解和困惑也越來越多。一方面，文學(xué)作品和電影幾十年來將人工智能技術(shù)描繪成為反烏托邦式的全能機(jī)器人。另一方面，許多人了解人工智能在加快人類社會(huì)發(fā)展的潛力。盡管計(jì)算機(jī)系統(tǒng)可以學(xué)習(xí)、推理以及采取行動(dòng)，但這些行為仍處于早期階段。機(jī)器學(xué)習(xí)(ML)需要學(xué)習(xí)大量數(shù)據(jù)，并根據(jù)人類分配給人工智能的功能轉(zhuǎn)化為訓(xùn)練或指導(dǎo)。而允許人工智能訪問信息并給予其充分的自治權(quán)會(huì)帶來嚴(yán)重的風(fēng)險(xiǎn)，必須得到控制。
人工智能的主要風(fēng)險(xiǎn)與其創(chuàng)造者有著內(nèi)在的聯(lián)系。由于人類會(huì)犯錯(cuò)誤或有偶然的偏差，或者說，程序員的粗心或數(shù)據(jù)的錯(cuò)誤可能會(huì)使人工智能系統(tǒng)產(chǎn)生一系列的錯(cuò)誤。人工智能系統(tǒng)的不當(dāng)設(shè)計(jì)還可能導(dǎo)致計(jì)算系統(tǒng)的規(guī)模過大或過小，從而導(dǎo)致人工智能系統(tǒng)做出不必要的決策或陷入停頓。而采用諸如人工監(jiān)督的控制系統(tǒng)并嚴(yán)格測(cè)試人工智能系統(tǒng)可以在設(shè)計(jì)階段降低這些風(fēng)險(xiǎn)。因此必須對(duì)計(jì)算系統(tǒng)的決策能力進(jìn)行測(cè)量和評(píng)估，以確認(rèn)是否可以快速解決偏差或可疑決策，并在必要時(shí)予以糾正。盡管所描述的人工智能的風(fēng)險(xiǎn)是基于無意的錯(cuò)誤以及設(shè)計(jì)和實(shí)施中的缺陷造成的，但是如果個(gè)人或組織利用人工智能系統(tǒng)作惡的話，人工智能就像罪犯手中的武器一樣帶來更多的威脅。
網(wǎng)絡(luò)犯罪分子可能比人們想象的更容易地使用人工智能技術(shù)，并“訓(xùn)練”人工智能系統(tǒng)為其獲利。他們可以操縱輸入計(jì)算機(jī)的數(shù)據(jù)集(數(shù)據(jù)中毒)以“訓(xùn)練”人工智能，甚至對(duì)控制參數(shù)進(jìn)行更改，這一切都是為了將??其引向自己的目標(biāo)。如果網(wǎng)絡(luò)犯罪分子無法訪問數(shù)據(jù)集，則可以利用篡改技術(shù)來強(qiáng)制人工智能系統(tǒng)產(chǎn)生計(jì)算錯(cuò)誤或使其難以正確識(shí)別數(shù)據(jù)集。即使只是出于財(cái)務(wù)原因，檢查數(shù)據(jù)和輸入的準(zhǔn)確性可能并不可行，但安全人員仍需要盡一切努力從可靠且經(jīng)過驗(yàn)證的來源收集數(shù)據(jù)。在針對(duì)網(wǎng)絡(luò)攻擊的防御措施中，值得一提的是，在某些部分或整個(gè)人工智能系統(tǒng)中添加了具有自動(dòng)預(yù)防機(jī)制的隔離功能。
Deepfakes的力量
網(wǎng)絡(luò)犯罪分子還可以使用人工智能使其網(wǎng)絡(luò)攻擊行為或社交策略更加有效。人工智能可以提供黑客活動(dòng)的數(shù)據(jù)集，以研究哪種技術(shù)最有效。使用人工智能可以顯著改進(jìn)網(wǎng)絡(luò)犯罪分子當(dāng)前正在實(shí)施的所有策略。他們采用人工智能的另一個(gè)潛在領(lǐng)域包括識(shí)別軟件、應(yīng)用或網(wǎng)站代碼中的新缺陷。在這種情況下，人工智能系統(tǒng)將為他們提供一系列潛在的攻擊點(diǎn)，如同訓(xùn)練有素的獵犬一樣。
人們不要忘記Deepfakes帶來的影響，它可能是網(wǎng)絡(luò)犯罪分子利用社交軟件的一個(gè)前沿領(lǐng)域。例如2019年在英國發(fā)生的一件采用Deepfakes進(jìn)行詐騙的事件，當(dāng)時(shí)一家公司的財(cái)務(wù)人員成為一個(gè)精心設(shè)計(jì)的騙局的受害者，該騙局基于Deepfake音頻通話技術(shù)。使受害人相信自己正在與該公司的首席執(zhí)行官通話，于是毫不猶豫地根據(jù)其指令將25萬美元轉(zhuǎn)給網(wǎng)絡(luò)犯罪分子，毫無疑問，電話詐騙是采用Deepfake技術(shù)進(jìn)行不當(dāng)獲利的措施之一。
但是正如人們所看到的，Deepfakes顯然可以成功并令人信服地得以應(yīng)用。這名受害者當(dāng)時(shí)表示，他通過“輕微的德國口音”和“說話節(jié)奏”確認(rèn)了首席執(zhí)行官的聲音。如今制作Deepfakes音頻的過程非常簡單。網(wǎng)絡(luò)犯罪分子只需要采用機(jī)器學(xué)習(xí)技術(shù)即可克隆目標(biāo)人物的聲音，通常使用間諜軟件和設(shè)備，使他們可以收集目標(biāo)人物數(shù)小時(shí)的錄音。
他們能夠收集的數(shù)據(jù)越多，音頻文件的質(zhì)量就越好。實(shí)際上，語音克隆得越準(zhǔn)確，也就越有可能造成損害。一旦創(chuàng)建了語音模式，人工智能就開始“學(xué)習(xí)”模仿目標(biāo)的語音。然后使用所謂的生成性對(duì)手網(wǎng)絡(luò)(GAN)進(jìn)行改進(jìn)，通過多次嘗試，該算法能以指數(shù)級(jí)的速度改進(jìn)自身。
對(duì)于備受矚目的目標(biāo)人物而言，這不是一個(gè)好消息(例如老牌企業(yè)的首席執(zhí)行官)。他們的演講被在線記錄并通過社交媒體共享，而電話、訪談和日常對(duì)話的音頻和視頻也相對(duì)容易獲得。有了足夠的數(shù)據(jù)，Deepfake音頻文件所達(dá)到的準(zhǔn)確性水平令人震驚，網(wǎng)絡(luò)犯罪分子可以采用人工智能技術(shù)模仿想要說出的任何話語。
網(wǎng)絡(luò)釣魚的發(fā)展
當(dāng)然，網(wǎng)絡(luò)釣魚事件如今仍然非常猖獗，85%的組織發(fā)現(xiàn)自己已經(jīng)成為網(wǎng)絡(luò)攻擊目標(biāo)。然而，Deepfake音頻之所以能夠泛濫，一個(gè)主要原因是能夠規(guī)避大多數(shù)安全措施。另一方面，這些人工智能生成的調(diào)用完全依賴于人為錯(cuò)誤和輕信，這是它們成為潛在風(fēng)險(xiǎn)的原因。此外不要忽略這樣一個(gè)事實(shí)，即使是隨時(shí)使用的智能手機(jī)，也沒有人們想象的那么安全，那么不難看出網(wǎng)絡(luò)犯罪分子可以通過多種方式繞過安全防御措施。
目前網(wǎng)絡(luò)釣魚沒有大規(guī)模泛濫有兩大障礙。一是還沒有達(dá)到更高的成本效益比：一個(gè)發(fā)送釣魚電子郵件的僵尸網(wǎng)絡(luò)能夠在短時(shí)間內(nèi)發(fā)送數(shù)百萬封電子郵件。而Deepfake音頻需要一些時(shí)間來研究目標(biāo)和處理時(shí)間。而在這一段時(shí)間內(nèi)，傳統(tǒng)的網(wǎng)絡(luò)攻擊方法能夠產(chǎn)生更多的收益。二是盡管人工智能驅(qū)動(dòng)的網(wǎng)絡(luò)安全措施確實(shí)還處于試驗(yàn)階段，但已經(jīng)有一種有效的方法來對(duì)付這種威脅：如果用戶不確定真假，可以掛斷電話。
大多數(shù)Deepfake騙局都是使用VoIP帳戶來實(shí)施的，這個(gè)賬戶是網(wǎng)絡(luò)犯罪分子為了聯(lián)系目標(biāo)人物而創(chuàng)建的。而通過回?fù)茈娫挘繕?biāo)人物應(yīng)該能夠立即判斷他們是否在和真人交談。
如何從人工智能中受益以實(shí)現(xiàn)組織和個(gè)人安全?
對(duì)于人們來說，人工智能在安全方面帶來的也不完全是壞消息，人工智能可以非常有效地進(jìn)行網(wǎng)絡(luò)監(jiān)控和分析。這樣的計(jì)算系統(tǒng)已經(jīng)被證明在檢測(cè)標(biāo)準(zhǔn)行為和識(shí)別可能的異常方面出人意料地有效。例如，在分析服務(wù)器訪問日志或數(shù)據(jù)流量時(shí)，可以使用這種功能。通過提前檢測(cè)入侵，有更多的機(jī)會(huì)將網(wǎng)絡(luò)攻擊的破壞性降至最低。在最初的應(yīng)用中，讓人工智能系統(tǒng)報(bào)告異常情況，并提醒IT部門進(jìn)行進(jìn)一步調(diào)查可能是有用的。人工智能技術(shù)仍在不斷改進(jìn)，并且在不久的將來有可能擁有實(shí)時(shí)消除威脅和防止網(wǎng)絡(luò)攻擊的能力。鑒于公共和私營部門存在的網(wǎng)絡(luò)安全缺陷，人工智能系統(tǒng)可以實(shí)施其中一些監(jiān)督任務(wù)，讓組織的人員專注于解決復(fù)雜的問題。
隨著組織不斷努力削減人工成本，人工智能正變得越來越具有吸引力，并有望在不久的將來取代網(wǎng)絡(luò)安全人員。這種轉(zhuǎn)變將在結(jié)果和成本效率方面為組織帶來更多的好處。但那些明智的組織現(xiàn)在需要制定安全戰(zhàn)略，以降低使用了人工智能技術(shù)的網(wǎng)絡(luò)攻擊帶來的潛在風(fēng)險(xiǎn)。
新聞標(biāo)題：人工智能與網(wǎng)絡(luò)安全是一把雙刃劍
網(wǎng)址分享：http://www.dlmjj.cn/article/dhsisdh.html
