人工智能時代， AI安全防御“不容小覷”

來源:用戶上傳      作者:

　　加強人工智能安全防御需要從防止人工智能失控（AI Safety）、保證人工智能自身安全（AI Security）和將人工智能用于安全（AI for Security）推進。
　　創立丁?？萍嫉某跣摹獋b客夢
　　每位網絡安全人心中都有一個俠客夢，希望執劍闖江湖、行俠仗義。創業之初，我毅然選擇了安全行業。因為我相信，互聯網安全必將成為重中之重。我希望在浩瀚虛擬的世界中，手執正義之劍，應對惡意攻擊，為維護網絡空間清朗而戰。
　　起初，網絡攻擊只針對重點目標的核心資產。但是，隨著IT技術和互聯網的發展，之前不受重視的用戶信息、消費行為等信息成為核心數據。而隱私數據的泄露不僅會打擾個人的日常生活，甚至會造成巨大的經濟損失。在某酒店行業的用戶信息泄露事件中，犯罪分子利用泄露信息辦理了25張信用卡，對信息被泄露用戶的經濟與名譽造成了極大損害。
　　我在網絡安全行業深耕二十年后決定創業，希望創立一家將人工智能技術應用于安全領域的公司——丁牛科技。恰逢此時，AI技術已日漸成熟。將AI技術應用于網絡安全，一方面，用機器取代人工節省人力;另一方面，利用人工智能不斷自我學習、迭代演進、識別網絡攻擊、達成有效防御，為客戶提供更高效、更經濟、更穩定的安全防護。丁?？萍家浴癆I賦能安全”為使命，致力于幫助企業降本增效，提供持續高效、省心可靠的安全防御。但是，人工智能安全產品的研發，并非一蹴而就。人工智能安全產品的研發之路，充滿了艱辛。但無論經歷什么，丁?？萍既硕疾煌跣?、砥礪前行。目前，已承接多個國家級科技創新網絡安全專項并為來自政府、公安、通信、交通及互聯網等行業客戶提供安全保障，獲得客戶的高度肯定。
　　隨著人工智能技術的廣泛應用，其成果滲透到方方面面：智能手機、智能音箱、智能機器人……與此同時，這些人工智能行為體（以下簡稱“智能體”）的安全問題雖然受到重視，但安全事件仍頻發?？梢?，在人工智能迅猛發展的同時，安全隱患同樣不可忽視，必需加強人工智能自身的安全防御。
　　推進人工智能健康發展，需要三步安全加固方案
　　加強人工智能自身的安全防御，需要從防止人工智能失控、保證人工智能自身安全和將人工智能用于安全防御三個方面推進。丁?？萍颊谘邪l的智馭系列安全產品就是將人工智能用于安全防御。
　　AI Safety——給人工智能帶上“保險箍”
　　人工智能需要載體，而載體可以在無人類干預時按照硬編碼方式自主產生動作。
　　AI Security——“安全投入+算法+樣本”都要重視
　　隨著物聯網技術的蓬勃發展，“智能家居”日漸普及應用。但家用WIFI、路由器、機頂盒等IoT設備卻并不安全。因為IoT設備生產商為了方便部署和調試、降低成本，對這些設備設置了雷同的弱口令，為黑客的遠程攻擊和控制提供了便利。AI技術在算法方面無論如何嚴密，都可能存在錯誤。另外，人工智能主要依靠機器學習，需要大量的樣本。一旦樣本被污染，訓練出來的模型將會產生偏差。因此，建議AI廠商首先要提高安全防范意識，加大安全投入。從產品設計開始就要進行安全投入，在頂層設計和成本投入方面均做好安全考慮。其次，在算法方面不僅要考慮安全問題，還要考慮在極端情況下容錯問題。最后，需要高度重視樣本的純凈性和準確性，避免使用污染樣本。”
　　AI for security——丁?？萍季鸵獙⑷斯ぶ悄苡糜诎踩烙?
　　目前，越來越多的安全廠商開始關注如何將人工智能用于安全防御。傳統的漏洞挖掘與利用，主要基于安全專家的人工分析。受限于安全人員的專業水平及經驗，漏洞挖掘與利用方面尚存在耗時長、效率低、成本高等問題。
　　丁牛科技自主研發的人工智能自動化機器人，在去年舉辦的BCTF、“黃鶴杯”機器人網絡安全大賽等活動中嶄露頭角，都取得了不錯的成績。
　　同時，丁牛科技作為精準智馭安全提供商，正在研制一款針對Web應用攻擊的威脅檢測工具，希望監測來自網絡內外部的各類攻擊威脅，減少企業安全風險。
　　人工智能是天使，也是魔鬼。因此，我們在沉溺于它帶來的便利的同時，安全防御不容忽視。
轉載注明來源:http://www.hailuomaifang.com/1/view-14902840.htm