2020年3月31日 星期二

NIST 網路安全框架(Cybersecurity Framework)


Cybersecurity Framework
識別(Identify)
1           資產管理(ID. AM)識別和管理使組織能夠實現業務目標的資料,人員,設備,系統和設施,以及它們對組織目標和組織風險戰略的相對重要性。
1.1         ID.AM-1:清點組織內的實體設備和系統
1.2         ID.AM-2:清點組織內的軟體平台和應用系統
1.3         ID.AM-3:組織通信和資料流
1.4         ID.AM-4:外部信息系統分類
1.5         ID.AM-5:資源(例如,硬件,設備,數據,時間,人員和軟件)根據其分類,重要性和業務價值確定優先級
1.6         ID.AM-6:確定了整個員工隊伍和第三方利益相關者(例如供應商,客戶,合作夥伴)的網絡安全角色和職責
2           商業環境(ID.BE):了解組織的使命,目標,利益相關者和活動並確定其優先級;此信息用於通知網絡安全角色,職責和風險管理決策。
2.1         ID.BE-1:確定並傳達組織在供應鏈中的角色
2.2         ID.BE-2:確定並傳達組織在關鍵基礎架構及其行業中的地位
2.3         ID.BE-3:確定並傳達了組織任務,目標和活動的優先級
2.4         ID.BE-4:建立了提供關鍵服務的依賴關係和關鍵功能
2.5         ID.BE-5:針對所有操作狀態(例如在脅迫/攻擊,恢復期間,正常操作中)建立了支持關鍵服務交付的恢復能力要求
3           治理(ID.GV):了解用於管理和監視組織的法規,法律,風險,環境和運營要求的政策,程序和流程,並為網絡安全風險管理提供信息。
3.1         ID.GV-1:建立並傳達組織的網絡安全政策
3.2         ID.GV-2:網絡安全角色和職責與內部角色和外部合作夥伴進行協調並保持一致
3.3         ID.GV-3:了解並管理有關網絡安全的法律和法規要求,包括隱私和公民自由義務
3.4         ID.GV-4:治理和風險管理流程可解決網絡安全風險
4           風險評估(ID.RA):組織應了解組織運營(包括任務,職能,形像或聲譽),組織資產和個人面臨的網絡安全風險。
4.1         ID.RA-1:識別並記錄資產弱點
4.2         ID.RA-2:網絡威脅情報是從信息共享論壇和來源獲得的
4.3         ID.RA-3:識別並記錄內部和外部威脅
4.4         ID.RA-4:確定潛在的業務影響和可能性
4.5         ID.RA-5:威脅,漏洞,可能性和影響用於確定風險
4.6         ID.RA-6:確定風險回應並確定優先級
5           風險管理策略(ID.RM):確定了組織的優先級,約束,風險容忍度和假設,並用於支持運營風險決策。
5.1         ID.RM-1:風險管理流程被建立與管理,並由組織利害相關者同意之。
5.2         ID.RM-2:明確定義組織的風險承受能力
5.3         ID.RM-3:組織在關鍵基礎架構和特定行業的風險分析中的作用決定了風險承受能力的確定
6           供應鏈風險管理(ID.SC):建立組織的優先級,約束,風險容忍度和假設,並用於支持與管理供應鏈風險相關的風險決策。該組織已經建立並實施了識別,評估和管理供應鏈風險的流程。
6.1         ID.SC-1:網路供應鏈風險管理流程被定義、建立、評估與管理,同時由組織利害關係者同意之。(需求->評估->自行開發or委外開發or採購->系統分析->開發->設計-測試->上線->維護(變更管理、弱點管理)
6.2         ID.SC-2:供應商與第三方合作夥伴涉及的資訊系統、資訊元件與資訊服務應被識別與評估,並用於網路供應鏈風險評估流程中。(風險評估應包含委外服務所涉及的項目)
6.3         ID.SC-3:與供應商和第三方合作夥伴的合約用於實施適當的措施,以實現組織的網絡安全計劃和網絡供應鏈風險管理計劃的目標。(合約應有安全要求)
6.4         ID.SC-4:使用審核,測試結果或其他形式的評估對供應商和第三方合作夥伴進行例行評估,以確認他們是否履行合同義務。(委外稽核、技術檢測)
6.5         ID.SC-5:與供應商和第三方供應商一起進行回應和恢復計劃和測試。(還原演練)
防護(Protect)
7           身份管理,身份驗證和存取控制(PR.AC):對實體和邏輯資產及相關設施的存取僅限於授權用戶,流程和設備,並根據評估的未授權存取授權活動和交易的風險進行管理。
7.1         PR.AC-1:為授權的設備,用戶和過程發布,管理,驗證,註銷和審核身份和憑據
7.2         PR.AC-2:管理和保護對資產的實體存取
7.3         PR.AC-3:管理遠程存取。(內部員工、外部人員)
7.4         PR.AC-4:管理存取權限和授權,結合了最小特權和職責分離的原則
7.5         PR.AC-5:網絡完整性受到保護(例如,網絡隔離,網絡分段)
7.6         PR.AC-6:身份被證明並綁定到憑據,並在交互中聲明
7.7         PR.AC-7:對用戶,設備和其他資產進行身份驗證(例如,單因素,多因素),使其與交易風險(例如,個人的安全和隱私風險以及其他組織風險)相對應
8           意識和培訓(PR.AT):向組織的人員和合作夥伴提供網絡安全意識教育,並受過培訓,以按照相關政策,程序和協議履行與網絡安全有關的職責。
8.1         PR.AT-1:所有用戶都已了解並接受了培訓
8.2         PR.AT-2:特權用戶了解他們的角色和職責
8.3         PR.AT-3:第三方利益相關者(例如供應商,客戶,合作夥伴)了解他們的角色和職責
8.4         PR.AT-4:高級管理人員了解他們的角色和職責
8.5         PR.AT-5:實體和網絡安全人員了解其角色和職責
9           數據安全性(PR.DS):根據組織的風險策略對信息和記錄(數據)進行管理,以保護信息的機密性,完整性和可用性。
9.1         PR.DS-1:靜態數據受保護。(資料在rest狀態)
9.2         PR.DS-2:傳輸中的數據受到保護
9.3         PR.DS-3:在清除,傳輸和處理期間對資產進行管理
9.4         PR.DS-4:有足夠的容量來確保可用性
9.5         PR.DS-5:實施了防止數據洩漏的保護措施
9.6         PR.DS-6:完整性檢查機制用於驗證軟件,固件和信息的完整性
9.7         PR.DS-7:開發和測試環境與生產環境是分開的
9.8         PR.DS-8:完整性檢查機制用於驗證硬件完整性
10       信息保護流程和程序(PR.IP):維護安全策略(用於解決目的,範圍,角色,職責,管理承諾以及組織實體之間的協調),流程和過程,並用於管理信息系統和資產的保護。
10.1     PR.IP-1:結合安全原則(例如最低功能性概念)創建和維護信息技術/工業控制系統的基準配置
10.2     PR.IP-2:實現了用於管理系統的系統開發生命週期
10.3     PR.IP-3:組態變更控制過程設置
10.4     PR.IP-4:進行,維護和測試信息的備份
10.5     PR.IP-5:滿足有關組織資產的實際運營環境的政策和法規
10.6     PR.IP-6:數據已根據政策銷毀
10.7     PR.IP-7:保護過程得到改善
10.8     PR.IP-8:共享保護技術的有效性
10.9     PR.IP-9:已經制定並管理了回應計劃(事件回應和業務連續性)和恢復計劃(事件恢復和災難恢復)
10.10 PR.IP-10:測試了回應和恢復計劃
10.11 PR.IP-11:網絡安全已包含在人力資源實踐中(例如,取消配置,人員篩選)
10.12 PR.IP-12:制定並實施了漏洞管理計劃
11       維護(PR.MA):按照政策和程序進行工業控制和信息系統組件的維護和修理。
11.1     PR.MA-1:使用批准和控制的工具執行和記錄組織資產的維護和修理
11.2     PR.MA-2:組織資產的遠程維護以防止未授權存取的方式被批准,記錄和執行
12       保護技術(PR.PT):對技術安全解決方案進行管理,以確保系統和資產的安全性和彈性,並與相關的政策,程序和協議保持一致。
12.1     PR.PT-1:根據政策確定,記錄,實施和審查審核/日誌記錄
12.2     PR.PT-2:可移動媒體受到保護,並且根據政策限制其使用
12.3     PR.PT-3:最低功能性原則是通過配置系統以僅提供基本功能而納入的
12.4     PR.PT-4:網絡通信和控制措施受到保護
12.5     PR.PT-5:實施了機制(例如,失效保護,負載平衡,熱插拔)以在正常和不利情況下達到彈性要求
偵測(Detect)
13       異常和事件(DE.AE):檢測到異常活動並了解事件的潛在影響。
13.1     DE.AE-1:建立和管理用戶和系統的網絡操作和預期數據流的基準。(正常值與異常值)
13.2     DE.AE-2:分析檢測到的事件以了解攻擊目標和方法。(Log分析)
13.3     DE.AE-3:從多個來源和傳感器收集並關聯事件數據。(SOC,SIEM,Virus Center,Firewall,IDS,AP System Log,Network log..)
13.4     DE.AE-4:確定事件的影響層級
13.5     DE.AE-5:確定了事件警報閾值。(資訊資產,資訊服務..)
14       安全連續監視(DE.CM):對信息系統和資產進行監視,以識別網絡安全事件並驗證保護措施的有效性。
14.1     DE.CM-1:監視網絡以檢測潛在的網絡安全事件
14.2     DE.CM-2:監視實體環境以檢測潛在的網絡安全事件
14.3     DE.CM-3:監視人員活動以檢測潛在的網絡安全事件
14.4     DE.CM-4:檢測到惡意代碼
14.5     DE.CM-5:檢測到未經授權存取的移動代碼(Mobile code:technologies include, for example, Java, JavaScript, ActiveX, Postscript,PDF, Shockwave movies, Flash animations, and VBScript.)
14.6     DE.CM-6:監視外部服務提供商的活動以檢測潛在的網絡安全事件
14.7     DE.CM-7:監視未授權人員,連接,設備和軟件
14.8     DE.CM-8:執行弱點掃描
15       檢測過程(DE.DP):維護和測試檢測過程和程序,以確保對異常事件的意識。
15.1     DE.DP-1:明確規定了偵查的角色和職責以確保責任制
15.2     DE.DP-2:檢測活動符合所有適用要求
15.3     DE.DP-3:檢測過程經過測試
15.4     DE.DP-4:通信事件檢測信息
15.5     DE.DP-5:檢測過程不斷改進
回應(Respond)
16       回應計劃(RS.RP):執行並維護回應流程和過程,以確保對檢測到的網絡安全事件做出回應。
16.1     RS.RP-1:在事件發生期間或之後執行回應計劃
17       溝通(RS.CO):回應活動與內部和外部利益相關者進行協調(例如,執法機構的外部支持)。
17.1     RS.CO-1:需要回應時,人員知道他們的角色和操作順序
17.2     RS.CO-2:報告的事件符合既定標準
17.3     RS.CO-3:信息共享與回應計劃一致
17.4     RS.CO-4:與利益相關者的協調與回應計劃一致
17.5     RS.CO-5:與外部利益相關者進行自願信息共享,以實現更廣泛的網絡安全態勢感知
18       分析(RS.AN):進行分析以確保有效回應並支持恢復活動。
18.1     RS.AN-1:研究調查來自偵測系統的通知
18.2     RS.AN-2:了解事件的影響
18.3     RS.AN-3:進行鑑識取證
18.4     RS.AN-4:事件分類與回應計劃一致
18.5     RS.AN-5:建立了流程以接收,分析和回應從內部和外部來源(例如內部測試,安全公告或安全研究人員)披露給組織的漏洞
19       減緩(RS.MI):執行活動是為了防止事件擴展,減輕其影響並解決事件。
19.1     RS.MI-1:包含事件
19.2     RS.MI-2:事故得到緩解
19.3     RS.MI-3:新發現的漏洞已得到緩解或記錄為可接受的風險
20       改進(RS.IM):通過吸收從當前和以前的檢測/回應活動中學到的經驗教訓,改進組織的回應活動。
20.1     RS.IM-1:應對計劃應吸取教訓
20.2     RS.IM-2:更新了回應策略
回復(Recover)
21       恢復計劃(RC.RP):執行並維護恢復過程和程序,以確保恢復受網絡安全事件影響的系統或資產。
21.1     RC.RP-1:在網絡安全事件期間或之後執行恢復計劃
22       改進(RC.IM):通過將汲取的教訓納入未來的活動中來改進恢復計劃和流程。
22.1     RC.IM-1:恢復計劃結合了經驗教訓
22.2     RC.IM-2:更新了恢復策略
23       通信(RC.CO):恢復活動與內部和外部各方(例如,協調中心,Internet服務提供商,攻擊系統的所有者,受害者,其他CSIRT和供應商)進行協調。
23.1     RC.CO-1:管理公共關係
23.2     RC.CO-2:事故後聲譽得以修復
23.3     RC.CO-3:將恢復活動傳達給內部和外部利益相關者以及執行和管理團隊

2020年2月11日 星期二

武漢疫情對全球供應鏈的影響


資訊系統在供應鏈中扮演重要的角色,此次重大災情影響了包括人力、生產、採購、物流、銷售、市場等整體環節,如何善用資訊化能降低對企業的衝擊,的確是蠻大的挑戰,畢竟現在全球大企業的生產基地在中國占比很高,而中國又是最大疫區,在勞力密集的生產結構,少了人工就直接降低了生產力,反之,自動化占比高雖不影響生產,但在採購,配送是否能夠順暢也是一項問題,因此風險管理至關重要,從風險分析中訂定出短中長期策略,以因應此次危機。

武漢肺炎的疫情越演越烈,且蔓延全球,許多中國工廠因復工禁令已延遲開工,再加上交通限制影響物流,全球供應鏈遭受衝擊,面臨供貨不足的風險。市調機構Gartner近日發布了一份觀察報告,探討疫情對全球供應鏈造成的影響,以及向供應鏈領導者提出不同期間的因應建議。供應鏈需要可衡量關鍵風險指標的框架,針對可控和可預見的不確定因素,包含合規性、勞動力、材料、生產能力和財務,制定管理方案,來監控疫情對其價值鏈造成的影響,以做好準備。Gartner向直接參與材料採購和供應鏈服務的供應鏈領導者,提出風險管理方案的建議,以短期、中期和長期三個時間段劃分。

Gartner以5大面向探討疫情對全球供應鏈帶來的影響。

首先是材料,受災情影響的地區生產的材料或成品,將無法供應或出現短缺情況,同樣地,需經過災情地區運輸的材料或成品也受到影響。

其次是勞動力,白領和藍領勞動階級可能因確診感染,或是接觸患者需受隔離,而無法工作,將使企業勞動力出現不足的情況。疫情的不確定性使工廠面臨人力短缺的困境,Gartner表示,勞動力至少下降2成,導致產量和產能下滑。

第三為採購面向,企業人員的行動若受交通管制措施限制,僅能於特定範圍內活動,會限制企業開發、考察和檢視新業務或項目及經營業務的能力。Gartner表示,成本控制會變得更為複雜,企業需面對難以預測的採購價格差異。

第四項為物流,現有物流樞紐和供應網路可能會面臨容納能力和可用性的限制,這代表即使有材料,他們也可能會被困在某處。Gartner特別指出,當多個產業同時遭遇材料被困在某處時,欲尋找替代運輸路徑和方式將變得更為不易。

第五項則是消費者方面,民眾因擔心出外會接觸到病毒,更為謹慎外出購買商品。對此,Gartner認為,會有許多企業轉向於網路銷售商品,這會對物流網路構成挑戰。

供應鏈需以短、中、長分三個時間段,訂定風險管理方案
供應鏈需要可衡量關鍵風險指標的框架,針對可控和可預見的不確定因素,包含合規性、勞動力、材料、生產能力和財務,制定管理方案,來監控疫情對其價值鏈造成的影響,以做好準備。Gartner向直接參與材料採購和供應鏈服務的供應鏈領導者,提出風險管理方案的建議,以短期、中期和長期三個時間段劃分。

疫情發生當月
第一點,供應鏈領導者應該為受疫情影響的供應鏈,制定高風險中斷監測和應對計畫,並且將制定該計畫放在第一位,同時確保計畫的資訊透明化,以快速掌握全貌。

第二,將身處欠缺完善醫療體系國家的供應商和子供應商,列為高風險權重分配的對象。並在評估消費者支出的變化後,確保庫存在可取得之地,不受物流網路中斷影響。

最後一點則是與公司法務共同審查合約內容,了解無法如期交貨會產生的財務損失,同時,與人資部門合作,提供身於受疫情影響地區的員工協助,並重新評估出差政策。

疫情發生後的1至3個月
首先,聚焦供需關係平衡,必要時增加緩衝庫存量,因應無法預測的物流和材料波動性。

其次,評估開發多家供應商的機會,來確保原料的供應力。

第三點,與內部利益關係人和關鍵供應商合作,建立統一的風險管理方法,來監控潛在材料和生產力短缺的狀況,並做好相對應的準備。

長期的定義則為3個月或以上
第一,當企業風險應對能力無法緩解任何中斷狀況時,應該優先處理具風險的物資以降低風險。

審查新產品導入的流程,找尋或開發可替代的材料來源,以及可替代的產品或材料物流路線,進而讓價值鏈多樣化,同時,分析新產品的上市後,數量、品質與市場變化等因素可能會帶來的連鎖影響。

文章來源:iThome




2020年1月14日 星期二

AI(人工智慧)與資訊安全


AI演化過程

AI 演化的進程可分為弱 AI(Weak AI — 特 別 型)、強 AI(Strong AI — 通用型)、及超級 AI(Super intelligence AI — 超級型)(圖 1),目前仍在弱 AI 的 發展階段。弱 AI 時代,只能針對特別型的應用開發 AI 模型,如只會下圍棋的 Alpha Go,通常以監督式分類方式來訓練模型,而且只能做特殊任務的工作。接 著,AI 可能進化到通用型的強 AI,可透過無監督式分 類方式自我學習,不須經由人類訓練即可學習執行一 項任務,此時 AI 已具多元學習、推理、規劃和表達等 人類的邏輯思考能力。最終,AI 會進化到一個具有超 級智能的機器 — 超級 AI(Super intelligence AI),會自 己思考並解決問題,也具有發展出優於人類的智慧的 可能性。 

AI 的組成元素可粗分三大項,如圖 2,第一是巨量資料,包括標記及未標記資料;第二是深度學習, 包括演算法及軟硬體;第三是應用情境,包括各種 AI 的應用與各領域專業知識,應用的範圍涵蓋教育、服 務、農業、製造、金融、醫療等人類可能觸及之各種 生活情境。

資料標記 機器學習是實現人工智慧的一種方法,透過大量 的資料訓練讓電腦掌握資料特徵,透過類神經網路建立預測模型,而後以訓練過的模型進行推論,AI 模型建立流程如圖 3 所示。建立模型的流程中,有個相當重要的步驟,就是需要「教」電腦看懂真實世界的 現象,這個步驟稱為標記(Label)。人腦有錯綜複雜 的神經系統,對事物有極高的學習能力,縱使非過目不忘,兩三次的訓練就能足以初步認知一件東西。對於電腦而言,機器學習則需透過千遍萬遍的學習,才能使電腦認識一種物件,這種訓練過程建立在「餵」 給電腦正確資料的基礎上,即所謂經過人類標記的資料,故言「人工智慧建立在工人智慧之上」。標記這工作既基礎,但也費時又無趣,有時還需要許多專家協 做才能蒐集到足夠的樣本,在中國大陸號稱有百萬人員從事標記的工作,有趣的是這些人在準備教會電腦識物以便取代自己的工作。


物件偵測 物件偵測(Object Detection)也是常見的簡單AI 模型。影像分類能夠分出不同物件的類別,但無法得知多目標數量、位置與分類成果等資訊,而這正是物件偵測可提供的資訊。透過目前熱門的即時物件偵測 系統 Yolo(You Only Look Once)提供的資料庫與訓練模型,可簡單的進行物件化辨識,一般的物件偵測成果如圖 8 所示,影像為本研究團隊的研究室與研究生之影像,可分出多物件類別與位置,物件偵測可應用 的情境相當多元,如人臉辨識、身份辨識、安控等, 都是透過物件辨識的方式訓練出的模型應用情境。


雲端運算與邊緣運算

建立資料集並訓練出模型後,便可以輸入未經標記的資料,透過模型進行推論。以分類的案例來說, 新的影像透過模型辨識即可推論出可能所屬的類別。 單純的情境可以在單一電腦內完成,但複雜的情境則需透過雲端處理,因為雲端伺服器通常有較大的資料庫、多樣的訓練模組、及高性能的電腦運算能力,一 般雲端架構可如圖 9 所示。

將已訓練完成的模型放置於雲端伺服器並針對接口之訊息保持監聽(Listen)狀態,透過網路與應用程式介面(API)的方式,將上傳的影像進行推論,推論完成之結果可回應給使用者端。手機、無人機、移 動裝置及 IOT 的邊緣端感測器負責影像資料蒐集,雲端伺服器負責大量運算,此集中運算方式無需在使用端機器上執行複雜、高負載的機器學習程式與訓練模型,為目前最常用的 AI 型態。 透過 AI 雲端運算架構,能夠於雲端伺服器進行集 中式運算,但是需透過網路做資料傳輸,因此受限於網路頻寬與延遲。若需做更迅速反應、穩定獲取運算成 果、及高度資料安全等要求,則須往分散式運算架構 發展,導入邊緣運算(Edge computing)技術與微型化的AI 晶片開發,可將訓練好的模型植入於手機、無人機、移動裝置及 IOT 的設備,達到快速、穩定、安全的目的,並降低對雲端的依賴及負擔。例如,無人機巡航飛行時,若須判定當下鏡頭影像類別時,可有兩種做法:一是透過網路傳回雲端伺服器解算後,將成果回傳回無人機端,並控制無人機做出對應的反應,此法為雲端化概念,需要維持穩定的網路傳輸速率與伺服器通 暢。二是於無人機端進行即時解算,直接可將解算成果 之對應指令給無人機做出立即反應,此法即為邊緣運算 概念。目前受限於邊緣運算能力,目前只能處理較簡單 之模型,惟隨著 AI 晶片之發展,邊緣運算之應用將會 愈發多元與蓬勃,尤其適合台灣擁有晶片設計與製造能 力且缺乏世界級資訊服務公司的小國家。



人工智慧」的八類新興數位風險

「人工智慧」的八類新興數位風險
未來科技將大幅度應用「大-人-機(大數據、人工智慧、機器人等)」等明星技術,其中「人工智慧」更扮演著核心的角色。原本這些智能應用的未來,應該是無限想像的美好,但是在現實應用上遭遇的挑戰,遠比傳統企業擔心的「駭客攻擊」更多。詳細分析與人工智慧演算法相關的科技災難,並分析其本身可能遭遇的風險面向,至少包含以下八個面向: 
(1) 機器學習樣本偏失或不足
(2) 設計者人為錯誤或道德偏失
(3) 演算法設計過程中的技術缺陷
(4) 使用者未了解演算法的限制,所產生的過度依賴與誤用情境流程瑕疵
(5) 演算法遭內外部攻擊者惡意破壞
(6) 人工智慧演算結果濫用,導致侵犯當事人隱私權
(7) 決策者對分析結果的錯誤解讀或誤用
(8) 演算效能不足導致無法完成達成運作目標

人工智慧的科技風險治理心法
人工智慧的風險治理重點與傳統產業及技術有非常大的不同,特別應該針對人工智慧的演算法與大數據風險,建立風險及法遵整合治理架構。以下為KPMG建議的三大風險治理心法: 
(1) 維持技術與風險間的平衡:人工智慧應用在研發與準備期間,除了建立邊做邊學的環境與空間外,研發創新期間,也應該要著手建構對應的風險管理框架。e.g.AI系統的內部與外部風險因子
(2) 了解演算法的假設與限制:人工智慧快速運算海量的結構與非結構化大數據資料,演算法基於假設前提並可能受到原始資料影響,必須由研究團隊謹慎判別與分析 。e.g.演算法誤判的風險
(3) 考量人工介入必要與時機:短期內人工智慧仍難以取代最終決策的「責任」,因此人工智慧的應用場景應配合相關法規與應用規範,設計必要的人工介入條件與時機,而非全數仰賴人工智慧的運算結果進行決策。e.g.自動駕駛之風險,誤判造成生命財產損失

人工智慧需要的嶄新數位風險治理服務
未來的「人工智慧」發展,除了在營運環境、商業模式、技術創新等面向需持續突破外,因應全新的「數位風險」的對策與控制措施,亦是迎向智能未來的重大挑戰。而新世代的數位風險治理情境,非常可能必須涵蓋大數據、人工智慧、物聯網等多項新科技,從決定科技應用情境與治理範圍、新興科技應用風險評估、融入隱私與安全於演算法設計過程,到風險評估、管理、審驗等治理工程等步驟,將是企業能夠成功將今日之「智」,轉換成為明日之「能」的重要關鍵!


IBM 研究人員在 2018 年美國黑帽駭客大會展示的新式概念驗證攻擊程式 - DeepLocker,更證實了 AI 惡意程式已不再只是紙上談兵。在 Crowdstrike 發佈的 2018 全球威脅報告中即指出,透過暗網(Dark web),越來越多的攻擊工具能夠以相當親民的價格取得;他們也預期,在未來數年之內, AI 驅動的入侵工具就能以令人可接受的價格取得。
至此,人工智慧之於資安的關係已有一相當清楚的輪廓。我們單純以角色與標的物來思考的話,那麼要將 AI 發展到資安產業,至少需要仔細思考以下四個命題:

(1) 攻擊方如何利用 AI 對資訊系統及機敏資訊進行攻擊或竊取
(2) 攻擊方如何攻擊以 AI 模型為核心的資訊系統或服務
(3) 防護方如何利用 AI 防衛資訊系統或機敏資訊
(4) 防護方如何防衛以 AI 模型為核心的資訊系統與服務




AI白皮書

AI有巨大的潛能改變人類命運,但同樣存在巨大的安全風險。這種安全風險存在的根本原因是AI演算法設計之初普遍未考慮相關的安全威脅,使得AI演算法的判斷結果容易被惡意攻擊者影響,導致AI系統判斷失準。在工業、醫療、交通、監控等關鍵領域,安全危害尤為巨大;如果AI系統被惡意攻擊,輕則造成財產損失,重則威脅人身安全。

AI安全風險不僅僅存在於理論分析,並且真實的存在于現今各種AI應用中。例如攻擊者通過修改惡意檔繞開惡意檔檢測或惡意流量檢測等基於AI的檢測工具;加入簡單的噪音,致使家中的語音控制系統成功調用惡意應用;刻意修改終端回傳的資料或刻意與聊天機器人進行某些惡意對話,導致後端AI系統預測錯誤;在交通指示牌或其他車輛上貼上或塗上一些小標記,致使自動駕駛車輛的判斷錯誤。

應對上述AI安全風險,AI系統在設計上面臨五大安全挑戰:
 
(1) 軟硬體的安全:在軟體及硬體層面,包括應用、模型、平臺和晶片,編碼都可能存在漏洞或後門;攻擊者能夠利用這些漏洞或後門實施高級攻擊。在AI模型層面上,攻擊者同樣可能在模型中植入後門並實施高級攻擊;由於AI模型的不可解釋性,在模型中植入的惡意後門難以被檢測。

(2) 資料完整性:在資料層面,攻擊者能夠在訓練階段摻入惡意資料,影響AI模型推理能力;攻擊者同樣可以在判斷階段對要判斷的樣本加入少量噪音,刻意改變判斷結果。

(3) 模型保密性:在模型參數層面,服務提供者往往只希望提供模型查詢服務,而不希望曝露自己訓練的模型;但通過多次查詢,攻擊者能夠構建出一個相似的模型,進而獲得模型的相關資訊。

(4) 模型健全性:訓練模型時的樣本往往覆蓋性不足,使得模型健全性不強;模型面對惡意樣本時,無法給出正確的判斷結果。

(5)   數據隱私:在使用者提供訓練資料的場景下,攻擊者能夠通過反復查詢訓練好的模型獲得使用者的隱私資訊。


人工智慧常用開發語言

【Python】

Python由於簡單易用,是人工智慧領域中使用最廣泛的程式語言之一,它可以無縫地與數據結構和其他常用的AI算法一起使用。
Python之所以時候AI項目,其實也是基於Python的很多有用的庫都可以在AI中使用,如Numpy提供科學的計算能力,Scypy的高級計算和Pybrain的機器學習。另外,Python有大量的在線資源,所以學習曲線也不會特別陡峭。

參考教程:https://edu.csdn.net/courses/o280_s355_k?utm_source=ttxk

【Go】

Go語言是谷歌2009發布的第二款開源程式語言。

Go語言專門針對多處理器系統應用程式的編程進行了優化,使用Go編譯的程序可以媲美C或C++代碼的速度,而且更加安全、支持並行進程。

參考教程:https://edu.csdn.net/courses/o280_s360_k?utm_source=ttxk

Java也是AI項目的一個很好的選擇。它是一種面向對象的程式語言,專注於提供AI項目上所需的所有高級功能,它是可移植的,並且提供了內置的垃圾回收。另外Java社區也是一個加分項,完善豐富的社區生態可以幫助開發人員隨時隨地查詢和解決遇到的問題。

對於AI項目來說,算法幾乎是靈魂,無論是搜索算法、自然語言處理算法還是神經網絡,Java都可以提供一種簡單的編碼算法。另外,Java的擴展性也是AI項目必備的功能之一。

【C ++】

C ++是世界上速度最快的程式語言,其在硬體層面上的交流能力使開發人員能夠改進程序執行時間。 C ++對於時間很敏感,這對於AI項目是非常有用的,例如,搜尋引擎可以廣泛使用C ++。
在AI項目中,C++可用於統計,如神經網絡。另外算法也可以在C ++被廣泛地快速執行,遊戲中的AI主要用C ++編碼,以便更快的執行和響應時間。

參考教程:https://edu.csdn.net/courses/o280_s281_k?utm_source=ttxk

【Lisp】

Lisp因其出色的原型設計能力和對符號表達式的支持在AI領域嶄露頭角。LISP作為因應人工智慧而設計的語言,是第一個聲明式系內函數式程序設計語言,有別於命令式系內過程式的C、Fortran和面向對象的Java、C#等結構化程序設計語言。
Lisp語言因其可用性和符號結構而主要用於機器學習/ ILP子領域。著名的AI專家彼得·諾維奇(Peter Norvig)在其《Artificial Intelligence: A modern approach》一書中,詳細解釋了為什麼Lisp是AI開發的頂級程式語言之一,感興趣的朋友可以自行查看。

【Prolog】

Prolog與Lisp在可用性方面旗鼓相當,據《Prolog Programming for Artificial Intelligence》一文介紹,Prolog一種邏輯程式語言,主要是對一些基本機制進行編程,對於AI編程十分有效,例如它提供模式匹配,自動回溯和基於樹的數據結構化機制。結合這些機制可以為AI項目提供一個靈活的框架。
Prolog廣泛應用於AI的 expert系統,也可用於醫療項目的工作。

註:人工智慧指導教程參考地址:https://edu.csdn.net/courses/o5329_k?utm_source=ttxk

人工智慧應用監管指南(Guidance for Regulation of Artificial Intelligence Applications)

(1).AI設計,開發,部署和操作流程時代理商應特別注意控制以確保機密性,完整性和可用性
(2).AI系統處理,存儲和傳輸的信息時代理商應給予更多考慮確保系統彈性和防止不良行為的方法
(3)AI系統的弱點,包括AI操作帶來的網絡安全風險,以及針對受監管實體的AI技術進行AI對抗性使用
(4).評估或運用人工智慧政策,代理機構應注意任何潛在的安全和保障風險,以及可能存在惡意部署和使用AI應用程序的風險。
(5).AI的監管和非監管方法應基於一致的風險評估和風險管理在各個機構和各種機構中的應用技術。
(6).基於風險應該使用方法確定哪些風險可以接受以及哪些風險存在造成不可接受的損害的可能性,或損害的預期成本大於預期收益的可能性。
(7).代理商應對風險評估保持透明,並重新評估其假設並在適當的時間間隔得出結論,以加強問責制。
(8).如果AI工具失敗或為此成功,後果的程度和性質可以幫助告知適合識別和緩解的監管工作的水平和類型風險。

2020年1月8日 星期三

物聯網(iOT)安全


無論網絡安全管理員是否準備就緒“物聯網”(IoT)已經是企業的一部分。由於網絡技術的進步,對連接設備的控制已成為企業專業人員的積極威脅。
為了防止無數的網絡恐怖,安全團隊必須認識到利用物聯網的方式。該報告揭示了為什麼必須已經將保護物聯網列入議程的五個原因。在每個主題中,將闡述對更多網絡意識和監督的需求。五個不同的點中的每一個都有助於說明該空間的整體情況。
在這份完整的市場報告中,標題為“物聯網安全成為重點的5個原因”,  您將學到:
  1. 為何物聯網是"新常態",為什麼它可以被視為"易燃"空間
  2. 安全原則應如何伴隨設備開發和管理
  3. 行業變化的方式以及如何加強防禦
根據Gartner的數據,去年使用了84億個互聯“物”。儘管這些設備帶來了便利和便利,但它們也大大擴展了攻擊面。網絡罪犯已經開始研究可以為自己的目的操縱IoT,2018年以IoT為中心進行了多次攻擊。在2019年,無疑是時候開始更好地了解這些設備帶來的風險了。
請參閱相關內容:“ 實施基於風險的網絡安全框架 ”
在2019年網絡安全數字峰會期間,TraceSecurity的首席運營官Ryan Castle討論瞭如何理解家庭與企業之間模糊的界限。換句話說,“客戶和員工使用連接的設備有什麼風險?”
首先,Castle仔細研究了什麼是IoT –根據其定義可以連接到互聯網的非標準計算設備。那可能是通過傳感器,家用設備,智能家居設備和打印機。接下來,他解釋了在安全性和連接設備方面仍然存在的相同之處,以及使確定正確的安全策略更具挑戰性的差異。其中包括:
  1. 使用壽命更長:物聯網設備的使用壽命往往比標準工作站和服務器更長。
  2. 這些設備的安全補丁程序不太常見。
  3. 通常情況下,嵌入式OS和專有軟件通常不進行修補,維護或嚴格檢查安全性。
那麼企業能做什麼?
通過安全的IoT端點緩解DDoS攻擊,了解和填補由IoT造成的安全漏洞,也是Castle討論的主題。最後,他通過讓與會者知道他們可以如何處理物聯網帶來的威脅來結束會議:
  1. iOT盤點(知道自己所擁有的只是成功的一半)Take inventory (knowing what you have is half the battle)
  2. 風險評估(Risk assessment)
  3. 網段區分/實體隔離(Segmentation/segregation)
  4. 密碼管理(Password management)
  5. 安全配置(Secure configuration)
  6. 滲透測試(Pen testing)
  7. 事件反映計劃(Incident response plan)
  8. 夥伴(Partne)

  資訊安全管理重要流程 資訊安全管理包含眾多工作,組織中有多少資訊系統,資訊設備,提供哪些資訊服務,自行開發或是委外開發時之系統之安全性,如何確保服務的正常運作及機敏資料的安全,當有資安事件時,是否有適當人員來處置與緊急應變,要如何監控資訊環境,這些工作需要有系統的規劃,每項工...