人工智慧時代下的數據安全治理

08-25

人工智慧時代下的數據安全治理

上周，小編 驚喜地 收到網路安全十餘年老兵——飛絮老師的投稿。大佬終於重出江湖了……

一、人工智能

人工智慧是一門以數學為基礎，涉及到計算機科學、生物學、心理學、語言學和哲學等的交叉類學科。

維基百科

人工智慧就是機器展現出的「智能」，即只要是某種機器，具有某種或某些「智能」的特徵或表現，都應該算作「人工智慧」。人工智慧三大核心要素：演算法、算力、數據。

根據中國電子技術標準化研究院的《人工智慧標準化白皮書》（2018版）（下載點擊 閱讀原文）闡述，人工智慧領域關鍵技術包括機器學習、知識圖譜、自然語言處理、計算機視覺、人機交互、生物特徵識別、虛擬現實/增強現實等。

其實，人工智慧已發展了半個多世紀，如今隨著計算能力飛速發展及硬體成本的不斷降低促使用人工智慧發展到了第三波浪潮。

2017年3月5日，「人工智慧」正式寫入2017政府工作報告，無人駕駛、個人助理、金融、電商、醫療、教育等各大領域大量應用了人工智慧。預計2030年全球將達7萬億美元規模的市場。

人工智慧和機器學習有望徹底改變很多行業，但它們也帶來了重大安全風險。

比如「演算法黑箱」或演算法不透明性將引發演算法安全管理困境，可能成為「隱形」惡意武器，操控決策致使演算法權力誘導個人行為、影響政府決策和司法判決。

劍橋分析助力特朗普總統競選、攜程差異化定價殺熟等一個個案例呈現在我們面前。

除了演算法、算力外，另一個核心因素是數據。實現人工智慧有兩個階段，即準備數據與訓練模型。數據準備工作量佔比達 70% 以上，但更重要的數據背後的人工，即數據預處理、模型選擇與參數調整。

二、數據安全治理

目前數據已成為資產、能源和基礎設施的關鍵要素，數據安全市場呈井噴之勢。

據中商產業研究院分析，2016-2020年中國數據安全市場規模年增速30%以上，預計2020年市場規模將超70億元。

理解「數據安全保護」的內涵，一般可以分為3個階梯式層次：數據安全、個人數據保護、國家層面的數據保護。

數據安全可以理解為信息或信息系統免受未經授權的訪問、使用、披露、破壞、修改、銷毀等。

目前數據安全面臨的挑戰如下：

著名的諮詢與研究機構Gartner在2018年5月發布了數據安全治理（Data Security Governance）框架，提供了一個如何通過數據保護和隱私聲明的平衡方法來實現實際的安全性。

數據安全治理不僅僅是工具或產品的解決方案，而是基於戰略、業務、應用、人員的安全和風險管理的有機整體，從管理制度到工具支撐，從上層管理架構到下層技術實現，採取的一系列適合組織數據生命周期的措施。

Gartner指出了從數據的加密、監控審計、防泄露、用戶身份證、用戶行為等環節入手是一個錯誤的實踐。

數據安全治理的最佳實踐是從考慮組織的經營戰略與策略、面臨的內外合規要求、整體的IT策略以及組織的安全風險容忍度開始，然後是對數據進行分級分類，再者是對不同級別的數據實行合理的安全手段。

我們可以設計從「安全監控評估、安全技術加固、安全治理服務」三位一體的數據安全保障體系。

同時，依據Gartner DSG的理念，在數據的全生命周期中，採用先從數據安全治理諮詢為入口的階梯式數據安全治理思路。詳細步驟如下圖所示：

註：紅色字體可大量應用人工智慧技術

三、人工智慧應用於數據安全治理

人工智慧在機器學習和自然語言處理方面的應用一直受到業界的關注。

依託人工智慧引擎，通過對業務數據的獲取、清洗、語義計算、數據挖掘、機器學習、知識圖譜、認知計算等技術，將快速促進數據安全保障體系完善。

應用機器學習、自然語言處理、和文本聚類分類技術，能對數據進行基於內容的實時精準分類分級，而數據的分類分級是數據安全治理的核心環節。

數據分類引擎已成功應用在郵件內容過濾、保密文件管理、知識挖掘、情報分析、反欺詐、電子發現和歸檔、數據防泄露等領域。利用人工智慧可實現對數據的「智」、「准」、「深」的識別、控制和價值挖掘。

然而，人工智慧需要海量的數據，人工智慧技術的進步取決於各種來源數據的可用性，如何確保這些數據的安全性與保證用戶數據的隱私性又是一個相生相伴的問題……

想看到更多像飛絮老師這樣的大佬們帶來的乾貨，請長按下文二維碼關注「世平信息」

杭州世平信息有限公司（簡稱「世平信息」），致力於智能化數據管理與應用的深入開拓和持續創新，為用戶提供數據安全、數據治理、數據共享和數據利用解決方案，幫助用戶切實把握大數據價值與信息安全。

Black Hat 2018 | 會議概覽+10個熱門議題