《人工智能與安全》

人工智能與安全

課程背景：
2017年3月，人工智能首次被寫(xiě)入《政府工作報(bào)告》，同年7月，國(guó)務(wù)院頒發(fā)《新一代人
工智能發(fā)展規(guī)劃》，提出了“三步走”的戰(zhàn)略目標(biāo)，宣布舉全國(guó)之力在2030年搶占人工智能
全球制高點(diǎn)。今天的中國(guó)社會(huì)，智能應(yīng)用已經(jīng)隨處可見(jiàn)，我們正處在智能化的社會(huì)之中
。
當(dāng)今人工智能科學(xué)更準(zhǔn)確的是指數(shù)據(jù)智能，在大數(shù)據(jù)時(shí)代人工智能技術(shù)應(yīng)用得到了非
速發(fā)展，無(wú)論是計(jì)算智能，還是感知智能，都已為產(chǎn)業(yè)界各類創(chuàng)新提供主要技術(shù)支撐，
甚至出現(xiàn)認(rèn)知智能技術(shù)的初級(jí)嘗試應(yīng)用。所以可以斷定，在當(dāng)今的中國(guó)產(chǎn)業(yè)界，不了解
大數(shù)據(jù)與人工智能的科技應(yīng)用，大概率會(huì)在競(jìng)爭(zhēng)中處于劣勢(shì)。
但是，我們也常常聽(tīng)身邊的企業(yè)家員表示出對(duì)智能類應(yīng)用的安全性擔(dān)憂，比較有代表
性的埃隆·馬斯克（Elon Musk）、史蒂芬·霍金（Stephen
Hawking）和比爾·蓋茨（Bill
Gates）都忌憚人工智能（以下簡(jiǎn)稱“AI”），并憂心忡忡地表示在不久的將來(lái)，AI會(huì)對(duì)人
類的生存構(gòu)成威脅。埃隆·馬斯克曾宣稱人工智能是人類文明持續(xù)存在所面臨的重大危機(jī)
。而為什么另一個(gè)同樣杰出的群體，包括馬克·扎克伯格（Mark
Zuckerberg）、吳恩達(dá)（Andrew Ng）和佩德羅·多明戈斯（Pedro
Domingos）在內(nèi)，又認(rèn)為“人工智能威脅論”給的理由太過(guò)牽強(qiáng)，幾乎不攻自破。扎克伯
格甚至稱那些鼓吹末日將至的人相當(dāng)不負(fù)責(zé)，當(dāng)今人工智能領(lǐng)域最偉大的人物之一吳恩
達(dá)亦表示，這種焦慮就像是擔(dān)憂“火星上的人口過(guò)?！保耆珱](méi)有必要……
本課程開(kāi)課的主要目的是面向非專業(yè)人士，尤其是產(chǎn)業(yè)界，從人工智能產(chǎn)生的背景、
基本原理、技術(shù)體系入手，摒棄社會(huì)上流行的各類帶有商業(yè)引導(dǎo)目的的內(nèi)容，通過(guò)大量
豐富案例作證，系統(tǒng)性講授人工智能及人工智能安全問(wèn)題，對(duì)非專業(yè)技術(shù)人員，能夠聽(tīng)
得明、學(xué)得會(huì)、用得好。在深度推進(jìn)產(chǎn)業(yè)智能化與企業(yè)智能化應(yīng)用的同時(shí)，對(duì)人工智能
技術(shù)應(yīng)用帶來(lái)的一系列安全問(wèn)題有更為全面的認(rèn)知與理解。本課程作為提升企業(yè)家數(shù)字
化生存能力素質(zhì)的重要組成部分。

課程收益：
● 厘清大數(shù)據(jù)、人工智能體系中的關(guān)鍵問(wèn)題；
● 熟悉人工智能行為體的分類及對(duì)應(yīng)安全問(wèn)題；
● 了解世界各國(guó)人工智能發(fā)展戰(zhàn)略規(guī)劃與安全倫理準(zhǔn)則；
● 熟悉社會(huì)常見(jiàn)的人工智能應(yīng)用，強(qiáng)化對(duì)智能的認(rèn)知；
● 熟悉掌握新興技術(shù)成熟度曲線，把握未來(lái)技術(shù)發(fā)展趨勢(shì)；
● 了解人工智能主要流派與基本原理、主流神經(jīng)網(wǎng)絡(luò)模型；
● 熟悉人工智能安體系與架構(gòu)及通用人工智能的發(fā)展趨勢(shì)。

課程時(shí)間：2天，6小時(shí)/天
課程對(duì)象：
● 創(chuàng)業(yè)者、企業(yè)負(fù)責(zé)人、企業(yè)創(chuàng)始團(tuán)隊(duì)、董事會(huì)成員
● 企業(yè)高級(jí)管理人員，總經(jīng)理、總工程師、副總經(jīng)理等；
● 渴望掌握新興技術(shù)價(jià)值落地的企業(yè)中層以上管理人員及工程師；
● 高校MBA、EMBA、DBA專業(yè)研究生；
● 地方政府中、高級(jí)管理干部及相關(guān)領(lǐng)域公務(wù)員；
● 國(guó)家“十四五”規(guī)劃中智能制造及戰(zhàn)略新興產(chǎn)業(yè)中相關(guān)人士。
課程方式：理論+案例+實(shí)操+演練
課程風(fēng)格：
源于實(shí)戰(zhàn)：以客戶需求驅(qū)動(dòng)的咨詢引導(dǎo)型培訓(xùn)，以最前沿科技和典型案例演練啟迪學(xué)員
；
邏輯性強(qiáng)：理論、實(shí)踐、研究成果高度結(jié)合，用通俗易懂的語(yǔ)言使各類學(xué)員聽(tīng)懂并掌握
；
深入淺出：現(xiàn)場(chǎng)教學(xué)既幽默風(fēng)趣又富有哲理，結(jié)合研究成果和實(shí)踐經(jīng)驗(yàn)進(jìn)行現(xiàn)身說(shuō)法；

價(jià)值度高：課程內(nèi)容經(jīng)過(guò)市場(chǎng)實(shí)戰(zhàn)打磨，是學(xué)員由外行變成內(nèi)行的知識(shí)利器；
方法論新：經(jīng)過(guò)專門面向非專業(yè)人士設(shè)計(jì),專業(yè)知識(shí)+刻意練習(xí)+行動(dòng)學(xué)習(xí)+問(wèn)題改善工作
坊,對(duì)不同學(xué)員的訴求一律耐心互動(dòng)，并能夠?yàn)榇罂蛻魧?shí)現(xiàn)授課與顧問(wèn)、工程服務(wù)相結(jié)合
。

課程大綱
導(dǎo)入1：現(xiàn)在是大數(shù)據(jù)時(shí)代，現(xiàn)在是人工智能時(shí)代
案例：“我的一天”
研討：(GP-
分組對(duì)抗記分點(diǎn))感受智能化，分組討論描述“你的一天”，并指出哪些應(yīng)用或名詞是和人
工智能緊密相關(guān)？（除老師事先講過(guò)的，答對(duì)一條記1分）
導(dǎo)入2：“人工智能威脅論”
案例：人工智能的技術(shù)發(fā)展，對(duì)人類來(lái)說(shuō)到底是生存還是毀滅？
研討：(GP-分組對(duì)抗記分點(diǎn))分組匯總每位同學(xué)的觀點(diǎn)，提交給老師。
備注：GP-為短時(shí)時(shí)間討論，一般不超過(guò)5分鐘，LGP為長(zhǎng)時(shí)間討論，一般在5-
20分鐘；GP活動(dòng)由老師根據(jù)現(xiàn)場(chǎng)情況發(fā)起或不發(fā)起，非固定活動(dòng)。下同。
第一講：大數(shù)據(jù)時(shí)代特征與人工智能國(guó)家戰(zhàn)略
一、從互聯(lián)網(wǎng)到大數(shù)據(jù)時(shí)代的演變過(guò)程
1. 從互聯(lián)網(wǎng)、Web2.0、移動(dòng)互聯(lián)網(wǎng)看人類在線化過(guò)程
2. 人類在線化過(guò)程與行為數(shù)據(jù)的關(guān)系
案例分析：以商業(yè)購(gòu)物場(chǎng)景為例，分析人類活動(dòng)的在線變化及其產(chǎn)生的行為數(shù)據(jù)
小組研討：(GP)分組設(shè)計(jì)其他場(chǎng)景,延伸到物聯(lián)傳感網(wǎng)，并總結(jié)，老師點(diǎn)評(píng)并打分
3. 大數(shù)據(jù)的來(lái)源與全球數(shù)增長(zhǎng)情況分析
4. 數(shù)據(jù)計(jì)量單位的換算
5. 5G的戰(zhàn)略地位與價(jià)值
6. 大數(shù)據(jù)的兩個(gè)重要特征
7. 大數(shù)據(jù)價(jià)值的現(xiàn)狀
二、國(guó)際與中國(guó)人工智能發(fā)展
1. 中國(guó)：人工智能的國(guó)家戰(zhàn)略與“智能+”
2. 世界各國(guó)人工智能發(fā)展對(duì)比分析
3. 解讀“十四五”規(guī)劃給我們的啟示
小組研討：(LGP)找出所在行業(yè)的有關(guān)人工智能方面的國(guó)家或地方政策規(guī)劃，分析原因與
機(jī)會(huì)

第二講：人工智能發(fā)展史
一、人工智能的起源
1. 人工智能產(chǎn)生的背景
2. 圖靈與圖靈測(cè)試
3. 達(dá)特茅斯會(huì)議與“人工智能”
二、人工智能的三次浪潮
1. 第一次人工智能浪潮：推理與探索
案例分析：計(jì)算機(jī)在使用“推理和探索”的興起與沒(méi)落
2. 第二次人工智能浪潮：知識(shí)工程
案例分析：專家系統(tǒng)的窘境與問(wèn)題
3. 我們正在第三次人工智能浪尖上：大數(shù)據(jù)與深度學(xué)習(xí)
案例分析：人工智能發(fā)展歷程中的里程碑事件

第三講：人工智能原理
一、人工智能定義與分類
1. 人工智能的定義與正確理解
2. 計(jì)算智能、感知智能與認(rèn)知智能
3. 人工智能的幾大門派其及技術(shù)發(fā)展方向
二、人工智能人才與知識(shí)體系
1. 學(xué)科領(lǐng)域交叉與滲透下的人工智能創(chuàng)新協(xié)同
2. 世界及中國(guó)人工智能類人才培養(yǎng)現(xiàn)狀
案例分析：中國(guó)某頂尖大學(xué)人工智能研究院體系及研究領(lǐng)域
3. 把握與跟蹤人工智能技術(shù)發(fā)展趨勢(shì)的方法
案例分析：深度分析Gartner曲線
實(shí)操演練：(LGP)依據(jù)現(xiàn)場(chǎng)給出的某人工智能應(yīng)用,依據(jù)Gartner曲線分析其技術(shù)發(fā)展規(guī)律
與特點(diǎn)
三、數(shù)據(jù)智能平臺(tái)技術(shù)體系
1. 大數(shù)據(jù)技術(shù)平臺(tái)架構(gòu)
2. 人工智能技術(shù)平臺(tái)架構(gòu)
3. 通用深度學(xué)習(xí)開(kāi)源框架與特點(diǎn)

第四講：常見(jiàn)深度學(xué)習(xí)模型與應(yīng)用
一、傳統(tǒng)數(shù)據(jù)模型與應(yīng)用
1. 常見(jiàn)傳統(tǒng)數(shù)據(jù)算法與模型
2. 常見(jiàn)傳統(tǒng)數(shù)據(jù)算法的應(yīng)用
二、深度神經(jīng)網(wǎng)絡(luò)(DNN)模型與應(yīng)用
1. DNN模型
2. DNN應(yīng)用場(chǎng)景：搜索排序、推薦排序
三、卷積神經(jīng)網(wǎng)絡(luò)(CNN)模型與應(yīng)用
1. CNN模型
2. CNN應(yīng)用場(chǎng)景：圖像識(shí)別、視頻分析
四、循環(huán)神經(jīng)網(wǎng)絡(luò)(RNN)模型與應(yīng)用
1. RNN模型
2. RNN應(yīng)用場(chǎng)景：語(yǔ)音識(shí)別、自然語(yǔ)言處理
案例分析：人機(jī)智力大戰(zhàn)的巔峰——阿爾法狗

第五講：機(jī)器人技術(shù)及其應(yīng)用原理（選講課程）
一、機(jī)器人概述
1. “robot”一詞的來(lái)源
2. 機(jī)器人定義與相關(guān)概念
3. 機(jī)器人發(fā)展歷程
4. 機(jī)器人分類
二、機(jī)器人基本原理及應(yīng)用
1. 機(jī)器人控制系統(tǒng)的基本結(jié)構(gòu)
2. 工業(yè)機(jī)器人
3. 農(nóng)業(yè)機(jī)器人
4. 醫(yī)療機(jī)器人
5. 服務(wù)機(jī)器人
6. 特種機(jī)器人
案例分析：機(jī)器人在工業(yè)、農(nóng)業(yè)、醫(yī)療等領(lǐng)域的應(yīng)用

第六講：人工智能與安全哲學(xué)
一、安全
1. 人類社會(huì)對(duì)安全的認(rèn)知與理解
2. 人工智能安全、人工智能與安全
二、通用人工智能安全的哲學(xué)命題
1. 技術(shù)革命視角下的人類四次紀(jì)元
2. 第四次紀(jì)元的不可控因素
3. 人工智能的安全命題
4．通用人工智能的三個(gè)哲學(xué)命題
小組研討：（LGP）基于哲學(xué)上的命題，分組討論形成各自主張。
第七講：人工智能產(chǎn)業(yè)生態(tài)與安全
一、人工智能產(chǎn)業(yè)生態(tài)
1. 人工智能應(yīng)用領(lǐng)域
2. AI芯片與視覺(jué)傳感器
3. AI通用技術(shù)
案例分析：主流機(jī)器視覺(jué)、語(yǔ)音識(shí)別、自然語(yǔ)言、知識(shí)圖譜應(yīng)用的市場(chǎng)與趨勢(shì)
二、狹義人工智能安全
1. 人工智能的安全體系
2. 人工智能的安全倫理概要
3. 人工智能安全對(duì)社會(huì)的沖擊
4. 人工智能安全VS網(wǎng)絡(luò)安全VS信息安全
案例分析1：全球首例自動(dòng)駕駛車輛撞死行人的案件
案例分析2：《2020年度全球十大人工智能治理事件》

第八講：人工智能內(nèi)生安全
一、數(shù)據(jù)安全
1. 數(shù)據(jù)投毒與反制
2. 對(duì)抗樣本攻擊與反制措施
3. 數(shù)據(jù)質(zhì)量與數(shù)據(jù)安全之間的管理問(wèn)題
4. 對(duì)產(chǎn)業(yè)界及管理者的啟示
案例分析1：深網(wǎng)視界曝出數(shù)據(jù)泄露事件
案例分析2：地下產(chǎn)業(yè)鏈之?dāng)?shù)據(jù)隱私市場(chǎng)
案例分析3：網(wǎng)上熱傳的幾家著名科技公司的安全事件解讀
二、算法與模式安全
1. 算法的可解釋性與安全
2. 模型存儲(chǔ)與管理的安全問(wèn)題
3. 開(kāi)源模型的安全問(wèn)題
4. 對(duì)產(chǎn)業(yè)界及管理者的啟示
案例分析1：一支激光筆是如何打敗了自動(dòng)駕駛？
案例分析2：醫(yī)療領(lǐng)域人工智能診斷技術(shù)應(yīng)用的尷尬
三、框架與運(yùn)行安全
1. 架框安全問(wèn)題
2. 主觀與客觀原因上的運(yùn)行安全與保障問(wèn)題
3. 對(duì)產(chǎn)業(yè)界及管理者的啟示
案例分析：幾起自動(dòng)駕駛車禍背后的安全分析
小組研討：（LGP）結(jié)合分組學(xué)員企業(yè)的情景，研討應(yīng)用人工智能內(nèi)生安全的思路。

第九講：人工智能衍生安全與倫理
一、人工智能衍生安全
1. 智能系統(tǒng)失誤引發(fā)的安全事故
案例分析1：當(dāng)自動(dòng)駕駛、智能機(jī)器人、智能音箱、醫(yī)療機(jī)器人失效后……
案例分析2：聊天機(jī)器人的偏激言論引發(fā)的群體影響
2. 人工智能行為體失控要素分析
案例分析：“機(jī)器人三定律”
3. 國(guó)際上預(yù)防人工智能技術(shù)失控的舉措
二、人工智能倫理
1. 人工智能體是否應(yīng)該賦予“人權(quán)”？
2. 通過(guò)使用人工智能的人權(quán)侵犯問(wèn)題
3. 人工智能是否能成為倫理主體
4. 人工智能的倫理責(zé)任問(wèn)題
案例分析：幾起自動(dòng)駕駛案件的責(zé)任追究
小組研討：(GP)現(xiàn)實(shí)生活或科幻電影中的“智能人”，及其引發(fā)倫理的故事關(guān)鍵詞。
三、人工智能倫理準(zhǔn)則
1. 世界各國(guó)關(guān)于人工智能技術(shù)發(fā)展的倫理準(zhǔn)則
2. 人工智能技術(shù)倫理準(zhǔn)則的共識(shí)性與爭(zhēng)議性
3. 我國(guó)專門提出人工智能倫理與法律的“三步走”規(guī)劃
案例分析：解讀《2020年度全球十大人工智能治理事件》的處理結(jié)果

結(jié)束語(yǔ)：人工智能安全的未來(lái)展望!

趙志強(qiáng)老師的其它課程