<p class="ql-block"><b>10月28日,收看了離退休干部網(wǎng)上專題報(bào)告會,由中國工程院院士、鵬程實(shí)驗(yàn)室主任高 文作《前沿人工智能技術(shù)》的報(bào)告。對人工智能知識以及世界和我國人工智能技術(shù)歷史、現(xiàn)狀和發(fā)展方向有初步了解。當(dāng)今新時(shí)代,人工智能技術(shù)不斷波及經(jīng)濟(jì)、社會和人的健康等各個(gè)領(lǐng)域,每個(gè)人都得適應(yīng)和逐步利用,得學(xué)習(xí),得融入其中。同時(shí)了解了人工智能面臨技術(shù)及其開發(fā)和倫理方面的風(fēng)險(xiǎn)安全問題,人們都得關(guān)注、警惕和預(yù)防。</b></p><p class="ql-block">收看的同時(shí),截屏了報(bào)告投影,編輯制作本美篇,收藏以深入學(xué)習(xí)。順此聊以分享。</p> <p class="ql-block"><b style="color:rgb(22, 126, 251); font-size:22px;">提 綱</b></p> <p class="ql-block"><b style="color:rgb(176, 79, 187);">?2018年10月31日下午,十九屆中央政治局第九次集體學(xué)習(xí)</b></p><p class="ql-block"><b style="color:rgb(176, 79, 187);">?2025年4月25日下午,二十屆中央政治局第二十次集體學(xué)習(xí)</b></p> <p class="ql-block"><b style="font-size:20px; color:rgb(176, 79, 187);">兩次中央政治局集體學(xué)習(xí)的相同點(diǎn)</b></p><p class="ql-block"><b style="color:rgb(22, 126, 251);">*強(qiáng)調(diào)人工智能是新一輪科技革命和產(chǎn)業(yè)變革的戰(zhàn)略性技術(shù),具有重大影響。</b></p><p class="ql-block"><b style="color:rgb(22, 126, 251);">*強(qiáng)調(diào)國家戰(zhàn)略支持,加強(qiáng)人才培養(yǎng)、完善基礎(chǔ)設(shè)施、推動產(chǎn)學(xué)研結(jié)合。</b></p><p class="ql-block"><b style="color:rgb(22, 126, 251);">*要求加強(qiáng)基礎(chǔ)理論研究、突破關(guān)鍵核心技術(shù),確保自主可控。強(qiáng)調(diào)人工智能與產(chǎn)業(yè)融合,賦能經(jīng)濟(jì)發(fā)展和社會治理。</b></p><p class="ql-block"><b style="color:rgb(22, 126, 251);">*關(guān)注人工智能的潛在風(fēng)險(xiǎn),要求加強(qiáng)法律法規(guī)和倫理規(guī)范建設(shè)。</b></p> <p class="ql-block"><b style="font-size:20px; color:rgb(176, 79, 187);">兩次中央政治局集體學(xué)習(xí)的不同點(diǎn)</b></p><p class="ql-block"><b style="font-size:20px; color:rgb(176, 79, 187);"><i> 主要任務(wù)</i></b><i> </i></p><p class="ql-block"><b style="color:rgb(22, 126, 251);">2018年10月31日</b></p><p class="ql-block">加強(qiáng)領(lǐng)導(dǎo)、做好規(guī)劃、明確任務(wù)、<b>夯實(shí)基礎(chǔ)</b>,推動人工智能健康發(fā)展。 </p><p class="ql-block"><b style="color:rgb(22, 126, 251); font-size:20px;">2025年4月25日</b></p><p class="ql-block">堅(jiān)持自立自強(qiáng)、<b>突出應(yīng)用導(dǎo)向</b>、推動人工智能健康有序發(fā)展。 </p><p class="ql-block"><b style="color:rgb(176, 79, 187); font-size:20px;"><i> 發(fā)展階段 </i></b></p><p class="ql-block"><b style="color:rgb(22, 126, 251);">2018年10月31日</b></p><p class="ql-block">以核心技術(shù)為主攻方向,<b>加強(qiáng)基礎(chǔ)理論研究</b>,在人工智能發(fā)展方向取得突破。 </p><p class="ql-block"><b style="color:rgb(22, 126, 251);">2025年4月25日</b></p><p class="ql-block">強(qiáng)調(diào)人工智能技術(shù)<b>自主可控、應(yīng)用落地、賦能應(yīng)用</b>、完善人工智能<b>監(jiān)管體制機(jī)制</b>。</p><p class="ql-block"><b style="font-size:20px; color:rgb(176, 79, 187);"><i> 核心任務(wù) </i></b></p><p class="ql-block"><b style="color:rgb(22, 126, 251);">2018年10月31日</b></p><p class="ql-block">強(qiáng)調(diào)原創(chuàng)能力、關(guān)鍵共性技術(shù)體系、<b>研究與建設(shè)智能經(jīng)濟(jì)形態(tài)</b>。 </p><p class="ql-block"><b style="color:rgb(22, 126, 251);">2025年4月25日</b></p><p class="ql-block">強(qiáng)調(diào)科研范式<b>變革、產(chǎn)業(yè)創(chuàng)新、算力基礎(chǔ)設(shè)施、國際合作</b>。 </p><p class="ql-block"><b style="font-size:20px; color:rgb(176, 79, 187);"><i> 風(fēng)險(xiǎn)應(yīng)對 </i></b></p><p class="ql-block"><b style="color:rgb(22, 126, 251);">2018年10月31日</b></p><p class="ql-block">提出<b>潛在風(fēng)險(xiǎn)研判和防范</b>。 </p><p class="ql-block"><b style="color:rgb(22, 126, 251);">2025年4月25日</b></p><p class="ql-block"><b>明確要求制定法律法規(guī)</b>、倫理準(zhǔn)則,建立監(jiān)測預(yù)警體系,確保人工智能安全、可靠、可控。</p><p class="ql-block"><b style="font-size:20px; color:rgb(176, 79, 187);"><i> 政策導(dǎo)向 </i></b></p><p class="ql-block"><b style="color:rgb(22, 126, 251);">2018年10月31日</b></p><p class="ql-block"><b>加強(qiáng)統(tǒng)籌協(xié)調(diào),加大政策支持</b>,形成工作合力。 </p><p class="ql-block"><b style="color:rgb(22, 126, 251);">2025年4月25日</b></p><p class="ql-block"><b>綜合運(yùn)用各類政策,做好科技金融文章</b>;推進(jìn)人 工智能全學(xué)段教育和全社會通識教育;<b>完善科研保障、職業(yè)支持和人才評價(jià)機(jī)制</b>。</p><p class="ql-block"><b style="font-size:20px; color:rgb(176, 79, 187);"><i> 國際合作 </i></b></p><p class="ql-block"><b style="color:rgb(22, 126, 251);">2018年10月31日</b></p><p class="ql-block">未提及 。</p><p class="ql-block"><b style="color:rgb(22, 126, 251); font-size:18px;">2025年4月25日</b></p><p class="ql-block"><b>廣泛開展人工智能國際合作</b>,為彌合全球智能鴻溝作出中國貢獻(xiàn),推動形成具有廣泛共識的<b>全球治理框架和標(biāo)準(zhǔn)規(guī)范</b>。</p> <p class="ql-block"><b style="font-size:22px; color:rgb(176, 79, 187);">諾貝爾獎(jiǎng)如何產(chǎn)生?</b></p><p class="ql-block"><b style="color:rgb(22, 126, 251); font-size:20px;">提名委員推薦可能候選人</b></p><p class="ql-block"><b style="color:rgb(57, 181, 74);">領(lǐng)域評委會列出幾個(gè)優(yōu)先方向</b></p><p class="ql-block"><b>2015年,生理學(xué)或醫(yī)學(xué)獎(jiǎng)評委會,將抗瘧疾藥物列為優(yōu)先方向之一</b></p><p class="ql-block"><b>2024年,物理學(xué)、化學(xué),都把AI作為優(yōu)先方向之一</b></p><p class="ql-block"><b style="color:rgb(57, 181, 74); font-size:18px;">尋找合適的候選人</b></p> <p class="ql-block"><b style="font-size:22px; color:rgb(176, 79, 187);">2024年,是諾貝爾獎(jiǎng)AI元年?</b></p><p class="ql-block"><b style="font-size:20px; color:rgb(22, 126, 251);">諾貝爾獎(jiǎng)史第一次,將物理學(xué)獎(jiǎng)與化學(xué)獎(jiǎng)均頒給了人工智能專家</b></p><p class="ql-block"><b style="font-size:20px; color:rgb(1, 1, 1);">?*10月8日,2024年諾貝爾物理學(xué)獎(jiǎng)授予美國普林斯頓大學(xué)教授</b><b style="font-size:20px; color:rgb(255, 138, 0);">約翰·霍普菲爾德</b><b style="font-size:20px; color:rgb(1, 1, 1);">和加拿大多倫多大學(xué)教授</b><b style="font-size:20px; color:rgb(255, 138, 0);">杰弗里·辛頓</b><b style="font-size:20px; color:rgb(1, 1, 1);">,以表彰他們通過人工神經(jīng)網(wǎng)絡(luò)實(shí)現(xiàn)機(jī)器學(xué)習(xí)而做出的基礎(chǔ)性發(fā)現(xiàn)和發(fā)明。</b></p><p class="ql-block"><b style="font-size:20px; color:rgb(1, 1, 1);">*10月9日,2024年諾貝爾化學(xué)獎(jiǎng)授予了三名科學(xué)家。其中,一半授予美國華盛頓大學(xué)的</b><b style="font-size:20px; color:rgb(255, 138, 0);">大衛(wèi)·貝克</b><b style="font-size:20px; color:rgb(1, 1, 1);">,以表彰其在</b><b style="font-size:20px; color:rgb(255, 138, 0);">計(jì)算蛋白質(zhì)設(shè)計(jì)</b><b style="font-size:20px; color:rgb(1, 1, 1);">方面的貢獻(xiàn);另一半則共同授予英國倫敦</b><b style="font-size:20px; color:rgb(255, 138, 0);">人工智能公司谷歌Deep Mind公司</b><b style="font-size:20px; color:rgb(1, 1, 1);">的</b><b style="font-size:20px; color:rgb(255, 138, 0);">丹米斯·哈薩比斯和約翰·喬普</b><b style="font-size:20px; color:rgb(1, 1, 1);">,以表彰其在</b><b style="font-size:20px; color:rgb(255, 138, 0);">蛋白質(zhì)結(jié)構(gòu)預(yù)測</b><b style="font-size:20px; color:rgb(1, 1, 1);">方面的貢獻(xiàn)。</b></p> <p class="ql-block"><b style="color:rgb(176, 79, 187); font-size:20px;">早在1978年,諾貝爾獎(jiǎng)就給了人工智能專家</b></p><p class="ql-block"><b>*1978年,赫伯特·西蒙(HerbertA.Simon, 1916-2001年)因?yàn)椤坝邢蘩硇哉f”和“決策理論”獲得諾貝爾經(jīng)濟(jì)學(xué)獎(jiǎng)</b></p><p class="ql-block"><b>*西蒙教授曾獲得1975年的圖靈獎(jiǎng), “以表彰他對人工智能、人類認(rèn)知心理學(xué)和表處理的基本貢獻(xiàn)”,由此設(shè)計(jì)了基于邏輯推理的通用問題求解器GPS,可以應(yīng)用于經(jīng)濟(jì)組織決策,因此就和經(jīng)濟(jì)學(xué)發(fā)生了關(guān)聯(lián)</b></p> <p class="ql-block"><b style="color:rgb(176, 79, 187);">為什么物理學(xué)獎(jiǎng)是Hopfield和Hinton?</b></p><p class="ql-block"><b>*Hinton獲得了2018年圖靈獎(jiǎng)(3位獲獎(jiǎng)人之一),他是生物物理學(xué)家</b></p><p class="ql-block"><b>*還有兩位呢?他們不是物理學(xué)家</b></p> <p class="ql-block"><b style="color:rgb(176, 79, 187);">關(guān)鍵證據(jù):ImageNet比賽 IMAGENET</b></p><p class="ql-block"><b>*lmageNet 在2007年由斯坦福大學(xué)李飛飛教授提出,是利用互聯(lián)網(wǎng)眾包的方式建成的大規(guī)模圖像數(shù)據(jù)庫,其中含有超過1000萬張經(jīng)過標(biāo)注的互聯(lián)網(wǎng)圖像,超過兩萬種圖像類別,比如人、車、猴子、狗、落日等等。</b></p><p class="ql-block"><b>o李飛飛和她的學(xué)生利用ImageNet數(shù)據(jù)庫組織了大規(guī)模視覺識別挑戰(zhàn)賽“ILSVRC”。</b></p><p class="ql-block"><span style="color:rgb(1, 1, 1);">o競賽自2010年開始舉辦,全世界團(tuán)隊(duì)使用各種深度學(xué)習(xí)模型來解決ImageNet數(shù)據(jù)集上的分類任務(wù)。</span></p><p class="ql-block">*競賽聚焦于圖像分類、物體檢測和圖像定位等計(jì)算機(jī)視覺問題,旨在推動圖像識別技術(shù)的進(jìn)展和發(fā)展。</p> <p class="ql-block"><b style="color:rgb(176, 79, 187); font-size:20px;">AlexNet: 深度神經(jīng)網(wǎng)絡(luò)應(yīng)用的“第一滴血”</b></p><p class="ql-block"><b>2012年,獲得第一名的隊(duì)是辛頓的學(xué)生Alex,使用的是稱為AlexNet的八層神經(jīng)網(wǎng)絡(luò),錯(cuò)誤率是16.3%,一下子性能提高了10%左右,震驚賽場,讓大家對深度神經(jīng)網(wǎng)絡(luò)刮目相看。</b></p><p class="ql-block">歷屆ILSVRC冠軍錯(cuò)誤率:</p> <p class="ql-block"><b style="font-size:20px; color:rgb(176, 79, 187);">諾貝爾物理學(xué)獎(jiǎng)選定Hopfield和Hinton的邏輯</b></p><p class="ql-block">*2006年,發(fā)表了作為本輪人工智能起點(diǎn)的論文,但是真正引起全世界關(guān)注的,是在ImageNet大賽中,2012年AlexNet第一次獲得第一名,比第二名成績高出10%,被學(xué)術(shù)界稱為深度神經(jīng)網(wǎng)絡(luò)應(yīng)用的“第一滴血”,但Alex自己不足以獲獎(jiǎng)。</p><p class="ql-block">*從Alex往前找,是Alex的導(dǎo)師Hinton,他在1986年關(guān)于誤差逆?zhèn)鞑P網(wǎng)絡(luò)的論文,是神經(jīng)網(wǎng)絡(luò)學(xué)科內(nèi)公認(rèn)的最重要論文,有獲獎(jiǎng)理由,但是還不是最原始的。</p><p class="ql-block">*再從Hinton的工作往前找,就是Hopfield的工作,他本身是統(tǒng)計(jì)物理學(xué)出身,他的神經(jīng)網(wǎng)絡(luò)模型又完全屬于統(tǒng)計(jì)物理范疇。</p><p class="ql-block">*于是,就選定了他倆!</p> <p class="ql-block"><b style="color:rgb(176, 79, 187);">歷史的回溯:AlexNet-玻爾茲曼機(jī)-Hopfield網(wǎng)絡(luò)</b></p> <p class="ql-block"><b style="font-size:20px; color:rgb(176, 79, 187);">為什么化學(xué)獎(jiǎng)是給Baker,Hassabis和Jumper?</b></p><p class="ql-block"><b>Hassabis的DeepMind,AlaphGo打敗圍棋世界冠軍</b></p><p class="ql-block"><b>Hassabis的AlaphFold1 (2018),Hassabis和Jumper的AlaphFold2(2020),解決了蛋白質(zhì)折疊預(yù)測這個(gè)困擾了生物科學(xué)界50年的難題</b></p> <p class="ql-block"><b style="font-size:20px; color:rgb(176, 79, 187);">CASP (國際蛋白質(zhì)結(jié)構(gòu)預(yù)測競賽):用計(jì)算機(jī)解析蛋白質(zhì)</b></p><p class="ql-block"><b>靠實(shí)驗(yàn)方法來解析所有蛋白質(zhì)結(jié)構(gòu),困難極大。科學(xué)家們一直嘗試?yán)@過實(shí)驗(yàn),直接通過計(jì)算來精確預(yù)測蛋白質(zhì)序列三維結(jié)構(gòu)的方法。1994年,馬里蘭大學(xué)的John Moult 教授等人發(fā)起了CASP大賽,每兩年舉行一次。</b></p> <p class="ql-block"><b style="color:rgb(176, 79, 187);">AI實(shí)現(xiàn)蛋白質(zhì)結(jié)構(gòu)預(yù)測半個(gè)世紀(jì)的難題</b></p> <p class="ql-block"><b style="font-size:20px; color:rgb(176, 79, 187);">諾貝爾化學(xué)獎(jiǎng)選定Baker、Hassabis和Jumper的邏輯是什么?</b></p><p class="ql-block">*本輪人工智能在科學(xué)方面的高光時(shí)刻是AlphaFold1和AlphaFold2,通過CASP比賽,解決了困擾生物學(xué)界50年的蛋白質(zhì)合成預(yù)測難題;</p><p class="ql-block">*但是Hassabis和Jumper,既年輕又不是典型化學(xué)家,往前查,找到了計(jì)算蛋白質(zhì)設(shè)計(jì)的鼻祖大衛(wèi)·貝克教授;</p><p class="ql-block">*于是,就選定了他們?nèi)?</p> <p class="ql-block"><b style="font-size:22px; color:rgb(176, 79, 187);">人工智能的思想起源:圖靈測試</b></p><p class="ql-block"><b style="font-size:20px;"> 1950年,圖靈提出“</b><b style="font-size:20px; color:rgb(22, 126, 251);">圖靈測試</b><b style="font-size:20px;">”--如果機(jī)器5分鐘內(nèi)回答出人類測試者提出的一系列問題,且超過30%的回答讓測試者誤認(rèn)為是人類所答,則認(rèn)為機(jī)器具有智能。</b></p><p class="ql-block"><b style="font-size:20px;"> </b><b style="font-size:20px; color:rgb(22, 126, 251);">1956年達(dá)特茅斯會議上</b><b style="font-size:20px;">,麥卡錫、明斯基、羅徹斯特和香農(nóng)等首次提出“</b><b style="font-size:20px; color:rgb(22, 126, 251);">人工智能</b><b style="font-size:20px;">”這一術(shù)語,確立人工智能作為一門科學(xué)的任務(wù)和完整路徑,標(biāo)志了“人工智能”的正式誕生。</b></p> <p class="ql-block"><b style="font-size:22px;">感知、認(rèn)知、學(xué)習(xí)、推理與決策是人工智能發(fā)展的核心</b></p> <p class="ql-block"><b style="font-size:20px; color:rgb(22, 126, 251);">圖靈與圖靈碗</b></p> <p class="ql-block"><b style="color:rgb(176, 79, 187); font-size:20px;">人工智能發(fā)展階段</b></p><p class="ql-block"><b>世界人工智能發(fā)展歷程,歷經(jīng)60余年(1956年至今)</b></p><p class="ql-block"><b style="color:rgb(22, 126, 251); font-size:20px;">三個(gè)階段</b></p><p class="ql-block"><b style="color:rgb(57, 181, 74); font-size:20px;">*1956-1976年,基于符號邏輯的推理證明階段</b></p><p class="ql-block"><b style="color:rgb(57, 181, 74); font-size:20px;">*1976-2006年,基于人工規(guī)則的專家系統(tǒng)階段</b></p><p class="ql-block"><b style="color:rgb(57, 181, 74); font-size:20px;">*2006年至今,大數(shù)據(jù)驅(qū)動的深度神經(jīng)網(wǎng)絡(luò)階段</b></p> <p class="ql-block"><b style="font-size:22px; color:rgb(237, 35, 8);"><i>第一階段</i></b><b style="font-size:22px; color:rgb(176, 79, 187);">:基于符號邏輯的推理證明階段</b></p><p class="ql-block"><b style="font-size:20px;">1956-1976年,主要技術(shù)與工具:</b></p><p class="ql-block"><b style="color:rgb(22, 126, 251);">邏輯運(yùn)算</b></p><p class="ql-block"><b>又稱布爾運(yùn)算。布爾用數(shù)學(xué)方法研究邏輯問題,成功地建立了邏輯演算,用等式表示判斷,把推理看作等式的變換。</b></p><p class="ql-block"><b style="color:rgb(255, 138, 0); font-size:22px;"><i>技術(shù)與工具</i></b></p><p class="ql-block"><b style="color:rgb(22, 126, 251);">演繹推理</b></p><p class="ql-block"><b>演繹推理就是從一般性的前提出發(fā),通過推導(dǎo)即“演繹”,得出具體陳述或個(gè)別結(jié)論的過程。</b></p><p class="ql-block"><br></p><p class="ql-block"><b style="color:rgb(22, 126, 251);">三段論</b></p><p class="ql-block"><b>由兩個(gè)含有一個(gè)共同項(xiàng)的性質(zhì)判斷作前提,得出一個(gè)新的性質(zhì)判斷為結(jié)論的演繹推理過程。</b></p><p class="ql-block"><b style="color:rgb(255, 138, 0); font-size:22px;"><i>技術(shù)與工具</i></b></p><p class="ql-block"><b style="color:rgb(22, 126, 251);">邏輯編程語言Lisp、Prolog</b></p><p class="ql-block"><b>建立在邏輯學(xué)的理論基礎(chǔ)之上,大量應(yīng)用于人工智能研究,可以用來建造專家系統(tǒng)、自然語言理解、智能知識庫等。</b></p> <p class="ql-block"><b style="font-size:22px; color:rgb(176, 79, 187);">這一階段的主要進(jìn)展(邏輯推理)</b></p><p class="ql-block"><b style="font-size:22px;">定理證明</b></p><p class="ql-block"><b style="font-size:20px; color:rgb(22, 126, 251);"><i>1956年</i></b> CMU的LT程序證明了數(shù)學(xué)家羅素(Russel)所著《數(shù)學(xué)原理》第二章的38條定理;牛頓、萊布尼茲發(fā)明微積分。</p><p class="ql-block"><b style="font-size:20px; color:rgb(22, 126, 251);"><i>1959年</i></b> 洛克菲勒大學(xué)教授王浩使用“王算法”,證明了《數(shù)學(xué)原理》全部350條定理。 </p><p class="ql-block"><b style="font-size:20px; color:rgb(22, 126, 251);"><i>1963年 </i></b>CMU改進(jìn)的LT程序證明了《數(shù)學(xué)原理》第二章全部52條定理,該程序其后被改進(jìn)成GPS。</p><p class="ql-block"><b style="font-size:22px;">研究重點(diǎn)</b></p><p class="ql-block"><b style="color:rgb(255, 138, 0);"><u>規(guī)則表達(dá)</u></b> <b style="color:rgb(255, 138, 0);"><u>規(guī)則生成</u> <u>謂詞演算 知識獲取</u> </b></p><p class="ql-block"><b style="color:rgb(255, 138, 0);"><u>搜索算法</u> <u>啟發(fā)式策略</u></b></p> <p class="ql-block"><b style="font-size:22px; color:rgb(237, 35, 8);"><i>第二階段</i></b><b style="font-size:22px; color:rgb(176, 79, 187);">:基于人工規(guī)則的專家系統(tǒng)階段</b></p><p class="ql-block"><b style="font-size:20px;">1976-2006年,主要技術(shù)與工具:</b></p><p class="ql-block"><b style="color:rgb(22, 126, 251);">邏輯推理上升為專家系統(tǒng)、知識工程</b></p><p class="ql-block"><span style="color:rgb(22, 126, 251);">大規(guī)模邏輯推理與知識圖譜建設(shè)</span><b style="color:rgb(22, 126, 251);">試錯(cuò)</b></p><p class="ql-block"><span style="color:rgb(22, 126, 251);">大規(guī)模邏輯推理嘗試</span></p><p class="ql-block"><span style="color:rgb(22, 126, 251);">知識圖譜建設(shè)</span></p><p class="ql-block"><b style="font-size:22px; color:rgb(255, 138, 0);"><i>技術(shù)與工具</i></b></p><p class="ql-block"><b style="font-size:18px; color:rgb(22, 126, 251);">神經(jīng)元網(wǎng)絡(luò)BP算法解決的學(xué)習(xí)收斂性問題</b></p><p class="ql-block"><span style="color:rgb(22, 126, 251); font-size:20px;">分類與模式識別?</span></p><p class="ql-block"><span style="color:rgb(22, 126, 251);">英文字符識別</span></p><p class="ql-block"><span style="color:rgb(22, 126, 251);">?漢字字符識別?</span></p><p class="ql-block"><span style="color:rgb(22, 126, 251);">目標(biāo)識別(軍事目標(biāo)、民用目標(biāo))圖像診斷?</span></p> <p class="ql-block"><b style="color:rgb(255, 138, 0); font-size:22px;">專家系統(tǒng)三十年</b></p><p class="ql-block"><br></p><p class="ql-block"><b style="color:rgb(22, 126, 251);">基于邏輯推理的專家系統(tǒng) </b></p><p class="ql-block"><b>醫(yī)療診斷專家系統(tǒng)</b></p><p class="ql-block"><b><span class="ql-cursor">?</span>故障診斷專家系統(tǒng)</b></p><p class="ql-block"><b>農(nóng)業(yè)專家系統(tǒng)</b></p><p class="ql-block"><b>機(jī)器翻譯專家系統(tǒng)</b></p><p class="ql-block"><b>...</b></p><p class="ql-block"><br></p><p class="ql-block"><b style="color:rgb(22, 126, 251);">?基于神經(jīng)元網(wǎng)絡(luò)的專家系統(tǒng)</b></p><p class="ql-block"><b>字符識別專家系統(tǒng)</b></p><p class="ql-block"><b>手寫漢字識別專家系統(tǒng)</b></p><p class="ql-block"><b>語音識別專家系統(tǒng)</b></p><p class="ql-block"><b>...</b></p> <p class="ql-block"><b style="font-size:22px; color:rgb(237, 35, 8);"><i>第三階段</i></b><b style="font-size:22px; color:rgb(176, 79, 187);">:大數(shù)據(jù)驅(qū)動的深度神經(jīng)網(wǎng)絡(luò)階段</b></p><p class="ql-block"><br></p><p class="ql-block"><b style="font-size:20px; color:rgb(22, 126, 251);">2006年至今,主要技術(shù)與工具:</b></p><p class="ql-block"><b style="font-size:20px; color:rgb(1, 1, 1);">深度學(xué)習(xí)算法</b></p><p class="ql-block"><span style="font-size:20px; color:rgb(1, 1, 1);">演化算法優(yōu)化</span></p><p class="ql-block"><span style="font-size:20px; color:rgb(1, 1, 1);">應(yīng)用創(chuàng)新</span></p><p class="ql-block"><b style="font-size:20px; color:rgb(1, 1, 1);">?計(jì)算能力提升</b></p><p class="ql-block"><span style="font-size:20px; color:rgb(1, 1, 1);">處理器性能顯著提升</span></p><p class="ql-block"><span style="font-size:20px; color:rgb(1, 1, 1);">高性能計(jì)算快速發(fā)展</span></p><p class="ql-block"><span style="font-size:20px; color:rgb(1, 1, 1);">?云計(jì)算/并行處理技術(shù)</span></p><p class="ql-block"><span style="font-size:20px; color:rgb(1, 1, 1);">GPU/FPGA專用加速卡發(fā)展</span></p><p class="ql-block"><br></p><p class="ql-block"><b style="font-size:22px; color:rgb(255, 138, 0);"><i>技術(shù)與工具</i></b></p><p class="ql-block"><br></p><p class="ql-block"><b style="font-size:20px; color:rgb(1, 1, 1);">海量大數(shù)據(jù)支撐</b></p><p class="ql-block"><span style="font-size:20px; color:rgb(1, 1, 1);">互聯(lián)網(wǎng)基礎(chǔ)設(shè)施建設(shè)</span></p><p class="ql-block"><span style="font-size:20px; color:rgb(1, 1, 1);">移動互聯(lián)網(wǎng)快速發(fā)展</span></p><p class="ql-block"><span style="font-size:20px; color:rgb(1, 1, 1);">網(wǎng)絡(luò)應(yīng)用爆發(fā)增長</span></p><p class="ql-block"><span style="font-size:20px; color:rgb(1, 1, 1);">物聯(lián)網(wǎng)技術(shù)成熟?.</span></p> <p class="ql-block"><b style="font-size:22px; color:rgb(255, 138, 0);">第三階段:大數(shù)據(jù)驅(qū)動的深度神經(jīng)網(wǎng)絡(luò)階段</b></p><p class="ql-block"><b style="font-size:20px;">這個(gè)階段由于算法、算力、大數(shù)據(jù)的共同發(fā)力,推動人工智能的研究重心</b></p><p class="ql-block">從如何“制造”智能</p><p class="ql-block">轉(zhuǎn)移到如何“習(xí)得”智能</p> <p class="ql-block"><b style="font-size:20px; color:rgb(176, 79, 187);">Geoffrey Hinton(辛頓)簡介</b></p><p class="ql-block"><b>1970年劍橋大學(xué)心理學(xué)學(xué)士</b></p><p class="ql-block"><b>1978年 愛丁堡大學(xué)人工智能博士2001年至今加拿大多倫多大學(xué)教授</b></p><p class="ql-block"><b style="font-size:20px; color:rgb(22, 126, 251);">學(xué)術(shù)貢獻(xiàn)</b></p><p class="ql-block"><b>一生專注大腦如何工作問題,先后用生理學(xué)和心理學(xué),研究大腦工作方式發(fā)明了玻爾茲曼機(jī),首先將反向傳播應(yīng)用于多層神經(jīng)網(wǎng)絡(luò)訓(xùn)練</b></p><p class="ql-block"><b style="color:rgb(1, 1, 1);">大量的神經(jīng)網(wǎng)絡(luò)經(jīng)典工作:分散表示、時(shí)延神經(jīng)網(wǎng)絡(luò)、專家混合系統(tǒng)、亥姆霍茲機(jī)等</b></p> <p class="ql-block"><b style="color:rgb(176, 79, 187); font-size:20px;">Yoshua Bengio(本杰奧)簡介</b></p><p class="ql-block"><b>1988年McGill University學(xué)士1991年 McGill University博士1991-1993年MIT,AT&T Lab</b></p><p class="ql-block"><b>1993年至今加拿大蒙特利爾大學(xué)任教</b></p><p class="ql-block"><b style="color:rgb(22, 126, 251); font-size:20px;">學(xué)術(shù)貢獻(xiàn)</b></p><p class="ql-block"><b>推動了深度神經(jīng)網(wǎng)絡(luò)在自然語言處理中的應(yīng)用發(fā)起學(xué)術(shù)會議ICLR</b></p><p class="ql-block"><b>推動了循環(huán)神經(jīng)網(wǎng)絡(luò)(RNN),生成對抗網(wǎng)絡(luò)(GAN)的發(fā)展</b></p><p class="ql-block"><b>開發(fā)了深度學(xué)習(xí)框架Theano,啟發(fā)了后續(xù)的Mxnet, TensorFlow,CGT等</b></p> <p class="ql-block"><b style="color:rgb(176, 79, 187); font-size:20px;">Yann Lecun(楊立昆)簡介</b></p><p class="ql-block"><b>1983年 巴黎高等電子與電工技術(shù)工程師學(xué)校學(xué)士1987年 巴黎第六大學(xué)博士</b></p><p class="ql-block"><b>1987-1988年多倫多大學(xué)博士后2003年至今紐約大學(xué)教授</b></p><p class="ql-block"><b>2013年至今Facebook人工智能實(shí)驗(yàn)室負(fù)責(zé)人</b></p><p class="ql-block"><b style="color:rgb(22, 126, 251); font-size:20px;">學(xué)術(shù)貢獻(xiàn)</b></p><p class="ql-block"><b>被譽(yù)為“卷積網(wǎng)絡(luò)之父”,首次把反向傳播用于卷積神經(jīng)網(wǎng)絡(luò)訓(xùn)練,在實(shí)際應(yīng)用中取得成功</b></p><p class="ql-block"><b>推動卷積神經(jīng)網(wǎng)絡(luò)被大量運(yùn)用在圖像處理與計(jì)算機(jī)視覺問題之中</b></p><p class="ql-block"><b>研究手寫數(shù)字識別,提出MNIST數(shù)據(jù)集,成為圖像識別問題的最基本任務(wù)</b></p> <p class="ql-block"><b style="color:rgb(255, 138, 0); font-size:22px;">神經(jīng)網(wǎng)絡(luò)演進(jìn)史</b></p> <p class="ql-block"><b style="font-size:22px; color:rgb(176, 79, 187);">第一次浪潮:判別式人工智能--重要里程碑</b></p><p class="ql-block"><br></p><p class="ql-block"><b style="color:rgb(22, 126, 251);">*2015年:ResNet,第一次超越人類的圖像分類水平</b></p><p class="ql-block"><b style="color:rgb(22, 126, 251);">*ResNet獲得2015年ImageNet圖像識別挑戰(zhàn)賽第一名,錯(cuò)誤率3.57%vs人類5%</b></p><p class="ql-block"><b style="color:rgb(22, 126, 251);">*152層網(wǎng)絡(luò),其中每隔兩層有跨越連接,傳遞殘差,Res名稱的由來</b></p><p class="ql-block"><b style="color:rgb(22, 126, 251);">*何愷明、孫劍、任少卿、張祥雨,獲得2016年CVPR國際會議最佳論文獎(jiǎng),引用量:268000+(谷歌學(xué)術(shù)截止2025年3月25日)</b></p><p class="ql-block"><b style="color:rgb(22, 126, 251);">*AlphaGo最新版本、AlphaZero等,皆采用ResNet為底座</b></p><p class="ql-block"><b style="color:rgb(22, 126, 251);">*四位作者共同獲得2023年未來科學(xué)大獎(jiǎng)(100萬美元)1</b></p> <p class="ql-block"><b style="color:rgb(255, 138, 0); font-size:22px;">第二次浪潮:生成式人工智能-重要里程碑(1)</b></p><p class="ql-block"><b style="font-size:20px;">?2014年,圖像生成對抗網(wǎng)絡(luò)GAN</b></p><p class="ql-block">*大模型時(shí)代之前的最佳圖像生成模型*基于博弈論的對抗思想設(shè)計(jì)</p><p class="ql-block"><b style="font-size:20px;">?2017年,Bert</b></p><p class="ql-block">*由谷歌發(fā)布,ChatGPT之前最優(yōu)秀的語言大模型之一</p><p class="ql-block">*語言大模型兩大架構(gòu)之一:基于雙向Transformer架構(gòu)</p><p class="ql-block"><b style="font-size:20px;">?2018年,GPT</b></p><p class="ql-block">*由OpenAI發(fā)布,是ChatGPT的技術(shù)底座</p><p class="ql-block">*語言大模型兩大架構(gòu)之一:基于單向Transformer的自回歸架構(gòu)</p><p class="ql-block"><b style="font-size:20px;">?2022年,ChatGPT</b></p><p class="ql-block"><b>?2024年,SORA</b></p> <p class="ql-block"><b style="font-size:20px; color:rgb(255, 138, 0);">第二次浪潮:生成式人工智能-重要里程碑(2)</b></p><p class="ql-block"><b style="font-size:20px;">?2014年,圖像生成對抗網(wǎng)絡(luò)GAN</b></p><p class="ql-block"><b style="font-size:20px;">?2018年,Bert</b></p><p class="ql-block"><b style="font-size:20px;">?2018年,GPT</b></p><p class="ql-block"><b style="font-size:20px;">?2022年,ChatGPT</b></p><p class="ql-block">*掀起人工智能大模型浪潮</p><p class="ql-block">*面向自然語言,可以完成代碼生成、文本翻譯等大量任務(wù)</p><p class="ql-block">*基于GPT技術(shù)的大型語言模型</p><p class="ql-block"><b style="font-size:20px;">?2024年,SORA</b></p><p class="ql-block">*面向視頻生成,生成時(shí)長提升了一個(gè)數(shù)量級(>60秒)</p><p class="ql-block">*可以實(shí)現(xiàn)高分辨率、幀間一致和文本保真的生成</p><p class="ql-block">*可以初步模擬物理世界的動態(tài)變化</p> <p class="ql-block"><b style="color:rgb(255, 138, 0); font-size:20px;">2025年,生成式AI重大進(jìn)展:DeepSeek火爆出圈</b></p><p class="ql-block">杭州深度求索人工智能(AI)基礎(chǔ)技術(shù)研究有限公司(DeepSeek)先后上線大語言基座模型 <b style="font-size:20px;">DeepSeek V3/DeepSeekR1模型</b>,并同步開源。它們以<b style="font-size:20px;">卓越的性能超越或媲美了全球頂級的開源及閉源模型</b>。</p> <p class="ql-block"><b style="font-size:22px;">為在受限資源下探索通用人工智能開辟了新的道路</b></p> <p class="ql-block"><b style="font-size:20px; color:rgb(255, 138, 0);">DeepSeek大模型體系創(chuàng)新路線</b></p><p class="ql-block"><b style="font-size:20px;"> DeepSeek大模型,從</b><b style="color:rgb(176, 79, 187); font-size:20px;">架構(gòu)創(chuàng)新、推理優(yōu)化、訓(xùn)練優(yōu)化、通信優(yōu)化</b><b style="font-size:20px;">等全方位實(shí)現(xiàn)模型效率提升,并大幅度降低訓(xùn)練成本。</b></p> <p class="ql-block"><b style="font-size:22px; color:rgb(255, 138, 0);">DeepSeek: MoE架構(gòu)</b></p><p class="ql-block"><b style="color:rgb(176, 79, 187);">傳統(tǒng)架構(gòu):存在專家知識重疊和路由崩潰等負(fù)載不均衡難題,導(dǎo)致訓(xùn)練難、不穩(wěn)定。</b></p><p class="ql-block"><b style="font-size:20px;">核心策略:</b></p><p class="ql-block">1.細(xì)粒度專家分割;</p><p class="ql-block">2.共享專家隔離;</p><p class="ql-block">3.無輔助損失的負(fù)載均衡策略。</p><p class="ql-block"><b style="font-size:20px;">改進(jìn)效果:</b></p><p class="ql-block">1.保持參數(shù)總數(shù)不變,激活更多更細(xì)粒度的專家,減少知識冗余;</p><p class="ql-block">2.降低90%的計(jì)算量,提升訓(xùn)練穩(wěn)定性,避免平衡開銷。</p> <p class="ql-block"><b style="font-size:22px; color:rgb(255, 138, 0);">推理算法創(chuàng)新:多頭潛在注意力(MLA)機(jī)制</b></p><p class="ql-block"><br></p><p class="ql-block"><b style="font-size:20px; color:rgb(176, 79, 187);">傳統(tǒng)算法:</b></p><p class="ql-block"><b>MHA多頭注意力及其變體的鍵值緩存機(jī)制、內(nèi)存占用和計(jì)算開銷巨大。</b></p><p class="ql-block"><b style="font-size:20px; color:rgb(176, 79, 187);">核心策略:</b></p><p class="ql-block">1.鍵(Key)-值(Value)低秩聯(lián)合壓縮;</p><p class="ql-block">2.改進(jìn)RoPE編碼方式。</p><p class="ql-block"><b style="font-size:20px; color:rgb(176, 79, 187);">改進(jìn)效果:</b></p><p class="ql-block">1.是目前開源模型里減小KV緩存的最佳方法,減少93.3%KV存儲;</p><p class="ql-block">2.保持長上下文的外延能力,適應(yīng)長思維鏈推理。</p> <p class="ql-block"><b style="color:rgb(255, 138, 0); font-size:22px;">我國人工智能發(fā)展規(guī)劃</b></p><p class="ql-block"><b style="color:rgb(176, 79, 187); font-size:20px;">?人工智能的迅速發(fā)展將深刻改變?nèi)祟惿鐣?、改變世?lt;/b></p> <p class="ql-block"><b style="color:rgb(237, 35, 8); font-size:20px;">我國人工智能發(fā)展水平(四長/2018年)</b></p><p class="ql-block"><b style="color:rgb(176, 79, 187); font-size:20px;">我國人工智能發(fā)展的優(yōu)勢條件</b></p><p class="ql-block"><b style="color:rgb(22, 126, 251);">*強(qiáng)有力的戰(zhàn)略引領(lǐng)和政策支持</b></p><p class="ql-block"><b style="color:rgb(22, 126, 251);">*海量數(shù)據(jù)資源</b></p><p class="ql-block"><b style="color:rgb(22, 126, 251);">*豐富的應(yīng)用場景</b></p><p class="ql-block"><b style="color:rgb(22, 126, 251);">*具有潛力的青年人才快速成長聚集</b></p> <p class="ql-block"><b style="font-size:22px; color:rgb(22, 126, 251);">我國 人工智能發(fā)展水平</b></p><p class="ql-block"><b style="font-size:22px; color:rgb(22, 126, 251);">(四短/2018年)</b></p><p class="ql-block"><br></p><p class="ql-block"><b style="font-size:22px; color:rgb(57, 181, 74);">我國人工智能發(fā)展的薄弱環(huán)節(jié)</b></p><p class="ql-block"><br></p><p class="ql-block"><b>*人工智能基礎(chǔ)理論和原創(chuàng)算法差距較大</b></p><p class="ql-block"><b>*在高端芯片、關(guān)鍵部件、高精度傳感器等方面基礎(chǔ)薄弱</b></p><p class="ql-block"><b>*還沒有形成具有國際影響力的人工智能開源開放平臺</b></p><p class="ql-block"><b>*高水平人才不足成為最大瓶頸</b></p> <p class="ql-block"><b style="font-size:22px; color:rgb(255, 138, 0);">AI發(fā)展的安全問題1:基于技術(shù)本身的風(fēng)險(xiǎn)</b></p><p class="ql-block"><b style="color:rgb(22, 126, 251);">?幻覺(Hallucination)</b></p><p class="ql-block">對未學(xué)習(xí)的知識胡編亂造</p><p class="ql-block"><b style="color:rgb(22, 126, 251);">?自主AI系統(tǒng)失控</b></p><p class="ql-block">AI失控可能導(dǎo)致人類邊緣化,引發(fā)人類生存危機(jī)</p> <p class="ql-block"><b style="font-size:22px; color:rgb(255, 138, 0);">AI發(fā)展的安全問題2:基于技術(shù)開發(fā)的風(fēng)險(xiǎn)</b></p><p class="ql-block"><b style="color:rgb(22, 126, 251);">?數(shù)據(jù)隱私泄露</b></p><p class="ql-block">訓(xùn)練數(shù)據(jù)中包含敏感信息</p><p class="ql-block"><b style="color:rgb(22, 126, 251);">?算法歧視與偏見</b></p><p class="ql-block"><span style="color:rgb(1, 1, 1);">用AI生成內(nèi)容輔助決策,難以公平公正</span></p><p class="ql-block"><b style="color:rgb(22, 126, 251);">?侵犯知識產(chǎn)權(quán)</b></p><p class="ql-block"><span style="color:rgb(1, 1, 1);">高質(zhì)量訓(xùn)練語料大多有知識產(chǎn)權(quán)</span></p><p class="ql-block"><b style="color:rgb(22, 126, 251);">?能源環(huán)境問題</b></p><p class="ql-block">數(shù)據(jù)統(tǒng)計(jì),支撐ChatGPT使用的算力每天耗電約56萬度</p> <p class="ql-block"><b style="color:rgb(255, 138, 0); font-size:22px;">AI發(fā)展的安全問題3:基于倫理(應(yīng)用/惡用)的風(fēng)險(xiǎn)</b></p><p class="ql-block"><b style="color:rgb(22, 126, 251);">?社會就業(yè)替代</b></p><p class="ql-block">部分人力崗位需求消失,已有勞動力面臨失業(yè)</p><p class="ql-block"><b style="color:rgb(22, 126, 251);">?深度偽造和詐騙</b></p><p class="ql-block">Al合成的聲音視頻作為手段,普通民眾難以設(shè)防</p><p class="ql-block"><b style="color:rgb(22, 126, 251);">?威脅國家安全及人類生存</b></p><p class="ql-block">經(jīng)濟(jì):改寫全球產(chǎn)業(yè)鏈價(jià)值鏈</p><p class="ql-block">政治:散布虛假信息</p><p class="ql-block">軍事:產(chǎn)生自主武器系統(tǒng)</p><p class="ql-block">網(wǎng)絡(luò):增加網(wǎng)絡(luò)攻擊頻率</p> <p class="ql-block">(講的簡單。無投影,對報(bào)告字幕截屏后整理。)</p><p class="ql-block">……黨中央對人工智能的發(fā)展,一直是予以足夠關(guān)注的。而且隨著技術(shù)進(jìn)步和社會發(fā)展,也及時(shí)調(diào)整我們國內(nèi)人工智能的發(fā)展。</p><p class="ql-block">我國人工智能發(fā)展,基本上是和美國在同步往前進(jìn),特別原來在原始創(chuàng)新不足情況下。我們這幾年在人工智能還是生成式人工智能,中國人都作出了非常突出的貢獻(xiàn)。后續(xù)我們要繼續(xù)努力,也可能不僅跟在別人后面作貢獻(xiàn),也可能在前面作更多的貢獻(xiàn)?!?lt;/p>