無界：透視微軟創(chuàng)新研究之境

第1章　引領計算新范式 1
1.1　深入的科學研究比以往任何時候都更加重要 2
1.2　人工智能基礎創(chuàng)新的第二增長曲線 8
1.2.1　基礎模型是人工智能的第一性原理 10
1.2.2　推理效率是新一代基礎模型架構(gòu)革新的關鍵驅(qū)動力 12
1.2.3　推動多模態(tài)大語言模型演進，邁向原生多模態(tài) 14
1.2.4　推進通用型人工智能基礎研究第二增長曲線 16
1.3　大模型時代的計算機系統(tǒng)革新：更大規(guī)模、更分布式、更智能化 18
1.3.1　大規(guī)模和高效的計算機系統(tǒng)是下一代人工智能發(fā)展的基石 19
1.3.2　以智能化為內(nèi)核，重塑云計算系統(tǒng) 20
1.3.3　分布式系統(tǒng)將是分布式智能的關鍵基礎設施 22
1.3.4　未來的計算機系統(tǒng)將自我演化 23
1.4　媒體基礎：打開多模態(tài)大模型的新思路 24
1.4.1　打破復雜真實世界與抽象語義之間的壁壘 25
1.4.2　神經(jīng)編解碼器構(gòu)建多媒體的抽象表示 27
1.4.3　探索隱文本語言之外的另一種可能 28
1.5　創(chuàng)新智能環(huán)境帶來無線通信與感知的新視角 30
1.5.1　無線通信逼近理論極限，通信范圍成最大挑戰(zhàn) 31
1.5.2　突破傳統(tǒng)思維，為無線信道構(gòu)建可調(diào)整的
智能環(huán)境 32
1.5.3　創(chuàng)造智能環(huán)境，實現(xiàn)更易用的無線感知 35
1.6　大模型時代更需要計算機理論研究 39
1.6.1　計算機理論研究是一門交叉學科 39
1.6.2　通過理論研究獲得解釋 40
1.6.3　AI發(fā)展越快，計算機理論研究面臨的問題越多 41
1.6.4　新的技術方向推動理論研究發(fā)展 42
1.6.5　大語言模型帶來的改變 43
1.6.6　理論研究更需要創(chuàng)新 44
1.7　AI編譯器界“工業(yè)重金屬四部曲” 45
1.7.1　AI編譯“夯土機”Rammer：提升硬件并行利用率 46
1.7.2　AI編譯“壓路機”Roller：提高編譯效率 48
1.7.3　AI編譯“電焊機”Welder：優(yōu)化全局訪存效率 49
1.7.4　AI編譯“研磨機”Grinder：實現(xiàn)控制流的高效執(zhí)行 51
1.8　統(tǒng)一化數(shù)據(jù)庫：為大語言模型垂域應用奠定基礎 53
1.8.1　VBase復雜查詢系統(tǒng) 55
1.8.2　SPFresh：向量索引的實時就地增量更新 57
1.8.3　OneSparse：稀疏向量索引和稠密向量索引的統(tǒng)一化查詢 58
1.8.4　統(tǒng)一化數(shù)據(jù)庫加速大語言模型的發(fā)展和硬件創(chuàng)新 59
1.9　跨越模態(tài)邊界，探索原生多模態(tài)大語言模型 61
1.9.1　原生多模態(tài)大語言模型 62
1.9.2　語言是多模態(tài)模型的基礎 63
1.9.3　聲音與視頻模態(tài)也可以基于語言模型的方法建模 65
1.9.4　從算法和架構(gòu)上推動原生多模態(tài)大語言模型發(fā)展 66
第2章　跨越學科的邊界 69
2.1　大模型在醫(yī)療健康領域的應用 70
2.1.1　面向未來的情境研究：大語言模型與科研未來的交匯 70
2.1.2　GPT-4與醫(yī)療未來：人工智能的機遇與挑戰(zhàn) 72
2.1.3　人工智能與醫(yī)療決策：信任、監(jiān)管和自我規(guī)范 75
2.1.4　微軟視野：定義人工智能的未來方向 76
2.2　AI for Science，憧憬人人都可參與科學發(fā)現(xiàn)的未來 77
2.2.1　AI for Science的三個要素 78
2.2.2　AI for Science的基座模型要讀懂大自然的語言 80
2.2.3　聚焦微觀世界的深入探索與應用 81
2.2.4　憧憬人人都可參與科學發(fā)現(xiàn)的未來 83
2.3　當AI遇見大腦：電腦與人腦協(xié)同“進化” 86
2.3.1　人工智能加速理解人腦，提升人腦健康水平 87
2.3.2　從腦啟發(fā)到創(chuàng)造新的人工智能 90
2.3.3　人工智能與腦科學研究需要跨領域和系統(tǒng)性的研究能力 93
2.4　人工智能≠機器“人”，激活大語言模型在產(chǎn)業(yè)界的巨大潛力 95
2.4.1　大語言模型在產(chǎn)業(yè)界潛力無限 96
2.4.2　落地產(chǎn)業(yè)界需要克服的四個難題 97
2.4.3　構(gòu)建產(chǎn)業(yè)基礎模型：融合通用知識和領域?qū)I(yè)知識 98
2.4.4　大語言模型引領產(chǎn)業(yè)數(shù)字化轉(zhuǎn)型的下一波浪潮 102
2.5　守護人類健康：人工智能深入醫(yī)療創(chuàng)新 104
2.5.1　早發(fā)現(xiàn)、早治療：人工智能輔助疾病診斷與康復訓練 104
2.5.2　病程預測與個性化治療：人工智能輔助精準醫(yī)療 109
2.5.3　跨領域合作，釋放人工智能價值 110
第3章　堅守社會責任與價值 113
3.1　人工智能治理如何跟上技術發(fā)展的腳步 114
3.1.1　人工智能的治理與未來：機遇、風險與共同進化 115
3.1.2　國際合作在應對人工智能風險和挑戰(zhàn)方面的作用 118
3.1.3　跨學科合作在人工智能發(fā)展中的作用和意義 119
3.1.4　如何為未來的人工智能培養(yǎng)跨學科人才 120
3.2　跨學科合作構(gòu)建具有社會責任的人工智能 121
3.2.1　在更大的影響來臨之前早做準備 122
3.2.2　為人工智能設定“價值觀護欄” 123
3.2.3　讓AI始終處于人類視野之中 126
3.2.4　艱難但必要的跨學科合作 128
3.2.5　跨行業(yè)、跨學科共同協(xié)作，讓人工智能主動承擔社會責任 129
3.3　價值觀羅盤：如何讓大模型與人類價值觀對齊 131
3.3.1　人工智能與人類價值觀對齊的四層目標 132
3.3.2　價值觀對齊的三條路徑總結(jié) 135
3.3.3　理想的大模型價值觀對齊體系應具備三大特性 137
3.3.4　BaseAlign算法：在基本價值空間中實現(xiàn)大模型對齊 139
3.4　為“冷門絕學”甲骨文研究插上科技之翼 145
3.4.1　甲骨文研究的歷史與價值 146
3.4.2　Diviner引領的文化遺產(chǎn)數(shù)字化 148
3.5　以科技之力，守護地球家園 154
3.5.1　跨學科基礎創(chuàng)新，助力實現(xiàn)碳中和目標 155
3.5.2　解決真實場景中的現(xiàn)實問題 156
3.5.3　節(jié)能減排下一步：多技術角度打造綠色低碳數(shù)據(jù)中心 159
3.5.4　共建創(chuàng)新合作平臺，共營碳中和發(fā)展生態(tài) 159
第4章　培養(yǎng)跨學科人才，文化先行 163
4.1　讓AI滲透每個學科，交叉融合、共同成長 164
4.1.1　跨學科合作的重要性 166
4.1.2　人工智能給跨學科創(chuàng)新帶來的機遇 168
4.1.3　人工智能與生態(tài)學研究的結(jié)合 169
4.2　轉(zhuǎn)變思維，以使命和任務驅(qū)動培養(yǎng)跨學科人才 170
4.2.1　自由研究與使命驅(qū)動研究的平衡之道 172
4.2.2　變革思維與文化，驅(qū)動科學智能發(fā)展 173
4.2.3　跨地域協(xié)作與項目管理 174
4.2.4　跨領域和跨學科研究 175
4.3　打造一流創(chuàng)新環(huán)境：協(xié)作、開放、可持續(xù) 176
4.3.1　開放積極：創(chuàng)新與年齡、資歷無關 177
4.3.2　透明無礙：打破一切無形的墻 179
4.3.3　多元包容：遵循三個原則，打造獨特文化 180
4.3.4　轉(zhuǎn)型思維方式：讓文化成為創(chuàng)新能源 183
4.4　AI系統(tǒng)研究：硬件和軟件的“雙向奔赴” 187
4.4.1　從“全棧式”視角看待系統(tǒng)與AI研究 187
4.4.2　匯溪成流，AI系統(tǒng)優(yōu)化360°迭代 188
4.4.3　以數(shù)據(jù)為脈絡，賦能百行千業(yè) 191
4.5　從生物跨界到計算機，只因“貪心”想做自己 193
4.5.1　做實驗和寫代碼，我全都要 193
4.5.2　不管有沒有用，我全都學 194
4.5.3　遇到機會，就全力以赴 195
4.5.4　人生沒有最優(yōu)路徑 198
4.5.5　找到自己真正的熱愛，勇敢地走下去 198
4.6　三重跨越：從理論物理、腦科學到人工智能 200
4.6.1　從人工智能與腦科學的交叉研究，探索智能的
本質(zhì) 201
4.6.2　跨學科思維，帶來研究新靈感 204
4.6.3　跨領域合作：解決實際問題 206
4.6.4　從對游戲的鉆研，到對科研的堅持 207
4.7　你相信“無線感知”嗎 208
4.7.1　遵循內(nèi)心渴望，來到微軟亞洲研究院 208
4.7.2　無線感知打開應用新天地 209
4.7.3　想要從事無線感知研究？需要興趣導向，腦洞大開 212
第5章　不斷攀升科學匠人之路 215
5.1　博士之后，下一站在哪兒 216
5.1.1　新一代計算機博士的潛力、挑戰(zhàn)與成長路徑 216
5.1.2　卓越研究員的素質(zhì)：好奇心、真善美與跨學科創(chuàng)新 218
5.1.3　從理念、組織結(jié)構(gòu)、氛圍和制度設計上來支持創(chuàng)新 221
5.2　科研到底怎么做，什么是高質(zhì)量研究 224
5.2.1　為什么我們要進行科學研究 225
5.2.2　什么是高質(zhì)量研究 227
5.2.3　如何能夠勇攀科研高峰 230
5.3　在研究中，你是否踩過這些工程的“坑” 233
5.3.1　代碼始終是基本功 233
5.3.2　“趕工”時最容易掉進坑里 235
5.3.3　坑踩多了，自然就有了源代碼管理 236
5.3.4　開發(fā)流程管理可以簡單，但不能沒有 237
5.3.5　代碼之外，細節(jié)同樣決定成敗 240
5.4　探路“研究員 工程師”模式，推動人工智能與系統(tǒng)協(xié)同進化 243
5.4.1　微軟亞洲研究院（溫哥華）：專注特定領域智能的探索 244
5.4.2　人工智能與系統(tǒng)協(xié)同進化，自動設計AI系統(tǒng) 245
5.4.3　開展以目標為導向的研究 246
5.4.4　從偶發(fā)躍遷式突破到持續(xù)漸進發(fā)展 248
5.5　堅持長期主義，是一個不斷說服自己的過程 250
5.5.1　以正確的方式做正確的事 250
5.5.2　層層遞進研究，持續(xù)打磨成果 252
5.5.3　自由地選擇研究方向 253
5.5.4　做研究是一件長久的事 254
5.6　如何抓住時代機遇，做好關鍵選擇 256
5.6.1　變革的時刻 257
5.6.2　選擇的時刻 258
5.6.3　向上的時刻 261
5.7　在世界選擇你的瞬間，請積極面對 263
5.7.1　做自己喜歡的工作，20余年不變 264
5.7.2　在那個瞬間，世界選擇了你，請忘掉所謂的“頭銜” 265
5.7.3　對待工作和事業(yè)，要有欲望 268
參考文獻 270