哈嘍！伙伴們，我是小智，你們的AI向?qū)?。歡迎來(lái)到每日的AI學(xué)習(xí)時(shí)間。今天，我們將一起深入AI的奇妙世界，探索“AI熱潮原始代碼開(kāi)源！Hinton諾獎(jiǎng)成果，Ilya等貢獻(xiàn)”，并學(xué)會(huì)本篇文章中所講的全部知識(shí)點(diǎn)。還是那句話“不必遠(yuǎn)征未知，只需喚醒你的潛能！”跟著小智的步伐，我們終將學(xué)有所成，學(xué)以致用，并發(fā)現(xiàn)自身的更多可能性。話不多說(shuō)，現(xiàn)在就讓我們開(kāi)始這場(chǎng)激發(fā)潛能的AI學(xué)習(xí)之旅吧。

AI熱潮原始代碼開(kāi)源！Hinton諾獎(jiǎng)成果，Ilya等貢獻(xiàn)：

近日，谷歌與計(jì)算機(jī)歷史博物館（CHM）聯(lián)合發(fā)布了 AlexNet 項(xiàng)目源代碼。目前，項(xiàng)目的 Python 代碼已作為開(kāi)源軟件在 CHM 的 GitHub 頁(yè)面上對(duì)外開(kāi)放，允許 AI 愛(ài)好者和研究人員一窺這項(xiàng)在計(jì)算發(fā)展史上開(kāi)天辟地的關(guān)鍵成果。

AlexNet 是一種卷積神經(jīng)網(wǎng)絡(luò) （CNN），其在 2012 年時(shí)被公認(rèn)改變了 AI 領(lǐng)域的面貌，表明“深度學(xué)習(xí)”可以實(shí)現(xiàn)傳統(tǒng) AI 技術(shù)所無(wú)法達(dá)成的諸多功能。

深度學(xué)習(xí)技術(shù)采用多層神經(jīng)網(wǎng)絡(luò)，無(wú)需明確編程即可從數(shù)據(jù)中學(xué)習(xí)，由此開(kāi)辟了一條與依賴手工制定規(guī)則與特征制定的傳統(tǒng) AI 截然不同的實(shí)現(xiàn)路徑。深度學(xué)習(xí)推動(dòng)了醫(yī)療保健、科學(xué)研究和無(wú)障礙工具的進(jìn)步，但它也促進(jìn)了深度偽造、自動(dòng)監(jiān)控以及廣泛失業(yè)的可能性等發(fā)展。但在 2012 年，這些負(fù)面后果對(duì)于當(dāng)時(shí)的人們來(lái)說(shuō)還只是個(gè)遙不可及的科幻夢(mèng)想。專(zhuān)家只是驚訝于計(jì)算機(jī)終于能夠以接近人類(lèi)的準(zhǔn)確度識(shí)別圖像內(nèi)容。

作為 AI 發(fā)展的一個(gè)分水嶺，AlexNet 能夠以前所未有的準(zhǔn)確度識(shí)別出照片中的物體——具體來(lái)講，它能正確將圖像歸入 1000 個(gè)類(lèi)別中的具體一個(gè)，如“草莓”、“校車(chē)”乃至“金毛犬”，且錯(cuò)誤率遠(yuǎn)遠(yuǎn)低于以往的 AI 系統(tǒng)。

如同觀察最初 ENIAC 計(jì)算機(jī)的電路設(shè)計(jì)或者 Babbage 差分機(jī)一樣，AlexNet 的源代碼將讓未來(lái)的歷史學(xué)家們了解一項(xiàng)相對(duì)簡(jiǎn)單的實(shí)現(xiàn)方案是如何激發(fā)出重塑整個(gè)世界的 AI 技術(shù)的。

AlexNet 原始真實(shí)代碼得以公開(kāi)
正如 CHm 在其博文中所介紹，AlexNet 源自多倫多大學(xué)研究生 Alex Krizhevsky 和 Ilya Sutskever 及其導(dǎo)師 Geoffrey Hinton 的工作。該項(xiàng)目證明，深度學(xué)習(xí)技術(shù)確實(shí)勝過(guò)了傳統(tǒng)計(jì)算機(jī)視覺(jué)方法。

神經(jīng)網(wǎng)絡(luò)憑借遠(yuǎn)超以往任何方法的質(zhì)量識(shí)別出照片中的物體，并最終贏得 2012 年的 ImageNet 競(jìng)賽。當(dāng)時(shí)正在意大利佛羅倫薩聆聽(tīng)相關(guān)演講的計(jì)算機(jī)視覺(jué)資深專(zhuān)家 Yann LeCun 立即意識(shí)到它對(duì) AI 領(lǐng)域的重要意義，據(jù)報(bào)道他在演講結(jié)束后站起身來(lái)，稱 AlexNet 是“計(jì)算機(jī)視覺(jué)歷史上的一個(gè)明確轉(zhuǎn)折點(diǎn)”。更具體地講，AlexNet 的出現(xiàn)標(biāo)志著定義現(xiàn)代 AI 的三大關(guān)鍵技術(shù)由此開(kāi)始融合。

據(jù) CHM 解釋?zhuān)摬┪镳^于 2020 年起開(kāi)始努力獲取這批具有歷史意義的代碼。當(dāng)時(shí) CHM 館長(zhǎng) Hansen Hsu 曾聯(lián)系 Krizhevsky 討論能否發(fā)布源代碼，但由于谷歌在 2013 年收購(gòu)了該團(tuán)隊(duì)所屬的 DNNresearch 公司，因此知識(shí)產(chǎn)權(quán)歸屬問(wèn)題導(dǎo)致開(kāi)放計(jì)劃未能成行。

該博物館與谷歌合作了五年，就發(fā)布事宜展開(kāi)了談判，并認(rèn)真確定了哪個(gè)特定版本才是 2012 年的最初實(shí)現(xiàn)——之所以需要認(rèn)真琢磨這個(gè)問(wèn)題，是因?yàn)榫W(wǎng)上已經(jīng)存在大量號(hào)稱是“AlexNet”的二創(chuàng)版本，但都并非引發(fā)突破的真實(shí)代碼。

背后的技術(shù)創(chuàng)新
雖然 AlexNet 對(duì) AI 的影響如今已經(jīng)成為傳奇，但了解其背后的技術(shù)創(chuàng)新仍有助于解釋它為何能夠代表這個(gè)關(guān)鍵性的里程碑。具體來(lái)講，這一突破并非單一技術(shù)革命的結(jié)果，而是先前單獨(dú)開(kāi)發(fā)的多項(xiàng)現(xiàn)有技術(shù)的優(yōu)雅組合。

該項(xiàng)目融合了之前相互獨(dú)立的三大組件：深度神經(jīng)網(wǎng)絡(luò)、海量圖像數(shù)據(jù)集與圖形處理單元（GPU）。深度神經(jīng)網(wǎng)絡(luò)構(gòu)成了 AlexNet 的核心架構(gòu)，其擁有多個(gè)層，能夠?qū)W習(xí)極其復(fù)雜的視覺(jué)特征。該網(wǎng)絡(luò)以 Krizhevsky 的名字命名，紀(jì)念他實(shí)現(xiàn)了這套系統(tǒng)并完成了廣泛的訓(xùn)練過(guò)程。

與傳統(tǒng) AI 系統(tǒng)不同，之前的 AI 項(xiàng)目要求程序員手動(dòng)指定要在圖像中尋找哪些特征。相比之下，深度網(wǎng)絡(luò)則能夠自動(dòng)發(fā)現(xiàn)不同抽象級(jí)別的模式——從早期圖層的簡(jiǎn)單邊緣與紋理，到更深層中的復(fù)雜對(duì)象部分。

但需要注意的是，AlexNet 使用專(zhuān)門(mén)用于處理圖像等網(wǎng)格狀數(shù)據(jù)的 CNN 架構(gòu)，這與當(dāng)今大語(yǔ)言模型（例如 ChatGPT 和 Claude）依托的 Transformer 模型有所區(qū)別。后者源自谷歌研究院 2017 年的一項(xiàng)發(fā)明，Transformer 擅長(zhǎng)處理順序數(shù)據(jù)并通過(guò)所謂“注意力”機(jī)制捕捉文本及其他媒體中的長(zhǎng)距離依賴關(guān)系。

在訓(xùn)練數(shù)據(jù)方面，AlexNet 使用了 ImageNet，即斯坦福大學(xué)教授李飛飛博士于 2006 年建立的數(shù)據(jù)庫(kù)。李飛飛收集了數(shù)百萬(wàn)張互聯(lián)網(wǎng)圖像，并將其整理成名為 WordNet 的數(shù)據(jù)庫(kù)當(dāng)中。亞馬遜 Mechanical Turk 平臺(tái)項(xiàng)目的工作人員則幫助對(duì)這些圖像進(jìn)行了標(biāo)注。

該項(xiàng)目需要強(qiáng)大的算力資源才能處理這些數(shù)據(jù)。為此，Krizhevsky 在父母家臥室的一臺(tái)計(jì)算機(jī)上安裝了兩張英偉達(dá)顯卡，并借此完成了訓(xùn)練過(guò)程。神經(jīng)網(wǎng)絡(luò)會(huì)并行執(zhí)行大量矩陣計(jì)算，而圖形芯片能夠很好地處理這些任務(wù)。在黃仁勛的領(lǐng)導(dǎo)下，英偉達(dá)于 2007 年發(fā)布的 CUDA 軟件為其圖形芯片賦予了可編程能力，由此掀開(kāi)了顯卡在非圖形任務(wù)領(lǐng)域的一路狂飆。

AlexNet 的影響當(dāng)然不僅限于計(jì)算機(jī)視覺(jué)。如今，深度學(xué)習(xí)神經(jīng)網(wǎng)絡(luò)正在為語(yǔ)音合成、游戲系統(tǒng)、語(yǔ)言模型和圖像生成器等提供支持。而從負(fù)面角度來(lái)看，它們也在生成大量社交垃圾信息、幫助集權(quán)者監(jiān)控民眾甚至篡改歷史記錄，最終有可能造成嚴(yán)重的社會(huì)撕裂。

核心開(kāi)發(fā)者們?nèi)缃裨谧鍪裁矗?/em>
在取得突破的 13 年之后，AlexNet 的核心開(kāi)發(fā)者們將自己的專(zhuān)業(yè)知識(shí)運(yùn)用到了不同方向，每個(gè)人都在以獨(dú)特的方式繼續(xù)為 AI 領(lǐng)域做出貢獻(xiàn)。