張宇指出，近期，人工智能新技術(shù)、新產(chǎn)品、新應(yīng)用和新生態(tài)層出不窮，通用人工智能、大模型等等讓人工智能芯片的技術(shù)升級再次成為業(yè)內(nèi)熱點。人工智能技術(shù)在各個行業(yè)得到迅速普及和應(yīng)用，例如交通、醫(yī)療、零售、工業(yè)等等。隨著行業(yè)以及連接、智能應(yīng)用、數(shù)據(jù)隱私保護(hù)等方面訴求增加，推動了邊緣計算尤其是邊緣智能事業(yè)的發(fā)展。
邊緣AutoML階段：邊緣人工智能發(fā)展的一個最終的形態(tài)
張宇指出，人工智能尤其是邊緣人工智能的發(fā)展應(yīng)該分為三個階段：邊緣推理階段、邊緣訓(xùn)練階段和邊緣的自主機(jī)器學(xué)習(xí)階段。
當(dāng)下人工智能在邊緣的應(yīng)用大多數(shù)還是停留在邊緣的推理階段，行業(yè)還是需要利用數(shù)據(jù)中心極大的算力或者大量數(shù)據(jù)訓(xùn)練一個模型，把訓(xùn)練的結(jié)果推送到前端進(jìn)行推理操作，這是目前絕大多數(shù)邊緣人工智能使用的模式。這種模式是現(xiàn)實，但是同時也有局限性，最大的局限性是對模型的更新頻率有限。
以自動駕駛為例，它所代表的是邊緣人工智能發(fā)展的下一個趨勢——邊緣訓(xùn)練。邊緣訓(xùn)練實現(xiàn)人工智能的訓(xùn)練要面臨一系列的特定挑戰(zhàn)。如資源有限、缺乏專業(yè)知識、邊緣訓(xùn)練碎片化、難以在運(yùn)行時保護(hù)數(shù)據(jù)和模型并在多樣化硬件平臺上部署等。
在當(dāng)下的人工智能里頭，不管在邊緣應(yīng)用還是在數(shù)據(jù)中心的應(yīng)用，人在人工智能里仍然扮演一個非常重要的角色。
張宇認(rèn)為，今后人工智能發(fā)展應(yīng)該進(jìn)入邊緣AutoML階段，它是邊緣人工智能發(fā)展的一個最終的形態(tài)。這個階段網(wǎng)絡(luò)模型應(yīng)該感知人的意圖，選取適宜的樣本集訓(xùn)練這個模型，將訓(xùn)練結(jié)果推送到訓(xùn)練階段進(jìn)行相應(yīng)操作。甚至根據(jù)訓(xùn)練的結(jié)果不斷更新、不斷重新訓(xùn)練網(wǎng)絡(luò)模型，進(jìn)行不斷迭代，達(dá)到最佳的理想結(jié)果。
同時，他也指出，現(xiàn)在的大模型和AIGC，也只是說在往AutoML方向上前進(jìn)的一小步。在大模型里頭也有很大的局限性，目前像ChatGPT等等這樣的一些應(yīng)用，它都工作在開放的狀態(tài)，而不是閉環(huán)的狀態(tài)。而真正到AutoML的狀態(tài)應(yīng)該有一個人工智能的閉環(huán)。
“如果把攀登高峰比喻人工智能不同階段，實現(xiàn)邊緣推理只是意味著我們站到山腳，到我們能實現(xiàn)邊緣訓(xùn)練只是站到半山腰，真正站到山頂是真正實現(xiàn)AutoML的時刻，這個還有很長的路要走。”張宇指出。
提供面向邊緣人工智能完整硬件和軟件解決方案 賦能合作伙伴
張宇指出，解決在邊緣人工智能快速發(fā)展過程中面臨的多種挑戰(zhàn)，還需要產(chǎn)業(yè)界的通力合作。英特爾作為一家數(shù)據(jù)公司，給業(yè)界所提供的是面向邊緣人工智能、網(wǎng)絡(luò)、數(shù)據(jù)中心的完整硬件和軟件解決方案。尤其在人工智能方面，英特爾提供了從計算、通訊到存儲等一系列的產(chǎn)品，供開發(fā)人員進(jìn)行選擇。
計算方面，英特爾提供包括CPU、GPU及各種人工智能芯片等多種產(chǎn)品的組合，滿足用戶對人工智能算力不同的要求。針對人工智能大模型的訓(xùn)練和推理，英特爾在今年推出第二代Gaudi處理器，它不僅能提供大量的算力，還能提供通訊、存儲能力。張宇指出，英特爾的Gaudi2是全球唯二能提供針對大模型訓(xùn)練極佳性能的產(chǎn)品，而且在今年英特爾公司把Gaudi的產(chǎn)品已經(jīng)引入到國內(nèi)，已經(jīng)在國內(nèi)上市。
構(gòu)建端到端的人工智能系統(tǒng)，離不開跟通訊相關(guān)的產(chǎn)品。英特爾提供像可編程的以太網(wǎng)交換芯片等等數(shù)據(jù)中心的產(chǎn)品以及網(wǎng)絡(luò)產(chǎn)品，幫助構(gòu)建軟件定義的網(wǎng)絡(luò)。
硬件方面，英特爾通過增強(qiáng)通用處理器的同時，還提供專用的人工智能加速芯片，滿足用戶對邊緣人工智能算力的要求。2023年發(fā)布的第四代至強(qiáng)可擴(kuò)展處理器，包含了一系列面向人工智能的技術(shù)創(chuàng)新，如高級矩陣擴(kuò)展技術(shù)AMX技術(shù)、AMX技術(shù)、SGX技術(shù)。
其中，SGX技術(shù)能在運(yùn)行時態(tài)為關(guān)鍵的數(shù)據(jù)和程序提供一個有別于其他應(yīng)用的安全可執(zhí)行的區(qū)域，能提供一個更小的安全邊界、安全顆粒，使得人工智能應(yīng)用可以部署在比如像金融、醫(yī)療等等這些對于安全有比較強(qiáng)訴求的應(yīng)用行業(yè)里。
專用方面，英特爾提供獨立顯卡產(chǎn)品，包含了面向矩陣加速、矢量加速等等一些加速專業(yè)引擎，使得在面向科技計算和人工智能推理計算的時候能有更好的性能。
除了硬件以外英特爾還提供了很多軟的工具，例如Geti平臺，能提供自動化的標(biāo)注手段以及采取主動學(xué)習(xí)的技術(shù)，幫助開發(fā)人員選取最有效的訓(xùn)練樣本，從而縮小訓(xùn)練周期，減少訓(xùn)練時間，提高訓(xùn)練效果。
軟件方面，英特爾還提供OpenVINO套件，能幫助開發(fā)人員快速進(jìn)行部署。OpenVINO包含兩個關(guān)鍵組件，一個是模型開發(fā)器，一個是推理引擎。幫助開發(fā)人員把開發(fā)好的網(wǎng)絡(luò)模型部署在不同的平臺去進(jìn)行訓(xùn)練，極大地降低軟件開發(fā)成本。
張宇介紹，在新的OpenVINO版本即2023.0的版本里，增加了對AIGC新的技術(shù)的加持，OpenVINO可以把文生圖這樣一些比較常用的大模型通過網(wǎng)絡(luò)壓縮以后，部署在通用CPU以及一些獨立顯卡，或者英特爾所帶的顯卡之上，進(jìn)行邊緣推理操作，在一些平臺上已經(jīng)得到非常好的驗證。
除了提供這樣一些硬件和軟件的底層技術(shù)支撐，英特爾在行業(yè)方面也做了大量的工作，比如在智能制造領(lǐng)域和合作伙伴利用機(jī)器視覺合作，例如激光焊接等等一些技術(shù)，利用低時延的技術(shù)，把實時性和智能化結(jié)合起來，提供給合作伙伴全面的解決方案。
