【最佳案例】HKT聯同思科為科大建構AI數據中心 兼具彈性容易管理性價比高
![Topic report3](https://www.wepro180.com/wp-content/uploads/2022/04/WEB_240502_UST.jpg)
香港科技大學一直致力開拓創新教學新模式,早於數年前便將 AI 融入傳統主修課程,更於去年成為香港首家在教研上有系統地採用生成式 AI 的學府。為支援校內使用 AI 等需要,在香港電訊(HKT)的協助下,最近決定採用 思科的解決方案,不但降低管理難度,更為整個資料中心網絡增加可見性。思科指相比現有 InfiniBand(IB)技術下每個連接埠的成本,新解決方案足足降低了 40 至 50%。
今次科大在本身已有的 AI 數據中心之上,需要擴大其網絡設施,建構一個達 HPCIC 級的資料中心,要具備高性能計算和創新技術,以支援相關 AI 課堂、大型語言模型(LLM)訓練等需要。
未來擴充時可應用同一套系統
香港科技大學資訊科技總監關樹建表示,校方在高性能計算(HPC)領域使用 InfiniBand(IB)作為網絡架構已超過 10 年,現計劃建造新的 HPC Farm。在網絡層面上,科大決定採用思科的 Nexus 9K RoCEv2 解決方案,因 RoCEv2 是作為 IB 替代技術的新興技術,不但性價比高、且提供更多彈性,兼十分容易管理。
思科香港、澳門及華南區總經理封小韵小姐指出,科大採用了思科 Nexus 9000 系列 Switches,提供低時延 200Gps 連接,可以滿足網絡基礎設施中對高效能及節能等各項要求;更有助科大應對現代數據中心不斷增長的網絡流量和需求,因它除了兼容現有數據中心,如果將來有需要擴充時,也可應用同一套系統協助。
方案還包括了思科 Nexus Dashboard Fabric Controller(NDFC),有助整個 IT 基礎架構的日常營運可以更順利之餘,配合 Nexus Dashboard Insight(NDI),增加整個網絡的可視性,當一旦出現任何問題,IT 人員都可快速找到問題所在。
做到快速傳遞及低時差問題等要求
根據估算,思科的 N9K RoCEv2 相比 Infinite Brand,每個連接埠(Port)成本足足降低 40 至 50%,性價比十足。科大也可依靠思科方案來發展現有 NDFC,以管理新的儲存和人工智慧架構,並在熟悉的營運和管理平台上,加速其人工智慧的發展。
至於思科在部署的過程中,除了本地技術專家,也有來自上海的團隊協助,全方位確保萬無一失。科大團隊對此十分滿意,對思科能滿足他們對 AI 數據中心要做到快速傳遞、無損失和低時差問題等要求,表示讚賞。
HKT提供一站式服務令項目順利完成
今次科大是在思科的 HK Gold Partner HKT 的協助下,引入相關方案。HKT 商業客戶業務總處副總裁梁樹恒先生稱:「憑藉 HKT 的本地專業團隊和豐富的系統集成經驗,以及我們在不同院校實施數碼轉型的成功案例,HKT 一直致力為科大校園提供多元化的網絡設備解決方案,並確保這些方案能夠與科大的發展進程完美配合。」
HKT 擁有專業的思科網絡技術團隊,充當顧問角色,提供一站式服務,加上本身對科大的 IT 環境已十分熟悉,又提供相關的售前和售後服務,協助科大選擇和購買最適合的思科網絡設備解決方案。方案預計於 6 月部署完成,科大將利用 NDFC 和 NDI,提升整個數據中心網絡的可見性和管理能力。
事實上,市場上各行各業對建構 AI 數據中心及高效能運算(High-Performance Computing,HPC)設施的需要已越來越高,亦是目前的大趨勢。隨著通用人工智能技術在各行各業變得越來越重要,任何需要為自己定制專屬的 GenAI 以支援大規模應用的企業,或是需要建構屬於自己的 AI 超級計算中心或數據中心的企業,都可以考慮採用思科的方案。