【最佳案例】HKT聯同思科為科大建構AI數據中心 兼具彈性容易管理性價比高
香港科技大學一直致力開拓創新教學新模式，早於數年前便將 AI 融入傳統主修課程，更於去年成為香港首家在教研上有系統地採用生成式 AI 的學府。為支援校內使用 AI 等需要，在香港電訊（HKT）的協助下，最近決定採用 思科的解決方案，不但降低管理難度，更為整個資料中心網絡增加可見性。思科指相比現有 InfiniBand（IB）技術下每個連接埠的成本，新解決方案足足降低了 40 至 50%。
今次科大在本身已有的 AI 數據中心之上，需要擴大其網絡設施，建構一個達 HPCIC 級的資料中心，要具備高性能計算和創新技術，以支援相關 AI 課堂、大型語言模型（LLM）訓練等需要。
未來擴充時可應用同一套系統
香港科技大學資訊科技總監關樹建表示，校方在高性能計算（HPC）領域使用 InfiniBand（IB）作為網絡架構已超過 10 年，現計劃建造新的 HPC Farm。在網絡層面上，科大決定採用思科的 Nexus 9K RoCEv2 解決方案，因 RoCEv2 是作為 IB 替代技術的新興技術，不但性價比高、且提供更多彈性，兼十分容易管理。
思科香港、澳門及華南區總經理封小韵小姐指出，科大採用了思科 Nexus 9000 系列 Switches，提供低時延 200Gps 連接，可以滿足網絡基礎設施中對高效能及節能等各項要求；更有助科大應對現代數據中心不斷增長的網絡流量和需求，因它除了兼容現有數據中心，如果將來有需要擴充時，也可應用同一套系統協助。
方案還包括了思科 Nexus Dashboard Fabric Controller（NDFC），有助整個 IT 基礎架構的日常營運可以更順利之餘，配合 Nexus Dashboard Insight（NDI），增加整個網絡的可視性，當一旦出現任何問題，IT 人員都可快速找到問題所在。
做到快速傳遞及低時差問題等要求
根據估算，思科的 N9K RoCEv2 相比 Infinite Brand，每個連接埠（Port）成本足足降低 40 至 50%，性價比十足。科大也可依靠思科方案來發展現有 NDFC，以管理新的儲存和人工智慧架構，並在熟悉的營運和管理平台上，加速其人工智慧的發展。
至於思科在部署的過程中，除了本地技術專家，也有來自上海的團隊協助，全方位確保萬無一失。科大團隊對此十分滿意，對思科能滿足他們對 AI 數據中心要做到快速傳遞、無損失和低時差問題等要求，表示讚賞。
HKT提供一站式服務令項目順利完成
今次科大是在思科的 HK Gold Partner HKT 的協助下，引入相關方案。HKT 商業客戶業務總處副總裁梁樹恒先生稱：「憑藉 HKT 的本地專業團隊和豐富的系統集成經驗，以及我們在不同院校實施數碼轉型的成功案例，HKT 一直致力為科大校園提供多元化的網絡設備解決方案，並確保這些方案能夠與科大的發展進程完美配合。」
HKT 擁有專業的思科網絡技術團隊，充當顧問角色，提供一站式服務，加上本身對科大的 IT 環境已十分熟悉，又提供相關的售前和售後服務，協助科大選擇和購買最適合的思科網絡設備解決方案。方案預計於 6 月部署完成，科大將利用 NDFC 和 NDI，提升整個數據中心網絡的可見性和管理能力。
事實上，市場上各行各業對建構 AI 數據中心及高效能運算（High-Performance Computing，HPC）設施的需要已越來越高，亦是目前的大趨勢。隨著通用人工智能技術在各行各業變得越來越重要，任何需要為自己定制專屬的 GenAI 以支援大規模應用的企業，或是需要建構屬於自己的 AI 超級計算中心或數據中心的企業，都可以考慮採用思科的方案。
