2023年12月中旬，第代Intel正式發布代號為“Emerald Rapids”的英特元面向數據中心和高性能計算環境的第五代 Xeon系列處理器，Emerald Rapids處理器采用Intel 7工藝，理器與上一代軟件和平臺兼容，高性配備Raptor Cove ISA 的新紀 P-Core性能核心，最多可封裝64 個核心、第代128 個線程和高達480MB 的英特元三級緩存；與上一代Sapphire Rapids相比，其差異在于tile structure結構，理器即為2個tiles。高性在CPU布局方面，新紀2個核心通過Modular Die Fabric連接緩存陣列，第代并擁有4個內存控制器、英特元8通道DDR5-5600內存支持。理器此外，高性該處理器兩個 die 之間還配備了6個PCIe控制器、新紀4個UPI通道和4個加速引擎。功率范圍與上一代產品相同，但可提供更強大的計算能力和更快的內存，并為 AI、高性能計算、數據庫、網絡和存儲帶來巨大的性能和總擁有成本優勢。

第五代英特爾至強可擴展處理器每個內核都具備 AI 加速功能，無需添加獨立加速器，就可處理要求嚴苛的 AI 工作負載，包括對參數量多達 200 億的模型進行推理和調優。

通過更高的內存帶寬克服數據瓶頸，提高計算性能。與 DDR4 相比，DDR5 的帶寬提升高達 66%，因此有機會提升性能、容量和能效并降低成本。

提供全新的 I/O 速度，因此有機會最大限度地提高 CPU 和設備之間的吞吐量。第五代英特爾® 至強® 處理器擁有多達 80 個 PCIe 5.0 通道，是快速網絡、高帶寬加速器和高性能存儲設備的理想選擇。與第四代英特爾至強處理器相比21% 整體性能的提升，42% 推理性能的提升，16% 內存速度的提升，2.7 倍三級緩存的提升，10 倍每瓦性能的提升。

第五代英特爾至強可擴展處理器在通用計算方面表現出色，將持續為支持當下各種關鍵工作負載奠定有力基礎。這些處理器采用了英特爾® 高級矩陣擴展（Intel® Advanced Matrix Extensions，英特爾® AMX）這一內置 AI 加速器，可加速基于 CPU 的深度學習推理和訓練。在很多情況下，這能夠消除獨立加速器導致的額外成本和復雜性。新一代 英特爾® 至強® 處理器非常適合參數量在 200 億 (20B) 以下的大語言模型 (LLM)，通常可滿足客戶服務級別協議 (SLA) 要求。英特爾® AMX 在遷移學習和調優方面也非常出色，只需短短 4 分鐘（而非數小時或數天）即可完成模型訓練，而無需借助其他硬件。 65% 的數據中心推理都在英特爾® 至強® 處理器上運行，因此客戶可受益于其現有的通用 AI 架構，而無需為遷移到 GPU 基礎設施的復雜性而苦惱。

無論是將英特爾® 至強® 處理器用于處理本地工作負載，還是處理云端，或邊緣工作負載， 內置英特爾® 加速引擎的英特爾® 至強® 處理器都能夠助力您的業務達到新高度。這些加速引擎具備一系列優勢，包括數據保護力更強、基礎設施利用得更充分。  從英特爾第三代至強處理器助力騰訊打造了云小微智能語音與視頻服務接，為騰訊云小微智能語音與視頻服務接入平臺注入強勁動力。到Gunpowder 使用英特爾第四代至強處理器運行 Google Cloud C3 實例，以加快渲染速度。到京東云上線了基于第五代英特爾® 至強® 可擴展處理器的新一代京東云服務器，比上一代服務器的整體性能提升23%。在大模型落地過程中，面臨算力需求指數級增長、算力成本高、異構復雜度高等挑戰。在此背景下，英特爾® 至強處理器不斷更新迭代，在模型推理性能上提供更卓越的表現，更高的敏捷性，成為用戶搭建 AI 算力系統的理想之選。