何謂 AI 晶片？AI 晶片設計全方位指南

為什麼需要 AI 晶片？

AI 晶片管理繁複工作方面可以與人類大腦的智力相媲美，然而其處理速度和容量卻能夠超越人類的能力。AI 晶片已在各行各業的不同應用中廣泛被使用。在任何需要最高效能表現的地方，就會發現AI 晶片的存在，例如高階影像處理、伺服器、汽車和手機。如果想瞭解更多關於 AI 晶片的資訊，也可以點閱為什麼 AI 需要新的晶片架構一文。該篇文章指出：「AI 晶片設計可以降低 15% 至 20% 的時脈速度，同時將密度提高15% 至 30%；AI晶片也需要記憶體元件以快速存取，讓 AI 技術能夠在幾分鐘之內完成訓練，而非幾小時才能完成。」如果您正跟資料中心租用空間，這些優勢可以讓您節省成本；或者如果您是使用內部的資源，這些優勢則為您提供更多反覆試誤(trial and error)的彈性。AI 晶片在管理需要進行大量的資料密集型運算的繁複 AI 工作方面扮演重要角色。

何謂 AI 晶片設計？

如今，AI 不僅被當作是晶片功能性任務的一環，也被用來設計晶片，並大幅增強工程產能。AI 技術已整合至整個半導體開發流程中，協助設計、驗證並測試 IC。強化學習主要能夠快速識別優化目標；此外，業界開始在晶片設計方面探索生成式 AI，以便能妥善地支援客製化並提高產能。針對晶片設計使用 AI 的優勢包括：

• 大幅提升功率、效能及面積 (power, performance, and area, PPA)
• 能夠重複使用在其他設計上達成的效能(並從中學習)
• 提升產能，並縮短上市時程的時間
• 加速不同製程節點間的設計遷移時間

這些優勢搭配AI技術能力，能夠處理繁瑣的重複性工作，讓工程師有時間專注於能為他們帶來競爭優勢的設計問題上。如需更多詳細資訊，請點閱  AI 晶片設計專文。

AI 晶片 vs. 傳統晶片

已故Intel 前總裁Gordon Moore 提出著名的摩爾定律，說明晶片上電晶體的數量(和效能)平均每兩年就會翻倍增長。隨著時間的推移，晶片(和製程節點)變得更加繁複，摩爾定律也逐漸逼近上限，數量更多的電晶體無法擠入體積更小的單一晶片中。過去幾年來，在重新思考整個半導體架構的前提下，這一極限已經被徹底打破。如今的多晶粒系統帶來晶片效能的指數性提升，也為可能的設計新領域開闢一條新道路。

AI 加速器在 AI 晶片中的作用

AI 加速器是多晶粒系統中的一種元件晶片。AI 加速器能夠大幅提升工作負載的可擴展性及處理速度。相較於一般用途的計算機，AI加速器的能源效率高出 1000 倍。對資料中心而言，能源效率尤其重要，因為資料中心大部分的功率預算單純只用於保持系統冷卻。功率在邊緣運算也扮演關鍵角色，因為能以低功率在相互連結的各種裝置中處理運算是很重要的。AI 加速器也可以降低系統延遲，不僅讓系統具有可擴展性，也讓系統具備多樣化的品質。如需深入探索 AI 加速器可以為您的系統帶來什麼效益，請點閱 AI 加速器一文。

AI 晶片中的電源管理

Glitch是存在 AI 晶片中的一項跟電源有關的議題。Glitch是發生在系統中的非必要訊號，可能引發 IR壓降並對機電造成挑戰。造成的影響可能是很輕微，也可能是具災難性的程度。為了防止出現這種情況，需要適當的機制才能避免或降低故障，並以其他方法管理glitch功耗。具體而言，需要有正確的延遲數據和工具，才能測量導致功耗急遽上升的功率異常。為了避免和降低故障，在設計方法中需儘早進行glitch功耗管理。由於 AI 晶片的處理容量和功率密度都比傳統設計高出許多，因此，glitch功耗對 AI 晶片而言更是前所未有的重要。開發 AI 晶片需要提早考慮最佳的微架構，才能管理任何系統和 RTL 層級中的故障。如要瞭解關於妥善管理電源的詳情，請繼續閱讀Glitch功耗。

AI 在EDA 工具和晶片驗證所扮演的角色

如同其他技術，AI也正逐漸擴展至 EDA工具和晶片驗證領域。Synopsys.ai™ 是業界首款以AI 驅動的完整 EDA設計套件，可加速從設計架構到簽核的所有階段。這是革命性的創新，藉由這個設計套件設計人員得以：

• 擴增設計流程中的選擇，實現無法超越的 PPA。
• 透過自動融合至投片(tape-out)就緒的解決方案，以最短的時間實現設計目標。
• 將其設計能力擴展至專家級的水平
• 利用更高覆蓋率，更快速地驗證設計，鉅細靡遺地完成側錯

您可以在以下文章深入瞭解 AI 在EDA 和驗證工具的應用：AI 如何強化 EDA 工具和晶片設計、使用 AI 和機器學習強化晶片驗證和使用 AI 進行 SoC 設計驗證和晶片偵錯。

AI 晶片使用案例

AI 晶片適用於超大規模資料中心。無論是智慧型手機、智能家庭或任何智能應用，AI晶片的運算處理能力已從資料中心持續發展至邊緣。相較於以往，如今有更多資料被創造出來。AI 晶片在高效能運算等領域發揮關鍵作用，其中超級電腦處理大量資料集，有助於我們更妥善地瞭解全球暖化、疫情和我們在宇宙中的所在位置。在資料中心，AI 晶片將協助我們達到全新的效率層級，並利用更少的能源創造最高效能。在邊緣，AI 晶片讓我們能夠在萬物都真正互聯的世界中分散處理能力。而且還有諸多應用尚未誕生。我們才剛開始起步，逐步實現 AI 晶片可以達到的功能。

《半導體工程》報告描述，AI 晶片市場在五年前幾乎不存在，到了 2021 年，其市場價值高達 870 億美元，而分析專家預估到了 2030 年其市場價值將突破 1.6 兆美元。該文章指出：「雖然大多數人都熟悉使用機器學習和深度學習來區分貓和狗，另一方面新興應用也揭櫫如何以不同方式來運用這些功能。舉例來說，可以在沒有人工干預的情況下，利用數據資料優先排序和分區來優化晶片或系統的功耗和效能。」

AI 晶片的未來

雖然 AI 晶片已經在改善技術體驗，但目前仍然在需要最高效能的領域中，才比較常出現AI技術的應用。展望未來，光子學和多晶粒系統將有助於實現更高的功率；而隨著時間推移，AI技術可望在更多具功率敏感度的應用中被採用，並變得越來越普及。請繼續閱讀晶片設計中的 AI 未來展望和2023 年 AI 重要預測：AI 應用程式和晶片設計工具 ，瞭解半導體AI應用 的未來。

總結

AI 晶片和 AI 晶片設計讓我們擁有超越一些瘋狂夢想的能力。AI市場預期在 10 年內將成長翻倍。AI 晶片也將繼續從超大規模資料中心擴散到邊緣運算，在人們的生活中根深蒂固，讓萬物更妥善地相互連結，並讓人類能夠解決之前無法解決的問題。我們會繼續尋找使用 AI 晶片的新方法，這不僅為我們帶來更輕鬆的歷程，也為我們打開全新領域，探索並自由發揮想像力。