DSO.ai
由人工智慧驱动的设计应用
瞭解更多 →
何謂 AI 晶片？AI 晶片设计全方位指南
現今我們對 AI 進行廣泛的討論，並探討從勞動力到醫學、太空探索，乃至於人們的生活方式，AI 是如何改變這一切。AI 日漸滲透到各個技術面向，不僅增加資料中心的容量，使其能更有效率地執行相較於以往更廣泛且複雜度更高的工作負載，同時催生邊緣運算的技術，改變了物聯網。然而，何謂 AI 晶片？AI 晶片對我們邁向新時代的能力如此重要的原因是什麼？
當今的 AI 晶片可執行AI 技術，像是 FPGA、GPU 和 ASIC 加速器上的机器学习工作負載。這些晶片可以處理更多變數和運算的細微差別，相較於傳統處理器，可以處理的資料量呈指數性大幅地增長；針對資料密集型應用，AI晶片確實比傳統積體電路 (integrated circuit, IC)，可以更快、更有效率地處理資料。
半導體架構也歷經一場變革，讓AI 晶片得以實現。最新的進展是在單一封裝中將 AI 晶片建構在許多獨立的異質元件中，進而將晶片的獨特功能最佳化。這些多晶粒(multi-die)系統突破傳統單一SoC 晶片的極限，亦即很快就會達到的效能上限。事實上，這些多晶粒系統是促成深度学习功能的基礎。
為什麼需要 AI 晶片？
AI 晶片管理繁複工作方面可以與人類大腦的智力相媲美，然而其處理速度和容量卻能夠超越人類的能力。AI 晶片已在各行各業的不同應用中廣泛被使用。在任何需要最高效能表現的地方，就會發現AI 晶片的存在，例如高階影像處理、伺服器、汽車和手機。如果想瞭解更多關於 AI 晶片的資訊，也可以點閱為什麼 AI 需要新的晶片架構一文。該篇文章指出：「AI 晶片设计可以降低 15% 至 20% 的時脈速度，同時將密度提高15% 至 30%；AI晶片也需要记忆体元件以快速存取，讓 AI 技術能夠在幾分鐘之內完成訓練，而非幾小時才能完成。」如果您正跟資料中心租用空間，這些優勢可以讓您節省成本；或者如果您是使用內部的资源，這些優勢則為您提供更多反覆試誤(trial and error)的彈性。AI 晶片在管理需要進行大量的資料密集型運算的繁複 AI 工作方面扮演重要角色。
何謂 AI 晶片设计？
如今，AI 不僅被當作是晶片功能性任務的一環，也被用來设计晶片，並大幅增強工程產能。AI 技術已整合至整個半導體開發流程中，協助设计、验证並測試 IC。強化學習主要能夠快速識別優化目標；此外，業界開始在晶片设计方面探索生成式 AI，以便能妥善地支援客製化並提高產能。針對晶片设计使用 AI 的優勢包括：
- 大幅提升功率、效能及面積 (power, performance, and area, PPA)
- 能夠重複使用在其他设计上達成的效能(並從中學習)
- 提升产能，并缩短上市时程的时间
- 加速不同製程節點間的设计遷移時間
這些優勢搭配AI技術能力，能夠處理繁瑣的重複性工作，讓工程師有時間專注於能為他們帶來競爭優勢的设计問題上。如需更多詳細資訊，請點閱 AI 晶片设计专文。
AI 晶片 vs. 傳統晶片
已故Intel 前總裁Gordon Moore 提出著名的摩爾定律，說明晶片上電晶體的數量(和效能)平均每兩年就會翻倍增長。隨著時間的推移，晶片(和製程節點)變得更加繁複，摩爾定律也逐漸逼近上限，數量更多的電晶體無法擠入體積更小的單一晶片中。過去幾年來，在重新思考整個半導體架構的前提下，這一極限已經被徹底打破。如今的多晶粒系統帶來晶片效能的指數性提升，也為可能的设计新領域開闢一條新道路。
AI 加速器在 AI 晶片中的作用
AI 加速器是多晶粒系統中的一種元件晶片。AI 加速器能夠大幅提升工作負載的可擴展性及處理速度。相較於一般用途的計算機，AI加速器的能源效率高出 1000 倍。對資料中心而言，能源效率尤其重要，因為資料中心大部分的功率預算單純只用於保持系統冷卻。功率在邊緣運算也扮演關鍵角色，因為能以低功率在相互連結的各種裝置中處理運算是很重要的。AI 加速器也可以降低系統延遲，不僅讓系統具有可擴展性，也讓系統具備多樣化的品質。如需深入探索 AI 加速器可以為您的系統帶來什麼效益，請點閱 AI 加速器一文。
AI 晶片中的電源管理
Glitch是存在 AI 晶片中的一項跟電源有關的議題。Glitch是發生在系統中的非必要訊號，可能引發 IR壓降並對機電造成挑戰。造成的影響可能是很輕微，也可能是具災難性的程度。為了防止出現這種情況，需要適當的機制才能避免或降低故障，並以其他方法管理glitch功耗。具體而言，需要有正確的延遲數據和工具，才能測量導致功耗急遽上升的功率異常。為了避免和降低故障，在设计方法中需儘早進行glitch功耗管理。由於 AI 晶片的處理容量和功率密度都比傳統设计高出許多，因此，glitch功耗對 AI 晶片而言更是前所未有的重要。開發 AI 晶片需要提早考慮最佳的微架構，才能管理任何系統和 RTL 層級中的故障。如要瞭解關於妥善管理電源的詳情，請繼續閱讀骋濒颈迟肠丑功耗。
AI 在EDA 工具和晶片验证所扮演的角色
如同其他技術，AI也正逐漸擴展至 EDA工具和晶片验证領域。草榴社区.ai? 是業界首款以AI 驅動的完整 EDA设计套件，可加速從设计架構到签核的所有階段。這是革命性的創新，藉由這個设计套件设计人員得以：
- 擴增设计流程中的選擇，實現無法超越的 PPA。
- 透過自動融合至投片(tape-out)就緒的解决方案，以最短的時間實現设计目標。
- 將其设计能力擴展至專家級的水平
- 利用更高覆蓋率，更快速地验证设计，鉅細靡遺地完成側錯
您可以在以下文章深入瞭解 AI 在EDA 和验证工具的應用：AI 如何強化 EDA 工具和晶片设计、使用 AI 和机器学习強化晶片验证和使用 AI 進行 SoC 设计验证和晶片偵錯。
AI 晶片使用案例
AI 晶片適用於超大規模資料中心。無論是智慧型手機、智能家庭或任何智能應用，AI晶片的運算處理能力已從資料中心持續發展至邊緣。相較於以往，如今有更多資料被創造出來。AI 晶片在高效能運算等領域發揮關鍵作用，其中超級電腦處理大量資料集，有助於我們更妥善地瞭解全球暖化、疫情和我們在宇宙中的所在位置。在資料中心，AI 晶片將協助我們達到全新的效率層級，並利用更少的能源創造最高效能。在邊緣，AI 晶片讓我們能夠在萬物都真正互聯的世界中分散處理能力。而且還有諸多應用尚未誕生。我們才剛開始起步，逐步實現 AI 晶片可以達到的功能。
《》報告描述，AI 晶片市場在五年前幾乎不存在，到了 2021 年，其市場價值高達 870 億美元，而分析專家預估到了 2030 年其市場價值將突破 1.6 兆美元。該文章指出：「雖然大多數人都熟悉使用和来区分猫和狗，另一方面新兴应用也揭櫫如何以不同方式来运用这些功能。举例来说，可以在没有人工干预的情况下，利用数据资料优先排序和分区来优化晶片或系统的功耗和效能。」
AI 晶片的未來
雖然 AI 晶片已經在改善技術體驗，但目前仍然在需要最高效能的領域中，才比較常出現AI技術的應用。展望未來，光子學和多晶粒系統將有助於實現更高的功率；而隨著時間推移，AI技術可望在更多具功率敏感度的應用中被採用，並變得越來越普及。請繼續閱讀晶片设计中的 AI 未來展望和2023 年 AI 重要預測：AI 應用程式和晶片设计工具 ，瞭解半導體AI應用 的未來。
总结
AI 晶片和 AI 晶片设计讓我們擁有超越一些瘋狂夢想的能力。AI市場預期在 10 年內將成長翻倍。AI 晶片也將繼續從超大規模資料中心擴散到邊緣運算，在人們的生活中根深蒂固，讓萬物更妥善地相互連結，並讓人類能夠解決之前無法解決的問題。我們會繼續尋找使用 AI 晶片的新方法，這不僅為我們帶來更輕鬆的歷程，也為我們打開全新領域，探索並自由發揮想像力。