本網站使用瀏覽器紀錄 (Cookies) 來提供您最好的使用體驗，我們使用的 Cookie 也包括了第三方 Cookie。相關資訊請訪問我們的隱私權與 Cookie 政策。如果您選擇繼續瀏覽或關閉這個提示，便表示您已接受我們的網站使用條款。 關閉
全球共乘與外送服務公司Uber在AWS上擴展其即時基礎設施，加速運作每日數百萬次乘車和外送服務 Graviton4和Trainium3是Amazon為運算和AI訓練客製化設計的晶片。 Uber使用AWS Graviton4在毫秒內配對乘客與駕駛。 Uber試用AWS Trainium3以建立更快速、更智慧的AI預測和模型。 在AWS上擴展Trip Serving Zones（行程服務區域），協助處理乘車和外送的需求高峰。 【台北訊，2026年4月8日】Uber是全球最大的共乘和按需外送公司，正在運用Amazon Web Services（AWS）擴展其基礎設施和人工智慧（AI）能力。Uber使用AWS Graviton執行個體來支援更多Trip Serving Zones，這是每次乘車和外送背後的即時基礎設施，並已開始在Trainium上試行訓練部分AI模型，實現更快速的乘客與外送配對、全球需求處理，並為每日數百萬用戶提供更智慧、更個人化的體驗。 每當您開啟Uber叫車或叫外送時，背後會發生一連串的瞬間決策：哪位駕駛最近？最快的路線是什麼？實際抵達需要多長時間？要同時為數百萬人即時且正確地回答這些問題，需要完善的基礎設施，讓Uber能在尖峰時段和大型活動期間大規模地提供這些服務。 Graviton如何即時支援數百萬次行程 Uber的Trip Serving Zones系統能確保每次乘車和外送順利運作，需要在毫秒內進行數百萬次預測並處理定位資訊。 Uber正在擴大使用AWS運算、儲存和網路服務，以支援Trip Serving Zones的即時運作。透過在AWS Graviton上執行更多工作負載，Uber可以降低能源消耗，同時快速擴展，以滿足需求高峰，進而減少延遲並最佳化成本。Graviton的高效能可支援部分即時運算，有助於更快速地將乘客與駕駛進行配對，同時兼顧可靠性、可用性與安全性。 Uber工程副總裁Kamran Zargahi表示：「Uber的運作規模讓每毫秒都很重要，將更多Trip Serving工作負載移至AWS，讓我們能更靈活地加速配對乘客與駕駛，並在外送需求高峰時，依然保持系統運行不中斷。」 使用AWS Trainium晶片大規模改善Uber乘車體驗 Uber也開始試用AWS Trainium來訓練支援其應用程式的部分AI模型。這些模型透過分析數十億次乘車和外送資料，決定派遣哪位駕駛或外送員、計算抵達時間，並為客戶推薦最合適的外送選項。進行如此大規模的AI訓練需要龐大的運算能力，Trainium以高效能且具成本效益的方式實現這項需求。隨著模型不斷學習行程資料，Uber能為全球客戶提供更快速的配對、更準確的預計抵達時間，以及更個人化的推薦，讓他們能更快抵達目的地與更早收到外送。 Kamran Zargahi表示：「透過在Trainium上試行部分AI模型，我們正在建立讓每次Uber體驗都更智慧的技術基礎，這樣我們就能將重心放在每天使用Uber的人們。」 AWS北美區副總裁暨總經理Rich Geraffo表示：「Uber是世界上要求最高的即時應用程式之一，我們很榮幸能為其全球營運提供重要的基礎設施支援。我們協助Uber為數億人提供可靠的服務，並以AI驅動的體驗定義共乘和按需外送的未來。」
Amazon Graviton4 為目前 AWS 性能最強、最具能源效益的自研晶片，支援大範圍的雲端工作負載 Amazon Trainium2 將為 AWS 上的模型訓練提供最高運算性能，並提高訓練速度、降低成本及能源消耗 香港 - Media OutReach - 2023年11月30日 - AWS 在 2023 re:Invent 全球大會上宣布兩個自研晶片家族系列將推出新一代晶片成員，包括 Amazon Graviton4 和 Amazon Trainium2，為需要機器學習（ML）訓練和生成式 AI（Generative AI）應用等多樣化工作負載的客戶提供更高效和更具能源效益的選擇。Graviton4 和 Trainium2 是 AWS 在自研晶片上的最新突破，AWS持續提升每一代自研晶片的性價比和能源效益，為客戶提供 AMD、Intel 以及 NVIDIA 等最新晶片和 instance 組合之外更多的選擇，從而使 Amazon Elastic Compute Cloud（Amazon EC2）可以為客戶虛擬運行幾乎所有應用程式和工作負載。 Graviton4 與當前一代 Graviton3 處理器相比，性能提升高達 30%，獨立核心數量增加 50% 以上，記憶體寬頻提升 75% 以上，為在 Amazon EC2 上運行的工作負載提供最佳性能和能源效益。 Trainium2 的訓練速度與第一代 Trainium 晶片相比提升多達 4 倍，並能在EC2 UltraClusters 中部署多達 100,000 個晶片，可以在極短的時間訓練基礎模型（FMs）和大語言模型（LLMs），同時提升多達 2 倍的能源效益。 AWS 運算和網絡副總裁 David Brown表示：「晶片是所有客戶工作負載的基礎，所以 AWS一直將晶片視為其至關重要的創新領域。通過將晶片設計聚焦於客戶真正關心的實際工作負載，我們能夠為客戶提供最先進的雲端基礎架構。Graviton4 是我們同系列在五年內推出的第四代晶片，是我們至今功能最強大和最具能源效益的晶片，為客戶大範圍的工作負載提供進一步的支援。隨著生成式 AI 引起的廣泛關注，Trainium2 可以讓客戶以更低成本和更高的能源效益，更快地訓練機器學習模型。」 Graviton4 為客戶大範圍的工作負載提供更高性價比和能源效益 如今，AWS 在全球提供多達 150 多個以 Graviton 驅動的Amazon EC2 instances 種類，已經構建超過200萬個 Graviton處理器，並擁有超過 50,000 名客戶，包括 EC2前 100大客戶，正在使用以 Graviton 驅動的 instance 為其應用提供最高的成本效益。Datadog、DirecTV、Discovery、Formula 1 （F1）、NextRoll、Nielsen、Pinterest、SAP、Snowflake、Sprinklr、Stripe 以及 Zendesk 等客戶正使用基於 Graviton 的instance 運行大範圍的工作負載，包括資料庫、資料分析、網絡服務器、批次處理、廣告服務、應用伺服器以及微服務等。隨著客戶把更大的記憶體資料庫和分析工作負載遷移到雲端上，他們對運算、記憶體、儲存和網路的要求也隨之增加。為此，他們需要更高性能和更大的 instance 來運行這些要求嚴格的工作負載，同時需要減省成本。針對這些工作負載，客戶同時希望能使用更節能的計算資源，減少對環境的影響。目前，很多 AWS 的託管服務均支援使用 Graviton，包括 Amazon Aurora、Amazon ElastiCache、Amazon EMR、Amazon MemoryDB、Amazon OpenSearch、Amazon Relational Database Service（Amazon RDS）、Amazon Fargate 以及 Amazon Lambda 等，務求將 Graviton 的成本效益優勢帶給上述服務的使用者。 Graviton4 處理器比 Graviton3 處理器的性能高 30%，獨立核心數量增加 50% 以上，記憶體頻寬提升 75% 以上。Graviton4 還進一步通過高速物理硬體介面的完全加密提升了安全性。Amazon EC2 R8g 記憶體最佳化instances將採用最新的 Graviton4，提升客戶運行高性能資料庫、記憶體緩存、大資料分析等工作負載的效率。R8g instance 相比當前一代的 R7g instance 提供更大的instance 大小，而虛擬處理器（vCPU）以及記憶體更提升了3倍。升級令使用者可以處理更大量的資料、更大規模的工作負載、更快地獲得運行結果，並降低總體擁有成本。以 Graviton4 驅動的 R8g instance 現已提供預覽版，並將在未來數月推出正式可用版。欲了解更多有關 Graviton4 支援 R8g instance 的相關資訊，請瀏覽：aws.amazon.com/ec2/instance-types/r8g。 Trainium2 的 EC2 UltraClusters 致力為客戶提供雲端上性能最高、最具能源效益的 AI 模型訓練基礎架構 生成式 AI 應用日益普及，而其背後的基礎模型和大語言模型則需要海量的資料集進行訓練。這些模型通過創造文字、音訊、圖片、影片、甚至軟件代碼等大量新的內容，協助客戶重構使用者體驗。現時最先進的基礎模型和大語言模型通常包含數千億甚至數萬億個參數或變數，需要能夠支援可擴展到上萬塊機器學習晶片以及可靠的高性能運算能力。AWS現已提供由機器學習晶片支援的Amazon EC2 instances 選項，以確保廣泛且深入的覆蓋範圍，包括最新的 NVIDIA GPUs、Trainium 以及 Inferentia2。Databricks、Helixon、Money Forward 以及 Amazon Search 團隊等眾多客戶都在使用 Trainium 訓練大規模深度學習模型，並受惠於 Trainium 的高性能、可擴展、可靠以及低成本等多方面優勢。但即使已經有當今最快的 accelerated instance，客戶仍然希望獲得更高的性能和更大的規模來訓練這些日益複雜的模型，從而提高訓練速度、降低成本，以及減少能源消耗。 Trainium2 晶片專為擁有數萬億個參數或變數，且需要高性能訓練的基礎模型和大語言模型而構建。Trainium2 與第一代 Trainium 晶片相比，性能提升高達 4 倍，記憶體容量則提升 3 倍，而能源效率（每瓦性能）提升亦多達 2 倍。Amazon EC2 Trn2 instances 採用最新的 Trainium2，一個單獨instance 包含 16 個 Trainium 加速晶片。Trainium2 instances 致力為客戶在新一代EC2 UltraClusters 中擴展多達 100,000 個 Trainium2 加速晶片，並與 Amazon Elastic Fabric Adapter（EFA）PB 級網絡互聯，提供的運算能力高達 65 exaflops，客戶可按需要選擇超級運算級別的性能。該級別的規模，可讓客戶在數周內完成訓練一個具有 3 千億參數的大語言模型。通過顯著地降低成本和擴展幅度最大的模型訓練，Trainium2 instance可以協助客戶解鎖並加速生成式 AI 的新一輪創新。欲了解更多 Trainium2 的相關資訊，請瀏覽：aws.amazon.com/machine-learning/trainium/。 Anthropic 是一家 AI 安全和研究公司，倡導負責任地部署生成式 AI，致力於創建可靠、可解釋和可控的 AI 系統。Anthropic 自 2021 年開始使用 AWS。近期，Anthropic推出了 Claude — 一款專注於提供幫助、無害且誠實的 AI 助手。Anthropic聯合創始人Tom Brown表示：「自選用 Amazon Bedrock 以來，Claude已獲得AWS客戶的廣泛採用。Trainium2 將協助我們大規模構建和訓練模型，於我們數個主要的工作負載而言，Trainium2 相比第一代 Trainium 晶片的速度提升至少4倍。我們與AWS的合作，將令不同規模的組織有機會同時受惠於 Anthropic安全並先進的 AI 系統，以及AWS 可靠的雲端技術，從而釋放新的可能性。」 Databricks 為全球超過 10,000 家組織及機構提供服務，包括 Comcast、Condé Nast 及 50% 以上的《財富》世界500強企業，助客戶統一其資料、分析和應用 AI。Databricks 生成式 AI 副總裁 Naveen Rao 表示：「 數千家客戶在 AWS 上運行 Databricks，利用 MosaicML 對各種用例的基礎模型進行預訓練、微調及其他操作。Amazon Trainium 為我們提供了訓練 Mosaic MPT 模型所需要的規模、高性能以及低成本。Trainium2 令快速構建下一代 Mosaic MPT 模型變得可能，讓我們有機會為客戶提供前所未有的規模和性能，協助他們在更短時間內推出自己的生成式 AI 應用。」 Hashtag: #AWS發佈者對本公告的內容承擔全部責任關於Amazon Web Services自2006年來，Amazon Web Services一直在提供世界上服務最豐富、應用廣泛的雲端服務。AWS為客戶提供超過240種功能全面的雲端服務，包括運算、儲存、數據庫、網絡、分析、機器學習與人工智能、物聯網、流動、安全、混合雲、虛擬和擴增實境(VR 和AR)、媒體，以及應用開發、部署和管理等方面，遍及32個地理區域內的102個可用區域(Availability Zones)，並已公佈計畫在加拿大、德國、馬來西亞、紐西蘭和泰國建立5個AWS地理區域、15個可用區域。AWS的服務獲得全球超過百萬客戶的信任，包括發展迅速的初創公司、大型企業和政府機構。通過AWS的服務，客戶能夠有效強化自身基礎設施，提高營運上的彈性與應變能力，同時降低成本。欲了解更多有關AWS的資訊，請瀏覽：https://aws.amazon.com。
AWS Graviton4是目前AWS效能最強、最具能源效率的自研晶片，支援廣泛的雲端工作負載 AWS Trainium2提供AWS上用於模型訓練的最高運算效能，提高訓練速度、降低成本及能耗 【台北訊，2023年11月30日】亞馬遜（Amazon）旗下Amazon Web Services（AWS）於AWS re:Invent全球盛會上宣布，自研晶片的兩個系列推出新一代，包括AWS Graviton4和AWS Trainium2，為機器學習（ML）訓練和生成式人工智慧（AI）應用等廣泛的工作負載提供更高性價比和效能。Graviton4和Trainium2是AWS自研晶片的最新創新，AWS每一代自研晶片都持續提升性價比和效能，為客戶提供了使用AMD、Intel以及NVIDIA等最新晶片和執行個體組合之外的更多選擇，進而使Amazon Elastic Compute Cloud (Amazon EC2)可以為客戶虛擬運行幾乎所有應用和工作負載。 • Graviton4與前一代Graviton3處理器相比，效能提升高達30%，獨立核心增加50%以上，記憶體頻寬提升75%以上，為在Amazon EC2上運行的工作負載提供最佳效能和能源效率。 • Trainium2與第一代Trainium晶片相比訓練速度提升多達4倍，並能在EC2 UltraClusters中部署多達100,000個晶片，可以在極短的時間訓練基礎模型（FMs）和大語言模型（LLMs），同時能源效率提升多達2倍。 AWS運算與網路服務副總裁David Brown表示：「晶片是客戶所有工作負載的基礎，這也是為什麼AWS一直將此領域視為至關重要的創新領域。透過將晶片設計聚焦於客戶真正關心的實際工作負載，我們能夠為客戶提供最先進的雲端基礎設施。Graviton4是我們在短短五年推出的同系列第四代，是我們至今功能最強大和最具能源效率的晶片，支援客戶廣泛的工作負載。隨著生成式AI引起廣大的關注，Tranium2可以幫助客戶以更低的成本和更佳的能源效率，更快地訓練機器學習模型。」 Graviton4為客戶廣泛的工作負載提供更佳的性價比和更高的能源效率 如今，AWS在全球大規模提供的使用Graviton的Amazon EC2執行個體種類達150多個，已經建構的Graviton處理器數量超過200萬個，並擁有超過50,000客戶。這些客戶涵蓋了EC2最大的前100個客戶，他們應用使用Graviton的執行個體獲得最佳的性價比。Datadog、DirecTV、Discovery、Formula 1 (F1)、NextRoll、Nielsen、Pinterest、SAP、Snowflake、Sprinklr、Stripe以及Zendesk等客戶正採用使用Graviton的執行個體運行廣泛的工作負載，包括資料庫、資料分析、網路服務器、批次處理、廣告服務、應用伺服器以及微服務等。隨著客戶把更大的記憶體資料庫和分析工作負載遷移到雲端，對運算、記憶體、儲存和網路的要求也隨之增加。為此，客戶需要更高效能和更大的執行個體來運行這些要求嚴苛的工作負載，同時需要優化成本。針對這些工作負載，客戶還希望能使用更加節能的運算資源，減少對環境的影響。目前，很多AWS的託管服務都支援使用Graviton，包括Amazon Aurora、Amazon ElastiCache、Amazon EMR、Amazon MemoryDB、Amazon OpenSearch、Amazon Relational Database Service (Amazon RDS)、AWS Fargate 以及AWS Lambda等，將Graviton的性價比優勢帶給使用這些服務的客戶。 Graviton4處理器相比Graviton3處理器效能提升30%，獨立核心增加50%以上，記憶體頻寬提升75%以上。Graviton4還進一步透過完全加密高速物理硬體介面提升了安全性。Amazon EC2 R8g記憶體優化執行個體將採用最新的Graviton4，提升客戶運行高效能資料庫、記憶體緩存、大數據分析等工作負載的效率。R8g執行個體相比前一代R7g執行個體提供更大的執行個體大小，虛擬處理器（vCPU）以及記憶體均提升了3倍。這讓使用者可以處理更大量的資料、更大規模的工作負載、更快獲得運行結果，並降低擁有權總成本。使用Graviton4的R8g執行個體現已提供預覽版，並將在未來幾個月推出正式可用版。欲了解更多使用Graviton4的R8g執行個體的資訊，請至：aws.amazon.com/ec2/instance-types/r8g。 Trainium2的EC2 UltraClusters致力於為客戶提供雲端最高效能、最具能源效率的AI模型訓練基礎設施 如今日益增加的生成式AI應用背後的基礎模型和大語言模型需要使用海量的資料進行訓練。這些模型透過創造文字、音訊、圖片、影片、甚至軟體程式碼等大量新的內容，幫助客戶重構使用者體驗。當今最先進的基礎模型和大語言模型通常包含數千億甚至數萬億個參數或變數，需要能夠支援上萬機器學習晶片進行擴展的可靠高效能運算能力。AWS現已提供廣泛而深入的機器學習晶片支援的Amazon EC2執行個體選項，包括最新的NVIDIA GPU、Trainium以及Inferentia2。 Databricks、Helixon、Money Forward以及Amazon Search團隊等眾多客戶都在使用Trainium訓練大規模深度學習模型，受益於Trainium的高效能、可擴展、可靠以及低成本等諸多優勢。然而即便已經在使用當今最快的加速執行個體，客戶仍然希望獲得更強的效能和規模來訓練這些日益複雜的模型，從而提高訓練速度、降低成本，同時降低能源消耗。 Trainium2晶片專為以高效能訓練具有數萬億個參數或變數的基礎模型和大語言模型而打造。Trainium2與第一代Trainium晶片相比，效能提升多達4倍，記憶體提升3倍，能源效率（每瓦效能）提升多達2倍。Amazon EC2 Trn2執行個體採用最新的Trainium2，一個單獨執行個體包含16個Trainium加速晶片。Trainium2執行個體致力於為客戶在新一代EC2 UltraClusters中擴展多達100,000個Trainium2加速晶片，並與AWS Elastic Fabric Adapter（EFA）PB級網路互連，提供的產能高達65 exaflops（exaflops指10的18次方，百億億次），客戶可按需獲得超級運算級別的效能。有了這個級別的規模，客戶可在數週而非數月就能訓練完成一個具有3千億參數的大語言模型。透過顯著降低的成本提供最高橫向擴展的模型訓練，Trainum2執行個體可以幫助客戶開啟並加速生成式AI的新一輪創新。欲了解更多Trainum2的相關資訊，請至：aws.amazon.com/machine-learning/trainium/。 Anthropic是一家AI安全和研究公司，是負責任地部署生成式AI的主要推廣者，致力於打造可靠、可判斷和可控的AI系統。Anthropic自2021年開始使用AWS，近期Anthropic推出了Claude，一款專注於提供幫助、無害且誠實的AI助手。Anthropic聯合創辦人Tom Brown表示：「自支援Amazon Bedrock以來，Claude已獲得AWS客戶的廣泛採用。Trainium2將幫助我們大規模建構和訓練模型，對於一些工作負載，Trainium2相比第一代Trainium晶片速度提升了至少4倍。我們與AWS的合作，將助力各種規模的組織有機會同時受益於Anthropic安全並先進的AI系統以及AWS可靠的雲端技術，進而開創新的可能性。」 Databricks幫助全球超過10,000家組織機構，包括Comcast、Condé Nast及50%以上的財富500強企業，統一資料、分析和運用AI。Databricks生成式AI副總裁Naveen Rao表示：「數千家客戶在AWS上運用Databricks，使用MosaicML對各種用例的基礎模型進行預先訓練、微調及其他操作。AWS Trainium為我們提供了訓練Mosaic MPT模型所需要的規模、高效能以及低成本。Trainium2使更快地建構下一代Mosaic MPT模型成為可能，讓我們有機會為客戶提供前所未有的規模和效能，助力他們比以往更快地推出自己的生成式AI應用。」 ### 關於Amazon Web Services 自2006年來，Amazon Web Services一直在提供世界上服務最豐富、應用廣泛的雲端服務。AWS不斷擴展可支援幾乎任何雲端工作負載的服務，為客戶提供超過240種功能全面的雲端服務，包括運算、儲存、資料庫、聯網、分析、機器學習與人工智慧、物聯網、行動、安全、混合雲、虛擬和擴增實境（VR和AR）、媒體，以及應用開發、部署和管理等方面，遍及32個地理區域內的102個可用區域（Availability Zones），並已公佈計畫在加拿大、德國、馬來西亞、紐西蘭和泰國建立5個AWS地理區域、15個可用區域。全球超過百萬客戶信任AWS，包含發展迅速的新創公司、大型企業和政府機構。AWS協助客戶強化自身基礎設施，提高營運上的彈性與應變能力，同時降低成本。欲瞭解更多AWS的相關資訊，請至：aws.amazon.com。
【2023 年 11 月 16 日，台北訊】在 2023 年結束之際，各產業皆因 AI 技術的進步而經歷一場集體轉型，探索全新工作模式。微軟 Ignite 大會是展示開發中先進技術的重要平台，協助客戶、合作夥伴和開發人員實現微軟技術的整體價值，並重塑工作方式。 隨著今年接近尾聲，強烈跡象顯示 AI 具有改變工作方式的潛力。根據微軟最新的工作趨勢指數報告（Work Trend Index）指出，微軟推出的 Copilot for Microsoft 365，能減少使用者數位庶務並提高生產力，讓其得以專注於人類才能處理的工作。針對大家最想知道的問題：Copilot 是否真的能改變人們的工作方式以及如何改變，微軟也結合問卷調查和對照證明 Copilot 確實能提高使用者的工作效率： • 70% Copilot 使用者表示其工作效率有所提升，68% 使用者表示 Copilot 有助於提升其工作品質；68% 使用者表示 Copilot 有助於激發創意流程。 • 整體而言，使用者完成特定任務（搜尋、撰寫和總結）的速度提高 29%。 • 使用者對於錯過會議進度追上的速度提高將近 4 倍。 • 64% 使用者表示 Copilot 有助於他們減少處理電子郵件的時間。 • 87% 使用者表示 Copilot 有助於他們在撰寫初稿時更加容易。 • 75% 使用者表示 Copilot 有助於在其檔案中找到所需資訊節省時間。 • 77% 使用者表示，一旦使用過 Copilot，會持續使用。 今天微軟發表約 100 項產品與服務，涉及 AI 前瞻策略的多個層面，包含導入、生產力提升到安全性相關的解決方案。其中，重點關鍵領域如下： 重新思考雲端基礎架構 隨著 AI 技術的應用加速推動，微軟正重新思考雲端基礎架構，以確保能最佳化每一層硬體和軟體堆疊。 微軟在 Ignite 大會上宣布資料中心的創新，包括產業夥伴新推出的最佳化 AI 晶片和兩款全新的微軟自研晶片。 • Microsoft Azure Maia 是專為雲端訓練和推理而設計的 AI 加速晶片，可用於處理 OpenAI 模型、Bing、GitHub Copilot 和 ChatGPT 等 AI 服務。 • Microsoft Azure Cobalt 為基於 Arm 架構的雲端原生晶片，最佳化通用服務的效能、能源效率和成本效益。 • 微軟也宣布 Azure Boost 系統正式推出，可將儲存和網路相關流程從主機伺服器轉移至專門建置的硬體和軟體上，提高儲存和網路速度。 微軟持續擴大與晶片供應商的合作關係，搭配自研晶片，為客戶提供基礎架構選擇。 • 微軟在 Azure 平台上新增超微（AMD）MI300X 加速虛擬機（VMs）。ND MI300 虛擬機為加速高階 AI 模型訓練和生成推理的 AI 服務處理所設計，並配備超微最新繪圖處理器（GPU）AMD Instinct MI300X。 • 全新 NC H100 v5 虛擬機系列的預覽版，專為 NVIDIA H100 Tensor Core GPU 打造，可為中階 AI 訓練和生成式 AI 推理提供更高效能、可靠性和效率。此外，微軟也宣布 ND H200 v5 虛擬機系列的計畫，此為 AI 最佳化虛擬機，預計搭載即將推出的 NVIDIA H200 Tensor Core GPU。 擴展微軟 Copilot 體驗 過去一年微軟持續致力於完善 Copilot 的願景，協助人們運用這套 AI 工具實現更多目標。為了將 AI 應用擴展至提升個人生產力以外領域，微軟將 Copilot 的服務延伸到各種解決方案，翻轉從辦公室職員、第一線員工，到開發人員與 IT 人員，每個職位和職能的生產力和業務流程。 微軟是 Copilot 公司，未來 Copilot 將適用於每一個人和每件事，Copilot 相關公告和更新請見下方詳述： • Microsoft Copilot for Microsoft 365：Copilot for Microsoft 365 企業版已於本月正式推出，包含 Visa、英國石油公司（BP）、本田（Honda）和輝瑞（Pfizer）等客戶，以及埃森哲（Accenture）、安永（EY）、安侯建業（KPMG）、勤達睿（Kyndryl）和資誠（PwC）等合作夥伴皆已使用 Copilot。微軟將根據全球預覽版計劃和其他研究管道中獲得的經驗，為客戶帶來全新價值。全新 Microsoft Copilot Dashboard 能為客戶提供類似於微軟工作趨勢指數報告的生產力分析，顯示 Copilot 如何影響其企業。微軟也推出新的客製化回應功能來協助 Copilot 根據使用者的偏好和職位提供回應。為強化團隊合作，Copilot 在 Outlook 的新功能可協助使用者為會議做好準備；在會議期間，Microsoft Teams 的 Copilot 提供全新白板和筆記體驗，讓所有與會者維持資訊同步。有相關需求的客戶現在也能在會議期間使用 Copilot，且無需保留會議文字紀錄，只要讓 Copilot 參與會議，它就不僅是使用者的個人助理，更能協助整個與會團隊。了解更多包括 PowerPoint、Excel、Microsoft Viva 在內的整個套件的更新，請參考 Microsoft 365 部落格文章。 • Microsoft Copilot Studio：AI 轉型始於深入挖掘企業的獨特數據和工作流程。Microsoft Copilot Studio 是一款低程式碼工具，專門設計提供使用者透過整合關鍵業務資料自訂微軟 Copilot 在 Microsoft 365 的應用，並建立提供內部或外部使用的客製化 Copilot。Copilot Studio 可與連接器、外掛程式和 GPT 搭配使用，使 IT 團隊能夠引導 Copilot 為特定查詢找到最佳資料來源。 • Microsoft Copilot for Service：最新的 Copilot 提供角色導向的支援，有助於企業加速其客戶服務的 AI 轉型。Copilot for Service 包含 Copilot for Microsoft 365，能協助企業使用生成式 AI 擴展現有客服中心。在客戶互動中，客服人員可使用自然語言向 Copilot for Service 提問，根據知識庫的資料來源獲得相關洞察後，更快速、更有智慧的回答客戶問題。 • Copilot 在 Microsoft Dynamics 365 Guides 中的應用：結合生成式 AI 和混合實境的強大功能，此 Copilot 可協助第一線員工在不中斷工作流程的情況下，更快完成複雜任務並解決問題。無需手動操作的 Copilot 將首先在 HoloLens 2 上推出，可協助維修專家使用自然語言和手勢，透過疊加在裝置上的內容和全息投影來提供互動指導。 • Microsoft Copilot for Azure：協助 IT 工作人員簡化日常 IT 管理作業的 AI 助理，它不僅是工具，更整合了聊天體驗，能理解使用者的角色和目標，並提高設計、操作疑難排解應用程式及基礎架構之能力。Copilot for Azure 可協助 IT 團隊深入了解其服務，解鎖尚未使用的 Azure 功能，在雲端和邊緣裝置環境中協調任務。 • 讓 Copilot 更加普及：微軟致力於簡化使用者體驗，透過領先業界的網路體驗 Bing，讓人人都能輕鬆開始使用 Copilot。現在，Bing Chat 直接就是 Copilot。透過這些更新，當使用 Microsoft Entra ID 登入時，在 Bing、Edge 和 Windows 中使用 Copilot 的客戶將獲得商業資料保護。未來微軟也將向更多 Entra ID（前稱 Azure Active Directory）的使用者免費提供商業資料保護的 Copilot 資格。Copilot（前稱 Bing Chat 和 Bing Chat Enterprise）將停止預覽，並於 12 月 1 日起正式推出。點擊此處進一步了解詳細資訊。 加強數據與 AI 的連結 企業導入 AI 的成效取決於提供給 AI 的數據量，因此微軟致力打造一個端到端的資料平台，賦能客戶將所有數據整合在單一平台上，能夠無縫使用微軟強大的 AI 工具，打造整合及簡化的體驗。 Microsoft Fabric 是該解決方案的一環，現已上市。Microsoft Fabric 將所有數據集中到由 AI 驅動的平台上，在企業級資料基礎上統一所有數據資產，重塑團隊處理數據的方式。 Microsoft Fabric 的 Copilot 也與 Microsoft Office 和 Teams 整合，以培養健康的數據文化，進而在企業內擴大數據價值的創造力。繼今年 Build 大會後，我們已發布超過 100 項的功能更新，並與業界領先的合作夥伴共同擴大產業生態系，目前超過 25,000 家企業正在使用該解決方案，包括明德精算（Milliman）、蔡司（Zeiss）、倫敦證券交易所（London Stock Exchange）和安永（EY）等。 Azure AI 為開發人員釋放更多價值 微軟持續擴大生成式 AI 模型的選擇及靈活性，為開發者提供最全面的方案。在 Build 大會上，微軟宣布了模型目錄（Model Catalog）中的新功能「模型即服務（Model-as-a-Service）」；透過該功能，專業開發者能夠輕鬆將最新的 AI 模型，如 Meta 的 Llama 2、Mistral 即將推出的進階模型，以及 G42 的 Jais 等，整合為 API 端點至其應用程式。專業開發者亦能使用自己的數據客製化這些模型，且不須擔心設置及管理 GPU 基礎架構，以利消除資源配置及主機管理的複雜性。 隨著 Azure AI Studio 預覽版發布，企業將能藉由此統一且值得信任的平台輕鬆進行一站式探索、建置、測試和部署 AI 應用程式。透過 Azure AI Studio，使用者可以建立並訓練自己的 Copilot，或利用自己的資料建立其他基礎和開源模型。此外，Azure AI Search 功能之一的 Vector Search，現已全面開放，企業可運用其生成式 AI 應用程式中為每個使用者提供高度精準的體驗。 全新 GPT-3.5 Turbo 模型具備 16K token 提示長度即將推出，而 GPT-4 Turbo 模型也將在 11 月底在 Azure OpenAI 服務中公開預覽。GPT-4 Turbo 模型將為客戶擴展提示詞長度，為其生成式 AI 應用程式帶來更高的控制力及效率。 GPT-4 Turbo with Vision 即將進入預覽，而 DALL·E 3 現已在 Azure OpenAI 服務中公開預覽，可與 GPT-4 一同策動次世代企業解決方案，使企業得以利用影像實現進階功能。與 Azure AI Vision 服務搭配使用時，GPT-4 Turbo with Vision 甚至能理解影片內容並生成文字敘述，進一步激發人類的創造力。 以負責任的方式部署 AI 微軟在安全且負責任地使用 AI 領域中首屈一指。微軟設立領先業界的標準，承諾為商業客戶提供智慧財產權侵權訴訟的辯護和賠償，此即 Copilot 著作權承諾（Copilot Copyright Commitment, CCC）。 今日，微軟更進一步落實承諾，宣布將 Copilot 著作權承諾擴展至使用 Azure OpenAI 服務的客戶，此項服務稱為客戶智慧財產權承諾（Customer Copyright Commitment）。作為此次更新的一部分，微軟發布全新文件協助 Azure OpenAI 服務的客戶採用技術措施，以降低侵權內容的風險。客戶須遵守該文件以享有此服務。 Azure AI Content Safety 現已全面推出，可協助企業偵測並減少有害內容，創造更佳的線上體驗。客戶可使用 Azure AI Content Safety 作為 Azure OpenAI 服務中的內建安全系統，也可將開源模型用作 Azure Machine Learning 提示工程的一部分，或將其視為獨立 API 服務使用。 在 Windows 中導入新體驗，賦能員工、IT 和開發人員 我們持續投資並打造 Windows，賦能人們從平台轉向 AI 的過程。我們很高興在 Windows 11 和 Windows 365 中為 IT 人員及員工推出嶄新體驗，這些體驗將開啟全新工作模式，讓更多 AI 服務在所有裝置上使用。為了進一步實現微軟讓 Windows 成為開發者及 AI 開發最佳場所的使命，我們宣布推出一系列適用於開發者的全新 AI 及生產力工具，包括 Windows AI Studio。 宣布 NVIDIA AI 代工服務 NVIDIA 宣布在 Azure 上的 AI 代工服務，期待能協助企業及新創公司在 Microsoft Azure 上加速開發、微調和部署自訂 AI 模型。NVIDIA AI 代工服務整合三大要素，分別為一系列 NVIDIA AI 基礎模型、NVIDIA NeMo 框架和工具，以及 NVIDIA DGX Cloud AI 超級運算及服務，為企業提供用於建立自訂生成式 AI 模型的端對端解決方案。企業可在 Azure 上利用 NVIDIA AI Enterprise 軟體部署其模型，以支援生成式 AI 應用程式，包括智慧搜尋、摘要及內容生成。 強化 AI 時代的防禦 近年來威脅情勢劇變，在微軟 Ignite 大會上，我們將介紹微軟資安解決方案套件中的新技術，以協助資安人員讓世界變得更安全。 Microsoft Sentinel 和 Microsoft Defender XDR（前稱 Microsoft 365 Defender）將合併為業界首個具有嵌入式 Security Copilot 體驗的整合資安管理平台。憑藉著內建的生成式 AI，這項單一且功能強大的體驗專注於以機器速度保護威脅，並透過簡化環境的複雜性來協助防禦者。 此外，Intune、Purview 和 Entra 中嵌入的 Security Copilot 擴充功能可協助 IT 管理員、合規部門和身分識別團隊簡化複雜情境。在 Entra 中，身分管理員可迅速排解身分存取問題；在 Purview 中，資訊安全警報提供豐富內容以協助更快解決問題；在 Intune 中，IT 管理員可使用「假設」分析，在改善治理和合規性的同時維持業務營運。 欲了解更多最新產品訊息，請參考 Ignite 大會官方網站與新聞網站。
【台北訊，2025年1月17日】Amazon Web Services（AWS）在2024年AWS re:Invent全球大會上發布一系列新技術，聚焦於生成式人工智慧（AI）、資料策略及基礎設施技術三大領域，加上涵蓋模型和應用程式的全方位創新，助力企業運用生成式AI，全面重塑客戶的雲端創新體驗。 AWS台灣暨香港專業解決方案架構師總監楊仲豪表示：「AWS是全球雲端運算的開創者和領導者，更是企業建構和應用生成式AI的首選，2024年re:Invent全球大會的一系列重磅發布再次印證了這一點。我們不僅在雲端核心服務層面持續創新，更從晶片到模型，再到應用程式的每一層技術堆疊都取得突破，讓不同層級的創新相互賦能、共同進化。只有這樣全方位的大規模創新才能真正滿足現今客戶的發展需求，加速釋放前瞻技術的價值，助力各行各業重塑未來。」 生成式AI全方位創新，訓練推論、模型和應用程式全面進化 在生成式AI領域，AWS全面強化基礎設施、模型和應用程式三層技術堆疊，幫助企業更輕鬆、更經濟實惠地將生成式AI應用於實際業務場景。此次新發布包括：推出Amazon Nova六款基礎模型；生成式AI基礎模型託管服務Amazon Bedrock新增100多款模型，並推出AI安全防護機制、多代理合作（multi-agent collaboration）和模型蒸餾等重磅更新，全面優化推論場景的準確性、成本和回應速度；生成式AI支援助理Amazon Q更加深入軟體開發和商業應用場景，並為傳統工作負載轉型開闢新途徑；完全託管的機器學習平台Amazon SageMaker AI將幫助客戶更快、更輕鬆地建構、訓練及部署模型。 Ÿ Amazon Nova大幅降低基礎模型成本：Amazon Nova一發布即成為全球領先基礎模型的重要系列，包括Nova Micro、Nova Lite、Nova Pro和Nova Premier基礎模型，以及用於生成高品質圖片的Nova Canvas和生成高品質影片的Nova Reel。在各自的類別中，Amazon Nova Micro、Lite和Pro的應用成本比Amazon Bedrock中表現最佳的模型至少降低75%，同時也是Amazon Bedrock上相同級別的模型中，速度最快的模型。 Ÿ Amazon Bedrock平台能力全面升級：Amazon Bedrock模型選擇全面升級，AWS成為首家提供Luma AI和poolside模型的雲端服務供應商，並且新增Stability AI的最新模型，還透過新推出的Amazon Bedrock Marketplace功能為客戶提供100多個熱門、新興及專業模型；同時，Amazon Bedrock推出低延遲優化推論、模型蒸餾、提示詞快取等功能，大幅提升推論效率；支援GraphRAG等知識庫功能，提升資料運用能力；透過自動推理檢查（Automated Reasoning checks）功能和多代理合作等創新，進一步提升AI安全性，並推動智慧代理發展。 Ÿ Amazon Q擴展應用場景：Amazon Q Developer增加三款新的智慧代理，能自動執行單元測試、文檔生成及程式碼檢查流程，並透過與GitLab深度整合，擴展應用場景；推出轉型功能，以加速Windows.NET、VMware和大型主機工作負載的遷移和現代化，縮短轉型時間並降低成本；強化Amazon Q Business和Amazon Q in QuickSight的洞察能力，並自動化複雜的工作流程。 Ÿ 基礎設施創新：推出Amazon SageMaker的四項AI創新，包括Amazon SageMaker HyperPod新的訓練配方（recipe）功能、彈性訓練計畫和任務治理功能，以及在Amazon SageMaker中使用AWS合作夥伴的熱門AI應用程式。這些功能將幫助客戶更快開始訓練熱門模型，透過彈性訓練計畫節省數周時間，並將成本降低高達40%。 資料體驗升級，統一平台釋放資料價值 現今，越來越多客戶不再分開使用不同的資料分析工具，而是正在將分析、機器學習（ML）和生成式AI互相結合來獲取洞察。AWS推出的新一代Amazon SageMaker提供一個新的、統一的編輯器，為客戶提供單一的資料和AI開發環境，用戶可以在其中尋找和使用組織中的所有資料，為各種常見的資料應用案例選擇最佳工具，並與不同團隊和角色合作，以擴展資料和AI專案。 Ÿ 新一代Amazon SageMaker：將快速SQL分析、PB級資料處理、資料探索和整合、模型開發和訓練以及生成式AI等功能統一到一個平台。透過全新的Amazon SageMaker Unified Studio，客戶可以輕鬆尋找和使用組織內的所有資料資源，並借助Amazon Q Developer選擇最適合的工具來處理資料。Amazon SageMaker Catalog和內建的治理功能則能確保資料、模型和開發套件的使用合規。此外，透過零ETL（zero-ETL）與領先SaaS應用程式的整合，客戶無需建構複雜的資料管道，即可在Amazon SageMaker Lakehouse和雲端資料倉儲Amazon Redshift中分析合作廠商的應用程式資料。 Ÿ 推出Amazon SageMaker Lakehouse：實現資料湖、資料倉儲、營運資料庫和企業應用程式資料的統一管理，支援客戶使用熟悉的AI和ML工具或與Apache Iceberg相容的查詢引擎來使用和處理資料。 全方位創新，升級基礎設施技術 作為全球雲端運算的開創者和領導者，AWS在運算、網路、儲存和資料庫等核心領域持續創新，為各類工作負載提供更強大的底層架構支援。 Ÿ 自研晶片引領運算力創新：基於AWS Trainium2的Amazon Elastic Compute Cloud（Amazon EC2）Trn2執行個體正式可用，相較於目前GPU執行個體性價比提升30%至40%；推出配備64個Trainium2晶片的EC2 Trn2 UltraServers伺服器，提供高達83.2 Petaflops浮點運算力，運算力是單一執行個體的四倍。在大規模訓練方面，Project Rainier叢集搭載數十萬個Trainium2晶片，運算力超越以往叢集五倍以上。採用3奈米工藝的下一代AWS Trainium3晶片預計在2025年末上線，將使叢集效能提升四倍，並在效能、能效和密度上樹立新標準。 Ÿ 網路基礎設施升級：推出第二代UltraCluster網路架構，也稱為10p10u網路，支援超過20,000個GPU同步工作，頻寬達10Pb/s，延遲低於10ms，這項突破性升級將模型訓練時間縮短至少15%。 Ÿ 儲存服務強化資料處理能力：雲端可大規模擴展的物件儲存服務Amazon Simple Storage Service（Amazon S3）新增Metadata中繼資料功能，實現自動獲取和即時更新資料；推出專為Iceberg表格優化的S3 Tables儲存類型，將查詢效能提升三倍，交易處理能力提升10倍。 Ÿ 資料庫服務新突破：全新的無伺服器分散式SQL資料庫Amazon Aurora DSQL採用active-active架構並具備自動故障修復功能，支援應用程式在任意端點進行讀寫。不僅提供99.999%的多區域可用性，還能實現近乎無限的可擴展性，且無需進行資料庫分區（sharding）或執行個體升級。同時，快速NoSQL鍵值資料庫Amazon DynamoDB global tables新功能新增支援橫跨多區域的強大一致性，進一步升級分散式資料庫服務。 Ÿ 資料中心設計重塑基礎設施：透過簡化電力分配和機械系統，使基礎設施可用性達99.9999%，並將受電力問題影響的機架數量減少89%。創新的「液體到晶片」冷卻系統無縫整合空氣和液體冷卻功能，使機械能耗降低46%，全新的設計更讓每個站點增加12%的運算能力。同時，在永續方面取得重要突破，採用可再生柴油作為備用發電系統燃料，與傳統化石柴油相比，溫室氣體排放可減少90%，而資料中心建築的混凝土固有碳排放量相較於業界平均水準最高可降低35%。 助力全球企業在AWS上重塑未來 眾多新創企業與產業領袖正在使用AWS持續創新，從AI前瞻探索到金融風險管控、從數位娛樂體驗優化到生技製藥科學發展，AWS正助力各行各業加速創新，突破既有模式、重塑未來。 在亞馬遜，Amazon Kindle的技術支援工程師採用Amazon Q Developer的營運調查功能後，問題解決速度提升了65%至80%，這使他們能夠更快地回應客戶需求，確保提供卓越的用戶體驗。Amazon Music的開發人員將Amazon Q視為全天待命的得力助理，能自動調查並辨識各種潛在問題，大幅提升了回應速度。初步的使用資料顯示，Amazon Music的問題解決速度提升了一倍，確保聽眾能不間斷地享受喜愛的音樂。 Anthropic專注於AI安全和研究，致力於打造可靠、可判斷和可控的AI系統，Anthropic的旗艦產品Claude是全球數百萬使用者信賴的大型語言模型。Anthropic已開始優化Claude模型，以便在亞馬遜最先進的AI硬體Trainium2上運行。Anthropic也計畫使用數十萬個Trainium2晶片，為在Amazon Bedrock上使用Claude的客戶提供卓越的效能表現，此規模超越以往叢集五倍以上。 領先的生物科技公司羅氏羅氏（Roche），致力於推動科學進步以改善人們的生活。羅氏將使用Amazon SageMaker Lakehouse統一來自Amazon Redshift和Amazon S3資料湖的資料，以消除資料孤島，強化團隊之間的合作，並允許使用者無縫使用資料，無需昂貴的資料移動或重複的安全存取控制。借助Amazon SageMaker Lakehouse，羅氏預計資料處理時間將減少40%，這幫助他們減少資料管理工作，能將更多精力用於推動業務發展。
【台北訊，2024年1月11日】Amazon Web Services（AWS）日前在2023 re:Invent全球盛會重磅發布超過188項創新服務，遍布企業級生成式AI、資料分析、雲端核心基礎架構等前瞻領域。今日AWS re:Invent 2023 re:Cap雲端科技發表會台灣站邀請到AWS技術長Olivier Klein蒞臨台灣，與AWS台灣暨香港專業解決方案架構師總監楊仲豪一同剖析AWS發布的新服務，以及AWS如何以前瞻生成式AI技術重塑工作方式，幫助客戶加速創新，並助力台灣企業在科技革命中穩固立足。作為AWS技術領先的合作夥伴，中華電信資訊技術分公司副總經理林仲鑠也親臨現場，分享如何運用AWS的生成式AI打造創新應用，提升員工效率並激發創造力。 AWS技術長Olivier Klein表示：「作為全球雲端運算的開創者和領導者，AWS每年在re:Invent全球盛會上都會發布眾多新服務、新功能和新應用。AWS在基礎設施、運算、儲存、資料等領域持續重塑雲端運算的可能性，並推出革新的生成式AI新服務及功能。透過這些技術創新，AWS將幫助更多企業加快創新速度，利用生成式AI帶來變革、重塑未來。」 幫助企業更輕鬆、安全地建構和應用生成式AI 1. 推出Amazon Q，重塑未來工作方式：Amazon Q能連接企業業務資料和系統，讓客戶打造服務自己業務的生成式AI助理，快速提供複雜問題的答案、生成內容並採取行動，幫助開發者和IT人員在AWS上建構、部署和維護應用程式與工作負載。無論是在AWS上建構、使用內部資料和系統，還是使用AWS應用程式實現商業智慧（BI）、客服中心和供應鏈管理，Amazon Q都是良好的生成式AI助理，能夠幫助各個產業、各種規模的企業安全地使用生成式AI。 2. Amazon Bedrock發布更多模型選擇和新功能，助力安全建構和規模化生成式AI應用：AWS幫助客戶快速建構模型、增加生產力，讓產品更快上市，同時兼顧了安全性。例如，Amazon Bedrock提供精選的業界領先模型，其中包括Anthropic的模型。有約一半的財富500強企業在使用或測試Anthropic的基礎模型Claude，而新發布的Claude2.1能夠減少近兩倍的幻覺發生率。此外，Amazon Bedrock新推出的模型評估功能可透過自動與人工結合的方式評估模型準確性、穩定性和是否含有有害內容，也支援自訂指標。 3. 推出五項Amazon SageMaker新功能，助力規模化開發應用模型：AWS推出新的SageMaker Clarify功能，可以讓客戶在負責任地使用AI的基礎上，根據品質參數更輕鬆地選擇正確模型。為了幫助客戶在企業內部應用這些模型，AWS還在Amazon SageMaker Canvas中導入了新的無程式碼功能，讓客戶更快、更容易地使用自然語言指令準備資料。同時，Amazon SageMaker Canvas繼續普及模型建構和訂製，讓客戶更輕鬆地使用模型萃取洞察、進行預測和使用企業自有資料生成內容，幫助客戶實現規模化的機器學習創新。 資料基礎設施、整合以及治理的新服務及新功能 1. 進一步豐富向量資料庫選擇，確保業務資料和向量資料同步支援生成式AI：AWS持續豐富向量資料庫選擇，確保業務資料和向量資料同步支援生成式AI。AWS推出了Amazon OpenSearch Serverless向量引擎、Amazon DocumentDB和Amazon DynamoDB的新向量搜尋功能、Amazon Memory DB for Redis向量搜尋預覽版，不斷提升生成式AI的速度與準確度。 2. 推出四項零ETL整合功能，讓跨資料儲存的存取與分析更快速、更便捷：AWS推出四項零ETL（Extract萃取、Transform轉置、Load載入）整合功能，讓資料的取用與分析更快速、更便利。透過全新的Amazon Aurora PostgreSQL、Amazon DynamoDB、Amazon Relational Database Service（Amazon RDS）for MySQL與Amazon Redshift的零ETL整合功能，讓Amazon Redshift中連接和分析多個資料庫變得更加容易。此外，客戶現在還可以使用Amazon OpenSearch Service對Amazon DynamoDB資料進行近乎即時的全文和向量搜索。無論資料儲存在何處，零ETL整合功能都能簡化資料連接和操作流程，使客戶靈活地利用AWS廣泛而領先的資料庫和分析服務，在挖掘新洞察的同時，加速實現創新，並透過資料驅動更明智的決策。 3. 在資料治理方面，AWS推出Amazon DataZone的AI描述建議功能預覽版：此新功能可以為企業的資料庫自動生成更易理解的業務描述，並提供該資料庫的使用建議。AWS還推出了AWS Clean Rooms ML預覽版，幫助企業及合作夥伴在整合資料上應用機器學習模型，而無需相互複製或共用原始資料，並推出了第一個專門為公司行銷打造的相似細分市場模型。 自研晶片、儲存、無伺服器的持續創新 1. Graviton4晶片：與前一代Graviton3處理器相比，Graviton4效能提升高達30%，獨立核心增加50%以上，記憶體頻寬提升75%以上，為在Amazon Elastic Compute Cloud（Amazon EC2）上運行的工作負載提供最佳效能。Amazon EC2 R8g記憶體優化執行個體將採用最新的Graviton4，提升客戶運行高效能資料庫、記憶體緩存、大數據分析等工作負載的效率。 2. Trainium2晶片：專為以高效能訓練具有數萬億個參數的基礎模型和大型語言模型打造的Trainium2與第一代Trainium晶片相比，效能提升多達4倍，記憶體提升3倍，能源效率（每瓦效能）提升多達2倍。Amazon EC2 Trn2執行個體採用最新的Trainium2，一個單獨執行個體包含16個Trainium加速晶片。Trainium2執行個體致力於為客戶在新一代EC2 UltraClusters中擴展多達100,000個Trainium2加速晶片，並與AWS Elastic Fabric Adapter（EFA）PB級網路互連，提供的產能高達65 exaflops，客戶可按需獲得超級運算級別的效能。 3. Amazon S3 Express One Zone正式可用：與Amazon S3 Standard相比，Amazon S3 Express One Zone資料存取速度提高至多10倍，資料請求成本降低50%，為機器學習訓練和推論、互動式分析以及媒體內容創作等密集型工作負載提供最高效能儲存。 4. 三項無伺服器服務創新：AWS致力於幫助客戶在任意規模分析和管理資料，並大幅簡化營運，而無需花費時間和精力去配置、管理和擴充基礎設施。Amazon Aurora Limitless資料庫可跨多個Amazon Aurora Serverless執行個體自動分配和查詢資料，並能夠擴充到每秒百萬次的寫入並管理PB級數據。Amazon ElastiCache Serverless可以幫助客戶在一分鐘內創造高可用的緩存，並即時進行垂直和水平擴充，以支援客戶複雜的應用程式，且無需管理基礎架構。Amazon Redshift Serverless則使用人工智慧預測工作負載，並自動擴充和優化資源，幫助客戶實現高性價比的目標。 中華電信本次亦前往美國拉斯維加斯參加2023 re:Invent全球盛會，發表運用AWS生成式AI服務打造的創新應用。今日也到場分享與AWS的深度合作，包含藉助Amazon Bedrock作為虛擬英文老師的大腦技術的「打造虛擬英語教師」，以及藉由Amazon SageMaker建立專屬AI系統，提升工作效率的｢生成軟體開發生命週期（SDLC）的規格文件｣、｢個性化行銷文案助理｣，並表示雙方將合作擴展不同產業和市場的應用，持續協助企業客戶應用雲端技術達成數位轉型。
A12 藝術空間
自研晶片
請先登入後才能發佈新聞。
還不是會員嗎？立即 加入台灣產經新聞網會員 ，使用免費新聞發佈服務。 （服務項目） （投稿規範）
