搜尋結果Search Result

符合「新功能」新聞搜尋結果，共 467 篇，以下為 25 - 48 篇

科技新訊

AWS推出新一代Amazon SageMaker 為資料、分析和AI提供統一平台

亞馬遜（Amazon）旗下Amazon Web Services（AWS）在2024年re:Invent全球大會上，宣布推出新一代Amazon SageMaker，將客戶所需的快速SQL分析、PB級資料處理、資料探索和整合、模型開發和訓練、生成式人工智慧（AI）等功能統一到一個整合平台上。 AWS AI和資料全球副總裁Swami Sivasubramanian表示：「分析和AI正在融合，從歷史分析到ML模型訓練和生成式AI應用程式，客戶以越來越互連的方式使用資料。為了支援這些工作負載，許多客戶已經在使用我們專門建構的分析和ML工具組合，例如，已成為處理資料和建構ML模型業界標準的Amazon SageMaker、Amazon EMR、Amazon Redshift、Amazon Simple Storage Service（Amazon S3）資料湖和AWS Glue的組合。新一代Amazon SageMaker匯集這些功能，同時還加入了一些令人興奮的新功能，為客戶提供資料處理、SQL分析、ML模型開發和訓練、建構生成式AI所需的所有工具。」使用Amazon SageMaker Unified Studio更快地合作和建構如今，數十萬客戶使用Amazon SageMaker來建構、訓練和部署ML模型。許多客戶依賴AWS提供的一整套專門建構的分析服務來支援各種工作負載，包括SQL分析、搜尋分析、大數據處理和串流分析。越來越多的客戶不再單獨地使用這些工具，而是正在將分析、機器學習和生成式AI結合來獲取洞察，並為用戶提供新體驗。這些客戶將受益於統一的環境，匯集客戶熟悉的AWS分析、ML和生成式AI工具，不僅可以輕鬆使用所有資料，還能夠與團隊或組織的其他成員輕鬆合作處理專案。新一代Amazon SageMaker包括一個新的、統一的編輯器，為客戶提供單一的資料和AI開發環境，用戶可以在其中尋找和使用組織中的所有資料，為各種常見的資料應用案例選擇最佳的工具，並與不同團隊和角色合作，以擴展資料和AI專案。Amazon SageMaker Unified Studio整合了在Amazon Bedrock、Amazon EMR、Amazon Redshift、AWS Glue和現有Amazon SageMaker Studio中客戶喜歡使用的一系列獨立編輯器、查詢和視覺化功能與工具。這使客戶可以輕鬆使用這些功能來探索和準備資料、編寫需求或程式碼、處理資料以及建構ML模型。Amazon Q Developer能全程協助開發任務，包括資料探索、編寫程式碼、SQL生成和資料整合等。例如，用戶可以詢問Amazon Q：「我應該使用哪些資料來更了解產品銷售情況？」或「生成SQL來計算按照產品分類的總收入。」使用者可以安全地分享資料、模型、應用程式和其他成品，與團隊和組織成員共用，進而提升資料資產的易尋性和使用率。借助Amazon SageMaker Unified Studio中與Amazon Bedrock整合開發環境（IDE），用戶可以使用Amazon Bedrock精選的高效能基礎模型和工具（例如Agents、Guardrails、Knowledge Bases及Flows），快速、輕鬆地建構和部署生成式AI應用程式。Amazon SageMaker Unified Studio內建資料探索、共用和治理功能，因此分析師、資料科學家和工程師可以輕鬆搜尋和找到應用案例所需的正確資料，同時使用所需的安全控制和權限，確保掌握存取控制權，並保護資料安全。 NatWest Group是英國一家領先的銀行，為超過1900萬客戶提供服務，使用多種工具進行資料工程、SQL分析、ML和生成式AI工作負載。借助Amazon SageMaker Unified Studio，NatWest Group將在組織內打造一個統一的環境來支援這些工作負載，並預計資料使用者使用分析和AI功能所需的時間將減少50%，使員工花更少的時間管理多項服務，將更多的時間用於為客戶實現創新。透過Amazon SageMaker資料和AI治理滿足企業安全需求新一代Amazon SageMaker簡化了組織內資料和AI的探索、治理及合作。借助基於Amazon DataZone建構的Amazon SageMaker Catalog，管理員可以使用具有精細控制的單一許可模型，定義和實施一致的使用策略，跨團隊的資料工作人員便可以安全地探索和使用經過批准的資料和模型，這些資料和模型包含由生成式AI打造的業務上下文中繼資料。管理員可以輕鬆地定義和實施跨模型、工具和資料來源的權限，而客製化的安全措施有助於確保AI應用程式的安全性和合規性。客戶還可以透過Amazon SageMaker中的資料分類、毒性偵測（toxicity detection）、安全防護措施（guardrails）和負責任的AI策略來保護AI模型。 Amazon SageMaker Lakehouse減少資料孤島並統一資料如今，超過一百萬個資料湖建構在Amazon Simple Storage Service（Amazon S3）上，使客戶能夠集中資料資產，並透過AWS的分析、AI和ML工具獲取價值。資料湖使客戶能夠按原樣儲存資料，並輕鬆組合來自多個來源的資料。客戶的資料可能分布在多個資料湖以及資料倉儲中，客戶將受益於用一種簡單的方法統一所有資料。 Amazon SageMaker Lakehouse可統一使用儲存在Amazon S3資料湖、Redshift資料倉儲和聯合資料來源中的資料，包含不同的資料儲存方式和物理位置，減少資料孤島並讓查詢變得更容易。借助Amazon SageMaker中與Apache Iceberg相容的全新資料湖功能，客戶可以從Amazon SageMaker Unified Studio中，使用與Apache Iceberg開放標準相容的AI和ML工具以及查詢引擎，以使用和處理所有資料。現在，無論資料的儲存方式和儲存位置，客戶可以使用喜歡的分析和ML工具處理資料，以支援SQL分析、特定查詢（ad-hoc querying）、資料科學、ML和生成式AI的應用案例。Amazon SageMaker Lakehouse提供整合的精細存取控制，這些存取控制一致地應用於資料湖中所有分析和AI工具的資料，客戶只需定義一次權限，即可在整個組織中安全地共用資料。 Roche是製藥和診斷領域的領導者，致力於推動科學進步以改善人們的生活。Roche將使用Amazon SageMaker Lakehouse統一來自Amazon Redshift和Amazon S3資料湖的資料，以消除資料孤島，增強團隊之間的合作，並允許使用者無縫運用資料，無需昂貴的資料移動或重複的安全存取控制。借助Amazon SageMaker Lakehouse，Roche預計資料處理時間將減少40%，這幫助他們減少資料管理工作，能將更多的精力用於推動業務發展。全新零ETL整合SaaS應用程式，可快速、輕鬆地使用SaaS資料為了在營運中真正運用資料，企業需要能無縫使用所有資料，無論這些資料位於何處。這就是AWS不斷發展零ETL的原因，零ETL使資料整合不再是繁瑣的手動工作，客戶可以輕鬆地在需要的地方使用資料。Amazon Aurora MySQL和PostgreSQL、Amazon RDS for MySQL以及Amazon DynamoDB與Amazon Redshift的零ETL整合，能幫助客戶快速且輕鬆地使用Amazon Redshift和Amazon SageMaker Lakehouse中常用的關聯式和非關聯式資料庫中的資料，並用於分析和機器學習。除了營運資料庫和資料湖，許多客戶也將關鍵企業資料儲存在SaaS應用程式中，而客戶將受益於輕鬆使用這些資料進行分析和機器學習。客戶使用與SaaS應用程式整合的全新零ETL，將能輕鬆地使用Amazon SageMaker Lakehouse中的Zendesk和SAP等應用程式以及Amazon Redshift中的資料，並用於分析和AI。這消除了資料管道的需求，資料管道的建構本身就具有挑戰性且成本高昂，而且資料管道管理複雜，容易出錯而讓客戶無法及時獲得想要的洞察。整合SaaS應用程式的零ETL包含資料同步、檢測增量更新和刪除、合併目標的最佳實踐。來自不同產業、各種規模的組織，包括Infosys、Intuit和Woolworths，都已經受益於AWS的零ETL整合，無需建構和管理資料管道，即可快速且輕鬆地連接和分析資料。例如，透過整合SaaS應用程式的零ETL，線上房地產平台idealista能簡化資料擷取流程，無需多個管道來儲存合作廠商SaaS應用程式中的資料，使資料工程團隊能夠專注於從資料中獲得可執行的洞察，而不是建構和管理基礎設施。新一代Amazon SageMaker現已可用，Amazon SageMaker Unified Studio目前可供預覽，並即將可用。

文章來源 : 世紀奧美 發表時間 : 2024/12/12 瀏覽次數 : 1059 加入收藏 :

科技新訊

AWS在Amazon Bedrock上推出100多個新模型、全新強大的推論和資料處理功能

亞馬遜（Amazon）旗下Amazon Web Services（AWS）在2024年re:Invent全球大會上，宣布推出Amazon Bedrock的多項創新功能。Amazon Bedrock是AWS一項全受管服務，旨在運用高效能基礎模型建構和擴展生成式人工智慧（AI）應用程式。此次發布進一步彰顯了AWS對模型選擇的承諾，同時優化大規模推論的執行方式，幫助客戶從資料中挖掘更多價值。Amazon Bedrock的全新功能也將協助客戶避免因模型幻覺（hallucination）造成的事實錯誤、協調多個AI驅動的代理以執行複雜任務，以及打造更小、特定任務導向的模型，以更低的成本和延遲提供與大型模型相近的效能。 AWS AI和資料全球副總裁Swami Sivasubramanian表示：「Amazon Bedrock服務持續快速增長，因為具備廣泛而領先的模型選擇、可輕鬆基於自身資料進行客製化的工具、內建的負責任AI功能以及開發複雜代理的能力，成為越來越多客戶的選擇。為了讓客戶充分釋放生成式AI的潛力，Amazon Bedrock一直致力於解決開發人員目前面臨的最大挑戰。透過本次新發布的一系列新功能，我們將幫助客戶開發出更智慧的AI應用程式，讓他們為最終用戶創造更大價值。」匯集領先AI公司的廣泛模型選擇 Amazon Bedrock為客戶提供豐富的全受管模型選擇，這些模型來自領先的AI公司，包括AI21 Labs、Anthropic、Cohere、Meta、Mistral AI以及Stability AI等。此外，Amazon Bedrock是客戶使用新發布的Amazon Nova模型的唯一管道。Amazon Nova是新一代基礎模型，以業界領先的性價比在多種任務上展現出頂尖智慧。透過本次發布，AWS在Amazon Bedrock上新增更多業界領先的模型，進一步擴展Amazon Bedrock的模型選擇範圍。 Luma AI的Ray 2：Luma AI的多模態模型和軟體產品借助生成式AI推動影片內容創作。AWS將成為首家向用戶提供Luma AI最先進的Luma Ray 2模型（其著名影片模型的第二代）的雲端服務供應商。Ray 2象徵生成式AI輔助影片創作的重大進步，它能夠根據文本和圖像高效生成電影級質感、逼真的高品質影片。用戶能夠快速嘗試不同的拍攝角度和風格，打造角色連貫、物理效果準確的影片，為建築、時尚、電影、平面設計以及音樂等領域提供創意成品。 poolside的malibu和point：poolside解決大型企業現代軟體工程面臨的挑戰。AWS將成為首家提供poolside的malibu和point模型使用權限的雲端服務供應商，這兩個模型在程式碼生成、測試、文件編製以及即時自動完成程式碼方面表現出色。這有助於工程團隊提高生產力，更快編寫出更優質的程式碼，並加速產品開發週期。這兩種模型還能夠根據客戶的程式碼庫、實際操作以及文檔進行安全、隱私的微調，使其能夠適應特定專案，幫助客戶以更高的準確性和效率處理日常軟體工程任務。此外，AWS還將成為首家提供poolside Assistant使用權限的雲端服務供應商，該功能可以將poolside的malibu和point模型強大的功能加入開發人員偏好的整合開發環境（IDE）中。 Stability AI的Stable Diffusion 3.5 Large：Stability AI是視覺媒體領域領先的生成式AI模型開發者，在圖像、影片、3D和音訊方面擁有先進的模型。Amazon Bedrock即將新增Stability AI最先進的文本轉圖像模型Stable Diffusion 3.5 Large。該模型能夠根據各種風格的文本描述生成高品質圖像，加速媒體、遊戲、廣告以及零售領域的客戶創造概念藝術、視覺效果以及詳細的產品圖像。透過Amazon Bedrock Marketplace使用100多個熱門、新興和專業模型儘管Amazon Bedrock中的模型能夠支援眾多任務，許多客戶仍希望將新興的專用模型融入到他們的應用程式中，以支援獨特的應用情況，例如分析財務文檔、生成新型蛋白質等等。如今，客戶能在Amazon Bedrock Marketplace上輕鬆地查找與選擇100多個模型，這些模型可部署在AWS上，並能透過Amazon Bedrock提供一致的使用體驗。這涵蓋了Mistral AI的Mistral NeMo Instruct 2407、Technology Innovation Institute的Falcon RW 1B以及NVIDIA NIM微服務等熱門模型，以及眾多專業模型，例如用於金融產業的Writer的Palmyra-Fin、用於翻譯的Upstage的Solar Pro、用於文本轉音訊的Camb.ai的MARS6、用於生物學的EvolutionaryScale的ESM3生成模型等。客戶一旦找到他們想使用的模型，就能根據自身的擴展需求選擇合適的基礎設施，並透過全受管端點輕鬆將其部署在AWS上。客戶隨後可將該模型與Amazon Bedrock統一的應用程式介面（API）安全整合，進而使用Guardrails和Agents等工具，並受益於內建的安全和隱私功能。 Zendesk是一家全球服務軟體公司，服務全球10萬個品牌的多元文化客戶群。Zendesk可以在Amazon Bedrock中使用用於翻譯的Widn.AI等專用模型，透過電子郵件、聊天、電話以及社群媒體對客服需求進行個人化和在地化處理。這將為客服人員提供所需的資料，例如客戶透過母語表達的情緒或用意等，最終提升客服體驗。提示詞快取和Intelligent Prompt Routing幫助客戶大規模處理推論問題在選擇模型時，開發人員需要權衡多種因素，如準確性、成本和延遲。優化其中任一因素，都可能要其他因素讓步。為了在應用程式部署到生產環境時平衡這些考量因素，客戶會採用多種技術，例如快取常用提示詞或將簡單問題分配給較小的模型。然而，運用這些技術既複雜又耗時，需要專業知識來反覆測試不同方法，以確保最終用戶獲得良好的體驗。正因如此，AWS新增了兩項功能，幫助客戶更有效地大規模管理提示詞資訊。透過快取提示詞功能降低回應延遲和成本：Amazon Bedrock現已支援安全地快取提示詞，進而減少重複處理，且不會影響準確性。對於支援的模型，此功能可將成本降低最高90%，並將延遲縮短最多85%。例如，律師事務所可以打造一個生成式AI聊天應用程式，用於回答律師有關文件的問題。當多名律師在提示詞中詢問關於文檔同一部分的問題時，Amazon Bedrock能夠快取該部分內容，使其只需要處理一次，之後每當有人想要詢問相關問題時，便可重複使用，透過減少模型每次需要處理的訊息量來降低成本。Adobe的Acrobat AI助理藉此實現快速的文檔摘要和問答功能，提高了用戶的工作效率。根據初步測試，借助Amazon Bedrock上的提示詞快取功能，Adobe發現回應時間縮短了72%。 Intelligent Prompt Routing功能有助於優化回應品質和成本：借助此功能，客戶能設定Amazon Bedrock自動把提示詞分配至同一模型系列裡的不同基礎模型，以優化回應品質和成本。運用先進的提示詞配對和模型理解技術，Intelligent Prompt Routing能夠預測每個請求對應的每個模型的效能，並將請求動態分配至最可能以最低成本提供所需回應的模型。Intelligent Prompt Routing可在不影響準確性的情況下，將成本降低多達30%。Argo Labs為餐廳提供創新的語音客服解決方案，透過Intelligent Prompt Routing處理各類客戶諮詢和訂位業務。當客戶提出問題、下單以及訂位時，Argo Labs的語音聊天機器人會動態地將查詢請求分配至最合適的模型，進而優化回應的成本和品質。例如「今晚這家餐廳有空位嗎？」這樣簡單的是非題，可以由較小的模型處理，而「這家餐廳提供哪些素食選項？」這類較複雜的問題則可由較大的模型來回答。借助Intelligent Prompt Routing功能，Argo Labs能夠運用語音客服無縫處理客戶互動，同時達成準確性和成本之間的平衡。 Amazon Bedrock知識庫的兩項新功能助力客戶最大程度發揮資料價值無論自身資料儲存於何處、採用何種格式，客戶都希望運用資料為最終用戶建構獨特的、生成式AI驅動的體驗。知識庫是一項全受管功能，客戶借助檢索增強生成（RAG），能夠輕鬆運用上下文和相關資料客製化基礎模型的回應。雖然知識庫已能便捷地連接至Amazon OpenSearch Serverless和Amazon Aurora等資料來源，但許多客戶還希望將其他資料來源和資料類型融入生成式AI應用程式中。因此，AWS為知識庫新增了兩項功能。支援結構化資料檢索功能以加速生成式AI應用程式開發：Knowledge Bases提供了首批受管式、可立即使用的RAG解決方案，使客戶能夠直接查詢生成式AI應用程式中結構化資料的儲存位置。此功能有助於打破資料來源之間的資料孤島，將生成式AI開發週期從一個多月縮短至幾天。客戶能夠建構應用程式，讓應用程式運用自然語言查詢Amazon SageMaker Lakehouse和Amazon S3資料湖、Amazon Redshift雲端資料倉儲等資料來源中的結構化資料。借助這項新功能，提示詞資訊會轉換為SQL查詢，用於檢索資料結果。Knowledge Bases會根據客戶的架構和資料自動調整，從查詢模式中學習，並提供一系列客製化選項，進一步提高針對所選的應用情況的準確性。信用情報公司Octus將運用Knowledge Bases中全新的結構化資料檢索功能，讓最終用戶使用自然語言查詢結構化資料。透過將Knowledge Bases與Octus現有的主要資料管理系統相連，最終用戶的提示詞資訊能轉換為SQL查詢，讓Amazon Bedrock運用這些SQL查詢檢索相關資訊，並作為應用程式回應的一部分回覆給用戶。這將幫助Octus的聊天機器人向用戶提供精準的、由資料驅動的洞察，提升使用者與公司一系列資料產品之間的互動。支援GraphRAG功能以生成更具相關性的回應：知識圖譜讓客戶透過將相關資訊映射成網狀結構，來針對資料間的關係進行建模和儲存。將這些知識圖譜融入RAG時會格外有用，系統可依據圖譜輕鬆審閱並檢索相關資訊片段。如今，由於支援GraphRAG，Knowledge Bases讓客戶無需具備圖形資料庫的專業知識，即可使用Amazon Neptune圖形資料庫服務自動生成知識圖譜，並跨資料連接實體之間的關係。Knowledge Bases能夠更便捷地生成更準確、更相關的回應，借助知識圖譜關連性，查看根源資訊以了解模型如何得出特定回應。BMW集團將在旗下的My AI Assistant（MAIA）使用GraphRAG。MAIA是一款AI驅動的虛擬助理，可幫助用戶尋找、了解並整合託管在AWS上的公司內部資料資產。借助由Amazon Neptune支援的GraphRAG自動化圖形建模功能，BMW集團能夠依據資料使用情況，持續更新MAIA所需的知識圖譜，從資料資產中提供更相關且全面的洞察，進而持續為數百萬車主打造優質體驗。 Amazon Bedrock Data Automation將非結構化多模態資料轉換為結構化資料，用於生成式AI和分析如今，大多數企業資料都是非結構化的，這些資料位於文檔、影片、圖像以及音訊等內容中。許多客戶希望運用這些資料挖掘洞察或為客戶打造新體驗，但將資料轉換為便於分析或RAG所需的格式往往是艱難的人工過程。例如，銀行在處理貸款業務時可能會收到多個PDF文檔，需要從每個文檔中擷取資訊，統一姓名、出生日期等資料的寫法，然後將結果轉換為文字，再輸入資料倉儲進行分析。借助Amazon Bedrock Data Automation，客戶能夠使用單個API從非結構化內容中大規模自動擷取、轉換並生成資料。 Amazon Bedrock Data Automation能夠快速且具成本效益地從文檔、圖像、音訊以及影片中擷取資訊，並轉換為結構化格式，適用於智慧文檔處理、影片分析以及RAG等應用。此功能可以使用預先定義的預設設定生成內容，例如影片片段每個場景的描述或音訊的逐字內容，客戶也可以根據自身的資料架構生成客製化的輸出內容，並將其輕鬆載入到現有的資料庫或資料倉儲中。透過與Knowledge Bases整合，Amazon Bedrock Data Automation還可以解析內容來支援RAG應用程式，透過整合嵌入在圖像和文本中的資訊，提升結果的準確性和相關性。同時，此功能提供信心分數，並基於原始內容生成回應，有助於降低生成幻覺的風險，並提高透明度。 Symbeo是一家隸屬於CorVel的公司，提供自動化應付帳款解決方案。Symbeo計畫運用Amazon Bedrock Data Automation，從複雜的文檔（如保險理賠、醫療帳單等）中自動擷取資料。這將幫助Symbeo團隊更快速地處理理賠事務，並縮短向客戶回覆的處理時間。數位資產管理平台Tenovos使用Amazon Bedrock Data Automation在大規模語義搜尋中提升內容的重複使用率50%以上，節省了數百萬美元的行銷費用。 Amazon Bedrock Marketplace現已正式可用，同時Amazon Bedrock Knowledge Bases中的推論管理功能、結構化資料檢索、GraphRAG以及Amazon Bedrock Data Automation均已可供預覽。此外，Luma AI、poolside和Stability AI的模型也即將上線。 AWS強化Amazon Bedrock，推出業界首創的AI防護、全新代理以及模型客製化功能 Swami Sivasubramanian表示：「Amazon Bedrock已成為客戶將生成式AI變成應用程式和業務核心的必備工具。在過去一年中，Amazon Bedrock的客戶群成長了4.7倍。隨著時間推移，生成式AI改變更多公司和客戶體驗，推論將成為每個應用程式的核心。隨著這些新功能的推出，我們正在代表客戶進行創新，以解決整個產業將生成式AI應用程式推進到生產時面臨的主要挑戰，例如模型幻覺和成本。」透過Amazon Bedrock Guardrails，Amazon Bedrock能藉由自動推理檢查驗證事實回應的準確性、產生可稽核的輸出，並向客戶顯示模型得出結果的確切原因。這提高了透明度，並確保模型回應符合客戶的規範和政策。而在Amazon Bedrock中使用多代理合作，客戶可以為專案的特定步驟打造和分配專門的代理來獲得更準確的結果，並透過協調多個代理平行工作來加速任務。模型蒸餾技術則是在客戶提供範例提示詞後，由Amazon Bedrock完成所有回應生成並微調較小的模型。這為客戶提供了一個具有大型模型的相關知識和準確性，但兼具小型模型速度和成本的模型，使其成為生產應用的理想選擇。

文章來源 : 世紀奧美 發表時間 : 2024/12/12 瀏覽次數 : 794 加入收藏 :

科技新訊

亞馬遜推出新一代基礎模型Amazon Nova

亞馬遜在2024年AWS re:Invent全球大會上，宣布推出新一代基礎模型Amazon Nova，這些模型在多種任務上展現出頂尖智慧，且具備業界領先的性價比。Amazon Nova模型將在Amazon Bedrock中提供，包括超快速文本生成模型Amazon Nova Micro，以及能夠處理文本、圖像和影片並生成文本的多模態模型Amazon Nova Lite、Amazon Nova Pro和Amazon Nova Premier。此外，亞馬遜還推出了兩個全新模型——用於生成高品質圖像的Amazon Nova Canvas和用於生成高品質影片的Amazon Nova Reel。亞馬遜通用AI資深副總裁Rohit Prasad表示：「在亞馬遜內部，我們約有1,000個生成式人工智慧（AI）應用正在進行中，因此可以全面了解開發者所面臨的挑戰。我們的新一代Amazon Nova模型旨在幫助內外部開發者應對這些挑戰，提供強大的智慧和內容生成功能，並在延遲、成本效益、客製化、檢索增強生成（RAG）和智慧代理（agentic）等方面取得顯著進展。」 Amazon Nova理解模型展現出卓越的智慧、能力與速度 Amazon Nova包含四款先進的模型。Amazon Nova Micro是一款僅處理文本的模型，能夠以極低的延遲和成本提供回應；Amazon Nova Lite是一款極具成本效益的多模態模型，能夠快速處理圖像、影片和文本輸入；Amazon Nova Pro是一款功能強大的多模態模型，可在準確性、速度和成本之間實現絕佳平衡，適合多種任務；Amazon Nova Premier是亞馬遜的頂級多模態模型，專為複雜推論任務而生，並將其作為蒸餾客製化模型（distilling custom models）的最佳典範模型（teacher model）使用。目前，Amazon Nova Micro、Amazon Nova Lite和Amazon Nova Pro已全部正式可用，Amazon Nova Premier預計將在2025年第一季度可用。亞馬遜對Amazon Nova模型進行了廣泛的業界基準測試。結果表明，Amazon Nova Micro、Amazon Nova Lite和Amazon Nova Pro在各自類別中與最佳模型相比均表現得相當有競爭力。 Amazon Nova Micro在11項適用基準測試中，其表現與Meta的LLaMa 3.1 8B相當或更優，而在12項適用基準測試中，其表現也與Google Gemini 1.5 Flash-8B持平或更優。憑藉每秒210個輸出token的業界領先速度，Amazon Nova Micro非常適合需要快速回應的應用場景。 Amazon Nova Lite在同類模型中同樣具備強勁競爭力。與OpenAI的GPT-4o mini相比，它在19項基準測試中有17項表現持平或更優；與Google的Gemini 1.5 Flash-8B相比，在21項基準測試中也有17項表現相當或更優；與Anthropic的Claude Haiku 3.5相比，則在12項基準測試中有10項表現相當或更優。除了在文本基準測試中展現出色的準確性外，Amazon Nova Lite在影片、圖表和文檔理解方面也表現突出，這一點透過VATEX、ChartQA和DocVQA等基準測試得到了證明。此外，Amazon Nova Lite在代理工作流程上也表現優異，如在Berkeley Function Calling Leaderboard上的函式呼叫能力，以及在理解視覺元素以在瀏覽器和電腦螢幕上執行操作的核心能力方面表現出色，這一點在VisualWebBench（網頁瀏覽器操作基準測試）和Mind2Web（通用多模態代理基準測試）得到證明。 Amazon Nova Pro在與OpenAI的GPT-4o的20項基準測試中，有17項表現相當或更優；在與Google的Gemini 1.5 Pro的21項基準測試中，有16項表現持平或更優；在與Anthropic的Claude Sonnet 3.5v2的20項基準測試中，有9項表現相當或更優。除了在文本和視覺智慧基準測試中的準確性外，Amazon Nova Pro在遵循指令和多模態代理工作流程方面也表現出色，相關測試包括綜合RAG（Comprehensive RAG Benchmark）、Berkeley Function Calling Leaderboard和Mind2Web。多語言和多模態支援，具備長上下文處理能力 Amazon Nova Micro、Lite和Pro支援200多種語言。Amazon Nova Micro支援128K輸入token的上下文長度，而Amazon Nova Lite和Pro的上下文長度可達300K token，處理影片時長可達30分鐘。到2025年初，亞馬遜將支援超過200萬輸入token的上下文長度。快速且具有成本效益 Amazon Nova模型快速、具有成本效益，且設計上易於與客戶的系統和資料無縫整合。Amazon Nova Micro、Lite和Pro在各自的智慧類別中，成本比Amazon Bedrock中表現最佳的模型至少便宜75%，同時也是Amazon Bedrock中對應類別速度最快的模型。與Amazon Bedrock的無縫整合所有Amazon Nova模型均已與Amazon Bedrock整合。Amazon Bedrock是一項全受管服務，透過單一API提供來自領先AI公司的高效能模型。客戶可以輕鬆試用和評估Amazon Nova模型及其他模型，找到最適合其應用的模型。支援微調以提升準確性這些模型還支援自訂微調，允許客戶根據自身專有資料中的已標記範例來提升準確性。Amazon Nova模型能夠從客戶的資料（包括文本、圖像和影片）中學習最重要的資訊，隨後Amazon Bedrock會訓練一個專屬的微調模型，以提供客製化回應。蒸餾用於訓練更小、更高效的模型除了支援微調外，這些模型還支援蒸餾，可以將規模更大、實力更強的「典範模型」中的特定知識轉移到更小的模型上，從而實現更高的精確度、更快的回應速度以及更低的營運成本。基於資料回應的檢索增強生成（RAG） Amazon Nova模型與Amazon Bedrock知識庫緊密整合，專注於檢索增強生成（RAG）方法，使客戶能夠透過利用自身的資料確保生成內容的高度準確性和相關性。針對代理應用進行優化 Amazon Nova模型經過優化，便於代理應用在執行多步驟任務時透過多個API與企業的專有系統和資料進行互動。借助Nova創意內容生成模型，取得生產級視覺內容 Amazon Nova Canvas是一款先進的圖像生成模型，能夠根據輸入的文本或圖像生成專業級的視覺內容。它提供了便捷的編輯功能，使用者可以透過文本輕鬆調整圖像，控制顏色組合和佈局。該模型內建的安全控制措施確保安全和負責任地使用AI，包括浮水印功能，能夠追溯每張圖像的來源；以及內容審核功能，限制可能產生的有害內容。根據合作廠商的對比評估，Amazon Nova Canvas在效能上優於OpenAI的DALL-E 3和Stable Diffusion，並在關鍵的自動化指標上表現出色。 Amazon Nova Reel是一款先進的影片生成模型，能夠幫助客戶輕鬆以文本和圖像打造高品質影片，適用於廣告、行銷和培訓等內容創作。客戶可以使用自然語言提示控制視覺風格和節奏，包括鏡頭移動、旋轉和縮放。根據合作廠商的評估，Amazon Nova Reel在品質和一致性上優於同類模型，客戶更傾向於選擇由其生成的影片，而非Runway的Gen-3 Alpha生成的影片。與Amazon Nova Canvas一樣，Amazon Nova Reel也具備內建的安全控制措施，包括浮水印和內容審核。目前，Amazon Nova Reel支援生成六秒的影片，未來幾個月將支援最長為兩分鐘的影片生成。下一步：語音到語音和多模態到多模態模型亞馬遜計畫在2025年第一季度推出Amazon Nova語音到語音模型。該模型旨在透過理解自然語言的即時語音輸入，解釋語言和非語言訊號（如語調和節奏），提供流暢、接近真人的互動，徹底改變對話式AI應用，並確保低延遲的雙向交流。此外，亞馬遜還在開發一種新模型，能夠接受文本、圖像、音訊和影片作為輸入，並以任意模態生成輸出。這款具備本地多模態到多模態，即「任意到任意」模態能力的Amazon Nova模型預計將在2025年中旬推出。該模型將簡化應用程式開發，使同一模型能夠執行多種任務，如內容模態轉換、內容編輯，以及驅動能夠理解和生成所有模態的AI代理。 AWS的合作夥伴和客戶已開始使用Amazon Nova模型，從其強大功能和超高性價比中獲益 AWS的策略合作夥伴SAP正在將Amazon Nova模型整合到SAP AI Core生成式AI中心支援的大型語言模型（LLMs）家族中。藉此，開發者能夠為SAP的AI助理Joule打造新功能，並利用SAP資料中完整的業務上下文，安全地建構AI驅動的解決方案，從而實現自動化、個人化以及供應鏈規劃等進階功能。勤業眾信作為AWS的策略合作夥伴，致力於為全球各產業提供一流的生成式AI服務。勤業眾信深知，沒有一種AI解決方案和基礎模型能解決所有問題，認為Amazon Nova模型的進階客製化能力和提升的安全性將推動創新，為全球客戶帶來卓越的價值。亞馬遜致力於開發負責任的AI Amazon Nova模型內建安全和保護措施。亞馬遜還推出了AWS AI Service Cards，提供有關使用案例、局限性和負責任AI實踐的透明資訊。

文章來源 : 世紀奧美 發表時間 : 2024/12/12 瀏覽次數 : 824 加入收藏 :

產經商業

AWS 讓 AI 使用門檻大幅下降！Amazon Bedrock 省錢神器讓企業節省90%

（觀傳媒編輯中心)【記者郭嘉／綜合報導】在 AI 應用日益普及的今天，成本控制成了企業最頭痛的問題之一。AWS 在 re:Invent 2024 大會上推出的 Amazon Bedrock Intelligent Prompt Routing 以及 prompt caching（提示詞快取）功能，就像是一位精明的 AI 管家，幫企業精打細算，讓 AI 應用不再是燒錢的無底洞。 ▲Amazon Bedrock 能幫企業省錢。（圖／品牌提供） Amazon Bedrock Intelligent Prompt Routing：AI 的智慧省錢術想像你有一群能力各異的員工，有的擅長處理簡單任務，有的專門解決複雜問題。Amazon Bedrock Intelligent Prompt Routing 就像是一位超級主管，懂得根據每個問題的難度，自動分配給最適合的「模型」處理。透過先進的提示詞配對和模型理解技術，系統會預測每個請求對應的模型效能，並將請求動態分配至最可能以最低成本提供所需回應的模型。舉個例子，當餐廳的語音客服系統收到「今晚有位子嗎？」這樣的簡單問題，系統會自動選用較小的模型處理；而面對「有哪些素食選擇？」這類需要詳細說明的問題，則會交給功能更強大的模型回答。這樣的智慧分配策略，讓企業最多可以節省 30% 的營運成本。 Prompt Caching：重複問題的最佳解方 Amazon Bedrock 的 prompt caching 功能就像是給 AI 裝了一個超強的記憶庫。當多位用戶詢問類似的問題時，系統不需要每次都重新運算，而是能夠直接調用之前的答案。這個看似簡單的功能，卻能為企業帶來驚人的效益：成本最多降低 90%，回應時間縮短高達 85%。以 Adobe 的實際應用經驗為例，他們在 Acrobat AI 助理中導入 prompt caching 功能後，文件處理的回應時間減少了 72%。當多名用戶查詢文件中相似的內容時，系統可以快速提供答案，不只節省成本，更大幅提升了用戶體驗。企業實戰案例：Argo Labs 的革新之路 Argo Labs 的應用案例完美展現了這兩項功能的威力。這家專門為餐廳提供語音客服解決方案的公司，透過結合 Intelligent Prompt Routing 和 prompt caching 功能，成功打造出經濟實惠又高效的 AI 客服系統。當客戶提出問題、預訂餐位時，系統能自動判斷問題類型，選擇最適合的模型回答，同時儲存常見問題的解答，創造出流暢的客戶體驗。 Amazon Bedrock 帶來的革新改變這些新功能的推出，正在徹底改變企業使用 AI 的方式。過去企業在使用 AI 時，往往需要在效能和成本之間做出艱難的取捨。現在有了 Intelligent Prompt Routing 和 prompt caching，企業可以同時兼顧兩者，讓系統自動優化資源使用，在保持高品質服務的同時，大幅降低營運成本。特別是對於中小企業來說，這些功能的意義更加重大。過去可能因為成本考量而對 AI 應用裹足不前，現在終於有機會以合理的價格導入 AI 技術，享受數位轉型帶來的優勢。 Amazon Bedrock 開啟 AI 經濟時代的大門 AWS 在 Amazon Bedrock 平台上推出的這些新功能，標誌著 AI 應用進入了一個更成熟的階段。透過智慧化的資源配置和優化，企業終於能夠以更合理的成本，享受 AI 技術帶來的便利。這不只是技術的進步，更是讓 AI 走向普及化的重要里程碑。隨著 Intelligent Prompt Routing 和 prompt caching 功能的推出，我們可以期待看到更多企業加入 AI 應用的行列，為產業帶來更多創新和改變。AI 的未來，正變得越來越親民，越來越實用，而 AWS 的這些創新，正在為企業打開一扇通往 AI 經濟時代的大門。

文章來源 : 觀傳媒有限公司 發表時間 : 2024/12/12 瀏覽次數 : 498 加入收藏 :

大陸港澳

AWS 推出新一代 Amazon SageMaker，為數據處理、分析和 AI 提供統一平台

文章來源 : Media OutReach Limited 發表時間 : 2024/12/11 瀏覽次數 : 523 加入收藏 :

大陸港澳

AWS Amazon Q Developer：借助生成式 AI 重塑軟件開發及營運

文章來源 : Media OutReach Limited 發表時間 : 2024/12/10 瀏覽次數 : 461 加入收藏 :

華城電能參展2024台北國際建材展　為社區住宅提供最完整一站式電動車充電方案

發表時間 : 2024/12/10

AWS 在 Amazon Bedrock 上推出 100 多個新模型、全新強大的推論和數據處理功能，賦能客戶加速採用生成式 AI

發表時間 : 2024/12/9

Check Point 推出新版本 Quantum 防火牆軟體 R82，提升威脅防禦能力

發表時間 : 2024/12/4

Virtudio於Steam全球首發搶先體驗版

發表時間 : 2024/11/28

2024蝦皮廣告改版！電商業師理查分享提升ROAS的關鍵策略

發表時間 : 2024/11/28

Progress AI 驅動的 Flowmon 推出高達 10 倍的搜尋加速，實現更快網路威脅追蹤和故障排除

發表時間 : 2024/11/27

友訊碳生產力成長率29% 榮登碳競爭力百強Top 3

發表時間 : 2024/11/27

Chaaat.io將推出Bookingz預約私人助理，簡化預約流程

發表時間 : 2024/11/26

Palo Alto Networks 發布最新 OT 安全解決方案，應對工業營運面臨的網路安全威脅

發表時間 : 2024/11/21

Akamai 將微分段技術擴展至 Amazon Web Services，並增強 ZTNA 提升應用效能

發表時間 : 2024/11/21

比亞迪在合作夥伴大會上強調儲能市場的緊密夥伴合作關係

發表時間 : 2024/11/21

微軟 Ignite 2024 登場，近七成《財富》全球 500 強企業使用 Microsoft 365 Copilot

發表時間 : 2024/11/20

AMD 偕同數位通國際及撼訊科技輔導新創團隊榮獲2024年AI+新銳選拔賽獎項

發表時間 : 2024/11/15

Ingenico與Crypto.com達成合作，面向全球數百萬Ingenico商戶推出無縫加密貨幣支付解決方案

發表時間 : 2024/11/14

騰訊公佈二零二四年第三季業績

發表時間 : 2024/11/13

Synchronoss 與法國主要營運商續簽合作夥伴關係

發表時間 : 2024/11/13

Moby攜手GSR增強Moby代幣的流動性和場外交易

發表時間 : 2024/11/11

WithStand®升級來襲！OMNIA® II 搭配 EEC 8500 系列，高功率洩漏測試輕鬆實現，效率全面提升！

發表時間 : 2024/11/8

2024 年 12 月 13 日 (星期五) 農曆十一月十三日

A12 藝術空間

Bath Sponge, Shopping Bag, Cosmetic Bag Manufacturer - NETBRIDGE

Yoga Mat Supplier - Geltec Industry Co. Ltd.

關於 cookie 的說明

搜尋結果Search Result

新聞發佈/會員專區Member login