本網站使用瀏覽器紀錄 (Cookies) 來提供您最好的使用體驗，我們使用的 Cookie 也包括了第三方 Cookie。相關資訊請訪問我們的隱私權與 Cookie 政策。如果您選擇繼續瀏覽或關閉這個提示，便表示您已接受我們的網站使用條款。 關閉
可望全面提升生成式AI大型語言模型(LLM)推論解決應用落地與能源效率 臺北 2025年5月15日 /美通社/ -- 全球AI推論加速晶片廠商創鑫智慧(Neuchips) 執行長劉景慈今(15)日宣佈，將於5月20至23日台北國際電腦展(COMPUTEX 2025) 會場展示革命性的N3000晶片系列及Viper PCIe加速卡，預期將為生成式AI中大型語言模型(LLM)推論應用，帶來突破性的能源效率，是專為地端部署設計的成本效益方案。 創鑫智慧將於COMPUTEX 2025展示ViperPCIe加速卡 AI時代到來，讓台北國際電腦展再度成為全球焦點，今年創鑫智慧在會場展示的N3000晶片系列及Viper PCIe加速卡，就是聚焦可全面支援英特爾(Intel)和超微(AMD)的CPU，同時兼容Ubuntu和Windows作業系統，滿足用戶地端應用的多樣化需求。 劉景慈指出，創鑫智慧推出的Viper PCIe半高半寬加速卡，專為LLM推論設計，具備優異能源效率，單卡支援最多14B參數模型，雙卡可達24B，四卡配置甚至能處理高達70B參數的大型模型，完全滿足多種LLM推論需求，舉凡Llama、Mistral、Gemma、Qwen、Phi、TAIDE，甚至Deepseek蒸餾的模型，都在支援清單中。 創鑫智慧董事長林永隆博士補充說明：「最引人注目的是，創鑫智慧加速卡平均功耗僅45瓦，相當於一個普通燈泡的耗電量，顯著低於現有解決方案，在大型語言模型運算通常需要消耗大量能源的情況下，創鑫智慧的解決方案為企業提供了節能高效的LLM推論選擇，有效應對AI發展過程中可能面臨的能源挑戰。」 此外，創鑫智慧解決方案的最大優勢，在於消除了高昂的月費訂閱成本，讓企業能以一次性投資擁有自己的AI推論基礎設施，專為地端部署設計的方案，不僅降低了長期運營成本，還提高了數據安全性，使企業能完全掌控自己的AI資產。 劉景慈表示，本次展會上，創鑫智慧將攜手新加坡商楓葉資訊科技和工業電腦品牌超恩，展示其加速卡廣泛的硬體兼容性與系統支援，值得注意的是，這些小型系統無需額外電力配置，便可運行複雜的生成式AI應用。 此外，高登智慧和myLLM也將在創鑫智慧攤位展示基於其硬體的整合應用方案。高登智慧將展示以其核心「ShareGuru SQLPilot 系統」為基礎，所開發的全地端高準確度AI會議記錄查詢分析系統，以及創鑫智慧AI客服系統。 ShareGuru SQLPilot運用高登智慧的Multi-Agent核心技術，整合NL2SQL Agentic AI與Table Augmented Generation (TAG)，實現可完全地端運行、高準確度高智慧的AI分析功能。 藉由整合地端語言模型與結構化數據庫，ShareGuru SQLPilot提升了複雜查詢和分析的準確度，同時讓用戶能以自然語言直接進行查詢，無需專業知識。這種方法可自動化完成複雜的數據查詢和分析，減少了人工編寫SQL語法的時間，並且超越了單純的數據提取，能夠發掘隱藏的趨勢、模式和關聯—最終提供更高的準確性、更佳的用戶體驗、更高的工作效率以及更深層的見解。 至於myLLM的myPDA平台，是專為自主LLM設計的雲地整合Gen AI應用平台，myPDA提供一套具備模組化與高度彈性系統架構的解決方案，支援多種語言模型的整合與部署，並能在完全斷網環境下以地端LLM模型進行推論應用，只需一鍵即可完成安裝。系統能串接智能代理元件，進行多步驟推理、任務規劃與多系統協作，同時提供統一操作介面，大幅簡化應用建置流程。這套全方位解決方案應用領域廣泛，涵蓋智慧製造、醫療照護、知識管理及教育科技等多領域。 最重要的是，創鑫智慧已成為國家實驗研究院國家高速網路與計算中心（國研院國網中心）推論硬體成員之一，透過國網中心TAIWAN AI RAP高效能生成式AI開發平台架構，使用創鑫智慧自家AI加速方案提供官網客服推論服務，大幅降低雲端服務成本，國網中心的混合雲方案也可確保資料安全與隱私。 此外，國網中心為落實「主權AI」促進產業創新蓬勃，將提供台灣企業、新創公司、資服業者、學研單位，多模型API及模型微調與評估等試用服務，可在1樓I0601a創鑫智慧攤位登記報名。 關於 Neuchips Neuchips致力於開發高效能、低功耗的AI加速晶片，為邊緣運算和數據中心提供創新的AI推論解決方案。通過與生態系統合作夥伴的緊密合作，Neuchips正推動AI技術的普及化和可持續發展。
已邁入第12年的2025「科學探究競賽-這樣教我就懂」，鼓勵全民參與，今年網路報名時間即日起至4月10日止，熱情邀請海內外對科學有興趣的學生、教師與社會大眾一同來參加。 2025年「科學探究競賽-這樣教我就懂」由教育部國教署指導，國立高雄師範大學、國立台灣師範大學、國研院國網中心、國立科學工藝博物館、國立臺灣科學教育館、國立自然科學博物館、國立海洋生物博物館、國立海洋科技博物館主辦，今年已邁入第12年，積極提升國人對科學的興趣，成為全國最重要的科學賽事。 計畫主持人黃琴扉教授表示，競賽與其他科學競賽展演的不同，「科學探究競賽-這樣教我就懂」希望學生與社會大眾能主動發掘，以及觀察生活習以為常的科學現象，提出質疑、訂出假設、收集與分析數據、驗證假設、重複驗證與討論、獲得結論與遷移作用，並將整個過程用繪圖、影片與文字呈現於作品中，從中了解科學探究的過程。 競賽執行長蔣振宇說，2025「科學探究競賽-這樣教我就懂」為全民性的科普競賽，各年齡層皆可參加，分為國小組、國中組、普高組、技高組、教師組與大專社會組，國小組限制3年級以上才可報名參加，教師組開放師培生報名，大專社會組與教師組如有繳交影片將會有加分的機會。 另競賽總獎金高達約60萬，初賽評選分數達70分以上(大專社會組與教師組達80分以上)頒發大會之入選證明，競賽獎狀由教育部國民及學前教育署頒發，優秀作品將於6月29日在國立臺北科技大學舉辦決賽暨頒獎典禮。 2025年「科學探究競賽-這樣教我就懂」另舉辦網路票選活動，包括最佳人氣獎、女性桂冠獎、科學勇士獎、科學新秀獎與民眾參與獎等；於4月15日中午起至5月6日結束歡迎民眾屆時踴躍參與投票。 有關2025年「科學探究競賽-這樣教我就懂」詳情請上活動官網：https://sciexplore.colife.org.tw/；報名連結：https://sciexplore.colife.org.tw/register/
國科會轄下國家實驗研究院國家高速網路與計算中心（國研院國網中心）攜手資安社群NDS次世代創新數位安全協會，共同舉辦「2024 CGGC網路守護者挑戰賽」（Cyber Guardian Grand Challenge），昨（12/6）日於臺南沙崙資安基地舉行決賽。本次比賽首次融合虛實整合技術及添加大語言模型對話元素，透過即時的資安攻防展示與實體機器計分車的高速穿梭，呈現出前所未見的比賽張力和感官衝擊。經過激烈競爭，「海狗再打十年」隊最終脫穎而出，榮獲冠軍並獨得10萬元獎金。 「2024 CGGC網路守護者挑戰賽」共吸引近150支隊伍、500位參賽者參與，其中有多位中學生參賽，顯示競賽知名度與熱度在高中與大學院校間快速提升。比賽創新地將AI應用和CPS（Cyber-Physical Systems）虛實整合技術引入CTF（Capture the Flag）搶旗競賽模式，不僅擴大比賽的技術挑戰性，也讓參賽者感受到網路與實體交互影響的創新感官衝擊。競賽也首次注入生成式AI大語言模型對話，為比賽帶來話題性的新互動方式，參賽者可以展現駭客技術，藉由與平台對話，找出隱藏的競賽題目，體驗生成式AI所帶來的提示注入（prompt injection）和資料下毒（data poisoning）等資安挑戰。 「2024 CGGC 網路守護者挑戰賽」分為線上初賽與實體決賽。初賽為期36小時，於國研院國網中心的「雲端資安攻防平台」（CDX）上進行，採積分制的Jeopardy CTF賽制，取前10名隊伍晉級實體決賽。決賽於臺南沙崙資安暨智慧科技研發大樓舉行，參賽隊伍除較勁攻擊技巧外，也需快速掌握系統漏洞並加以防護，現場並結合實體設備和模擬場域，使參賽者能即時掌控攻防情勢。此外，賽事當天也舉辦CTF技術交流活動，邀請資深CTF出題者及參賽者分享技術經驗，促進技術社群的知識交流。 為深化南部地區的資安能量，本次比賽特地邀請國立成功大學資安社、中南部資安交流社群UCCU Hacker、國立南科國際實驗高級中學FRC 6998等社群共同參與，並借助臺南沙崙資安基地匯集南部產官學研的力量，打造更完善的資安生態系。這場比賽不僅增強了南部地區在資安領域的技術合作，也提供了熱愛資安和機器人技術的學生們展示技藝的舞臺。 國研院國網中心蔡孟勳副主任表示：「資安是所有產業的必要環節，國網中心期望透過這樣的賽事，為學研界提供一個展示技術的舞臺，並凝聚資安領域的熱情與專業。希望未來能夠吸引更多年輕人才投身資安行業，為臺灣的整體資安防護增添更多實力。」國網中心網路與資安組李柏毅組長補充：「今年比賽規模空前，成功引入虛實整合與AI技術，結合南部資安社群的力量。更令人欣喜的是，有越來越多年輕人，甚至高中生，表現出對資安的濃厚興趣，這顯示資安教育與觀念正在向下扎根。」 2024 CGGC 網路守護者挑戰賽的圓滿落幕標誌著臺灣資安競賽的新里程碑，未來，國研院國網中心將持續舉辦此類活動，深化產學研合作，進一步強化臺灣在全球資安領域的競爭優勢。
A12 藝術空間
國研院國網中心
請先登入後才能發佈新聞。
還不是會員嗎？立即 加入台灣產經新聞網會員 ，使用免費新聞發佈服務。 （服務項目） （投稿規範）
