2024 Taiwan Edge AI Day研討會，日本橫濱Edge Tech+展會風光登場
因應全球人工智慧（AI）科技快速發展，生成式 AI 與大型語言模型（LLM）所帶來的百工百業數位轉型商機無可限量。台北市電腦公會（TCA）表示，國際數據資訊（IDC）研究報告顯示，全球邊緣運算（Edge Computing）支出 2028 年上看 3,780 億美元，2023 到 2028 年複合成長率（CAGR）達到兩位數，由於 AI 的重點從訓練轉向推論，使得 Edge AI 成為重要趨勢之一。
2024 Taiwan Edge AI Day研討會暢談AI 2.0時代趨勢，日本橫濱Edge Tech+ 2024展會風光登場
TCA 指出，當 AI 1.0 聚焦雲端高效能運算（HPC）與訓練大參數量 AI 模型，在資安與 AI 運算效率的考量下，使用者在地端以 AI 設備搭配客製化 AI 模型進行推論與訓練，便成為 Edge AI 運算主流，也就是將資料控制權交還給實際使用者，進入「雲、地、端」整合式 AI 運算的 AI 2.0 時代。
為以在地化方式推動台日 Edge AI 廠商跨業合作，並與台日半導體與資通訊產業一起迎接 Edge AI 普惠時代到來，在亞洲．矽谷計畫執行中心（ASVDA）、亞洲．矽谷物聯網產業大聯盟、ICTGC（IC TAIWAN GRAND CHALLENGE）競賽、AI 大聯盟（Taiwan AI Alliance）等單位協助下，TCA 東京事務所於 11 月 21 日在日本橫濱 Edge Tech+ 2024 展會，辦理 2024 Taiwan Edge AI Day 研討會，邀請耐能智慧創辦人兼 CEO 劉峻誠、群聯電子創辦人兼 CEO 潘健成、國際技術ジャーナリスト / News & Chips 編集長津田建二等多位半導體與 AI 產業專家進行專題演講，分享最新半導體與 Edge AI 趨勢，吸引 200 位日本產官學研等專業人士報名參與，其中涵蓋多家日本重量級科技大廠高階主管與研發人員。
楊櫻姿：台灣積極推動AI與半導體產業發展，歡迎台日企業合作AI數位與淨零雙轉型商機
台北市電腦公會副總幹事楊櫻姿開場致詞時表示，隨著生成式 AI 從雲端走向 Edge AI，用戶可以享受回應速度更快且更個人化的 AI 體驗，這也為下一代 AI 技術帶來了新變革。由於日本政府正在積極重振半導體產業，並全力推動 AI 應用，而台灣和日本之間有著深厚的互信基礎，因此今天論壇以 Edge AI 和半導體為主題，希望藉由這次的交流，能為台日企業創造更多合作機會，一起拓展更大的百工百業 AI 落地應用商機。
楊櫻姿指出，台灣政府一直積極推動 AI 和半導體產業發展，並透過跨部會的合作來落實。舉例來說，亞洲．矽谷計劃是在 2016 年由國發會、經濟部和國科會等部會聯手推動，今年進入「亞洲．矽谷3.0」，目標是加速台灣產業數位及淨零雙轉型，這也跟日本產業的需求不謀而合，未來將會有更多合作空間。
為擴大台灣半導體產業優勢，台灣政府 2024 年 3 月開始推動「晶創台灣方案」，其中由國科會主辦的 IC Taiwan Grand Challenge，目標是利用台灣作為矽島的優勢，吸引全球頂尖的新創公司和創投來台灣。目前這個競賽正進入第二階段徵件，歡迎日本的新創團隊參加！
此外，由 TCA 營運的 AI 大聯盟（Taiwan AI Alliance），積極鏈結 AI 算力、軟硬體和資安等各領域廠商，共同推動台灣 AI 技術和應用的發展，目前聯盟有 45 家會員廠商，也歡迎日本廠商與 AI 大聯盟廠商進行跨國合作。
劉峻誠：內建NPU技術的Edge AI單晶片可加速推出邊緣AI運算設備，並降低AI運算所需能耗
耐能智慧創辦人兼 CEO 劉峻誠在專題演講時表示，隨著 AI 運算已經成為各大企業相關必備功能，也讓企業在導入 AI 應用當中，面臨到 AI 運算回應速度慢、AI 伺服器電力耗用高與企業核心數據資安問題。由於半導體製程封測技術與 AI 模型持續進步，因此產業開始推動 Edge AI 成為新一代 AI 運算主流，也就是在Edge端進行 AI 運算與資料處理，而不需要送到雲端，減少資安意外發生機會。
劉峻誠指出，耐能有 NPU 加速器（Neural Processing Unit）、AI 晶片、AI 演算法等關鍵技術與研發團隊，因此開發出不同規格的 Edge AI 單晶片專用處理器，並以「AI 晶片 + 邊緣運算 + AI 演算法」為核心，搭配 KNEO 共享開發平臺，廠商可以快速開發各類在智慧安防（Security）、智慧物聯（AIoT）、車用（Automotive）、邊緣運算伺服器（Edge Server）等領域的 Edge AI 應用，並且 AI 晶片可以進行堆疊，以提升 AI 運算效率。已有多家國際知名大廠與耐能合作，推出各類 Edge AI 運算產品。
此外，耐能針對企業用 GPT 運算需求推出 KNEO-300、KNEO-330 解決方案，也就是可以在基於 NPU 技術的 Edge AI 伺服器上開發具有機敏性的企業內部 GPT 應用，不用擔心資料外洩問題，而且耗電量比傳統 AI 伺服器要低很多。
潘健成：群聯aiDAPTIV+解決方案 可讓普通工作站具備訓練大型LLM的可行性 解決建置AI伺服器成本過高痛點
群聯電子創辦人兼 CEO 潘健成專題演講時表示，群聯在 SSD 領域可說是技術領先，並且應用到許多領域，包括最早推出世界第一款 4TB 的 SSD；推出通過 NASA 認證的 SSD，即將登陸月球。其實早在 2020 年，群聯的 SSD 就已經搭載在 NASA 火星探測車「毅力號（Perseverance）」，並且成功在火星環境中正常運作。群聯以 NAND 儲存解決方案供應商自居，供應客戶涵蓋伺服器、電動車、手機、工業用/商業用機器人、航空、無人機、遊戲機、監視系統、個人電腦等領域。
潘健成指出，企業透過導入 AI 技術，不僅可以提升各個部門的運作效率，也能夠廣泛用在生產製造環境當中。但由於現階段 AI 伺服器建置成本相當高，因此群聯透過自家開發 aiDAPTIV+ 解決方案，利用快閃記憶體的成本優勢，大幅提升使用普通工作站訓練大型 LLM 的可行性。
群聯 aiDAPTIV+ Pro Suite 大型語言模型訓練專家平台，能進行大型語言模型管理，包括後端模型管理功能、LLM 私有模型內部訓練，並且提供免程式碼操作介面，更能夠讓員工開始使用企業用生成式 AI 工具，包括會話互動、網頁搜尋、程式代碼生成、語音服務、資料分析等 AI 應用。aiDAPTIVGuru 則可以協助企業讀取相關文件，產生並處理數據資料，以便進行 LLM 模型訓練，可節省 90% 預先處理模型訓練資料所需的時間。
針對近年來熱門的 AI PC 趨勢，潘健成建議可以導入 aiDAPTIV+ 解決方案，將 AI PC 升級為 AITPC（AI Training PC），如此一來就可以加速在教育環境的 AI 運算環境普及，進而實現一人一台 AITPC 的理想 AI 教育訓練場景。
津田建二：AI應用已經滲透到各行各業，日本企業可向NVIDIA學習如何透過AI進行企業再造
國際技術ジャーナリスト / News & Chips 編集長津田建二專題演講時表示，AI 應用快速成長，市調機構Precedence Research研究報告指出，2030 年全球 AI 市場上看 1.6 兆美元，2021 – 2030 年複合成長率高達38.1%，整個市場規模成長將近 20 倍。今年諾貝爾物理獎頒發給美國科學家霍普菲爾德（John J. Hopfield）和有「AI 教父」之稱的加拿大科學家辛頓（Geoffrey E. Hinton），他們因為對類神經網路的奠基性發現與發明，使機器學習獲得巨大進展而獲獎，再度證明 AI 是不可逆的趨勢。並且 AI 應用到各個領域，包括自動駕駛、5G/6G 電信通訊最佳化、銀行防詐、基因分析、藥物開發、鐵軌檢驗、EDA 設計工具（TSMC）、曝光機光源參數（TSMC）等等。而 Edge AI 的導入持續快速成長，包括 AI 手機、AI PC、電腦視覺等，Intel、AMD、Qualcomm、STMicroelectronics、Tenstorrent 也都推出 Edge AI 運算用單晶片與相關產品。
津田建二指出，在最近推出的「NVIDIA 是什麼？」這本書當中，不僅是從企業文化與管理風格來介紹NVIDIA，更介紹 NVIDIA 的 AI 強項，包括：GPU 架構優勢、平行運算軟體 CUDA、支援完整 AI 程式庫（PyTorch、TensorFlow）、針對特定應用開發的 AI 模組（NIM、NeMo），完整說明 NVIDIA 如何透過整體實力贏得 AI 市場優勢。津田建二認為，日本企業可向 NVIDIA 學習如何透過 AI 進行企業再造，包括製造業、旅遊業、農業等領域的 AI 應用，將會是日本如何在全球 AI 趨勢下獲得優勢的可行方向。
TCA將在12月13日於日本東京辦理AI & Semiconductor Forum，深入探討台日半導體合作契機
TCA 表示，為讓日本半導體產業更加深入了解台日半導體產業合作契機，將在 12 月 13 日，規劃於日本東京辦理「AI & Semiconductor Forum」，將邀請到多位半導體產業專家擔任講師，而該場論壇也是 SEMICON Japan 的官方論壇之一，歡迎大家到時候來聽論壇順道參觀展會。
■2024 Taiwan Edge AI Day研討會
活動時間：2024/11/21 (四) 14:00-16:00
活動地點：PACIFICO YOKOHAMA ANNEX 201會議室 @Edge Tech+ 2024
主辦單位：亞洲·矽谷計畫執行中心（ASVDA）、亞洲．矽谷物聯網產業大聯盟、ICTGC（IC TAIWAN GRAND CHALLENGE）競賽、AI大聯盟（Taiwan AI Alliance）、台北市電腦公會（TCA）
協辦單位：台灣無線平台策進會（GloRa）、台灣物聯網產業技術協會（TwIoTA）、台灣先進車用技術發展協會（TADA）
活動議程：https://f2ff.jp/introduction/10041?event_id=etexpo-2024&lang=en
