由於全球產業對生成式 AI（Gen AI）、大語言模型（LLM）與數位轉型需求的快速成長，讓今年的 COMPUTEX 成為全球科技業關注焦點，更讓台灣資通訊產業成為各國媒體報導重要議題。
為延續 COMPUTEX 展覽能量，積極面對 AI 新工業時代，台灣資通訊產業可能遇到的機會與挑戰，由台北市電腦公會（TCA）主辦，台灣玉山科技協會協辦，於 7 月 23 日下午辦理「迎向 AI 新時代 – 從 COMPUTEX 看台灣資通訊產業的下一步」產業座談記者會，雖碰到凱米颱風進逼，仍吸引了多家中外媒體與貴賓到場。
座談會由資策會產業情報研究所（MIC）資深產業顧問兼所長洪春暉，以「從 COMPUTEX 看台灣資通訊產業的下一步」為主題進行專題演講，分析台灣資通訊產業未來優勢，探討生成式 AI 趨勢及資通訊產業生態系演進，並邀請 TCA 榮譽理事長暨台灣玉山科技協會理事長童子賢、宏碁營運長高樹國、神通資訊董事長蘇亮、台智雲策略長李立國、所羅門董事長陳政隆與耐能智慧董事長劉峻誠進行座談。
彭双浪：算力、電力、人才 可提升AI新時代台灣產業競爭力
台北市電腦公會理事長彭双浪在致詞時表示，今年的 COMPUTEX 非常成功，所有的 AI 大咖都在台灣聚集，可說是場「AI 武林大會」，如果沒有來的廠商就不在 AI 武林裡面。而且看到展覽當中來自世界各國的貴賓、買主與專業人士數量非常多，連在會場辦理的數百場採購媒合會也很熱絡。
從今年 COMPUTEX 展出的內容，讓許多人知道，算力就是國力，算力也需要電力，所以賴總統在開幕典禮就承諾，台灣一定會有足夠的電力，當然我們也期待，除了足夠的電力之外，也希望有足夠的綠電與更好的能源配比，政府更承諾在未來會有更多的低碳能源，而另外一個關注重點就是人才培育。
彭双浪指出，「算力」、「電力」、「人才」這三力，能促進台灣資通訊產業，在 AI 新時代更進一步發展；透過大家共同討論台灣資通訊產業下一步發展，一起提升台灣三力，進一步提升台灣地位，提升台灣產業競爭力，並把今年 COMPUTEX 展會創造出來的氣勢，能夠繼續延續下去，更希望能變成台灣產業的氣勢。
洪春暉：AI帶動資通訊產業生態系演進，台灣產業要利用AI掌握轉型契機與下一波成長曲線
資策會 MIC 資深產業顧問兼所長洪春暉，在「從 COMPUTEX 看台灣資通訊產業的下一步」為主題的專題演講中表示，今年的 COMPUTEX 台灣廠商 AI PC、AI 伺服器、AI 相關設備產品大量曝光，並且各大科技巨頭紛紛現身台北，若是以研究機構來看，有不少都是屬於「固樁」的動作。
洪春暉指出，現在看到的 AI 浪潮，已經確定不是 Bubble，尤其是生成式 AI。資料、算力、算法是構成生成式 AI 應用的三大基石，生成式 AI 已朝向多模態的應用發展，包括文字、圖片、語音、影片等資料都成為模型，可以執行問答、文本生成、圖像生成、資料提取等多種任務，而且未來的 AI 會朝向 AI Agent 發展，讓AI從工具轉變成為工作代理，而這些 AI 產業變化是台灣 AI 生態系相關產業要持續關注的方向。
AI 技術帶動資通訊產業生態系演進，不僅讓使用者、模型開發商、雲端運算業者所架構的產業生態系逐漸成形，帶來全新格局，而大量訓練模型和算力需求更帶來許多機會與挑戰，生成式 AI 的發展透過跨域共創及創新協作，將能為各行業帶來許多發展機會。以 AI 生態系來看，台灣在 AI 算力方面的基礎架構，扮演全球重要角色，而且台灣也有 AI 模型建置的單位。
針對 AI 算力議題，洪春暉認為 AI 算力不只是國力，甚至是國家競爭力的重點，因為未來食衣住行都會用到 AI，一旦 AI 運算出現異常，也會影響企業運作。近來熱門的 AI PC 支援 AI 混合、協作的需求，在未來，無論是從雲、從地端，相關的運算整合需求只會更多。
洪春暉表示，對於各行各業來說，利用生成式 AI 提升效率是趨勢，包括智慧工廠、智慧醫療等場域都已經在使用中，但如何選擇適合模型則是困難點，並且確保生成式 AI 所提供的結果是否正確，則是需要領域專家進行確認。此外，人才與預算不足是產業導入 AI 面臨的最大挑戰，畢竟企業首重成本考量與人才儲備，而在成本考量同時，另一個關鍵則是導入 AI 的成效不易衡量，將很大程度影響企業導入意願。
洪春暉認為，台灣資通訊產業要利用 AI 掌握轉型契機與下一波成長曲線，充分運用新興科技創造優勢，識別「數位優化」及「數位轉型」帶來的不同變革，並提早思考轉型，避免市場反轉時變革帶來的高風險，因為「時間」是企業最貴的成本。
童子賢：台灣在AI硬體製造上有不錯的位置，AI應用則需要Fine Tune過的AI模型
TCA 榮譽理事長暨台灣玉山科技協會理事長童子賢座談時提到，AI 不是一個單一產品，AI 會像是網路一樣，是一個重要科技趨勢，會瀰漫、浸潤並影響所有硬體，小到感應晶片、攝影鏡頭，甚至是機櫃運算設備產品，都會充滿 AI 的概念。而且不只是硬體，軟體也會具備 AI 概念，包括智慧手機內建 AI 軟體、辦公室用軟體也開始陸續加入 AI 功能連結。接下來是所有的服務平台，也都會受到 AI 影響，導入 AI 服務概念。
針對如 GPT-4o 之類的各家廠商推出的 AI 模型，在英文相關語系很好使用，但是在台灣的繁體中文環境實際使用上需要經過 fine tune，因為有不同腔調，會造成在使用上的不順暢。
所以如果台灣想要在 AI 領域領先，可以在兩方面有所成就，一個是在晶片製造到產品生產能力，如機櫃、電路板、系統、AI PC、AI 手機等，目前在台灣在硬體製造上有不錯的位置。另外一個就是應用。台灣向來「重硬輕軟」，重生產輕應用，如果台灣要把 AI 應用在生產力、製造、生活周遭等，誰來 fine tune 模式會是重點，因為 fine tune 的品質與速度，會影響 AI 使用的生產力與品質。
面對未來的 AI 應用，童子賢認為未來兩年把 AI 從雲端下放到每個人身邊的裝置進行邊緣運算是非常重要的事情，首先邊緣運算可以尊重個人隱私，可以把 AI 民主化，變成每個人唾手可得的 AI 計算能力，會讓全民運用 AI 的人非常有感。
另外在 AI 專業領域，很多的 AI 模型更新速度變快，也就是說，AI 會是實驗室裡面，或者是辦公桌上的好幫手，而且是由人來駕馭。像 Google 最新推出的 AlphaFold 3 的版本，可以進行更多的蛋白質折疊模擬與人體、藥物、疾病的互相作用，而前一個版本 AlphaFold 2 已經模擬過 2 億個蛋白質分子，這對於人類開發藥品醫治絕症或不好醫治的疾病有很大幫助。AI 對巨量影像資料的分析處理，會比人要厲害許多，而這也是 AI 的好用之處，就跟瓦特發明蒸氣機一樣，帶給人們很多動力。
針對電力議題，童子賢指出，由於產業結構關係，先進國家只有美國的人均用電與台灣差不多或更多，其他如日本、德國等國家，由於服務業用電占比較大，人均用電大概是台灣的二分之一或更少。由於台灣工作型態關係，台灣的生活用電其實只占整體用電的 18%，目前工業用電占 56%，服務業占 19%，其他是由農業用電跟其他產業用電。
台灣 2023 年全年用電度數 2821.4 億度，按照 2% 到 2.5% 的成長，在 3、4 年之後就會超過 3000 億度，到時候，如果一度發電成本差 0.5 元，一年就會差 1500 億元；如果一度發電成本差 1 元，一年就會差 3000 億元。由於台灣有很多地方需要用錢，例如高等教育、研究 AI、建構主權 AI、建置足夠算的 AI 機房等都需要錢，如果能源方面可以搭配優質能源且經濟效率比較高的排列組合，省下的經費就可以彌補健保的缺口、高等教育跟研究的需求，這樣更有意義。
針對台灣能源政策，童子賢在媒體聯訪時候指出，台灣要使用優質、經濟效益較高的發電組合，提高供電穩定性與能源韌性，並能面對國際緊張情勢做出應對，同步思考各類能源選擇對國土、農業、環境、生態與景觀的影響。他引用義大利 7 月宣布重啟停用 35 年核電廠案例來說明，因為義大利政府認為沒有足夠大的國土空間部署太陽能板，義大利國民及觀光客也無法忍受湖光山色之中有太陽能板干擾，為了追趕減碳進度，並擺脫對太陽能過度依賴，所以義大利政府計劃重新採用核電。
針對核能技術進步與核廢料處理，童子賢指出，從科學或商業角度來看，核廢料就是放射線還沒充分燃燒掉就不再使用，就跟燒烤店店家的木炭用到剩下還有五分之一就不使用，是商業機制問題。天然鈾所含鈾 235 的濃度只有 0.7%，經過提煉成濃度 3％ 的鈾 235 燃料棒就可做為核電廠發電的低濃縮鈾，所以是原本核電廠設計沒能將燃料棒用到百分之百，但是在科學上有機會辦到，但現實卻因商業制度形成現在的結果。並不是科學家沒有持續研究核能科技與核廢料處理方法。
至於反核人士質疑核廢料存放問題，在他觀察中目前台灣的核廢料被置放在佔地有限的管制區中，在有限空間中受嚴密管理，因此並未曾構成危害。而且新科技的進步，使得可以燃燒核廢料的第四代反應爐可能成功，包括「快中子反應爐」與「行波反應爐」在內都是發展中的新核能技術，包括中國大陸、加拿大、英國、美國都競相投入資金研發，技術若研發成功，包括目前被嫌惡的核廢料、以及製造濃縮鈾過程的殘渣貧鈾，都可以轉化成新一代反應爐的核燃料，而這就是解決當前核廢料問題的聖杯。也點出如果台灣綠能裝置量還要發展十倍規模的話，可以想像未來 20 幾年後，廢棄的綠能裝置，將會是好幾個台北市大小的垃圾規模，對台灣環境影響衝擊不小。
高樹國：商用市場AI殺手級應用才是可長可久的AI競爭優勢
宏碁營運長高樹國表示，接下來真正會讓台灣在 AI 趨勢站到好的位置，其實是在商用市場應用，古人說，「吃飽穿暖了，才會顧面子問題。」西方則是說「馬斯洛需求理論」。因為對企業與消費者來說，AI 在消費市場是「錦上添花」，有 AI 更好，沒有 AI 不影響；AI 在商用市場是「雪中送炭」的炭，企業沒有 AI 而被競爭對手比下去，問題就大了。
高樹國提到，台灣企業大多數為 AI 硬體製造商，主要收入來自於硬體，接下來怎麼樣讓台灣資通訊產業不只是賺取來自硬體的短期收入，真正可長可久的競爭優勢還是應用、軟體與 Killer Application。如果要給政府建議，會希望政府確認企業 AI 應用的 Killer Application，並且整合相關資源來做運用，如此一來，不只是軟體業者可以得利，相關硬體製造商也會獲利，進而創造雙贏局面。
針對今年熱門的 AI PC 議題，高樹國認為 AI PC 情況完全不一樣，因為 2009 年智慧型手機的推出，只有取代錄音筆、相機、MP3 隨身聽之類的體積比它小或一樣大的產品，並無法取代 PC，很多工作還是要在 PC 上面完成，這一點可以在 COVID 疫情期間的 PC 需求反彈獲得證實。AI PC 的出現，就像是 Internet 或 WiFi 推出的時候一樣，會有更多 AI 新應用出來，讓許多對 AI 有興趣的人去用，一旦當出現殺手級的 AI PC 應用，需求就會明顯上升。
陳政隆：AI有效提升影像視覺辨識準確率，軟體平台簡化客製化AI模型建置所需樣本數
所羅門董事長陳政隆指出，做了十年左右的機器人相關應用，最大的感觸就是，「人類真的很厲害」，因為人與生俱來非常靈巧，且多功能性。早期機器人手臂工作很單純，所以只是 A 點到 B 點的固定工作，當有了視覺技術之後，就可以做比較多的事。但是，傳統 Rule-based 的視覺系統有許多極限，包括環境光改變、物件變得比較複雜，相關辨識率就下降了。這幾年開始有 AI 搭配在視覺上使用，就可以解決過去比較難解決的問題。以科技業來說，過往都是用 AOI 光學檢測設備，但是經常造成過殺率（overkill rate）過高問題，但是導入 AI 之後，就可以解決。
陳政隆表示，當客戶詢問到要使用 3D 視覺進行檢查 AOI 檢查或監測時，都詢問到需要多少圖片才能產生 AI 模型，當我們回答需要收集成千上萬個資料時，客戶聽完之後就不太想做。所以所羅門團隊就思考如何透過軟體平台，讓客戶可以用最少量的樣本去建置客製化的 AI 模型，以提高客戶導入意願。目前所羅門平台已經可以串聯 20、30 個不同品牌的機器人，並且包括多種 2D、3D 影像格式與各種品牌網路攝影機，並且平台上面會放上優化過的 AI 模型，才能在實際場景中使用。
陳政隆觀察到，歸納目前客戶抗拒使用 AI 機器人的原因，主要是仍需要足夠數量的資料庫來訓練 AI 模型，以品質檢測來說，理論上產線的良率接近九成甚至是超過九成，反之就是不良品的瑕疵樣本數過少，可能會無法訓練，但這已經跟傳統 AI 模型需要上千張的樣本才能訓練的情況，改善不少了。
針對現在最熱門的 AI 機器人解決人員短缺問題，陳政隆認為，必須要做到幾乎像人一樣聰明，而且具備多功能性。現在輝達已經在開發一些基礎 AI 模型，如合作開發的 Motion Panning（運動平移），就可以納到平台裡面去使用。如果未來有機器可以幫忙剪頭髮，而且人也很放心，這就會是機器人無所不在的時代來臨。
針對人才短缺問題，陳政隆表示，所羅門長期仰賴國際人才，光是視覺部門就有來自 15 個國家的員工，有些是來台灣念碩博士畢業的，有些是外國員工介紹他們朋友，例如越南或印度等國家，而這是不得不走的一條路，畢竟很難跟科技大廠競爭。
蘇亮：資訊共通平台搭配No Code AI工具軟體，可加速跨領域AI應用協作開發
神通資訊董事長蘇亮表示，AI 應該無所不在，但是真正想要去做，好像甚麼都不對，缺少了一點東西。過去在推動各類 AI 應用中，發現有兩點是很重要的。第一個是要有足夠的數據庫，這個數據不完全是一般的資料，包括從物聯網、從大數據雲端、從開放資料等等取得的數據，所以神通要去做的，就是幫業者打造一個資訊共通平台，有了平台才有辦法進行用數據進行 AI 分析。
蘇亮指出，有了共通平台之後，又發現另外一個問題，就是 AI 的應用都是跨領域，有些還跨多個領域，所以需要透過多領域的協作，搭配上平台的創新，才有辦法創造出新的 AI 應用。現在有很多 AI 工具，對於工科的人來說，或許不難使用，但是碰到跨領域的情況，使用上還是有困難，所以神通又去打造了一個不需要撰寫程式的 No code 工具軟體，各行各業的人透過 No Code 的工具軟體，搭配共通平台上面的數據，就可以開發出更多創新應用，而且可以落地應用。
談到智慧城市，對政府來說，最重要的就是怎麼樣做的事可以讓市民有感，而最容易做的方式就是 UI 的改善，而利用 AI 做 UI 的設計、效率改善與市民安全的應用，都可以開發出來。也就是說，AI 是百花齊放，只要想得到，應該都可以做到。
針對台灣 AI 人才的養成，蘇亮提到 1970 年代 Intel 微處理器的推出，透過教育的推廣，讓大家知道微處理器能怎麼用，但是主要培養的會是專業領域人才。現在在 AI 人才的培養上，由於是跨領域，所以很多人並不需要知道 AI，只要有創新的點子、適合的工具就可以做到，跟過去不太一樣。至於要如何落實 AI 人才的培育，目前神通資訊內部有做部分規劃，也提供 AI 實驗室給高中，希望透過高中學生的培養，讓他們有創新的理念，將來可以在各行各業都能夠發光發熱。
李立國：企業落地AI企業腦是未來趨勢，盤點企業有用資料集是成功關鍵
台智雲策略長李立國指出，生成式 AI 帶動很多產業想像的空間，包括金融業、如何透過大語言模型自動化櫃台前端業務，處理 to B 或 To C 業務，法金服務的金融分析。在醫療業部分，一個是透過傳統的與音轉文字（Speech to Text），可以在看診的時候把醫生說明轉換成文字，並且透過大語言模型做摘要。摘要內容甚至可以分專科進行處理；長期來說，很多大量的醫療資料來說，透過生成式 AI 做 Insight 探討與分析。
其實台灣最多在製造業導入生成式 AI，包括透過大語言模型分析資料，下指令，甚至調度傳統 ML 模型，也在生產的參數與品保預測獲得不錯的成果。針對繁中環境，台智雲也將 Llama3 模型增加繁中訓練進行 fine tune，也在製造業做了不少專業領域的 fine tune，包括 70B 的模型，或 8B 的模型，fine tune 給企業內部使用，解決特定任務，去做生產製程預測。
李立國認為，從商用角度，AI 對企業的影響會越來越大，GPU 算力也會越來越便宜，所以企業是可以擁有 AI 企業腦，不僅懂得繁中資料，而且懂得企業內部垂直場域資料。所以對於企業來說，如果想要建立自己的 AI 企業腦，要回過頭來看看企業所擁有的資料集，而且要是有用的資料，再加上盤點算力與可用模型，設定解決問題，透過外部資服團隊給的建議，才有辦法在企業內部導入 AI，千萬不能為了 AI 而 AI。
李立國也提到，台智雲已經幫不少企業在內部落地 70B 的模型，包括金融業、製造業、醫療業、IC 設計、重工領域等等，而且獲得不錯效果。針對 Meta 最新推出的 Llama 3.1，包括 405B 模型，以及更新版的 70B 模型與 8B 模型。由於 405B 模型對標 GPT-4o，看起來是有機會可以落地。
劉峻誠：用NPU在地端執行企業GPT方案，可確保企業資料隱私並以低耗能型態運作
耐能智慧董事長劉峻誠表示，由於訓練模型與 GPU 伺服器成本因素，現階段很多生成式 AI 應用都是在雲端執行，也就是透過雲端執行 GPT（Generative Pre-trained Transformer，生成式預先訓練轉換器）運算，除了使用者會面臨資料需要上傳雲端的資安問題外，也會碰到每次詢問答案都不太一樣的情況，這也造成企業導入 AI 所面臨的問題。
由於台灣廠商最有機會的是 To B 的生成式 AI 應用，再加上耐能是 NPU 的開發者和商標持有人，具備 NPU 加速器、AI 晶片、AI 演算法等關鍵技術，因此有辦法將 NPU 嵌入到設備中，讓產品具備 AI 功能。
劉峻誠指出，由於台灣廠商最有機會的是 To B 的生成式 AI 應用，因此耐能推出基於 NPU 技術的地端 AI 軟硬整合方案，內建 Local RAG（檢索增強生成，Retrieval-Augmented Generation，簡稱 RAG）功能，輕量級大語言模型甚至可以直接部署，運算速度快且低耗能，可應用於各種企業 GPT 方案。也就是企業可以在地端訓練/推論自己的資料，不需要上到雲端，確保資料安全性，更不用擔心模型被他人資料汙染的問題。目前已經在教育業、製造業、醫療業、法律業有應用案例。
針對 AI 趨勢，劉峻誠認為完整的系統應該是 CPU+GPU+NPU，包括現在的 AI PC、AI 手機已經是這個架構，如果未來想要在低功耗的環境下導入生成式 AI 應用，NPU 會是最佳幫手。
針對台灣 AI 人才的養成，劉峻誠是認為可以從兩個層面來補足人才缺口，第一個是教育，耐能有推出 AI 教科書，有科大版、國中版甚至是國小版。第二個就是直接在產業裡面導入 AI 技術，以耐能為例，很早就在 IC 設計當中的 back end、routing 導入 AI 技術，所以才能用 12 奈米製程量產晶片。
