企業專屬AI系統：以低成本實現AI技術

為何製造業需要導入AI？

一、提升效率與自動化

AI能夠自動化大量重複性工作，企業面臨缺工問題，AI可協助減少人工操作的時間與人力成本，從而提升生產效率，還能即時監控設備狀況，迅速發現異常並進行預測性維護，減少停機時間、提高整體設備效率、增加產能。

二、提高產品創新力與客製化

AI不僅能夠支持標準化流程，還能根據市場變化和客戶需求提供客製化的產品與服務，運用生成式AI來分析市場趨勢、預測消費者需求、實現更靈活的生產計劃，並設計創新產品，從而提高市場競爭力。

三、數據分析與洞察

AI能夠處理大量數據，並通過分析提供有價值的商業洞察。製造業可以運用這些洞察來優化供應鏈管理、提高資源利用效率，並進一步降低成本。

四、增強決策支持

生成式AI能夠提供即時決策支持，協助管理層做出更為精準的業務決策。AI工具能夠快速提供複雜數據的視覺化報告，幫助企業領導人洞察市場變化並及時調整策略。

五、降低成本

AI驅動的自動化系統減少對人力的依賴，提高生產效率，而降低人力成本，不僅如此，AI的預測性分析可以優化原料使用，減少浪費和庫存積壓，直接降低原料和倉儲成本。

庫存管理方面，利用AI進行運算，既能滿足市場需求，又可以提高資金周轉率，其他像在能源管理中的應用，透過即時監控和調節生產設備能耗，顯著降低能源成本，不僅提高企業盈利能力，還能增加市場競爭力。

在這競爭激烈的大環境下，企業若想提升效率、支持創新、降低成本、改善客戶體驗各方面，就必須以更聰明有效的方式進行，那就是導入生成式AI，才能夠快速響應市場變化和需求波動，保持業務的靈活性和適應性。

導入AI的企業挑戰：從概念到實踐的艱難之路

但企業在導入生成式AI時，會面臨五花八門的問題，像是技術、成本和專業度等方方面，以下分成四個面向來說明。

一、缺乏清晰的AI戰略

根據鼎新電腦的調查顯示，約77%的企業反映他們在導入AI時，面臨不知從何著手的困境。這種挑戰在缺乏技術背景的企業客戶中尤為明顯。這些企業對於生成式AI的概念感到陌生，往往難以掌握其核心技術，甚至無法清晰表達他們對AI應用的需求。這樣的情況在製造業中尤其普遍，原因在於傳統製造業多數仍專注於實體產品的生產，對於數位化轉型相對較為保守。

無法依據自身的業務需求來設計適合的AI應用場景，進而導致AI專案無法順利推進。特別是對於生成式AI的應用，許多企業尚未充分理解其潛在價值與運作原理。

二、缺乏專業IT人員與技術支持 

想要成功落地生成式AI系統，最重要的是有專業的資訊技術人員來進行系統部署、管理及優化。但56%的企業反映，內部缺乏具備相關技術能力的人才。即使企業有意引進AI，也缺乏足夠的專業知識來進行有效的技術部署與維護。

包括AI模型的訓練、調整及維護，還有整體系統的運作，許多企業內部可能缺乏這樣的專業人員，尤其是在中小企業中尤為明顯。缺乏專業IT支持會影響AI系統的部署效率及運行穩定性。

三、高昂的電費和雲端空間費用

現在生成式AI多為雲端系統，雖能夠提供高效的服務，但在投入大量資金進行AI專案之前，企業必須考慮投資回報。

雲端計算資源的使用費用，會隨著使用量的增加而增加。這些費用包括數據存儲、處理及傳輸的費用。因此企業在規劃AI系統的投入時，需要考慮長期的成本預算，並進行財務評估，以確保AI技術的可行性。

四、雲端資安疑慮

雲端計算雖然可以提供強大的計算能力和靈活的資源配置，但也引發資安問題：企業在使用雲端服務部署生成式AI系統時，可能面臨資訊及數據洩漏、未經授權存取及其他資安威脅等風險。

其中一些敏感數據，如客戶資訊或商業機密甚至會成為駭客攻擊目標，企業必須選擇具有高安全標準的雲端服務供應商，並且實施嚴格的安全措施，以保護數據的完整性和機密性。

面對以上種種挑戰，鼎新和群聯等供應商推出整合nvidia GPU的鼎新AI一體機。鼎新副總裁黃昱凱強調，鼎新結合了群聯電子GPU的強大算力和鼎新METIS的大語言模型及行業算法，不僅能夠解決持續購買雲端服務的成本高昂和模型優化等問題，加上不須聯網，可以減少網路不穩的波動性，實現快速、低成本且保護隱私的AI部署，更打破一般大眾對AI一定要跟聯網有關的盲點。

鼎新電腦黃昱凱副總裁(左)與群聯電子潘健成董事長(右)，共譜地端AI佈建，提供企業AI佈局彈性。圖/鼎新電腦。

鼎新AI一體機的特色與多場景應用

鼎新電腦推出的AI一體機，專為企業設計多場景應用，結合強大的硬體資源與軟體支持，特別是在製造業領域能夠發揮極大作用。

AI一體機的核心特色在於結合群聯電子提供的GPU算力，加上鼎新自有的METIS大語言模型與行業模型演算法，提供企業不需聯網的地端客製化AI解決方案。這樣的設計不僅能確保數據安全，還能夠快速、低成地端部署，進一步滿足企業在數位化轉型中的多樣需求。

一、應用面：常用AI場景提煉

鼎新AI一體機提供多種企業常用AI場景，這些場景經過預先訓練與微調，企業無需自行訓練即可快速應用，包括知識助理、數智助理和行政助理，分別針對非結構化資訊、結構化資訊和日常事務管理進行管理和分析。

1.知識助理能夠處理大量非結構化數據，如技術檔案、生產知識等，幫助企業更有效地管理內部知識資源，並快速解決技術問題。

2.數智助理則專門處理結構化數據，可以接入不同的系統，無論是ERP、MES，還是其他業務流程系統這樣的設計讓AI一體機在製造業中成為不可或缺的工具，能夠靈活應對多樣化的業務需求，提升企業數位營運能力。

3.行政助理則協助日常事務管理、管理任務與行程，減輕行政負擔。

二、技術面：模型即插即用

AI一體機內建的METIS大型語言模型，不僅具備強大的自然語言處理能力，並根據不同行業需求進行行業模型的調整與定制，且經過了提示微調與檢索增強生成，能夠更準確地回應複雜的業務需求。

像是針對製造業，透過符合製造業專業術語與流程的行業模型，能更準確識別和處理特定場景應用，依據內部資料提供即時且準確的數據，協助企業進行正確決策。

三、成本面：低成本建構

AI一體機在成本面向更是提供全方位的優化策略，有效降低企業導入AI的經濟門檻。

1.高算力低成本：透過優化硬體配置，以創新的快取技術顯著提升現有硬體的效能，使企業能夠以較低的硬體投入獲得更高的運算能力。

2.運營支出方面：AI一體機支援地端部署模式，避免企業持續支付高額雲端服務費用的負擔。且系統在能源使用上進行全面優化，大幅降低運算時的電力消耗，進一步減少了長期運營成本。

四、隱私面：資料隱私保護

AI一體機的另一大優勢在於其數據隱私保護機制：系統能透過地端的模型運算，直接在本地完成數據處理，確保隱私安全企業無需將數據上傳至外部伺服器，AI一體機無需連網即可運行，避免數據洩露風險，特別適合需要嚴格保護資料隱私的行業。

AI一體機全方位支援，掌握產業競爭力！

企業導入AI前，應先了解本身要解決的問題點，才能確保資源效益。

鼎新電腦以40多年的產業經驗協助企業了解本身聚焦需求，挖掘出實際應用場景與關鍵痛點，並透過整合產業AI應用、METIS大語言模型及群聯電子高算力的鼎新AI一體機，協助企業以低資源有效成功導入符合產業需求的AI應用，並持續更新與優化，確保企業保持產業競爭力。

延伸閱讀：鼎新攜手群聯與生態夥伴 展示未來數智工廠新運行模式、缺工，是企業真正的問題嗎？