APMIC攜手OpenAI模型 助企業準確率增4成、成本降9成
Newtalk新聞
企業自主AI解決方案領導品牌APMIC（Accelerate Private Machine Intelligence Company）今（20）日宣布，其企業級微調與蒸餾方案「PrivModel」已全面支援OpenAI的gpt-oss系列模型，在特定應用場景中可將準確度提升約40%，並降低90%推論成本，同時，APMIC任命擁有超過二十年產業經驗的GPU與AI晶片專家陳尹鈞（Ian Chen）出任美國總經理，負責北美市場拓展與策略合作，推動企業私有AI全球落地。
APMIC針對OpenAI近期推出的gpt-oss系列模型包括gpt-oss-120b與gpt-oss-20b，採用自研的「PrivModel」方案進行多模態模型微調。內部測試顯示，蒸餾後的模型可在維持FP4精度的情況下，將gpt-oss準確度提升約40%，同時，蒸餾後的模型可在RTX Pro 6000平台高效推論，並支援繁體中文思維鏈（CoT）推理，協助企業在符合法規與合規要求下實現推理式AI（Reasoning AI）私有化部署。
APMIC進一步指出，OpenAI的模型具有很強的模型保護機制，傳統QLoRA量化微調方法在學習專業知識上有所限制，必須結合CPT、SFT、RL等方式才能完成模型微調，在TMMLU （繁體中文台灣在地知識驗證集）測試中，gpt-oss全數取得80分以上，健康醫療領域表現較o4 mini 高出約 13 分，數學邏輯運算僅差約2分，「PrivModel」方案還強化了gpt-oss原先缺乏的視覺能力，協助企業高效、安全的打造專屬、輕量且具商業價值的私有AI模型。
APMIC創辦人暨執行長吳柏翰（Jerry Wu）表示，OpenAI的gpt-oss為企業導入AI帶來全新動能。經「PrivModel」微調與蒸餾後的模型搭載「PrivStation」架構，可支援媲美o4-mini等級的模型，同時具備視覺能力，讓台灣企業在保護知識資產的同時，以節省九成成本的方式達成高效能推論。APMIC與推論算力租賃廠商CKmates、GMI Cloud、Glows AI、Ubilink等訓練算力夥伴，以及硬體廠商Dell、HPE、NVIDIA等密切合作，並透過CyCraft的安全防護，確保蒸餾後模型能在Blackwell架構全系列設備上安全運行，實現從模型到決策的企業級AI導入路徑。
此外，為加速全球佈局，APMIC任命陳尹鈞為美國辦公室總經理，陳尹鈞積累了超過二十年的產業實務與管理經驗，曾在NVIDIA香港與台灣分公司擔任工程與業務管理職務，陳尹鈞將專注推動北美市場與策略夥伴發展，推進「PrivModel」企業級微調與蒸餾方案及「PrivStation」一站式落地應用，與GPU雲服務商、OEM、設計製造相關軟體公司進行策略合作，並拓展AI在金融、製造等需要合規AI產業的場景實施。
APMIC為企業自主AI解決方案領導品牌，於2017年在台灣創立，以自然語言理解（NLU）核心技術出發，其研發出的「PrivModel」模型微調與蒸餾服務方案及企業私有化一站式方案「PrivStation」，能夠協助企業上傳資料，不需撰寫任何程式，就能打造出專屬的地端AI大腦。