負責分析AI算法在實際系統架構運行時的效能瓶頸。 AI 應用成為近幾年的主流,軟體服務的效能依賴於幾個重點:系統架構設計、演算法的實作、硬體規格。 過去為了提升協作開發效率,計算機領域主要朝著抽象化的方式,降低各層互相的耦合性。 然而,這其中的權衡奠基在過去硬體隨著摩爾定律效能快速的成長,在大型系統中往往能藉由過剩的硬體效能彌補抽象化造成的損失。 然而,AI 時代迎來模型參數和運算需求指數成長的情況,這是少數已經具有商業價值需求的算法,超出現有硬體算力需求的狀況。 所以,以整體作為優化的研究,成為當前相當具有價值的工作。縱向的打破各層之間的抽象,找出不同實作之間能獲得最佳效能的搭配。 1. 基於演算法(多為平行運算)估算運算複雜度和空間使用量 2. 基於硬體配置,估算演算法在系統上的理論表現 3. 設計 DOE 實驗,驗證實際數據與理論數據的誤差 4. 基於實驗結果,找出演算法、軟體實作、系統、硬體的瓶頸 5. 實作優化算法,藉由實驗結果和理論分析證明其有效性 6. 撰寫技術文件,提供應用服務端作為實作參考。
待遇面議
(經常性薪資達 4 萬元或以上)
Basic: 1. 具備3年以上程式或系統開發經驗者尤佳 2. 英文程度需求: -能閱讀領域論文、技術部落格 -能聽懂技術發表或演討會影音 3. 熟悉以下一種程式語言能力:C/C++/Python 4. 熟悉以下一種AI Framework:pytorch/tensorflow /ggml/numpy 5. 熟悉以下一種AI相關演算法及模型:CNN/Transformer-based/others 6. 熟悉費米估計、量綱分析或其他類似的估算技巧 7. 了解至少三種AI 服務的運作流程: -Training: data parallelism, ZeRO, LoRA, GRPO,… -Inference: tensor parallelism, pipeline parallelism, kv cache reuse, speculative decoding… -Model quantization: GPTQ, AWQ, … Nice to have: 1. 熟悉 GPU Kernel語言(e.g. Triton-lang/CUDA/ROCM/SYCL/VULKAN) 2. 熟悉 LLM 推理框架 (e.g. vLLM/SGLang/llama.cpp/ollama/ktransformer/TensorRT/Quantization, KV Cache, MLPerf, Nsight ....) 3. 熟悉作業系統底層運作原理 4. 其它相關技術 Vector search algorithms, Distributed file system, GPUDirect, RDMA, …
公司: (1) 年薪12個月 (2) 兩個月的年終獎金(限台灣) (視公司營運績效) (3) 分派員工酬勞,利潤分享。 (4) 每年視營運狀況定期依工作績效調薪。 (5) 依營運狀況發放激勵獎金。 (6) 升遷管道暢通。 (7) 鼓勵員工創作發明,給予高額專利獎金。 (8) 完善之教育訓練規劃及安排。 (9) 鼓勵員工推薦優秀人員,給予具吸引力的推薦獎金。 (10) 完善的保險與退休計劃。 (11) 彈性的假勤制度: (12) 資深同仁久任精美禮品。 (13) 員工急難救助。 提供員工舒適安全及人性化的工作環境及休閒環境: 公司: (1)上萬坪自有廠房設備。 (2)每年定期提供同仁完整的免費健康檢查、健康講座。 (3)提供休閒中心(備有跑步機、有氧飛輪、健身腳踏車、活動式拳擊踢靶、手足球台、兒童遊戲室…等),另有瑜珈教室及戶外綜合球場。 (4)提供圖書館。 (5)提供員工生活服務方案協助。(由不同的專家提供心理/法律/理財/管理...等各項需求支援。) (6)提供醫療協助。 (7)新進研發人員三個月免費宿舍。 (8)提供餐廳、咖啡吧、果汁吧、全家便利商店與近萬坪平面停車場。 (9)伙食補助。 (10)優質農場,不定期提供優質有機蔬果。 福委會: (1)公司職工福利委員會提供之各種福利措施及舉辦各項休閒活動。 (2)各式婚、喪、生育、住院補助、急難救助等補助。 (3)每年提供國內(外)旅遊補助。 (4)舉辦家庭日與不定期活動,每半年部門聚餐補助。 (5)三節及生日禮券/禮金。 (6)勞動節禮品/禮券/禮金。 (7)主題性年終尾牙活動,活動精彩有趣,豐富大獎等著您,即使是哈哈獎也不平凡。 (8)提供多樣性社團活動管理、經費補助,目前有游泳社、有氧社、瑜珈社、壘球社、籃球社、羽球社、登山社…等二十多個社團。 (9)享有特約商店優惠。