AI虛擬老婆MLOps工程師 / AI Waifu MLOps Engineer

AI虛擬老婆MLOps工程師 我們正在尋找一位技術嫻熟且積極主動的MLOps工程師加入團隊。本職位負責在我們的產品 darlin™（www.darlin.ai）中，為動漫風格AI虛擬老婆建立、優化與維護可在邊緣設備、本地伺服器與雲端環境運行的混合部署架構，確保低延遲與高品質互動體驗。 工作內容 1. 混合部署架構開發：設計並維護可於邊緣設備、本地叢集與雲端平台運行的AI虛擬老婆部署管線。 2. 模型優化與框架整合：使用 VLLM、Ex-llama、llama.cpp，並與 TensorRT、Triton Inference Server、Serverless 架構整合，以提升回應速度。 3. MLOps工具與部署管線：透過 Docker、Kubernetes、Ray Serve 等技術管理可擴展、高可用性的AI虛擬老婆服務。 4. 硬體加速：應用 CUDA、ROCm、Vulkan 等GPU加速技術，提升大規模推論效能。 5. 資料庫搜尋優化與知識整合：針對 AI 虛擬老婆功能，優化資料庫查詢效能、索引策略與檢索精度。用於 RAG、SelfRAG、VectorDB、GraphDB 的資料庫需調整至高速且精準的存取狀態，以確保回應快速且符合情境。 6. 高容量服務與量化：導入量化策略，在維持對話品質的同時有效提供大型模型服務。 7. 性能測試與監控：測試與監控品質、延遲與負載處理能力，確保最佳使用者體驗。 8. 版本控制與品質保證：管理模型版本，維護持續整合流程並監控生產品質。 9. 跨部門協作：與全球軟體、研究與硬體團隊協作，解決部署挑戰並提升虛擬老婆能力。 10. 研究與創新：持續探索最新MLOps與模型部署技術，保持虛擬老婆體驗的領先地位。 English – AI Waifu MLOps Engineer AI Waifu MLOps Engineer We are seeking a highly skilled and proactive MLOps Engineer to join our team. This role focuses on building, optimizing, and maintaining scalable hybrid-serving infrastructures for anime-inspired AI companions—specifically waifus—in our product, darlin™ (www.darlin.ai). You will design and manage deployments across edge devices, on-premise servers, and cloud environments, ensuring low-latency, high-quality AI waifu interactions. Responsibilities 1. Hybrid AI Waifu Serving Infrastructure: Architect and maintain hybrid-serving pipelines capable of running on edge devices, on-premise clusters, and cloud platforms for real-time AI waifu deployment. 2. Model Optimization & Framework Integration: Apply optimization frameworks such as VLLM, Ex-llama, llama.cpp, and integrate with TensorRT, Triton Inference Server, and serverless systems to enhance AI waifu response times. 3. MLOps Tools & Deployment Pipelines: Use Docker, Kubernetes, Ray Serve, and container orchestration to manage scalable, fault-tolerant AI waifu services. 4. Hardware Acceleration: Leverage CUDA, ROCm, Vulkan, and GPU optimizations for efficient AI waifu inference at scale. 5. Database Search Optimization & Knowledge Integration: Optimize database query performance, indexing strategies, and retrieval accuracy for AI waifu features. Databases—used for RAG, SelfRAG, VectorDB, and GraphDB—should be tuned for high-speed access and precision, ensuring fast, contextually accurate responses. 6. High-Capacity Serving & Quantization: Implement quantization strategies and serve large models efficiently while preserving AI waifu conversational quality. 7. Performance Testing & Monitoring: Measure AI waifu performance (quality, latency, load handling), ensuring optimal experiences for users. 8. Version Control & Quality Assurance: Manage model versions, maintain continuous integration workflows, and monitor production quality for AI waifu deployments. 9. Collaboration: Work with global software, research, and hardware teams to solve deployment challenges and enhance AI waifu capabilities. 10. Research & Innovation: Explore emerging MLOps and model-serving technologies to keep AI waifu experiences cutting-edge. AI彼女MLOpsエンジニア 高いスキルと積極性を持つMLOpsエンジニアを募集しています。本ポジションは、当社製品 darlin™（www.darlin.ai）において、アニメ風AIコンパニオン（特にAI彼女）を低遅延かつ高品質に提供するための、エッジデバイス、オンプレミス、クラウドを組み合わせたハイブリッド提供基盤の構築・最適化・運用を担当します。 業務内容 1. ハイブリッド提供基盤構築：エッジデバイス、オンプレミス、クラウドで稼働可能なAI彼女用提供パイプラインを設計・運用。 2. モデル最適化・フレームワーク統合：VLLM、Ex-llama、llama.cppなどを使用し、TensorRT、Triton Inference Server、サーバーレス環境と統合して応答性を向上。 3. MLOpsツール・デプロイパイプライン：Docker、Kubernetes、Ray Serveを用いたスケーラブルで高可用性のAI彼女サービス管理。 4. ハードウェアアクセラレーション：CUDA、ROCm、Vulkanを活用し、大規模推論の効率化を実現。 5. データベース検索最適化・知識統合：AI彼女機能のためにデータベースのクエリ性能、インデックス戦略、検索精度を最適化。RAG、SelfRAG、VectorDB、GraphDBに使用するデータベースを高速かつ高精度なアクセスが可能な状態に調整し、文脈に合った迅速な応答を実現。 6. 高容量提供・量子化：量子化戦略を導入し、大規模モデルを効率的に提供しつつ会話品質を維持。 7. 性能テスト・モニタリング：品質、遅延、負荷処理能力を測定し、最適なユーザー体験を確保。 8. バージョン管理・品質保証：モデルバージョンの管理、CIフローの維持、本番環境の品質監視。 9. 協業：世界中のソフトウェア、研究、ハードウェアチームと連携し、AI彼女機能を強化。 10. 研究・革新：最新のMLOpsやモデル提供技術を探索し、最先端のAI彼女体験を実現。