ミッション

機械学習モデルを、ユーザーが触れる本番環境で速く、安定して、継続的に提供できるシステムとして成立させる。

MLOps、モデルサービング、推論の効率化、GPU基盤、デプロイ、監視を担当し、リアルタイムな体験に必要なレイテンシ、可用性、スループット、運用コストを両立させる。

主な業務

• 機械学習モデルを提供する推論APIとモデルサービング基盤の設計、構築、運用
• 量子化、コンパイル、バッチング、キャッシュなどを用いた推論の高速化と省リソース化
• GPUを含む計算資源のプロビジョニング、スケジューリング、オートスケーリング、利用効率の改善
• ストリーミング処理を含む、低レイテンシな推論パイプラインの設計と実装
• モデル成果物の検証、デプロイ、段階的リリース、ロールバックを行うパイプラインの構築
• レイテンシ、スループット、エラー率、可用性、リソース使用量、コストの可視化と改善
• 負荷試験、キャパシティ計画、障害復旧手順の整備

必須要件

• 機械学習モデルを推論APIまたは推論サービスとして本番運用した経験
• GPUを利用する推論環境または計算基盤の構築、運用経験
• プロファイリング結果に基づき、レイテンシ、スループット、メモリ使用量のいずれかを改善した経験
• Pythonを用いたソフトウェア開発経験
• クラウド、コンテナ、ネットワーク、分散システムに関する基礎知識
• ログ、メトリクス、トレースを用いた監視、障害解析、性能改善の経験
• モデル開発者とプロダクト開発者の双方と、入出力や性能要件を調整できること
• 東京オフィスに週3日以上出社可能であること

歓迎要件

• GPU向け推論エンジン、カーネル最適化、コンパイラ最適化に関する知見
• Kubernetesなどを用いたGPUワークロードの運用経験
• 複数GPUまたは複数ノードにまたがる推論サービスの構築、運用経験
• モデルのデプロイ、段階的リリース、ロールバックを自動化した経験
• 高トラフィックなAPIまたは分散システムの性能改善経験
• ストリーミング推論や双方向通信を伴う低レイテンシシステムの開発経験
• リアルタイム性が求められる機械学習システムの開発、運用経験
• 英語で技術文書を読み書きし、議論できること

求める人物像

• モデルの精度だけでなく、応答速度、安定性、可用性、運用コストをプロダクト品質として捉えられる方
• 性能上の問題を計測し、ボトルネックを特定して、改善効果まで検証できる方
• 研究コードを本番品質へ引き上げ、継続的に運用できる状態をつくることを楽しめる方
• 暗黙の運用で済ませず、デプロイ、監視、復旧を再現可能な仕組みにできる方

Hiring scope: Japan-based positions are listed below. For US-based roles, we accept applications through our Open Application, where candidates can apply based on what they believe they can contribute. Please send your resume to contact@shizukuai.com

Shizuku AI develops and operates Shizuku, an AI companion designed to be part of everyday life. We continuously improve the conversational experience and product quality to deliver greater value to our users.

応募方法

日本拠点の職種への応募は、以下のGoogle Formから受け付けています。

Google Formで応募する