面接一覧
Google
Cohere
スタッフ
CohereのModel Servingチームで、フロンティアLLMを低レイテンシ・高スループットで提供する
CohereのModel Servingチームは、同社の大規模言語モデルを本番APIエンドポイント経由で提供するAIプラットフォームを運用しています。このStaffレベルのインフラポジションは、マルチクラウド環境にまたがるKubernetesベース・GPUバックのサービングスタックをオーナーとして担い、エンタープライズ顧客に向けてレイテンシ・スループット・可用性のバランスを取ります。
この面接を練習する
無料 · この職種に合わせて調整されたライブ音声模擬面接
この面接で問われること
- GPUワークロードを載せたKubernetes上での高可用な分散システム設計
- マルチクラウド/ハイブリッドの本番インフラ(GCP、Azure、AWS、OCI、オンプレミス)
- 推論サービングのトレードオフ:レイテンシ、スループット、可用性
- アクセラレータ(GPU/TPU)の性能特性
- コンピュート/ストレージ/ネットワークのコスト管理
- 大規模な本番Linux環境でのトラブルシューティング
よくある質問の方向性
GPUノードを備えたKubernetes上で、高可用・低レイテンシのLLM推論サービングシステムを設計せよ
アクセラレータの特性は、レイテンシ/スループットのチューニング判断をどう変えるか
複雑なLinux分散環境でトラブルシューティングした本番インシデントを説明してください
共有のサービングプラットフォームを不安定にせずに、顧客固有のデプロイにどう対応するか
マルチクラウドやハイブリッドインフラの運用経験と、そこで直面したトレードオフ
大規模なGPUコンピュート/ストレージ/ネットワークのコスト管理戦略
関連する面接
Cohere
ミドル
Forward Deployed Engineer, Agentic Platform
Forward Deployed EngineerCohereAgentic AILLM
何が問われるかを見るCohere
ミドル
Member of Technical Staff, Applied ML
Applied MLLLM Fine-TuningEnterprise AICohere
何が問われるかを見るCohere
シニア
Data Engineer, Data Foundations
Data EngineeringDistributed SystemsAIdbt
何が問われるかを見るAffirm
シニア
Senior Software Engineer, Backend (Merchant Data Platform EU)
Backend EngineeringDistributed SystemsFintechKubernetes
何が問われるかを見るシニア
Senior Software Engineer, Google Distributed Cloud
GoKubernetesDistributed SystemsGoogle Cloud
何が問われるかを見るNetflix
シニア
Senior Software Engineer, Distributed Systems Engineer 5 - Studio Infrastructure
distributed systemsinfrastructureGoKubernetes
何が問われるかを見る