Cohere

シニア

LLMを大規模に稼働させるCohereのModel Servingプラットフォームで、アーキテクチャをリードする

CohereのModel Servingチームにおけるシニア/リード級のインフラポジションです。複数クラウドにまたがるKubernetesとGPU上で、CohereのLLMを低レイテンシ・高スループット・高可用性のAPIエンドポイントとして提供するための、アーキテクチャと技術方針を定めます。面接では分散システム、Kubernetes/GPU、マルチクラウドのコスト・運用に関する深掘りに加え、テクニカルリーダーシップとしての職責範囲も問われます。