面接一覧
Google
Google
Amazon
シニア
Amazon Annapurna Labsで、カスタムMLアクセラレータの推論データプレーンをオーナーとして担う
AmazonのカスタムMLアクセラレータハードウェア上で大規模言語モデルを動かすソフトウェアを、計算カーネルからサービングフレームワークとの統合まで開発・最適化します。MLシステムと低レイヤのパフォーマンスエンジニアリングが交差する領域で、PyTorchのモデル定義からカスタムシリコン上での分散実行まで、エンドツーエンドで取り組むポジションです。
この面接を練習する
無料 · この職種に合わせて調整されたライブ音声模擬面接
この面接で問われること
- カスタムMLアクセラレータ向け計算カーネルの開発
- LLMアーキテクチャ(デコーダオンリー、MoE)のエンドツーエンド検証
- vLLM/PyTorchサービングフレームワークへのカスタムハードウェアバックエンドの統合
- 推論のプロファイリングとパフォーマンス最適化
- 複数のハードウェアターゲットにわたるモデル正確性のためのテスト/CI基盤
- C/C++とLinuxシステムの基礎
よくある質問の方向性
カスタムアクセラレータ向け計算カーネルの設計と、そのエンドツーエンドの検証方法を説明してください
シミュレーションから実ハードウェアに至る過程でのスループット/レイテンシリグレッションのデバッグ
vLLMへの新規ハードウェアバックエンドの統合:スケジューラ、メモリ管理、モデル並列化
KVキャッシュの最適化や投機的デコーディング(speculative decoding)のトレードオフ
正確性・パフォーマンスのリグレッションを防ぐCI/CDゲートの構築
変化の速いハードウェア/ソフトウェアチームでのメンタリングと設計レビューの推進
関連する面接
Amazon
ミドル
Software Development Engineer II, Amazon Smart Vehicles
AmazonSDE IIembedded/voiceAgile
何が問われるかを見るAmazon
ミドル
Software Development Engineer, Ads AI Core Infra
Amazon Adsdata engineeringAWSbig data
何が問われるかを見るAmazon
ミドル
Software Engineer II, Leo Regulus
AI AgentsFull-StackOrchestration SystemsSDE II
何が問われるかを見るCohere
スタッフ
Software Engineer, GPU Infrastructure (HPC)
ML InfrastructureKubernetesGPU/HPCDistributed Training
何が問われるかを見るミドル
Software Engineer
machine learningGenAIGoogle DeepMindsoftware engineering
何が問われるかを見るミドル
Software Engineer, AI/ML GenAI, Geo
GenAIML InfrastructureGoogle MapsLLMs
何が問われるかを見る