Algorithm - Serving System Researcher

FuriosaAI
Seoul
Workplace: HybridFull timeFunction: Research & Scientific (R&D)Education: mastersSkills: ["문제 구조화","가설-검증 주도","문서화","발표","정량적 평가"]

연구 사이클 전반을 맡아 차세대 NPU serving을 위한 클러스터-level 설계 과제를 발굴하고, analytical modeling·roofline 분석·cost model·자체 simulator로 design space를 탐색해 성능/비용을 정량 평가합니다. Scheduling, batching, KV cache, disaggregation 같은 serving algorithm을 구상·검증하고, 유망한 아이디어를 POC/prototype로 발전시킨 뒤 SW 조직과 협업해 제품화합니다.

Loading

Loading job details...

Preparing the role view and application actions.

FursaFursa
FuriosaAI
FuriosaAI
1 week ago

Algorithm - Serving System Researcher

✓ Verified Job

Canonical indexed version, validated from employer's careers page.

Source: Company careers pageValidated by: Fursa AI
Last checked: 4 hours agoStatus: Live

Job Summary

연구 사이클 전반을 맡아 차세대 NPU serving을 위한 클러스터-level 설계 과제를 발굴하고, analytical modeling·roofline 분석·cost model·자체 simulator로 design space를 탐색해 성능/비용을 정량 평가합니다. Scheduling, batching, KV cache, disaggregation 같은 serving algorithm을 구상·검증하고, 유망한 아이디어를 POC/prototype로 발전시킨 뒤 SW 조직과 협업해 제품화합니다.
Location: Seoul
Workplace: Hybrid
Employment Type: Full time
Job Function: Research & Scientific (R&D)

Key Responsibilities

  • •차세대 NPU serving을 위한 cluster-level serving, heterogeneous computing system 등의 기술 챌린지를 발굴하고 연구 과제로 정의합니다.
  • •Analytical modeling, roofline 분석, cost model 및 자체 simulator로 serving 아키텍처/알고리즘의 design space를 탐색하고 성능·비용을 정량 평가합니다.
  • •Scheduling, batching, KV cache 관리, disaggregation 등 serving algorithm을 구상한 뒤 모델링·실험과 NPU 기반 구현으로 검증합니다.
  • •POC/prototype으로 발전시켜 제품화를 위해 SW 조직과 협업합니다.

Key Requirements

  • •AI/ML, Computer Architecture 또는 관련 분야 석사 학위(예정)자이거나 이에 준하는 경험이 필요합니다.
  • •LLM inference의 동작 원리(attention, KV cache, prefill/decode, batching, multi-chip parallelism 등)와 성능 특성을 이해해야 합니다.
  • •Python, PyTorch 등을 활용해 performance modeling, simulation, 데이터 기반 분석을 수행할 수 있어야 합니다.
  • •모호한 문제를 스스로 구조화하고 가설-검증 사이클을 주도적으로 수행할 수 있어야 합니다.
  • •분석 결과와 기술적 판단을 문서와 발표로 명확히 전달할 수 있어야 합니다.
Experience:AI datacenterLLM inferenceDistributed systemsCluster-level softwareHeterogeneous computing
Education:Master's in AI/ML, Computer Architecture 또는 관련 분야
Skills:문제 구조화가설-검증 주도문서화발표정량적 평가
Tech Stack:PythonPyTorchRoofline analysisAnalytical performance modelCost modelSimulationSelf-developed simulatorSchedulingBatchingKV cacheDisaggregationVLLMSGLangTensorRT-LLMGPUNPUMulti-chip parallelismAFD(Attention-FFN Disaggregation)

Company Brief

FuriosaAI
Designs and develops data‑center AI inference accelerators (RNGD) and a full stack hardware‑software platform to deliver energy‑efficient, high‑performance AI compute for enterprise and cloud customers.
Industry: Hardware Devices
Company Size: Medium (51 to 250 employees)
Growth: Scaleup
Valuation: USD 500M to 1B
Funding: Series C
Headquarters: Seoul, South Korea
Founded: 2017
Glassdoor
Glassdoor: 4.6
WebsiteLinkedInGlassdoor