AI Infrastructure Engineer

# **About the Team & Mission** 42dot의 AI 인프라 엔지니어는 여러 데이터 센터에 걸쳐 있는 수천 개의 GPU를 관리하며, 이를 효율적으로 오케스트레이션하는 고성능 AI 인프라를 운영합니다. 세계 최고 수준의 컴퓨팅 환경을 유지하기 위해 확장성, 모니터링 및 운영 최적화 전반에 기여하게 됩니다. At 42dot, our AI Infrastructure Engineer manages the high-performance AI infrastructure orchestrating thousands of GPUs across multiple data centers. You will contribute to the scaling, monitoring, and operational optimization required to maintain a robust and world-class computing environment. ## **Responsibilities** - Kubernetes 및 Slurm을 활용하여 여러 데이터 센터에 분산된 수천 개 규모의 대규모 GPU 클러스터 운영 및 유지 보수 - GPU 하드웨어 및 소프트웨어 스택 전반의 장애를 모니터링하고 진단하여 고가용성 유지 및 신속한 장애 복구 수행 - Python 또는 Shell을 활용한 자동화 도구 및 스크립트를 개발하여 반복적인 인프라 관리 업무를 효율화 - GPU 리소스 쿼터(Quota) 관리 및 ML 개발자를 위한 기술 지원을 통해 컴퓨팅 자원의 최적 활용 보장 - 대규모 자율주행 모델 학습을 위한 분산 학습 환경의 아키텍처 설계 및 성능 튜닝 참여 ## - Operate and maintain a large-scale GPU cluster consisting of thousands of GPUs across multiple data centers using Kubernetes and Slurm. - Monitor and diagnose failures across the GPU hardware and software stacks to ensure high availability and rapid recovery. - Develop automation tools and scripts using Python or Shell to streamline repetitive infrastructure management tasks and improve operational efficiency. - Manage GPU resource quotas and provide technical support to ML researchers to ensure optimal utilization of computing resources. - Participate in the architectural design and performance tuning of distributed training environments for large-scale autonomous driving models. ## **Qualifications** - Linux 운영체제에 대한 깊은 이해 (커널 동작, 프로세스 관리, 시스템 보안 등) - Docker 및 Kubernetes 등 컨테이너 기반 기술 및 오케스트레이션 실무 경험 - TCP/IP, HTTP(S) 등 네트워크 기본 원리에 대한 이해 및 기초적인 네트워크 트러블슈팅 능력 - Python 또는 Shell을 활용하여 유지보수가 용이한 자동화/시스템 관리 스크립트 작성 역량 - 복잡하고 거대한 시스템에서 근본 원인을 찾아 해결하는 논리적인 문제 해결 능력 - 다양한 유관 부서 및 파트너와 원활하게 소통할 수 있는 커뮤니케이션 역량 ## - Strong proficiency in Linux operating systems, including a solid understanding of kernel operations, process management, and system security. - Practical experience with containerization technologies (Docker) and orchestration (Kubernetes), including building, managing, and troubleshooting containerized environments. - Solid understanding of networking fundamentals, including TCP/IP and HTTP(S), with the ability to perform basic network troubleshooting. - Ability to write clean and maintainable scripts in Python or Shell for automation and system administration. - Logical approach to problem-solving with the persistence to identify and resolve root causes in complex, large-scale systems. - Strong communication skills to effectively collaborate with cross-functional teams and external partners. ## **Preferred Qualifications** - Prometheus, Grafana, Datadog 등을 활용한 대규모 클러스터의 관측성(Observability) 스택 구축 경험 - AWS, GCP 등 퍼블릭 클라우드 플랫폼 상의 인프라 구축 및 운영 경험 - 드라이버, CUDA, NCCL 등을 포함한 NVIDIA 가속 컴퓨팅 스택에 대한 지식 - ML 모델 학습 라이프사이클 및 PyTorch, TensorFlow 등 딥러닝 프레임워크에 대한 이해 - Kubernetes 또는 Slurm과 같은 대규모 워크로드 매니저 및 리소스 스케줄링 도구 활용 경험 - Terraform 등 Infrastructure as Code(IaC) 도구를 활용한 복잡한 인프라 관리 경험 ## - Experience in building observability stacks with Prometheus, Grafana, and Datadog for large-scale clusters. - Experience in building or operating infrastructure on public cloud platforms such as AWS or GCP. - Knowledge of the NVIDIA accelerated computing stack, including drivers, CUDA, and NCCL. - Familiarity with the ML model training lifecycle and deep learning frameworks such as PyTorch or TensorFlow. - Experience with large-scale workload managers or resource scheduling tools such as Kubernetes or Slurm. - Familiarity with Infrastructure as Code (IaC) tools such as Terraform to manage complex infrastructure. ## **Interview Process** 1. 서류 전형 2. 온라인 기술 테스트 3. 1차 면접 (화상, 1시간 내외) 4. 2차 면접 (대면 혹은 화상, 3시간 내외) 5. 처우 협의·입사 ## 1. Application Screening 2. Coding Test 3. First Interview (Virtual, approximately 1 hour) 4. Second Interview (In-person or Virtual, approximately 3 hours) 5. Offer Discussion / Onboarding ## **Additional Information** - 전형 절차는 일정 및 진행 상황에 따라 일부 변경될 수 있으며, 각 전형 결과는 등록하신 이메일로 개별 안내드립니다. - 지원서 제출 시 주민등록번호, 가족관계, 혼인 여부, 연봉, 사진, 신체조건, 출신 지역 등 채용절차법상 요구 금지된 정보는 제외 부탁드립니다. - 지원서 접수 중 오류가 발생하거나 기타 문의 사항이 있을 경우, recruit@42dot.ai로 문의해 주시기 바랍니다. - 국가보훈대상자 및 취업보호 대상자는 관계법령에 따라 우대합니다. - 장애인 고용 촉진 및 직업재활법에 따라 장애인 등록증 소지자를 우대합니다. - 42dot은 의뢰하지 않은 서치펌의 이력서를 받지 않으며, 요청하지 않은 이력서에 대해 수수료를 지불하지 않습니다. - 지원서 내용 중 허위 사실이 발견될 경우, 입사가 취소될 수 있습니다. - 인터뷰 프로세스 종료 후 지원자의 동의하에 평판조회가 진행될 수 있습니다. - 3개월의 수습기간이 적용될 수 있습니다. ## - The recruitment process may change depending on schedule and progress; the result of each stage will be sent individually to your registered email. Please do not include legally prohibited information in your application (e.g., ID number, family relations, marital status, salary, photo, physical details, hometown). - For application errors or inquiries, contact . - Veterans and applicants eligible for employment protection will receive preferential consideration in accordance with applicable laws and regulations. - In compliance with the Act on Employment Promotion and Vocational Rehabilitation for Persons with Disabilities, registered individuals with disabilities will receive preferential consideration. - 42dot does not accept unsolicited resumes from search firms. We will not pay any fees for resumes submitted without prior agreement. - False information in your application may result in offer cancellation. A reference check may be conducted after the interview process, with your consent. - A 3-month probationary period may apply.