Senior software engineer pre Large Language Models

Na čom pracujeme: 

Do tímu MLOps hľadáme kolegov do novej role so zameraním na prácu s Large Language Modelmi (LLM). Snažíme sa efektívne zapojovať LLM do Seznam služieb (napríklad do Seznam internetového vyhľadávača), dlhodobo udržovať a inovovať ML modely, aby nedochádzalo k ich zastaraniu. Staviame najväčší český súkromný GPU cluster, kde budeme zaisťovať, čo najväčšiu efektivitu trénovania a inferencie modelov. Tiež vyvíjame interné webové aplikácie pomahajúce adaptovaniu LLM modelov naprieč seznamom. 

Čo vás čaká:

• Zrýchlovanie trénovania LLM ( hľadanie bottleneckov)
• Zvyšovanie GPU, CPU a memory utilizácie viacero bežiacich jobov naraz v GPU clusteri
• Tvorba nástrojov pre ľahšie využitie LLM pre ostatné tímy
• Zrýchlovanie, škálovanie a monitoring inference serverov nasadených modelov

Čo využívame:

• Technológie, ako sú Kubeflow, S3, MLflow
• Z Python sveta využívame FastAPI, Flask, Pandas a ďalšie
• Naše LLM modely sú naučené v PyTorch
• Aplikácie balíme do Dockeru a nasadzujeme na Kubernetes, ktorý je súčasťou nášho firemného cloudu zvaného SCIF

Koho hľadáme:

• Vývojára, ktorý má skúsenosti s vývojom v Pythone a pokročilú skúsenosť s Linuxovým prostredím
• Niekoho kto vie, čo obnáša budovanie platformy (zisťovanie požiadavkov užívateľov, monitoring, alerting, bezvýpadková prevádzka aplikácii
• Schopnosť pracovať v tíme a zdielať svoje know-how
• Človeka, ktorý sa zaujíma o Large Language Modely a pridružené problémy
• Niekoho kto už má skúsenosť s prevádzkou a zrýchlovaním modelov a technológiami, ktoré využívame

Zamestnanecké výhody a benefity

• Zmysluplná práca s časovou flexibilitou
• Stabilného zamestnávateľa, najväčšiu internetovú technologickú firmu v Českej republike.
• Možnosť práce z domu, alebo office v Bratislave
• Výber techniky  (MacBook Pro, Dell) a prostredie (macOS, Windows, Linux), dobrý monitor
• Pre nás je dôležitý aj osobný rozvoj. Ponúkame ti interné vzdelávanie a externé konferencie.
• Možnosť kvartálneho bonusu podľa plnenia cieľov.
• 5 týždňov dovolenky a až 5 free days
• Cafeteria
• V prípade záujmu o relokáciu, možnosť pracovať aj na českej pobočke