AI Platform Engineer (Inference Pipeline)
Seoul ยท Posted 2MO AGO
๐์ง๋ฌด ์ธํฐ๋ทฐ๋ง ๋ด๋ 100๋ง์, ํจ๊ปํ ํ์ ์ง์ ๋ง๋๋ณด๊ณ ๊ฒฐ์ ํ์ธ์!
- 10์ 8์ผ(๋ชฉ)๋ถํฐ 25์ผ(๊ธ)์ ์ง์ํ์๋ ๋ถ๋ค์๊ฒ๋ง ํด๋น๋๋ ํน๋ณ ์ ํ์ด์์. ํฉ๊ฒฉ ์ฌ๋ถ์ ์๊ด์์ด ์ง๋ฌด ์ธํฐ๋ทฐ์ ์ฐธ์ฌํ์๋ฉด 100๋ง์์ ๋ฐ์์. (์ ์ธ๊ณต๊ณผ๊ธ ๋ณธ์ธ ๋ถ๋ด)
- ์ด 7๊ฐ์ ์ง๊ตฐ, 40์ฌ๊ฐ์ ํฌ์ง์
์์ ์ฑ์ฉ์ ์งํํ๊ณ ์์ด์. (https://toss.im/career/event/ai-ml-data-2026)
- ์ง์ํ์ ํฌ์ง์
๋ณด๋ค ๋ ์ ๋ง๋ ํฌ์ง์
์ด ์๋ค๋ฉด ์ ํฌ๊ฐ ๋จผ์ ์ ์๋๋ ค์. ๋ค๋ฅธ ์ง๋ฌด๋ก ๋ณ๊ฒฝํ์ฌ ์ธํฐ๋ทฐ๋ฅผ ์งํํ์
๋ 100๋ง์์ ๋์ผํ๊ฒ ์ง๊ธ๋ผ์.
# ํฉ๋ฅํ๊ฒ ๋ ํ์ ๋ํด ์๋ ค๋๋ ค์
- "๋ชจ๋ธ์ด ์คํ์์ ๋ฉ์ถ์ง ์๊ณ ์ค์ ํธ๋ํฝ ์์์ ๋์๊ฐ๊ฒ ๋ง๋ ๋ค"๋ ๋ฏธ์
์ ๊ฐ์ง๊ณ , ํ์ต๋ถํฐ ์๋น, ์ด์๊น์ง์ ๊ธฐ๋ฐ์ ๋ง๋ค๊ณ ์์ด์.
- ํ๋ซํผ๊ณผ ์ธํ๋ผ๋ฅผ ์ค์ ๋น์ฆ๋์ค ๋ฌธ์ ์ ์ฐ๊ฒฐํ๋ ์ผ์ ๋งก์์. ์ฌ๋์ด ๋์ผ๋ก ํ์ธํ๊ณ ์์ผ๋ก ์ฒ๋ฆฌํ๋ ๋๋์ ํ๋จ ์
๋ฌด๋ฅผ, ์ฌ๋ฌ ๋ชจ๋ธ์ ์ฎ์ AI ํ์ดํ๋ผ์ธ์ผ๋ก ๋ฐ๊ฟ์.
- ์์ฒ๋ง ๊ฑด ๊ท๋ชจ์ ์ถ๋ก ์ ๋จ๊ธฐ๊ฐ์ ์ฒ๋ฆฌํด์ผ ํ๋ ์ผ๋ ์๊ณ , ์์ญ๋ง์์ ์๋ฐฑ๋ง ๊ฑด์ ๋ฎ์ ์ง์ฐ์ผ๋ก ์๋ตํด์ผ ํ๋ ์ผ๋ ์์ด์. ์ด๋ ์ชฝ์ธ์ง์ ๋ฐ๋ผ ํ์ดํ๋ผ์ธ์ ๊ตฌ์กฐ๊ฐ ์์ ํ ๋ฌ๋ผ์ ธ์.
- ๋ชจ๋ธ์ ์๋นํ๋ ๊ฒ ๋ฟ๋ง ์๋๋ผ, ๋น์ฉ, ์ฒ๋ฆฌ๋, ๊ทธ๋ฆฌ๊ณ ์์ ์ฑ๊น์ง ์ ์ฒด ํ๋ฆ์ end-to-end๋ก ์ฑ
์์ง๋ฉฐ ์ฌ๋ฌ ํ์ ์ฐ๊ฒฐํ๋ ์ญํ ๋ ๋งก์์.
- ํ๋ซํผํ ์ํค๋ ๊ฒ์ ๊ณ ๋ คํ๋ฉฐ, ์๋น์ค์ ์ ์ฉํ๋ ์์
์ ์ํํ๋ค๋ ์ ์ด ์ด ์ญํ ์ ํน์ง์ด์์. ํ ์๋น์ค์์ ํ์ด๋ธ ๋ฐฉ์์ด ๋ค๋ฅธ ์๋น์ค์์์ ์ถ๋ฐ์ ์ด ๋ผ์.
# ํฉ๋ฅํ๋ฉด ํจ๊ป ํ ์
๋ฌด์์
- ML, LLM, Vision ๋ชจ๋ธ์ ์กฐํฉํด ์ฌ๋์ด ํ๋ ๋๋์ ํ๋จ ์
๋ฌด๋ฅผ ๋์ฉ๋ AI ํ์ดํ๋ผ์ธ์ผ๋ก ์๋ํํด์.
- ํ ์ค์ AI ํ๋ซํผ๊ณผ ์ธํ๋ผ๋ฅผ ๊ฐ ๋๋ฉ์ธ์ด ํ์๋ก ํ๋ ํํ๋ก ์ฐ๊ฒฐํ๊ณ , ์ฌ๋ฌ ๋๋ฉ์ธ์์ ๋ฐ๋ณต๋๋ ์์๋ฅผ ๊ณตํต ๊ธฐ๋ฅ์ผ๋ก ๋์ด์ฌ๋ ค ํ๋ซํผ์ ๊ณ ๋ํํด์.
- ์ธ๋ถ ๋ชจ๋ธ API๋ฅผ ์ฌ์ฉํ ์ง, ์์ฒด ๋ชจ๋ธ๋ก ์ฎ๊ธธ์ง๋ฅผ ๋น์ฉ๊ณผ ์ฑ๋ฅ์ ๊ทผ๊ฑฐ๋ก ํ๋จํด์. ๋ฐ์ดํฐ๊ฐ ์์ด๋ฉด ์์ฒด ๋ชจ๋ธ๋ก ์ ํํ๋ ํ๋ฆ๊น์ง ๋ง๋ค์ด์.
- ์ด ๋งํผ ๋ด๋ ์ข
๋์ ์ ์ฒ๋ฆฌ๋์ ๋ฏธ๋ฆฌ ํ๋ณดํ๋ PTU(์์ฝ ์ฒ๋ฆฌ๋)๋ฅผ ์์ด ๋น์ฉ ๊ตฌ์กฐ๋ฅผ ์ค๊ณํ๊ณ , ๊ฐ์ ๊ฒฐ๊ณผ๋ฅผ ๋ ์ ์ ๋น์ฉ์ผ๋ก ๋ผ ๋ฐฉ๋ฒ์ ๊ณ์ ์ฐพ๋ ์ผ์ด์์.
- ๋๊ธฐ ํธ์ถ๋ก ๊ฐ๋น๋์ง ์๋ ๊ท๋ชจ๋ ์์ฒญ๊ณผ ๊ฒฐ๊ณผ๋ฅผ ๋ถ๋ฆฌํ ๋น๋๊ธฐ ๊ตฌ์กฐ๋ ๋๋ ๋ฐฐ์น ์ฒ๋ฆฌ๋ก ๋๋์ด ์ค๊ณํด์. ์๊ฐ์ ์ผ๋ก ๋ชฐ๋ฆฌ๋ ๋ถํ์๋ ์ ์ฒด ์ฒ๋ฆฌ๋์ด ํ๋ค๋ฆฌ์ง ์๊ฒ ๋ง๋๋ ์ผ์ด์์.
- Rate Limit๊ณผ ์ด์คํ, ์ฅ์ ์ ํ, Fallback/Retry ๋ฑ์ ์ค๊ณํด ์ด์ ์์ ์ฑ์ ํ๋ณดํด์.
- ์ฌ๋ฌ ๋ชจ๋ธ๊ณผ ์ฒ๋ฆฌ ๋จ๊ณ๊ฐ ์ด์ด์ง ํ์ดํ๋ผ์ธ์ end-to-end๋ก ๋ณด๋ฉฐ, ๊ตฌ๊ฐ๋ง๋ค ํฉ์ด์ ธ ์๋ ์ซ์๋ฅผ ์ง์ ๊ฒ์ฆํด์. ์ ํ, ML, ์ธํ๋ผ ํ ์ฌ์ด์์๋ ๊ธฐ์ ํ๋จ ๊ธฐ์ค์ ์ ์ํ๊ณ ์๊ฒฌ์ ์กฐ์จํด์.
# ์ด๋ฐ ๋ถ๊ณผ ํจ๊ปํ๊ณ ์ถ์ด์
- LLM์ด๋ ML ๋ชจ๋ธ์ ํ์ฉํ ์์ฒ๋ง ๊ฑด ๊ท๋ชจ์ ๋์ฉ๋ ๋ฐ์ดํฐ ์ฒ๋ฆฌ ํ์ดํ๋ผ์ธ์ ๋ผ์ด๋ธ ์๋น์ค ์์ค์ผ๋ก ์ค๊ณํ๊ณ ์ด์ํด๋ณธ ๊ฒฝํ์ด ์๋ ๋ถ๊ณผ ํจ๊ปํ๊ณ ์ถ์ด์.
- ์์ฒญ๊ณผ ๊ฒฐ๊ณผ๋ฅผ ๋ถ๋ฆฌํ ๋น๋๊ธฐ ๊ตฌ์กฐ๋ ๋๋ ๋ฐฐ์น ์ฒ๋ฆฌ๋ก ๋๊ท๋ชจ ํธ๋ํฝ์ ๋ค๋ค๋ณธ ๊ฒฝํ์ด ์๋ ๋ถ์ด๋ฉด ์ข์์.
- LLM ์ํ๊ณ๋ฅผ ์ดํดํ๊ณ , Pay-as-you-go, PTU, Batch API์ ํธ๋ ์ด๋์คํ๋ฅผ ๋น์ฉ๊ณผ ์ฒ๋ฆฌ๋ ๊ด์ ์์ ํ๋จํ ์ ์๋ ๋ถ์ด๋ฉด ์ข์์.
- Rate Limit๊ณผ ์ด์คํ, ์ฅ์ ์ ํ, Fallback/Retry๋ฅผ ์ง์ ์ค๊ณํด ์ฅ์ ์ํฉ์์๋ ํ์ดํ๋ผ์ธ์ด ๋ฉ์ถ์ง ์๊ฒ ๋ง๋ค์ด๋ณธ ๋ถ๊ณผ ํจ๊ปํ๊ณ ์ถ์ด์.
- ์ฒ๋ฆฌ๋์ด ๊ธฐ๋๋งํผ ๋์ค์ง ์์ ๋ ์ด๋ ๊ตฌ๊ฐ์ด ๋ฌธ์ ์ธ์ง ์ซ์๋ก ์ฐพ์๋ด๊ณ , ๋ฌด์์ ํฌ๊ธฐํ ์ง๊น์ง ์ ํด๋ณธ ๋ถ๊ณผ ํจ๊ปํ๊ณ ์ถ์ด์.
- ์ฌ๋ฌ ํ์ด ์ฝํ ์ํฉ์์ ๊ธฐ์ ํ๋จ ๊ธฐ์ค์ ์ ์ํ๊ณ , ๋ณต์กํ ๋ด์ฉ์ ์ดํดํ๊ธฐ ์ฝ๊ฒ ์ค๋ช
ํ๋ฉฐ ํ์
์ ์ด๋์ด๋ณธ ๋ถ๊ณผ ํจ๊ปํ๊ณ ์ถ์ด์.
# ์ด๋ฐ ๋ถ์ด๋ฉด ๋ ์ข์์
- ์ด๋ฏธ์ง์ ํ
์คํธ๊ฐ ํจ๊ป ๋ค์ด์ค๋ ๋ฉํฐ๋ชจ๋ฌ ํ์ดํ๋ผ์ธ์ ์ค๊ณํ๊ณ ์ด์ํด๋ณธ ๊ฒฝํ์ด ์๋ค๋ฉด ์ข์์.
- ML, LLM, Vision ๋ชจ๋ธ์ ๋์ ๋ฐฉ์์ ์ดํดํ๊ณ , ๋ฌธ์ ๊ฐ ์๊ฒผ์ ๋ ์ง์ ๋๋ฒ๊น
ํด ๋ชจ๋ธ ์ฝ๋๊น์ง ๊ณ ์น ์ ์๋ค๋ฉด ์ข์์.
- ์ฌ๋์ด ํ๋ ๋๋์ ํ๋จ ์
๋ฌด๋ฅผ LLM์ผ๋ก ์๋ํํด๋ณธ ๊ฒฝํ์ด ์๋ค๋ฉด ํนํ ํจ๊ปํ๊ณ ์ถ์ด์.
- ์ธ๋ถ ๋ชจ๋ธ API์ ํจ๊ป ์์ฒด ๋ชจ๋ธ์ ์๋นํ๋ฉด์, ์ถ๋ก ์ฑ๋ฅ์ ์ต์ ํํด๋ณธ ๊ฒฝํ์ด ์๋ค๋ฉด ํ์ํด์.
# ์ด๋ ฅ์๋ ์ด๋ ๊ฒ ์์ฑํ์๋ ๊ฑธ ์ถ์ฒํด์
- ์งํํ๋ ๊ณผ์ ๊ฐ ์กฐ์ง์ ํฐ ์ํฅ๋ ฅ์ ๋ฏธ์ณค๋ค๋ฉด ๊ทธ ๋ด์ฉ์ ์์ธํ ์์ฑํด ์ฃผ์ธ์.
- ๋จ์ํ ์ด๋ค ์ธ์ด, ํ๋ซํผ, ํ๋ ์์ํฌ, ๊ธฐ์ ๋ฑ์ ์ฌ์ฉํ๋์ง๋ณด๋ค๋, ์ด๋ค ๋ชฉ์ ์ ๊ฐ์ง ๊ณผ์ ์๋์ง, ์ด๋ฅผ ํด๊ฒฐํ๊ธฐ ์ํด ๋ฌด์์ ์ฌ์ฉํ๋์ง, ์ด๋ป๊ฒ ๋ฌธ์ ๋ฅผ ํด๊ฒฐํ๋์ง์ ๋ํด ์์ธํ ์์ฑํด ์ฃผ์ธ์.
- ํ๋ซํผ์ ์ด์ํ๋ฉด์ ๋ฐ์ํ ์น๋ช
์ ์ธ ์ฅ์ ๋ฅผ ํด๊ฒฐํด ๋ณด์๊ฑฐ๋, ์ฑ๋ฅ/๋ฆฌ์์ค ์ต์ ํ๋ฅผ ํด ๋ณธ ๊ฒฝํ์ด ์๋ค๋ฉด ์์ฑํด ์ฃผ์ธ์.
- ์คํ์์ค ์ฌ์ฉ ์ค์ ๋ฐ์ํ ๋ฒ๊ทธ๋ ์ด์๋ฅผ ํด๊ฒฐํด ๋ณด์๊ฑฐ๋, ๋ถ์กฑํ ๊ธฐ๋ฅ์ ๊ฐ์ ํ๊ธฐ ์ํด ์คํ์์ค์ ๊ธฐ์ฌํ๋ ๊ฒฝํ์ด ์๋ค๋ฉด ์์ฑํด ์ฃผ์ธ์.
# ํ ์ค๋ก์ ํฉ๋ฅ์ฌ์
- ์๋ฅ ์ ์ > ์ง๋ฌด ์ธํฐ๋ทฐ > ๋ฌธํ์ ํฉ์ฑ ์ธํฐ๋ทฐ > ๋ ํผ๋ฐ์ค ์ฒดํฌ > ์ฒ์ฐ ํ์ > ์ต์ข
ํฉ๊ฒฉ
- ์ง๋ฌด ์ธํฐ๋ทฐ์์๋ ์ฌ์ธต ๊ธฐ์ ๋ฉด์ ๊ณผ ML ์์คํ
์ค๊ณ๋ฅผ ์ฃผ์ ๋ก ๋ฉด์ ์ด ์งํ๋ ์์ ์ด์์.
# ํจ๊ปํ ๋๋ฃ๋ฅผ ์ํ ํ๋ง๋
> "์ข์ ๋ชจ๋ธ์ด ๋์๋ ๊ทธ๊ฒ๋ง์ผ๋ก ์๋น์ค๊ฐ ๋์ง๋ ์์์. ์ฌ๋ฌ ๋ชจ๋ธ์ด ํ ์์ฒญ ์์์ ์ฌ์ฉ๋๋ฉด, ์ด๋๊ฐ ๋๋ฆฌ๊ณ ์ด๋๊ฐ ๋น์ผ์ง๊ฐ ๊ทธ ๊ตฌ๊ฐ์ ์ฐพ์ ๊ตฌ์กฐ๋ฅผ ๋ฐ๊พธ๊ณ , ํ ๋ฒ ์ฐพ์๋ธ ๋ต์ ๋ค์ ํ์ดํ๋ผ์ธ์ด ๋ค์ ์ฐพ์ง ์๋๋ก ํ๋ซํผํ ์์ผ์."
- ๊ฐ์ ๋ฌธ์ ๋ผ๋ ์ฒ๋ฆฌ๋ ๊ธฐ์ค์ด ์ด ๋ฐฐ ๋ฌ๋ผ์ง๋ฉด ๊ตฌ์กฐ๊ฐ ์์ ํ ๋ฌ๋ผ์ ธ์. ์ ํด์ง ๋ต์ ์ ์ฉํ๋ ๊ฒ ์๋๋ผ ๋งค๋ฒ ์กฐ๊ฑด์ ๋ณด๊ณ ๊ฐ์ฅ ๋์ ์ชฝ์ ๊ณ ๋ฅด๋ ์ผ์ด์์.
- ์ฌ๋ฌ ๋๋ฉ์ธ์์ ๋ฐ๋ณต๋๋ ์๊ตฌ๋ฅผ ๊ณตํต ๊ธฐ๋ฅ์ผ๋ก ๋์ด์ฌ๋ ค, ๋ค์ ๊ณผ์ ๊ฐ ๋ ์ ์ ๋น์ฉ์ผ๋ก ์ฌ๋ผ๊ฐ ์ ์๊ฒ ๋ง๋ค์ด์.
- ๋๋์ผ๋ก ์ด์ผ๊ธฐํ์ง ์์์. ์ด๋ ๊ตฌ๊ฐ์ด ๋ช ms ์ค์๊ณ ์ ๋น์ฉ์ด ์ผ๋ง๋ ๋ด๋ ค๊ฐ๋์ง๋ก ํ๋จํด์.
Similar roles
Staff Software Engineer, PaymentsAirwallex ยท Amsterdam
Senior Developer Experience Platform EngineerMotorway ยท London
Senior Principal - Cloud Platform Engineer โ Cloud NativeGSK ยท Bengaluru
Junior AI EngineerTechWolf
Sr. Software Engineer (Full Stack - Frontend)Navan ยท Bengaluru
Director of Engineering, Sensor Detection Platform (Remote)Seraphic Security ยท Remote