Skip to content

PyTorchKorea/vllm.kr

Folders and files

NameName
Last commit message
Last commit date

Latest commit

ย 

History

1 Commit
ย 
ย 

Repository files navigation

ํŒŒ์ดํ† ์น˜ ํ•œ๊ตญ ์‚ฌ์šฉ์ž ๋ชจ์ž„ ํ–‰๋™ ๊ฐ•๋ น

ํ™˜์˜ํ•ฉ๋‹ˆ๋‹ค.

ํŒŒ์ดํ† ์น˜ ํ•œ๊ตญ ์‚ฌ์šฉ์ž ๋ชจ์ž„์€ ๋ชจ์ž„์— ์ฐธ์—ฌํ•˜๋Š” ๋ชจ๋“  ์‚ฌ๋žŒ๋“ค์„ ์—ด๋ ฌํžˆ ํ™˜์˜ํ•ฉ๋‹ˆ๋‹ค. ์šฐ๋ฆฌ๋Š” ์„œ๋กœ ๋‹ค๋ฅธ ๋ฐฐ๊ฒฝ๊ณผ ์ •์ฒด์„ฑ์„ ๊ฐ€์ง„ ๋‹ค์–‘ํ•œ ์‚ฌ๋žŒ๋“ค์ด ์—ด๋ฆฐ ์ƒ๊ฐ์œผ๋กœ ๋ชจ์˜€์„ ๋•Œ ํ•จ๊ป˜ ์„ฑ์žฅํ•  ์ˆ˜ ์žˆ๋‹ค๊ณ  ๋ฏฟ์Šต๋‹ˆ๋‹ค. ์ƒ์‚ฐ์ ์ด๊ณ  ์ฐฝ์˜์ ์ธ ๋Œ€ํ™”๋ฅผ ๋‚˜๋ˆ„๊ณ  ํ˜‘์—…ํ•  ์ˆ˜ ์žˆ๋„๋ก ์ƒˆ๋กœ์šด ์ฐธ์—ฌ์ž๋ฅผ ํ™˜์˜ํ•ด์ฃผ์‹œ๊ณ  ๊ท€ ๊ธฐ์šธ์—ฌ์ฃผ์„ธ์š”.

์ง€์ผœ์ฃผ์„ธ์š”.

ํ–‰๋™ ๊ฐ•๋ น์€ ๋‹ค์–‘์„ฑ์„ ์กด์ค‘ํ•˜๋ฉฐ ๋ชจ๋‘๊ฐ€ ๋” ๋‚˜์€ ๋ฐฉํ–ฅ์œผ๋กœ ๋‚˜์•„๊ฐ€๊ธฐ ์œ„ํ•ด ์ง€์ผœ์•ผ ํ•˜๋Š” ์ตœ์†Œํ•œ์˜ ์•ฝ์†์ž…๋‹ˆ๋‹ค. ์ด ํ–‰๋™ ๊ฐ•๋ น์€ ํŒŒ์ดํ† ์น˜ ํ•œ๊ตญ ์‚ฌ์šฉ์ž ๋ชจ์ž„์ด ์šด์˜ํ•˜๊ฑฐ๋‚˜ ๊ด€๋ฆฌํ•˜๋Š” ๋ชจ๋“  ์˜จ๋ผ์ธ๊ณผ ์˜คํ”„๋ผ์ธ ๊ณต๊ฐ„์— ์ ์šฉ๋ฉ๋‹ˆ๋‹ค. ๊ตฌ์ฒด์ ์œผ๋กœ๋Š” GitHub, Slack๊ณผ ๊ฐ™์€ ์„œ๋น„์Šค๋ฅผ ๋น„๋กฏํ•˜์—ฌ ์ด๋ฒคํŠธ ๋ฐ ํ–‰์‚ฌ, ํฌ๋Ÿผ ๋“ฑ์˜ ๊ฐœ์ตœ ์žฅ์†Œ๊ฐ€ ํ•ด๋‹นํ•ฉ๋‹ˆ๋‹ค.

๋‹ค๋ฆ„์„ ์กด์ค‘ํ•ด์ฃผ์„ธ์š”.

์„œ๋กœ ๋‹ค๋ฅธ ๊ด€์ ๊ณผ ๊ฒฝํ—˜์œผ๋กœ๋ถ€ํ„ฐ ๋ฐœํ˜„๋œ ๋‹ค์–‘ํ•œ ์ƒ๊ฐ๊ณผ ์˜๊ฒฌ์€ ์ปค๋ฎค๋‹ˆํ‹ฐ๋ฅผ ํ’์š”๋กญ๊ฒŒ ๋งŒ๋“œ๋Š” ์›์ฒœ์ž…๋‹ˆ๋‹ค. ํ•˜์ง€๋งŒ ์ด ๊ณผ์ •์—์„œ ๋ฐœ์ƒํ•˜๋Š” ์˜คํ•ด์™€ ๊ฐˆ๋“ฑ์€ ๊ธ์ •์ ์ธ ๋ณ€ํ™”๋ฅผ ๋ถˆ๋Ÿฌ์˜ค๋Š”๋ฐ ๊ฑธ๋ฆผ๋Œ์ด ๋˜๊ธฐ๋„ ํ•ฉ๋‹ˆ๋‹ค. ๋‹ค๋ฆ„์„ ์กด์ค‘ํ•ด์ฃผ์‹œ๊ณ  ์„ฑ๋ณ„, ํ•™๋ ฅ, ๊ตญ์ , ์ธ์ข…, ์žฅ์• , ์™ธ๋ชจ, ์ทจํ–ฅ ๋“ฑ์— ๋”ฐ๋ฅธ ์ฐจ๋ณ„์  ์–ธํ–‰์„ ํ•˜์ง€ ๋ง์•„์ฃผ์„ธ์š”.

์•ˆ์ „ํ•œ ๊ณต๊ฐ„์„ ๋งŒ๋“ค์–ด์ฃผ์„ธ์š”.

์Šค์Šค๋กœ์˜ ๋ง๊ณผ ํ–‰๋™์ด ๋‹ค๋ฅธ ์‚ฌ๋žŒ๋“ค์—๊ฒŒ ์˜ํ–ฅ์„ ์ฃผ๊ณ  ์žˆ๋‹ค๋Š” ๊ฒƒ์„ ํ•ญ์ƒ ์ธ์ง€ํ•ด์ฃผ์„ธ์š”. ๋‹ค๋ฅธ ์‚ฌ๋žŒ์„ ์œ„ํ˜‘ํ•˜๊ฑฐ๋‚˜ ์œ„ํ—˜ํ•˜๊ฒŒ ๋งŒ๋“ค์ง€ ์•Š๋„๋ก ์ฃผ์˜ํ•ด์ฃผ์‹œ๊ณ , ์–ธํ–‰์— ๋”ฐ๋ฅธ ๊ฒฐ๊ณผ๋ฅผ ๊ณ ๋ คํ•ด์ฃผ์„ธ์š”. ์š•์„ค, ์กฐ๋กฑ, ๋ชจ์š•, ์œ„ํ˜‘์ ์ธ ์–ธํ–‰์ด๋‚˜ ๊ดด๋กญํž˜, ํƒ€์ธ์˜ ๊ฐœ์ธ์ •๋ณด ๊ณต๊ฐœ ๋“ฑ๊ณผ ๊ฐ™์€ ํ–‰๋™์„ ํ•˜์ง€ ๋ง์•„์ฃผ์„ธ์š”.

์„œ๋กœ์˜ ์‹œ๊ฐ„๊ณผ ๋…ธ๋ ฅ์„ ์กด์ค‘ํ•ด์ฃผ์„ธ์š”.

๋ชจ์ž„์— ์ฐธ์—ฌํ•˜๊ฑฐ๋‚˜ ๊ธฐ์—ฌํ•˜๋Š”๋ฐ ๋“ค์ธ ์‹œ๊ฐ„๊ณผ ๋…ธ๋ ฅ ์ด์ƒ์œผ๋กœ ๋ฐœํ‘œ๋ฅผ ์ค€๋น„ํ•˜๊ฑฐ๋‚˜ ๋‹ต๋ณ€์„ ์œ„ํ•œ ์‹œ๊ฐ„๊ณผ ๋…ธ๋ ฅ์ด ํ•„์š”ํ•ฉ๋‹ˆ๋‹ค. ๋˜ํ•œ, ํ”„๋กœ์ ํŠธ ๊ด€๋ฆฌ์ž๋Š” ์—ฌ๋Ÿฌ๋ถ„์˜ ๊ธฐ์—ฌ๋ฅผ ๋” ๋งŽ์€ ์‚ฌ๋žŒ๋“ค์—๊ฒŒ ๊ฐ€์น˜์žˆ๊ฒŒ ์ „๋‹ฌํ•  ์ˆ˜ ์žˆ๋„๋ก ๋„์šฐ๋ ค ๋…ธ๋ ฅํ•˜๊ณ  ์žˆ์Šต๋‹ˆ๋‹ค. ๋ˆ„๊ตฐ๊ฐ€์˜ ์‹œ๊ฐ„๊ณผ ๋…ธ๋ ฅ์ด ํ—›๋˜์ง€ ์•Š๋„๋ก ์ถฉ๋ถ„ํžˆ ์ƒ๊ฐํ•˜๊ณ  ํ–‰๋™ํ•ด์ฃผ์„ธ์š”.

์‚ฌ๋ ค ๊นŠ๊ฒŒ ํ–‰๋™ํ•ด์ฃผ์„ธ์š”.

์šฐ๋ฆฌ๋Š” ํ•ด๋„ ๋˜๋Š” ์ผ๊ณผ ํ•ด์„œ ์•ˆ๋˜๋Š” ์ผ์˜ ์˜ˆ์‹œ๋ฅผ ์—ฌ๊ธฐ์— ๋ชจ๋‘ ๋‹ด์„ ์ˆ˜ ์—†๊ณ , ๋‹ด์œผ๋ ค๊ณ  ํ•˜์ง€๋„ ์•Š์•˜์Šต๋‹ˆ๋‹ค. ํ–‰๋™ ๊ฐ•๋ น์„ ๋ฌธ์ž ๊ทธ๋Œ€๋กœ๊ฐ€ ์•„๋‹Œ, ์ž‘์„ฑํ•œ ์˜๋„๋ฅผ ํŒŒ์•…ํ•˜๊ณ  ์„œ๋กœ๋ฅผ ๋” ์ž˜ ๋Œ€ํ•  ์ˆ˜ ์žˆ๋Š” ๊ธฐ์ค€์œผ๋กœ ์‚ผ์•„์ฃผ์„ธ์š”. ๋ˆ„๊ตฐ๊ฐ€ ๋ถˆ์พŒํ•˜๊ฑฐ๋‚˜ ๋ถˆํŽธํ•˜์ง€ ์•Š๋„๋ก ์ƒ์‹์ ์ด๊ณ  ํ•ฉ๋ฆฌ์ ์ธ ์ˆ˜์ค€์—์„œ ์‚ฌ๋ ค ๊นŠ๊ฒŒ ํ–‰๋™ํ•ด์ฃผ์„ธ์š”.

์•Œ๋ ค์ฃผ์„ธ์š”.

ํ–‰๋™ ๊ฐ•๋ น์€ ํŒŒ์ดํ† ์น˜ ํ•œ๊ตญ ์‚ฌ์šฉ์ž ๋ชจ์ž„์˜ ๋Œ€ํ‘œ์ž, ์šด์˜์ง„์„ ๋น„๋กฏํ•œ ๋ชจ๋“  ์ฐธ์—ฌ์ž์—๊ฒŒ ๋™๋“ฑํ•˜๊ฒŒ ์ ์šฉ๋ฉ๋‹ˆ๋‹ค. ๋ฌธ์ œ๋ฅผ ๊ฒช์œผ์‹œ๊ฑฐ๋‚˜ ๋ชฉ๊ฒฉํ•˜์…จ๋‹ค๋ฉด ์ด๋ฉ”์ผ๋กœ ์•Œ๋ ค์ฃผ์„ธ์š”. ํ•„์š”ํ•˜๋‹ค๋ฉด ์‚ฌ๋ฒ•๊ธฐ๊ด€์—๋„ ํ•จ๊ป˜ ๋„์›€์„ ์š”์ฒญํ•ด์ฃผ์„ธ์š”. ๋ชจ๋“  ์šด์˜์ง„๋“ค([email protected]) ๋˜๋Š” ์†Œ์ˆ˜์˜ ์ฑ…์ž„์ž๋“ค([email protected])์—๊ฒŒ ์•Œ๋ ค์ฃผ์‹ค ์ˆ˜ ์žˆ์Šต๋‹ˆ๋‹ค.

๋…ธ๋ ฅํ•˜๊ฒ ์Šต๋‹ˆ๋‹ค.

ํŒŒ์ดํ† ์น˜ ํ•œ๊ตญ ์‚ฌ์šฉ์ž ๋ชจ์ž„์€ ์•Œ๋ ค์ฃผ์‹  ๋‚ด์šฉ๋“ค์— ๋Œ€ํ•ด์„œ ๊ฒ€ํ† ํ•˜๊ณ  ์ ์ ˆํ•œ ๋Œ€์‘์„ ํ•˜๊ธฐ ์œ„ํ•ด ๋…ธ๋ ฅํ•˜๊ฒ ์Šต๋‹ˆ๋‹ค. ์ด๋Š” ์ด์Šˆ๋‚˜ ๊ฒŒ์‹œ๋ฌผ ๋“ฑ์˜ ์‚ญ์ œ๋ฅผ ํฌํ•จํ•˜์—ฌ ํ•„์š”ํ•œ ๊ฒฝ์šฐ ๋‹น์‚ฌ์ž์˜ ์ถ”๋ฐฉ๊ณผ ๊ฐ™์€ ๋ชจ๋“  ์กฐ์น˜๋ฅผ ํฌํ•จํ•ฉ๋‹ˆ๋‹ค. ํ•„์š” ์‹œ ๋˜๋Š” ์š”์ฒญ์— ๋”ฐ๋ผ ํŒŒ์ดํ† ์น˜ ํ•œ๊ตญ ์‚ฌ์šฉ์ž ๋ชจ์ž„์€ ์‚ฌ๋ฒ• ๊ธฐ๊ด€ / ์˜๋ฃŒ ๊ธฐ๊ด€์— ์‹ ๊ณ  ๋˜๋Š” ํ˜‘์กฐํ•˜๊ฒ ์Šต๋‹ˆ๋‹ค.

์•ž์„œ ๊ณ ๋ฏผํ•œ ๋‹ค์Œ์˜ ๋ฌธ์„œ์™€ ํ–‰๋™ ๊ฐ•๋ น๋“ค์„ ์ฐธ๊ณ ํ•˜์˜€์Šต๋‹ˆ๋‹ค.

About

vLLM.KR SIG

Code of conduct

Stars

Watchers

Forks

Releases

No releases published

Packages

No packages published