Skip to content

Latest commit

ย 

History

History
45 lines (36 loc) ยท 5.31 KB

File metadata and controls

45 lines (36 loc) ยท 5.31 KB

ClauseSummary

Clause Summarization Model

2023-1 YCC Project

website repo https://github.com/HeIIowrld/ToSAN

TODO

Introduction

ํ”„๋กœ์ ํŠธ ๋ชฉ์ 

๊ธˆ์œต์ƒํ’ˆ์˜ ์ข…๋ฅ˜์™€ ํŠน์„ฑ์€ ๋‹ค์–‘ํ•˜๋‹ค. ์ฃผ์‹, ์ฑ„๊ถŒ๋ถ€ํ„ฐ ์ฝœ ์˜ต์…˜, ํ’‹ ์˜ต์…˜, CDS, CDO, ETF๊นŒ์ง€ ๋‹ค์–‘ํ•œ ๊ธฐ์ดˆ์ƒํ’ˆ๊ณผ ํŒŒ์ƒ์ƒํ’ˆ์ด ์กด์žฌํ•œ๋‹ค. ์ด๋Ÿฌํ•œ ๊ธˆ์œต์ƒํ’ˆ๋“ค์€ ํฐ ๋ฒ”์ฃผ์—์„œ๋Š” ๋ถ„๋ฅ˜๊ฐ€ ๋˜์ง€๋งŒ ์„ธ๋ถ€์ ์ธ ์กฐํ•ญ, ๊ธฐ์ดˆ์ƒํ’ˆ ๋“ฑ์— ๋”ฐ๋ผ ๊ทธ ํŠน์„ฑ๊ณผ ๋ฆฌ์Šคํฌ๊ฐ€ ๋‹ฌ๋ผ์ง€๊ธฐ๋„ ํ•˜๋ฉฐ, ์‹ฌ์ง€์–ด ์ด์ „์—๋Š” ์—†์—ˆ๋˜ ์ƒˆ๋กœ์šด ์ข…๋ฅ˜์˜ ๊ธˆ์œต์ƒํ’ˆ์ด ํŒ๋งค๋˜๊ธฐ๋„ ํ•œ๋‹ค. ๋” ๋‚˜์•„๊ฐ€ ๊ฐ ๋‚˜๋ผ์˜ ๊ธˆ์œต์ƒํ’ˆ๋“ค์€ ๊ฐ ๋‚˜๋ผ์˜ ๊ธˆ์œต ๋ฒ•, ์ •์ฑ…, ๊ทœ์ œ์— ๊ฐ•ํ•œ ์˜ํ–ฅ์„ ๋ฐ›๊ธฐ ๋•Œ๋ฌธ์— ํ•ด๋‹น ๊ตญ๊ฐ€์˜ ๊ธˆ์œต ์‹œ์žฅ ํŠน์„ฑ๊ณผ ๊ธˆ์œต ๋ฒ•, ์ •์ฑ…์€ ๊ตญ๊ฐ€๊ฐ„ ๊ธˆ์œต ํˆฌ์ž์— ๋Œ€ํ•œ ์žฅ๋ฒฝ์œผ๋กœ ์ž‘์šฉํ–ˆ๋‹ค.

์ด๋Š” ์—ฌ๋Ÿฌ ๋ฌธ์ œ๋“ค์„ ๋‚ณ์•˜๋Š”๋ฐ, ๋Œ€ํ‘œ์ ์ธ ๋ฌธ์ œ๋กœ๋Š” ๊ฒฝ์ œ์  ๋น„ํšจ์œจ์„ฑ๊ณผ ํˆฌ์ž์ž๊ฐ€ ์˜๋„์น˜ ์•Š๋Š” ์œ„ํ—˜์„ ๋– ์•ˆ๋Š” ๊ฒƒ์„ ๋“ค ์ˆ˜ ์žˆ๋‹ค. ์‹œ์žฅ ํˆฌ์ž์— ๋Œ€ํ•œ ์ง„์ž… ์žฅ๋ฒฝ์€ ์‹œ์žฅ ์ฐธ์—ฌ์ž์˜ ์ˆ˜๋ฅผ ์ค„์ด๊ณ , ๊ฐ€๊ฒฉ ๋ณ€๋™์— ๋Œ€ํ•œ ๊ฒฝ์ง์„ฑ์„ ๋งŒ๋“ฆ๊ณผ ๋™์‹œ์— ์‹œ์žฅ ์ „๋ฐ˜์— ์ž๊ธˆ์„ ๊ณต๊ธ‰ํ•˜๋Š” ๊ธˆ์œต์‹œ์žฅ ๋‚ด์—์„œ ์ตœ๋Œ€๋กœ ์šด์šฉ๋  ์ˆ˜ ์žˆ๋Š” ์ž๊ธˆ๋ณด๋‹ค ๋” ์ ์€ ์ž๊ธˆ์ด ์šด์šฉ๋˜๊ฒŒ ํ•œ๋‹ค. ๋” ์ ์€ ์ž๊ธˆ์€ ์‹œ์žฅ ๋‚ด ์ž๋ณธ์˜ ๊ฐ์†Œ๋กœ ์ด์–ด์ง€๋ฏ€๋กœ, ํˆฌ์ž๊ฐ€ ์ตœ๋Œ€ ํšจ์šฉ ์ˆ˜์ค€์œผ๋กœ ์ด๋ฃจ์–ด์ง€์ง€ ์•Š์•„ ๊ฒฝ์ œ์  ๋น„ํšจ์œจ์„ฑ์ด ๋ฐœ์ƒํ•œ๋‹ค.

๋˜ ๋‹ค๋ฅธ ๋ฌธ์ œ๋Š” ํˆฌ์ž์ž๊ฐ€ ๊ธˆ์œต์ƒํ’ˆ์˜ ํŠน์„ฑ์„ ํŒŒ์•…ํ•˜์ง€ ๋ชปํ•˜๋Š” ๊ฒƒ์ด ์žˆ๋‹ค. ๊ธˆ์œต์ƒํ’ˆ์˜ ํŠน์„ฑ์„ ์ดํ•ดํ•˜์ง€ ๋ชปํ•˜๋Š” ๊ฒƒ์€ ํˆฌ์ž์ž๊ฐ€ ํˆฌ์ž ์˜๋„์™€๋Š” ๋‹ค๋ฅธ ํŠน์„ฑ์„ ๊ฐ€์ง„ ๊ธˆ์œต์ƒํ’ˆ์„ ๊ตฌ๋งคํ•˜์—ฌ ์˜๋„์น˜ ์•Š์€ ์œ„ํ—˜์„ ๋– ์•ˆ์„ ์ˆ˜ ์žˆ๊ฒŒ ํ•œ๋‹ค. ์ด๋Š” ๊ฒฝ์ œ, ๊ธˆ์œต์— ๋Œ€ํ•œ ์ดํ•ด๊ฐ€ ๋ถ€์กฑํ•œ ํˆฌ์ž์ž๋“ค์ด ํˆฌ๊ธฐ์„ฑ ๊ธˆ์œต์ƒํ’ˆ์„ ์ถฉ๋™์ ์œผ๋กœ ๊ตฌ๋งคํ•˜๊ฑฐ๋‚˜, ๊ธˆ์œต ์ƒํ’ˆ ๊ตฌ๋งค ์ž์ฒด๋ฅผ ๊บผ๋ฆฌ๊ฒŒ ํ•˜๋Š” ์œ ์ธ์ด ๋œ๋‹ค.

์ด๋Ÿฌํ•œ ์ด์œ ๋กœ ์ธํ•ด ์ •๋ณดํ™”, ์„ธ๊ณ„ํ™” ์‹œ๋Œ€์—๋„ ๋ถˆ๊ตฌํ•˜๊ณ , ๊ธˆ์œต ์‹œ์žฅ ์ฐธ์—ฌ์ž์˜ ์ˆ˜์™€ ์ž๋ณธ์€ ํšจ์œจ์ ์ด์ง€ ๋ชปํ•˜๋ฉฐ, ๊ตญ๊ฐ€๊ฐ„ ๊ธˆ์œต ํˆฌ์ž๋Š” ๋Œ€ํ˜• ํˆฌ์ž๊ธฐ๊ด€์„ ์ค‘์‹ฌ์œผ๋กœ๋งŒ ์ด๋ฃจ์–ด์กŒ๋‹ค. ๋ณธ ํ”„๋กœ์ ํŠธ๋Š” ๋Œ€๊ทœ๋ชจ ์–ธ์–ด ๋ชจ๋ธ(LLM)์„ ์‚ฌ์šฉํ•ด ์ž์—ฐ์–ด ์ฒ˜๋ฆฌ ๋ชจ๋ธ์ด ๊ตญ๋‚ด ํ˜น์€ ํ•ด์™ธ์˜ ๊ธˆ์œต์ƒํ’ˆ ์•ฝ๊ด€์„ ๋Œ€์‹  ์ดํ•ดํ•˜๊ณ  ์š”์•ฝ ์ •๋ณด๋ฅผ ์ œ๊ณตํ•ด ๊ฒฝ์ œ์— ๋Œ€ํ•œ ์ง€์‹์ด ๋ถ€์กฑํ•˜๊ฑฐ๋‚˜ ๊ตญ๋‚ด ๋ฐ ํ•ด์™ธ์˜ ๊ธˆ์œต ๋ฒ•, ์ •์ฑ…์— ๋Œ€ํ•œ ์ดํ•ด๊ฐ€ ๋ถ€์กฑํ•œ ํˆฌ์ž์ž์—๊ฒŒ ์ •๋ณด๋ฅผ ์ดํ•ดํ•˜๊ธฐ ์‰ฝ๋„๋ก ๊ฐ€๊ณตํ•˜๋„๋ก ํ•˜๊ณ ์ž ํ•œ๋‹ค. ๊ฐœ๋ณ„ ํˆฌ์ž์ž์˜ ํ•ฉ๋ฆฌ์ ์ธ ๊ธˆ์œต ํˆฌ์ž๋ฅผ ํ•˜๋„๋ก ๋„์›€์œผ๋กœ์จ, ๊ธˆ์œต ์‹œ์žฅ์˜ ๊ฑด์ „์„ฑ๊ณผ ๊ฒฝ์ œ ๋ฏผ์ฃผํ™”๋ฅผ ๋‹ฌ์„ฑํ•˜๋Š” ๋ฐ ๊ธฐ์—ฌํ•˜๊ณ ์ž ํ•œ๋‹ค.

๊ณ„ํš

  • 1์ฃผ์ฐจ: ์ „์ฒด ์ผ์ • ์„ธ๋ถ€ ์กฐ์ • ๋ฐ ์‹œ๊ฐ„ ์กฐ์œจ
    • ์˜๊ฒฌ์„ ์ถ”๊ฐ€์ ์œผ๋กœ ์ˆ˜ํ•ฉํ•ด ๊ณ„ํš์˜ ๋ณด์™„, ๊ฐœ์„  ๋ฐฉ์•ˆ ๋…ผ์˜
    • ์ •๊ธฐ์  ๋ชจ์ž„ ์‹œ๊ฐ„๊ณผ ์„ธ๋ถ€ ์ผ์ • ์กฐ์œจ
  • 2์ฃผ์ฐจ: ์›น ํฌ๋กค๋Ÿฌ ์„ค๊ณ„ ๋ฐ ๊ฐœ๋ฐœ ๋ฐฉํ–ฅ ๋…ผ์˜
    • ์›น ํฌ๋กค๋Ÿฌ์™€ ํŒŒ์„œ, DB ์„ค๊ณ„์™€ ๊ฐœ๋ฐœ ์—ญํ•  ํ• ๋‹น
  • 3~4์ฃผ์ฐจ: ์›น ํฌ๋กค๋Ÿฌ ๊ฐœ๋ฐœ
    • ๊ฐœ๋ฐœ ๋ฐ ์ฃผ๊ธฐ์  ์ฝ”๋“œ๋ฆฌ๋ทฐ ์ง„ํ–‰
  • 5์ฃผ์ฐจ: ํฌ๋กค๋ง ํ…Œ์ŠคํŠธ ๋ฐ ํฌ๋กค๋ง (์ง„ํ–‰์ค‘)
    • ํฌ๋กค๋ง ํ…Œ์ŠคํŠธ๋ฅผ ํ†ตํ•ด ํฌ๋กค๋Ÿฌ ํ…Œ์ŠคํŠธ
    • NAVER ํด๋ผ์šฐ๋“œ ์„œ๋ฒ„๋ฅผ ์ด์šฉํ•ด ํฌ๋กค๋ง ์ˆ˜ํ–‰ ๋ฐ DB ๊ตฌ์ถ•
  • 6์ฃผ์ฐจ: EDA ๋ฐ ํ•„์š” ์‹œ ์ถ”๊ฐ€ ๋ฐ์ดํ„ฐ ์ˆ˜์ง‘
    • ๋ฐ์ดํ„ฐ ํƒ์ƒ‰์„ ํ†ตํ•ด ๋ฐ์ดํ„ฐ์˜ ๋Œ€๋žต์ ์ธ ํŠน์„ฑ์„ ํŒŒ์•…ํ•˜๊ณ  ํ•„์š” ์‹œ ์ถ”๊ฐ€๋กœ ๋ฐ์ดํ„ฐ ์ˆ˜์ง‘
  • 7์ฃผ์ฐจ: Pre-trained ๋ชจ๋ธ ์„ฑ๋Šฅ ํ…Œ์ŠคํŠธ ๋ฐ ์„ ํƒ
    • ์—ฌ๋Ÿฌ Pre-trained ๋ชจ๋ธ ์ค‘ ์ข‹์€ ์„ฑ๋Šฅ์„ ๋ณด์ด๋Š” ๋ชจ๋ธ์„ ์„ ํƒ
  • 8~9์ฃผ์ฐจ: ๋ชจ๋ธ ์„ค๊ณ„/๊ตฌํ˜„ ๋ฐ ํ•™์Šต ํ™˜๊ฒฝ ๊ตฌ์ถ•
  • 10~11์ฃผ์ฐจ: ๋ชจ๋ธ ํ•™์Šต ๋ฐ ๊ฒ€์ฆ, ํŠœ๋‹
    • ๋ชจ๋ธ์˜ ํ•™์Šต ์ƒํ™ฉ๊ณผ ์„ฑ๋Šฅ์„ ๊ณ ๋ คํ•ด ํ•˜์ดํผํŒŒ๋ผ๋ฏธํ„ฐ๋ฅผ ํŠœ๋‹
    • ๋ชจ๋ธ์„ ์›ํ•˜๋Š” task์— ๋งž์ถ”์–ด fine-tuning ์ง„ํ–‰
    • NAVER ํด๋ผ์šฐ๋“œ GPU ์„œ๋ฒ„ ํ˜น์€ ๋กœ์ปฌํ™˜๊ฒฝ์—์„œ ๋ชจ๋ธ ํ•™์Šต ์ง„ํ–‰
  • 12์ฃผ์ฐจ: ๋ชจ๋ธ ํ…Œ์ŠคํŠธ ๋ฐ Metric ์ธก์ •
  • 13์ฃผ์ฐจ: ๋ฒ ํƒ€ ํ…Œ์ŠคํŠธ ๋ฐ ํ”ผ๋“œ๋ฐฑ, ์ถ”ํ›„ ๋ฐœ์ „ ๋ฐฉํ–ฅ ๋ชจ์ƒ‰
    • ๋‹ค์–‘ํ•œ ์ง€์‹ ๋ฐฐ๊ฒฝ์„ ๊ฐ€์ง„ ์‚ฌ๋žŒ๋“ค์—๊ฒŒ ๋ฒ ํƒ€ ํ…Œ์ŠคํŠธ๋ฅผ ์ œ๊ณตํ•˜๊ณ  ํ”ผ๋“œ๋ฐฑ์„ ๋ฐ›์•„ ๋ชจ๋ธ์˜ ๊ฐœ์„  ๋ฐฉํ–ฅ์„ ๋ชจ์ƒ‰.

์ตœ์ข… ๋ชฉํ‘œ ๋ฐ ๊ธฐ๋Œ€ํšจ๊ณผ

๋ณธ ํ”„๋กœ์ ํŠธ์˜ ์ตœ์ข… ๋ชฉํ‘œ๋ฅผ ๋‘ ๊ฐ€์ง€๋กœ ๋‚˜๋ˆŒ ์ˆ˜ ์žˆ๋‹ค. ์ฒซ์งธ, ๊ฐœ๋ณ„ ํˆฌ์ž์ž๋“ค์ด ์ง๋ฉดํ•œ ์—ฌ๋Ÿฌ ๊ธˆ์œต ์‹œ์žฅ ์ง„์ž… ์žฅ๋ฒฝ์„ ์—†์• ๋Š” ๊ฒƒ์ด๋‹ค. ๋‘˜์งธ, ๊ธˆ์œต์ƒํ’ˆ๊ณผ ๊ฒฝ์ œ์— ๋Œ€ํ•œ ์ดํ•ด๊ฐ€ ์ ์€ ๊ฐœ๋ณ„ ํˆฌ์ž์ž๋“ค์—๊ฒŒ ๊ธˆ์œต ์‹œ์žฅ๊ณผ ๊ธˆ์œต ์ƒํ’ˆ์— ๋Œ€ํ•œ ์ดํ•ด๋ฅผ ๋„์›€์œผ๋กœ์จ ํ•ฉ๋ฆฌ์ ์ธ ๊ธˆ์œต ํˆฌ์ž์™€ ๊ธˆ์œต ์‹œ์žฅ์˜ ๊ฑด์ „์„ฑ์„ ํš๋“ํ•˜๋Š” ๊ฒƒ์ด๋‹ค. ์ตœ๊ทผ ์ž์—ฐ์–ด ์ฒ˜๋ฆฌ ๋ชจ๋ธ๋“ค์ด ๋ฐœ๋‹ฌํ•˜๋ฉฐ, ๋งŽ์€ ์—ฐ๊ตฌ๊ฐ€ ์ง„ํ–‰๋œ ์–ธ์–ด์˜ ๊ฒฝ์šฐ, ์‚ฌ๋žŒ์ด ์ž‘์„ฑํ•œ ๊ธ€๊ณผ ๊ธฐ๊ณ„๊ฐ€ ์ƒ์„ฑํ•œ ํ…์ŠคํŠธ๋ฅผ ๊ตฌ๋ถ„ํ•˜๊ธฐ ์–ด๋ ค์šธ ์ •๋„๋กœ ๋ฐœ์ „ํ•œ ๋ชจ์Šต์„ ๋ณด์ธ๋‹ค. ๋ฒ•๊ทœ์— ๋งž์ถ”์–ด ์ž‘์„ฑ๋œ ๊ธˆ์œต์ƒํ’ˆ ์„ค๋ช…์„œ์˜ ๋ณ€์น™์„ฑ์ด ์ ์€ ํŠน์„ฑ๊ณผ, ๊ตญ๋ฆฝ๊ตญ์–ด์›, ๊ณต๊ณต ๋ฐ์ดํ„ฐ ํฌํ„ธ ๋“ฑ ๋‹ค์–‘ํ•œ ๊ธฐ๊ด€์—์„œ ์ œ๊ณตํ•˜๋Š” ์ž์—ฐ์–ด ๋ฐ์ดํ„ฐ(Corpus)๋ฅผ ์ด์šฉํ•˜์—ฌ ๋ชจ๋ธ์„ ๊ฐœ๋ฐœํ•˜๋ฉด, ์ดํ•ดํ•˜๊ธฐ ์‰ฌ์šด ์–ธ์–ด๋กœ ํ’€์–ด์„œ ์‹ค์ œ ์‚ฌ์šฉ์ž๋“ค์ด ์•ฝ๊ด€ ๋‚ด์šฉ์„ ์ดํ•ดํ•˜๋Š”๋ฐ ๋„์›€์„ ์ค„ ์ˆ˜ ์žˆ์„ ๊ฒƒ์ด๋ผ ๊ธฐ๋Œ€ํ•œ๋‹ค. ๊ทธ๋ฆฌ๊ณ  ์ด์— ๋Œ€ํ•œ ์„ฑ๊ณผ๋Š” ๋ชจ๋ธ์˜ ์‚ฌ์šฉ์ž๋“ค์ด ์–ป์€ ํšจ์šฉ๊ณผ ๋งŒ์กฑ๋„๋ฅผ ํ†ตํ•ด ํ™•์ธํ•˜๊ณ  ํ”ผ๋“œ๋ฐฑ์„ ์–ป์„ ์ˆ˜ ์žˆ์„ ๊ฒƒ์ด๋‹ค.