투썬월드 투썬캠퍼스 투썬에듀온

안녕하세요.

투썬AI스쿨입니다.

​

흥미로운 주제, '언어모델 활용법'의

'퓨샷 프롬팅(Few-shot Prompting)'에 대해 이야기하려고 합니다. 

​

인공지능은 이제 우리 삶의 많은 부분에서 활용되고 있으며,

특히 언어 모델은 기계 번역부터 텍스트 분석, 챗봇 개발까지

다양한 분야에서 활용되고 있습니다.

​

'퓨샷 프롬팅' 기법은 인공지능 언어 모델이 어떻게 학습하는지,

그 결과를 우리가 원하는 방향으로 유도할 수 있는지를 이해하는 데 큰 도움이 됩니다!

​

​

퓨샷 프롬팅은 어떻게 언어 모델의 성능을 향상시킬 수 있는지

함께 알아볼까요?

​

few-shot Prompting

​

먼저 제로샷 프롬팅(Zero-shot Prompting)에 대해 알아보도록 하겠습니다.

​

제로샷 프롬팅은 큰 언어모델,

예를 들어 GPT-3 같은 모델이 "예시 없이" 어떤 작업을 수행하는 능력을 의미합니다.

​

이런 모델들은 대량의 데이터에 대해 학습하며,

지시사항을 따르는 방법을 터득합니다.

​

따라서 아무런 예시를 제공하지 않아도 특정 작업을 수행할 수 있는 능력이 있습니다.

이를 '제로샷' 능력이라고 부릅니다.

​

​

예를 들어, 우리가 모델에게 다음과 같은 작업을 지시한다고 생각해봅시다.

​

​

위의 지시사항에서 모델에게 텍스트와 해당 분류에 대한 예시를 제공하지 않았음에도,

모델은 '감정'을 이해하고 텍스트를 적절하게 분류하였습니다.

​

이것이 바로 제로 샷 능력의 힘입니다.

​

​

이와 같은 제로샷 학습을 향상시키는 방법으로는 '명령어 튜닝(Instruction Tuning)'이 있습니다.

명령어 튜닝이란, 데이터셋에 대한 설명을 통해 모델을 미세조정하는 개념입니다.

​

또한, 'RLHF(Reinforcement Learning from Human Feedback)'이라는 방법이

이를 확장하여 사용되어, 모델이 사람의 선호도에 더 잘 맞게 조정됩니다.

​

이런 최신의 발전이 바로 ChatGPT와 같은 모델들을 구동하는 기술입니다.

이 방법들은 앞으로 더 자세하게 살펴볼 예정입니다.

​

​

하지만 제로샷 방식이 작동하지 않는 경우도 있습니다.

이럴 때는 '프롬프트'에 예시나 설명을 제공하여,

'퓨샷 프롬팅'으로 이동하는 것이 좋습니다.