3%가 챗GPT를 활용하는 방법(2)

"똑똑한데 거짓말이 문제야"

 

한번쯤은 들어보셨죠?

 

 

오늘은 챗GPT가 풀어야 될 난제 중의 하나이자 생성 AI가 다음 단어를 확률적으로 예측하는 방식으로 발생하는 문제인 환각현상, 할루시네이션을 줄이는 방법에 대해 이야기하고자 합니다.

 

한참 말이 많았던 내용이 있었는데요, 일명 세종대왕 맥북사건!

"세종대왕 맥북 던진 사건, 조선왕조실록에 기록된 세종대왕 맥북프로 던짐 사건에 대해서 알려줘."

세종대왕의 맥북프로 버팀 사건은 조선왕조실록에 기록된, 이라로 15세기 세종대왕이 새로 개발한 '훈민정음'의 초보를 작성하던 중에 문서 작성 중단에 대해서 담당자에게 분배해서 맥북프로와 함께 그를 방으로 던진 사건입니다.

 

참 무서운 게 그럴 듯하게 대답을 한다는 것입니다. 사용자가 맞는 정보라고 생각될만한 답변을 내놓죠. GPT는 타고난 거짓말쟁이라는 점을 알고서 사용해야합니다.

 

그럴듯하게 끄덕일 수 있는, 이 납득이 될 만한 문장을 만들어냅니다. 혹은 가상의 예시를 들어주는 경우도 있죠.

 

그럼 우리는 어떻게 사용해야할까요?

외부 지식 활용하기

특정 외부 지식을 기반으로 답을 생성하게 하도록 명령을 내리는 방법입니다. 외부 지식을 가장 쉽게 활용할 수 있는 방법은 바로 웹 검색을 활용하는 것입니다. 아마 이미 대다수가 사용하고 계시는 방법이라고 생각합니다. 프롬프트를 작성할 때 웹에서 검색한 정보를 기반으로 작성하도록, 정보가 사실인지 판단하라고 명령하는 것입니다.

 

 

하지만 이 방법은 환각을 완화해줄 수는 있지만 100% 정확한 답변을 제공하는 것은 아닙니다. 잘못된 검색 정보를 바탕으로 답변을 생성할 수도 있습니다. 답변의 출처를 확인하며 정말로 제대로 된 정보를 준 것인지 확인할 필요가 있습니다. 최근에는 출처를 확인할 수 있는 방법이 편해졌습니다. 인용 출처와 검색 출처를 제공하는 기능을 통해 다시 한번 체크를 해야 합니다.

---

2) 정보 직접 제공하기

답변할 때 신뢰도가 높은 정보만을 사용할 수 있도록 하는 것도 좋은 방법입니다. 예를 들어 우리가 좋은 자료들을 미리 선별한 뒤 "이 자료에 기반하여 글을 작성해줘"라고 명령을 내리는 것입니다. 우리가 찾은 정보를 가지고 작성된 글이기 때문에 더욱 구체적인 예시와 사실에 의거한 자료로 작성된 글로 신뢰도를 높이는 글이 된 것입니다.

 

• 예시:
  • 자료 없이: "2024년 4분기 경제 전망은 어떻습니까?"
    → 명확한 근거 없이 불확실한 추론을 제공할 수 있음.
  • 자료와 함께: "IMF 보고서에 따르면, 2024년 4분기 글로벌 경제 성장률은 3.0%로 예상됩니다. 이에 따라 한국 경제에 미치는 영향을 분석해주세요."
    → 구체적인 자료에 근거한 분석 결과 제공.

 

일례로 뤼튼AI에서는 과제 작성을 도와주는 기능이 있는데요. 어떤 과제를 해야 하는지 설명한 뒤 보충자료를 사용자가 직접 첨부할 수 있는 기능이 있습니다. 물론 꼭 넣어야만 작성해주는 것은 아닙니다.

 

환각현상 외에도 자료를 첨부하는 기능을 사용해야하는 이유가 분명 있습니다.

 

AI를 활용하여 글을 쓰면 정말 잘 써주지만 아주 치명적인 단점이 있습니다. 누구나 쓸 수 있기 때문에 AI를 활용한다면 죄다 비슷한 내용을 쓴다는 것입니다.

 

자 그렇다면 우리가 학교 과제를 할 때라던지 회사에서 업무를 할 때라던지 다 같은 글을 써온다고 생각해보세요. 교수와 상사에게 과연 좋은 평가를 받을 수 있을까요? AI를 써도 좋은 평가를 받는 사람과 좋지 않은 평가를 받는 사람이 왜 나눠지는지 이해할 수 있는 맥락이 되셨길 바랍니다. 교수와 상사, 평가자의 입장에서 결과물을 볼 수 있는 시선을 키워야 합니다.

 

 

챗GPT를 사용할 때에 아래를 보시면 아래와 같은 문구를 보실 수 있습니다.

 

ChatGPT는 실수를 할 수 있습니다. 중요한 정보를 확인하세요.

 

 

우리는 챗GPT를 통해 생산성을 얻을 수 있지만 이때에 사용시에 주의해야할 점이 있습니다. 도움을 통해 우리의 시간을 아끼는 것은 좋습니다. 하지만 온전히 GPT만에 의존해서는 안된다는 것을 명심해야합니다. 결국 최종적으로 인간이 결과물을 보고 고치고 명확한 정보인지 확인해야한다는 것입니다. 현명하고 훨씬 더 유용하게 잘 활용할 수 있도록 좋은 정보 많이 공유할 수 있도록 하겠습니다.