230907_프롬프트 엔지니어링 : 거부차단기 패턴

1. 개요

이 거부차단기 패턴은 프롬프트 엔지니어링에서 사용되는 중요한 기법 중 하나인 거부차단기(anti-prompt)의 개념과 활용 방법에 대한 지침을 제공합니다.

2. 거부차단기 패턴

가. 설명

거부차단기는 텍스트 생성 모델이 원치 않는 내용을 생성하는 것을 방지하기 위한 기술입니다. 이 패턴은 모델이 생성하는 텍스트를 원하는 방향으로 유도하고 원치 않는 내용을 방지하는 방법을 다룹니다.

나. 활용예시 7가지

1) 활용예시 1: 부적절한 콘텐츠 생성 방지

• 문제상황설정하기
  온라인 커뮤니티에서 부적절한 콘텐츠를 생성하는 것을 방지하려고 합니다.

• 문제상황을 해결하기 위한 프롬프트
  "다음 텍스트를 생성하되, 부적절한 내용을 포함하지 않도록 하세요."

2) 활용예시 2: 취약한 사용자 보호

• 문제상황설정하기
  온라인 게임에서 어린 사용자를 보호하고 부적절한 언어를 필터링하려고 합니다.

• 문제상황을 해결하기 위한 프롬프트
  "게임 내 채팅을 생성하되, 어린 사용자에게 적합한 언어를 사용하도록 하세요."

3) 활용예시 3: 광고 콘텐츠 생성 방지

• 문제상황설정하기
  광고 콘텐츠를 생성하는 동안 모델이 부적절한 광고나 스팸을 생성하지 않도록 방지하려고 합니다.

• 문제상황을 해결하기 위한 프롬프트
  "다음 광고 문구를 생성하되, 부적절한 광고나 스팸 내용을 제외하도록 하세요."

4) 활용예시 4: 의료 정보 생성

• 문제상황설정하기
  의료 정보를 생성하는 모델을 훈련하고 있으며, 정확하고 신뢰성 있는 정보를 생성하려고 합니다.

• 문제상황을 해결하기 위한 프롬프트
  "다음 의료 정보를 생성하되, 정확하고 신뢰성 있는 정보를 포함하도록 하세요."

5) 활용예시 5: 정치 관련 콘텐츠 생성

• 문제상황설정하기
  정치 관련 콘텐츠를 생성하는 동안 편향된 정보나 선전포고를 방지하려고 합니다.

• 문제상황을 해결하기 위한 프롬프트
  "다음 정치 관련 텍스트를 생성하되, 편향 없는 정보를 제공하도록 하세요."

6) 활용예시 6: 과학 관련 정보 생성

• 문제상황설정하기
  과학 정보를 생성하는 모델을 훈련하고 있으며, 정확하고 업데이트된 정보를 생성하려고 합니다.

• 문제상황을 해결하기 위한 프롬프트
  "다음 과학 관련 정보를 생성하되, 최신 정보를 포함하고 정확한 내용을 제공하도록 하세요."

7) 활용예시 7: 자동 번역 시 품질 개선

• 문제상황설정하기
  자동 번역 모델을 훈련하고 있으며, 번역 품질을 향상시키려고 합니다.

• 문제상황을 해결하기 위한 프롬프트
  "다음 문장을 번역하되, 자연스럽고 정확한 번역을 생성하도록 하세요."