핵심 요약
- 같은 주제를 AI에게 한두 문장으로 물어봤을 때와, 배경·목적·조건을 담아 구체적으로 물어봤을 때 결과물의 완성도는 확연히 다릅니다.
- 실제 벤치마크 연구에서도 프롬프트 구조 차이가 정확도 최대 41.7%p, 비용 최대 67% 차이로 이어진다는 결과가 나왔습니다.
- 이번 글은 직접 여러 AI(제미나이·코파일럿·챗GPT)에게 조사를 나눠 맡기고, 그 결과를 다시 정리해 글을 완성한 실제 과정을 담았습니다.
- 프롬프트를 잘 쓰는 것은 화려한 명령어를 외우는 게 아니라, 사람에게 업무를 설명하듯 필요한 정보를 빠뜨리지 않는 것입니다.
- 글 후반부에는 바로 써먹을 수 있는 프롬프트 구조와 자주 묻는 질문까지 정리했습니다.
처음엔 그냥 한두 문장으로 물어봤다
회사 업무에 AI를 쓴 지는 꽤 됐지만, 처음 한동안은 정말 딱 그 정도였다. “이거 정리해줘”, “이 내용 요약해줘” 수준. 예전 글에서도 다뤘던 것처럼 검색창 대신 AI 창을 먼저 여는 습관은 진작 자리 잡았는데, 정작 “질문을 어떻게 던지느냐”에는 크게 신경 쓰지 않았다. 결과는 늘 비슷했다. 틀린 답은 아닌데, 그렇다고 바로 쓸 수 있는 답도 아닌, 딱 그 중간 어딘가의 결과물.
이번에 블로그 글감을 찾으면서도 처음엔 똑같이 시작했다. “AI 프롬프트 잘 쓰는 것과 대충 쓰는 것 차이에 대해 알려줘.” 결과는 뻔했다. 누구나 아는 수준의 뻔한 조언 몇 줄. 한두 문장짜리 질문은 한두 문장짜리 답만 돌려준다는 걸 다시 한번 확인한 순간이었다.
여러 AI에게 역할을 나눠서 맡겨봤다
이번엔 방식을 바꿔봤다. 제미나이에게는 “공식 통계와 법령, 학술 자료만 찾아달라”고 역할을 정해줬고, 코파일럿에게는 “사람들이 실제로 검색하는 키워드와 경쟁 콘텐츠에 빠진 부분을 찾아달라”고 맡겼다. 챗GPT에게는 “이 재료로 글의 구조와 앵글을 몇 가지 제안해달라”고 부탁했다. 각자 잘하는 영역을 나눠서 시킨 셈이다.
그렇게 모인 결과물을 다시 클로드에게 넘기면서, 이번에는 “각 항목을 3~5줄로 압축하고, 출처는 기관명+연도로 남기고, 중복은 빼달라”는 구체적인 조건까지 붙였다. AI는 “알아서 잘해줘”보다 “이렇게 해줘”에 훨씬 강하다는 사실이다. 결과는 확실히 달랐다. 출처가 정리된 통계, 실제 검색될 법한 키워드, 바로 쓸 수 있는 글의 뼈대까지 한 번에 나왔다.
같은 AI인데 결과가 이렇게 달라지는 이유
왜 이런 차이가 날까. 관련 연구를 찾아보면 답이 명확하다. 2025년 국제 학술지 Frontiers in Artificial Intelligence에 실린 분석에 따르면, 역할과 제약, 단계별 추론을 담은 구조화 프롬프트는 단발성 질문보다 통계·논리 추론 영역에서 오류가 훨씬 적고 재현성도 높았다. 국내에서 2026년 보도된 27개 AI 모델 벤치마크 결과도 비슷하다. 프롬프트 구성 방식에 따라 모델별 정확도가 최대 41.7%p까지 차이 났고, 입력 방식을 효율화하면 토큰 비용을 최대 45%까지 아낄 수 있었다는 결과가 나왔다.
정부 쪽 가이드도 방향은 같다. 인사혁신처와 공공데이터포털이 배포한 AI 활용 가이드는 “역할 지정 → 배경 설명 → 구체적 조건과 출력 형식 → 단계별 작업 지시”라는 구조를 정석으로 제시한다. 결국 AI 성능이 갑자기 좋아지거나 나빠지는 게 아니라, 같은 AI라도 질문에 담긴 정보량에 따라 나오는 결과물의 수준 자체가 달라진다는 뜻이다.
프롬프트 하나에 꼭 들어가야 할 것들
여러 자료를 종합해보면 결국 네 가지로 정리된다.
- 역할(Role): AI에게 어떤 입장에서 답해야 하는지 정해준다. “블로그 마케팅 전문가처럼”, “초등학생도 이해하게” 같은 식이다.
- 맥락(Context): 단순 질문이 아니라 배경과 목적을 알려준다. 이 글을 어디에 쓸지, 누가 읽을지를 밝히는 것만으로도 결과가 달라진다.
- 조건(Constraint): 글자 수, 톤, 형식, 제외할 내용까지 미리 정해준다. 조건이 없으면 AI는 가장 무난한 평균값을 내놓는다.
- 단계별 지시(Chain-of-Thought): “단계별로 생각해서 답해줘”처럼 절차를 나눠서 요청하면 중간에 엉뚱한 결론으로 새는 일이 줄어든다.
여기에 하나 더 붙이자면, 프롬프트에 개인정보나 민감한 정보는 넣지 않는 것도 중요하다. 개인정보보호위원회가 2025년 배포한 안내서는 생성형 AI 프롬프트에 개인 식별 정보를 입력하지 않도록 권고하고 있다. 대충 입력하는 과정에서 의도치 않게 정보가 새어 나갈 수 있기 때문이다. 결국 프롬프트를 잘 쓴다는 것은 화려한 명령어를 외우는 일이 아니라, 사람에게 업무를 브리핑하듯 필요한 정보를 빠짐없이 담아주는 일이다.
모든 질문을 길게 쓸 필요는 없다
그렇다고 모든 질문에 이렇게까지 공을 들일 필요는 없다. 오늘 날씨나 간단한 계산처럼 맥락이 필요 없는 질문은 그냥 짧게 물어보는 게 더 빠르다. 반대로 글쓰기, 기획서, 회사 공문처럼 결과물의 완성도가 중요한 작업일수록 역할과 조건을 미리 정리해두는 게 훨씬 시간을 아껴준다. 처음 워드프레스로 블로그를 시작했을 때도 처음엔 이것저것 물어보며 시행착오를 많이 겪었는데, 돌이켜보면 매번 원하는 답을 못 얻어서 다시 물어보는 시간이 결국 프롬프트를 제대로 준비하는 시간보다 훨씬 길었다.
프롬프트를 미리 만들어두고 반복해서 쓰는 것도 방법이다. 나도 요즘은 자주 쓰는 요청은 아예 템플릿처럼 저장해두고 필요할 때마다 조금씩만 바꿔서 쓴다. 결과적으로 프롬프트에 들이는 몇 분이, 재질문과 재작업에 들어가는 몇십 분을 줄여준다.
자주 묻는 질문
Q1. AI 프롬프트를 잘 쓰면 실제로 결과가 얼마나 달라지나요? 관련 벤치마크에서는 프롬프트 구조 차이만으로 모델 정확도가 최대 41.7%p까지 벌어졌습니다. 체감상으로도 대충 물어봤을 때와 조건을 갖춰 물어봤을 때는 다시 쓸 필요가 없을 정도로 차이가 납니다.
Q2. 대충 프롬프트를 쓰면 구체적으로 어떤 문제가 생기나요? 가장 흔한 문제는 두루뭉술하고 일반적인 답이 나오는 것입니다. 통계나 숫자가 들어가는 질문에서는 사실과 다른 내용(할루시네이션)이 섞여 나올 가능성도 높아집니다.
Q3. AI 프롬프트 작성 시 가장 중요한 요소는 무엇인가요? 역할(Role), 맥락(Context), 조건(Constraint), 단계별 지시라는 네 가지가 기본입니다. 이 중 하나만 빠져도 결과물의 방향이 흔들리는 경우가 많습니다.
Q4. 여러 AI를 나눠서 쓰는 게 정말 의미가 있나요? AI마다 강점이 조금씩 다릅니다. 이번 글도 통계 조사, 키워드 조사, 구조 제안을 서로 다른 AI에 나눠 맡기고 결과를 종합했더니, 하나의 AI에만 모든 걸 맡겼을 때보다 훨씬 완성도가 높았습니다.
Q5. 프롬프트에 넣으면 안 되는 정보가 있나요? 개인 식별 정보나 민감한 데이터는 넣지 않는 게 원칙입니다. 개인정보보호위원회도 생성형 AI 프롬프트 작성 시 이 점을 명확히 권고하고 있습니다.
오늘도 한걸음 👣
gujaeun.kr