지인이 아이의 학교 프린트물을 스캔해야 하는 일이 있었습니다. 양면으로 인쇄된 백 장짜리 자료였고, 집에 자동 급지 스캐너가 있어서 넣고 돌렸습니다. 문제는 그다음이었습니다. 앞면을 먼저 스캔하고 뒤집어서 뒷면을 다시 스캔하니, 홀수 페이지는 순서대로 짝수 페이지는 역순으로 저장되었습니다. 이렇게 순서가 꼬인 이미지 파일 이백 개를 손으로 정리해야 했던 상황입니다.
제가 옆에서 보고 있다가 AI에게 어떻게 하는 게 좋을지 물어보라고 했습니다. 처음에는 거부 반응이 있었지만, 다시 설득한 끝에 AI에게 물어보게 하니, AI가 상황을 바로 이해했습니다. 앞 절반은 1부터 2씩 커지는 홀수 페이지로, 뒤 절반은 끝에서부터 2씩 작아지는 짝수 페이지로 이름을 바꾸고, 이름순으로 정렬하면 원래 순서가 복원되었고, 그렇게 이백 개 파일이 몇 분 만에 정리되었습니다.
이후 지인은 다시 정리된 파일을 PDF로 묶기 위해 인터넷에서 변환 서비스를 찾고 있었습니다. 그래서 제가 그것도 AI에게 물어보라고 했더니, AI가 자체 도구를 써서 바로 PDF로 만들어 주더군요.
제가 한 말은 오직 AI에게 물어보라는 것이었습니다. 최근 여러 비전공자/비전문가 분들을 만나보면, AI가 여전히 쓰기 어렵고 어디서부터 시작해야 할지 모르겠다는 분들이 많습니다. 인터넷에 떠도는 많은 자료도 사실은 전공자/전문가가 활용 가능한 경우가 많습니다. 그래서 이 글에서는 AI가 익숙지 않은 분들이 바로 응용할 수 있는 가이드를 정리해 보았습니다. 결론부터 말씀드리면, AI는 배우고 나서 쓰는 도구가 아니라 쓰면서 배우는 도구입니다.
목차
진짜 막히는 부분이 어디인가?
이번에는 AI를 조금 쓸 줄 아는 다른 지인의 이야기입니다. 인터넷에서 주식 관련 정보를 찾아 AI에게 표로 정리시키는 것까지는 성공했습니다. 이후 본인의 자료에 반영하기 위해 엑셀로 변환이 필요했는데, 그 표를 마우스로 드래그해서 엑셀에 일일이 붙여 넣고 있었습니다. 한참 그러다가 문득 이런 생각이 들었다고 합니다. 이걸 엑셀 파일로 만들어 달라고 하면 해주려나? 물어보니 된다고 해서 바로 시켰고, 파일이 나왔습니다.
앞의 스캔 사례와 구조가 같습니다. 두 분 다 AI를 이미 쓰고 있었고, 막힌 곳은 질문을 시작하는 처음이 아니라 결과가 나온 다음이었습니다.
여기서 알 수 있는 것은 비전문가의 장벽이 프롬프트를 잘 쓰는 능력이 아니라는 점입니다. AI가 어디까지 할 수 있는지 모르는 것이 문제입니다. 다시 말해, 기본적으로 사람이 하는 것을 전제로 하고 있고, 어디까지 되는지 모르니 습관대로 검색하고 습관대로 손으로 합니다. 앞 사례에서 거부 반응이 나온 것도 못 해서가 아니라, 그것을 AI에게 시킬 일이라고 생각해 본 적이 없었기 때문입니다.
그런데 인터넷에 있는 대부분의 AI 가이드는 프롬프트 작성법부터 시작합니다. 역할을 부여하라, 단계를 나눠 지시하라, 예시를 제공하라 같은 내용입니다. 조금 더 나가면 RAG나 에이전트 같은 개념이 나옵니다. 모두 맞는 이야기지만, 위의 두 사례에는 아무 도움이 되지 않습니다. 없던 장벽을 하나 더 세울 뿐입니다.
AI가 기존 도구와 다른 점
여기서 잠깐 과거에 다른 도구들을 배울 때를 떠올려 보겠습니다.
과거의 소프트웨어는 사람이 사용법을 배워야 했습니다. 엑셀을 쓰려면 함수와 메뉴를 알아야 하고, 그래서 책을 사거나 강의를 들었습니다. AI는 다릅니다. 물론, AI도 책이나 강의로 배울 수도 있습니다. 하지만 AI는 사용법 자체를 스스로 설명해 줄 수 있는 첫 번째 범용 도구에 가깝습니다. 어디까지 할 수 있는지 모르겠다면 그것도 물어보면 됩니다. AI를 배워야 AI를 쓸 수 있다는 생각은 기존 소프트웨어 시대에 몸에 밴 습관일 수 있습니다.
그래서 저는 강의나 프롬프트 교육을 권하지 않습니다. 대신 다음 다섯 가지 지침을 권합니다. 앞의 세 가지는 오늘 바로 할 수 있는 것이고, 뒤의 두 가지는 조금 익숙해진 뒤에 필요한 것입니다.
지금 당장 할 세 가지
1. 공부하지 말고, AI에게 물어볼 것
AI를 알기 위해 책을 읽거나 강의를 들은 다음에 시작할 필요가 없습니다. 챗봇 하나를 정해서 열고 이렇게 말하면 됩니다.
“나는 AI를 처음 써봐. 내가 하는 일은 ○○야. AI를 내 업무에 어떻게 쓰면 좋을지 하나씩 알려줘. 어려운 용어는 쓰지 말고, 내가 직접 해볼 수 있게 나에게 질문하면서 가르쳐줘.”
이것만으로 개인 교사가 생깁니다. 무엇을 시킬 수 있는지뿐 아니라, 자료를 어떤 형태로 넘겨야 하는지도 물어보면 알려줍니다.
2. 뭘 물어볼지 모르겠으면, AI가 질문하게 할 것
많은 분이 가장 힘들어하는 부분입니다. 하지만 좋은 질문을 혼자 만들어 낼 필요가 없습니다. 질문하는 쪽을 바꾸면 됩니다.
“나는 회사에서 ○○을 하고 있어. AI를 어디에 활용할 수 있을지 모르겠어. 내 업무를 자세히 파악하고 네가 도움 줄 수 있는 부분을 파악할 수 있도록 나에게 하나씩 질문해줘.”
그러면 AI가 묻고 나는 답만 하면 됩니다. 프롬프트를 만드는 일까지 AI에게 맡기는 셈입니다.
3. 작고 사소한 것부터, 오늘 할 일을 그대로 가져올 것
AI로 무엇을 할 수 있는지 공부하기 시작하면 끝이 없습니다. 공부하기 위한 예제를 따라 할 필요도 없습니다. 오늘 실제로 해야 하는 일을 그대로 가져오면 됩니다.
중요한 것은 첫 작업을 사소한 것으로 고르는 일입니다. 능력의 경계에 대한 기준은 설명으로 생기지 않고 성공한 경험으로 생깁니다. 실패해도 잃을 것이 없고 결과가 바로 눈에 보이는 일부터 시작해야 그 기준이 만들어집니다.
기억에 남는 일 중 하나는 파일명 변경입니다. 카카오톡으로 사진을 받으면 파일 이름이 임의의 숫자로 바뀌어 있습니다. 관리를 위해 촬영 일시로 이름을 바꿔 두면 나중에 찾기가 훨씬 편합니다. 예전 같으면 파일 속성을 하나씩 열어 촬영 정보를 확인하거나, 아니면 Python 같은 언어로 스크립트를 만들어서 돌려야 했습니다. 지금은 그냥 AI에게 원하는 것을 부탁하면 끝납니다.
여행 경비를 정리할 때 여러 여행사에서 서로 다른 형식의 영수증을 보내옵니다. 또 해외여행을 가면 나라별 통화와 환율이 다르기 때문에, 자동화하기가 쉽지 않습니다. 결국 사람이 눈으로 읽어 엑셀에 옮기는 것 말고는 방법이 없습니다. 지금은 그냥 전부 캡처하거나 스캔해서 폴더에 넣어 두고 정리해 달라고 하면 됩니다.
결국 생각의 폭을 넓혀야 합니다. 그런데 경험 없이는 넓힐 수가 없습니다. 아주 작고 사소한 일부터 시작하세요.
익숙해지면 할 두 가지
4. 프롬프트를 잘 쓰려고 애쓰지 말 것
조금 익숙해지면 보통 프롬프트를 더 잘 쓰는 법을 찾아보게 됩니다. 하지만 그럴 필요 없습니다. 사람에게 말하듯 하면 됩니다.
“이런 일을 해야 하는데 어떻게 해야 할지 모르겠어.”
“결과가 마음에 안 드는데 뭐가 문제인지 모르겠어.”
“너무 길어. 좀 더 쉽게 설명해줘.”
그리고 마지막에 이 한 줄만 붙이면 됩니다. “더 필요한 게 있으면 나에게 물어봐.” 부족한 설명은 대화로 채우면 됩니다.
프롬프트를 쓰는 일 자체도 AI에게 시킬 수 있습니다. 대화가 길어지면 AI가 앞의 내용을 놓치기 시작합니다. 이럴 때는 새 대화를 여는 편이 낫습니다. 그런데 지금까지의 맥락을 처음부터 다시 설명하려니 엄두가 나지 않습니다. 그러면 이렇게 시키면 됩니다.
“지금까지 우리가 정한 내용을 정리해서, 새 대화를 시작할 때 그대로 붙여 넣을 수 있는 형태로 만들어줘.”
다른 AI에게 시킬 때도 마찬가지입니다. 그림을 만들어 주는 AI나 다른 챗봇에 넣을 지시문도 지금 쓰고 있는 AI에게 써달라고 하면 됩니다. 어떤 도구에 넣을 것인지만 알려주면 그 도구에 맞게 정리해 줍니다.
다만 넘어가는 것은 글로 적힌 내용뿐입니다. 앞서 올린 파일이나 지금까지의 대화 기록은 따라가지 않으므로, 새 대화에서 필요한 자료는 다시 올려야 합니다.
5. 안다고 생각해도, 이해한 내용을 먼저 확인시킬 것
마지막으로 꼭 신경 써야 할 부분이 있습니다. 이건 오히려 익숙해진 분들에게 더 중요합니다. 무엇을 물어봐야 할지 정확히 안다고 생각하지만, 문제를 잘못 정의하고 있을 수도 있습니다. 중요한 일이라면 바로 답을 요구하지 말고 이렇게 해보세요.
“내 질문에 바로 답하지 말고, 내가 원하는 것이 무엇인지 네가 이해한 내용을 먼저 설명해줘. 내가 문제를 잘못 정의하고 있을 가능성도 검토하고, 필요한 정보가 있으면 나에게 질문해줘.”
질문에서 답변으로 바로 가지 말고, 문제 제시와 이해 확인과 되묻기를 거친 다음에 답으로 가는 것입니다.
이 습관이 필요한 이유는 AI가 미덥지 않아서가 아닙니다. AI는 일은 잘하지만 실제 속 사정은 잘 모르는 상대이기 때문입니다. 능력은 충분한데 우리 회사가 어떤 곳인지, 이 자료가 왜 필요한지, 지난번에 무슨 이야기를 했는지는 알지 못합니다. 알려주지 않으면 그럴듯한 추측으로 채웁니다.
저도 이걸 놓친 적이 있습니다. 대화가 유창하고 지난번에 잘 처리했으니 이번에도 알아서 하겠지 싶어 설명을 줄이다가, 조용히 잘못된 결과가 쌓인 적이 있습니다. 말은 사람에게 하듯 편하게 걸어도 됩니다. 다만 유창하니까 내 맥락까지 알고 있으리라고 믿는 것은 다른 문제입니다. 자세한 내용은 「바이브 코딩, 주식 거래 관리 앱 개발 ④ — “바이브”의 한계」에 정리했습니다.
AI가 알려주지 않는 것
물론 AI가 스스로 잘 알려주지 않는 것도 있습니다.
결과가 맞는지 확인하는 방법, 회사 자료를 어디까지 넣어도 되는지, 그럴듯하지만 사실이 아닌 답을 걸러내는 법 같은 것들입니다. 이런 것은 결국 사람이 배워야 합니다. 다만 순서의 문제입니다. 먼저 써보고 나서 배울 내용이지, 시작하기 전에 미리 갖춰야 할 조건이 아닙니다.
도구도 마찬가지입니다. 우선은 챗봇 하나로 시작하면 충분하고, 앞의 스캔이나 영수증처럼 파일을 직접 다뤄야 하는 일이 생기면 그런 도구도 있다는 것을 그때 알아보면 됩니다. 그것 역시 물어보면 알려줍니다.
맺음말
AI를 잘 쓴다는 것은 멋진 프롬프트를 만드는 능력이 아니라, AI와 대화하면서 함께 문제를 정의하고 답을 찾아가는 능력에 가깝습니다. 그리고 그 능력은 좋은 강의 몇 개가 아니라 작은 성공의 반복으로 만들어집니다.
어디서부터 시작해야 할지 모르겠다면 세 가지만 기억하면 됩니다.
AI 사용법은 AI에게 물어보면 됩니다. 무엇을 물어볼지 모르겠으면 AI가 나에게 질문하게 하면 됩니다. 그리고 오늘 할 수 있는 가장 사소한 일부터 시켜보면 됩니다.
AI는 배우고 나서 쓰는 도구가 아니라, 쓰면서 배우는 도구입니다.
ChulJoo Kim (김철주)
※ 참고문헌
- 김철주, 「바이브 코딩, 주식 거래 관리 앱 개발 ④ — “바이브”의 한계」, ckarch.kr, 2026년 7월.
ckarch.kr
© 2026
is licensed under
CC BY-NC-SA 4.0
