AI 상담 문제점: 챗GPT로 고민 상담할 때 생기는 일과 줄이는 법
CareOps 편집팀 · · 9분 읽기
CareOps 편집팀이 연구와 공식 자료를 확인해 쓰는 마음 건강 정보예요.
CareOps 편집팀 · 이 글은 어떻게 썼나요?
CareOps 편집팀이 쓰는 마음 돌보기 글이에요. 참고한 연구와 공식 자료는 글 끝에 연결하고, 이해를 돕는 예시는 실제 이용자 사례와 구분해요. 제품 설명은 CareOps 마음이에 관한 내용이며, 발행일과 수정일은 제목 아래에서 확인할 수 있어요.
작성·출처 확인 기준 자세히 보기 →챗GPT나 제미나이, 클로드에게 고민을 털어놓아 본 적이 있나요? 바로 답해 주고 위로가 될 때도 많아요. 그런데 대화가 길어지면 ‘이 답을 믿어도 될까’ 싶은 순간이 생겨요. 연구와 보건복지부 가이드라인에서 확인된 AI 상담의 문제점과, 그 문제를 줄이며 쓰는 방법을 정리했어요.
한눈에 보기
- AI 상담 문제점으로 확인된 것은 내 말에 쉽게 동의하는 답, 위기 질문에 대한 들쭉날쭉한 반응, 기억과 개인정보 처리, 진단처럼 들리는 말, 멈추기 어려운 대화예요.
- 줄이는 법은 간단해요. 개인정보는 빼고, 동의를 근거로 삼지 말고, 시작 전에 끝을 정하고, 중요한 결정과 힘든 순간에는 사람에게도 이야기해요.
- 상담을 위해 만든 AI는 회기의 시작과 끝, 상담 기법, 지난 회기 기억, 개인정보 가림, 힘든 순간의 대응을 처음부터 설계해요. CareOps 마음이가 그렇게 만든 AI 심리상담 앱이에요.
AI 상담에는 어떤 문제점이 있나요?
AI에게 고민을 말하는 사람은 많아요. 보건복지부 조사에서 생성형 AI 이용자의 68.8%가 일상 대화나 위로, 심리상담 같은 정서적 목적으로도 AI를 쓰고 있었어요. 그만큼 생기는 문제도 조금씩 확인되고 있어요. 아래 표는 연구와 정부 가이드라인에서 확인된 여섯 가지를 한 줄씩 정리한 거예요.
| 문제점 | 왜 생기나요 | 줄이는 법 |
|---|---|---|
| 맞장구만 치는 답 | 내 말에 맞춰 주려는 성향 | 들은 사실과 추측을 나눠 달라고 하기 |
| 위기 질문에 들쭉날쭉한 반응 | 중간 위험의 말을 가려내기 어려움 | 힘들 땐 사람과 전문기관에 먼저 말하기 |
| 지난 이야기가 이어지는 방식 | 기억 기능과 설정이 서비스마다 다름 | 무엇이 저장됐는지 확인하고 요약 남기기 |
| 개인정보 | 한 번 보낸 말은 되돌리기 어려움 | 이름·연락처·서류는 넣지 않기 |
| 진단처럼 들리는 말 | 입력한 내용만으로 그럴듯하게 답함 | 결론이 아니라 질문거리로 삼기 |
| 멈추기 어려운 대화 | 언제든 바로 답해 줌 | 시작 전에 어디까지 할지 정하기 |
AI가 내 말에 맞장구만 치는 이유는 무엇인가요?
대형 언어 모델은 대화 상대의 말에 맞춰 주려는 성향을 보일 때가 있어요. 2025년 미국 연구진은 gpt-4o를 비롯한 대형 언어 모델에 상담 상황의 흔한 장면을 넣어 실험했어요. 모델이 정신건강 상태에 대한 낙인을 드러내거나 장면에 맞지 않게 반응하는 경우가 있었고, 망상적인 생각을 부추긴 예도 있었어요. 연구진은 그 이유로 비위를 맞추는 성향을 들었고, 더 크고 새로운 모델에서도 같은 일이 나타났다고 보고했어요.
보건복지부 가이드라인도 ‘AI가 내 말에 동의하더라도 내 생각이 맞다는 근거로 삼지 말라’고 권해요. 위로는 받되, 내가 말한 사실과 AI가 덧붙인 추측을 나눠 달라고 해 보세요. 바로 쓸 질문은 공감과 사실 확인을 나누는 질문에 정리했어요.
위기 순간에도 AI 상담을 믿을 수 있나요?
2025년 연구진은 임상 전문가 13명이 위험도를 매긴 가상의 자살 관련 질문 30개를 챗GPT·클로드·제미나이에 100번씩, 모두 9,000번 물었어요. 아주 낮은 위험과 아주 높은 위험의 질문에서는 세 AI의 답이 전문가 판단과 맞았어요. 그 사이의 중간 위험 질문에서는 답이 일관되지 않았어요. 같은 질문에도 어떤 때는 답하고 어떤 때는 답하지 않았다는 뜻이에요.
마음이 아주 힘든 순간에는 AI의 답만 기다리지 말고 가까운 사람이나 정신건강 전문기관에 먼저 이야기해 주세요. 가이드라인도 위험하거나 부적절한 응답이 나오면 대화를 멈추고 사람에게 말하라고 권해요. 이 페이지 아래에 24시간 연락할 수 있는 곳이 있어요.
AI는 지난 상담 내용을 기억하나요?
범용 AI에도 기억 기능이 있어요. 챗GPT는 맞춤 지침과 기억 기능으로 대화 방식을 유지하거나 이전 맥락을 참고할 수 있어요. 다만 무엇을 기억하고 언제 쓰는지는 서비스와 설정마다 달라요. 그래서 두 가지가 함께 생길 수 있어요. 지난번 고민을 매번 처음부터 다시 설명하게 되거나, 반대로 남기고 싶지 않은 이야기가 다음 대화에 따라오는 거예요.
쓰는 AI의 설정 화면에서 무엇이 저장돼 있는지 확인하고, 이어 가고 싶은 이야기는 대화 끝에 짧은 요약으로 남겨 두세요. 요약을 남기는 방법은 AI 심리상담을 이어가는 방법에 적었어요.
AI에 고민을 말하면 개인정보는 괜찮을까요?
가이드라인은 마음 이야기를 시작하기 전에 입력한 정보가 어떻게 저장되고 쓰이는지 확인하라고 권해요. 한 번 건넨 말은 되돌리기 어렵기 때문이에요. 이름·연락처·주소처럼 나나 다른 사람을 알아볼 수 있는 정보는 넣지 말고, 진단서나 검사 결과지는 사진으로 올리기보다 궁금한 내용만 물어보세요. 쓰는 서비스의 개인정보처리방침처럼 저장·외부 전송·삭제를 밝힌 문서를 찾아 읽어 보는 것도 좋아요.
AI가 진단처럼 말하면 믿어도 되나요?
같은 조사에서 14.6%는 AI의 답을 근거로 스스로 진단하거나 의학적 진단처럼 받아들인 적이 있었어요. 그 조언을 전문가나 공식 자료로 확인해 본 사람은 11.9%였어요. AI는 내가 입력한 내용을 바탕으로 답해요. 그래서 그럴듯한 말도 내 상태에 대한 결론이 아니라 확인해 볼 질문거리로 삼는 것이 좋아요. 진단과 약은 정신건강의학과 진료에서 정하고, 검사로 내 상태를 먼저 살펴보고 싶다면 무료 심리검사를 해 볼 수 있어요.
AI와 대화를 멈추기 어렵다면 어떻게 하나요?
AI는 언제든 바로 답해 줘서 대화가 끝없이 이어지기 쉬워요. 조사에서 16.3%는 현실의 일에 집중하려 해도 대화를 계속 이어가게 된다고 답했고, 심리상담 목적으로 쓰는 사람에게서는 23.4%였어요. 주변과 상의하지 않고 AI의 조언만으로 중요한 결정을 내린 적이 있는 사람도 10.6%, 심리상담 목적 이용자에게서는 17.8%였어요. 대화를 시작하기 전에 무엇을 어디까지 이야기할지, 언제 끝낼지 정해 두세요. 큰 결정은 믿을 수 있는 사람과도 이야기해 보세요.
AI 상담 문제점을 줄이며 쓰는 방법
- 시작 전에 목적과 끝을 정해요: 오늘 정리하고 싶은 것 하나와 대화를 끝낼 때를 먼저 정해요.
- 개인정보는 빼고 말해요: 이름·연락처·주소·학교·회사 이름은 넣지 않고, 서류는 올리지 않아요.
- 동의를 근거로 삼지 않아요: 내가 말한 사실, AI의 추측, 아직 모르는 점을 나눠 달라고 해요.
- 진단처럼 들리는 말은 질문으로 바꿔요: 정말 그런지 전문가나 공식 자료로 확인해요.
- 이어 가고 싶으면 요약을 남겨요: 오늘 나눈 것과 다음에 볼 것을 몇 줄로 적어 둬요.
- 힘든 순간에는 사람에게도 말해요: 가까운 사람, 상담사, 정신건강 전문기관에 이야기해요.
이 점검 항목은 보건복지부와 대한신경정신의학회의 권고문을 바탕으로 했어요. 권고문 21개 전체와 앱을 고를 때 쓰는 점검표는 정신건강 목적 생성형 AI 이용 가이드라인 정리에 있어요. AI와 사람 상담사가 각각 무엇을 잘하는지, 둘을 함께 쓰는 법은 AI 상담사 vs 사람 상담사에서 비교했어요.
상담을 위해 만든 AI 앱은 무엇을 다르게 하나요?
범용 AI는 무엇이든 답하도록 만들어졌고, AI 심리상담 앱은 처음부터 상담의 흐름에 맞춰 만들어요. 앱을 고를 때는 위의 문제점마다 그 앱이 어떻게 설계됐는지 확인해 보세요. 아래 오른쪽 칸은 CareOps 마음이를 기준으로 적었어요.
| 확인할 점 | CareOps 마음이 |
|---|---|
| 대화의 시작과 끝 | 한 회기는 보통 30~40분이고, 오늘 나눌 이야기를 함께 정한 뒤 돌아보며 마무리해요. |
| 어떤 방법으로 돕나요 | 인지행동치료(CBT)·수용전념치료(ACT)·행동활성화(BA)·동기면담(MI) 등 심리치료 기법을 바탕으로 상담해요. |
| 지난 이야기 이어가기 | 지난 회기를 기억해 이어 가고, 달라진 점이나 다르게 이해한 점은 그 자리에서 고칠 수 있어요. |
| 개인정보 | 이름·전화번호 같은 개인정보는 AI 모델로 보내기 전에 가려요. |
| 힘든 순간 | 힘든 이야기가 나와도 안내문으로 대화를 끊지 않고 곁에서 이어 가요. 안전계획과 위기 연락처는 늘 열려 있어요. |
| 사람의 도움 | 상담사 플랜을 고르면 전문 상담사가 마음이와 나눈 대화를 읽고 정해진 날 피드백과 과제를 보내 줘요. |
CareOps 마음이는 검증된 상담 기법과 전문 심리상담사와 함께하는 AI 심리치료·상담 프로그램을 제공하는 앱이에요. 가입과 문진, 초기 심리검사는 무료이고 첫 회기도 무료예요. 범용 AI와 무엇이 다른지는 고민상담 AI 추천과 비교에서 표로 볼 수 있어요. 앱으로 시작하기
자주 묻는 질문
- AI 상담의 가장 큰 문제점은 무엇인가요?
- 연구와 정부 가이드라인에서 자주 짚는 것은 내 말에 쉽게 동의하는 답, 위기 질문에 대한 들쭉날쭉한 반응, 진단처럼 들리는 말을 결론으로 받아들이는 일이에요. 동의를 근거로 삼지 않고, 진단처럼 들리는 말은 전문가와 확인하고, 힘든 순간에는 사람에게도 이야기하면 많이 줄일 수 있어요.
- 챗GPT로 심리상담을 해도 괜찮을까요?
- 한 번 털어놓고 생각을 정리하는 데에는 도움이 될 때가 많아요. 개인정보는 빼고, 시작 전에 끝을 정하고, 중요한 결정은 사람과도 상의하세요. 같은 고민을 꾸준히 다루고 싶다면 회기가 이어지는 AI 심리상담 앱이 맞을 수 있어요.
- AI 상담 내용은 저장되나요?
- 서비스와 설정마다 달라요. 범용 AI에도 기억 기능이 있어서 이전 맥락을 다음 대화에 참고할 수 있어요. 쓰는 서비스의 설정과 개인정보처리방침에서 저장·외부 전송·삭제 방법을 확인하세요. CareOps 마음이는 이름·전화번호 같은 개인정보를 AI 모델로 보내기 전에 가려요.
- AI가 맞장구만 칠 때는 어떻게 물어보면 좋을까요?
- ‘내가 말한 사실, 네가 추측한 부분, 아직 모르는 점을 나눠 줘’처럼 물어보세요. 다른 관점이 있는지도 함께 물어보고, 답이 내 경험과 맞는지 살펴보면 좋아요.
참고한 자료
- Moore 등(2025) · Expressing stigma and inappropriate responses prevents LLMs from safely replacing mental health providers (FAccT '25)
- McBain 등(2025) · Evaluation of Alignment Between Large Language Models and Expert Clinicians in Suicide Risk Assessment (Psychiatric Services)
- 대한민국 정책브리핑 (2026), 보건복지부 「정신건강 목적 생성형 AI 이용 가이드라인」 발표 보도자료
- OpenAI · ChatGPT 맞춤 지침과 기억 기능
이 글은 마음 건강 정보를 나누는 글이에요. 지금 많이 힘들다면 자살예방상담전화 109(24시간)나 정신건강위기상담전화 1577-0199로 연락할 수 있어요.