회계·법무·컨설팅 조직의 AI 활용, 틀리면 안 되는 일을 다루는 진단법

회계법인, 법률사무소, 컨설팅 회사가 파는 것은 결국 "믿을 수 있는 판단"입니다. 고객은 보고서의 문장보다 그 문장에 서명한 전문가의 책임을 사는 셈입니다. 그래서 전문 서비스 조직의 AI 활용은 다른 업종과 질문이 다릅니다. "얼마나 빨라지나"보다 "틀렸을 때 누가, 어디서 잡아내는가"가 먼저입니다.

영국 사무변호사 규제기관(SRA)은 2023년 11월 위험 전망 보고서에서 ChatGPT가 만들어 낸 존재하지 않는 판례가 담긴 주장이 이미 제출된 사례가 있다고 짚었습니다. 이 글은 그런 사고를 "AI를 쓰지 말자"로 끝내지 않고, 조직 차원에서 어떤 장치를 갖췄는지 진단하는 방법을 다룹니다.

⚖️ 전문 서비스에서 AI가 다른 무게를 갖는 이유

일반 사무 업무에서 AI 초안의 작은 오류는 수정하면 끝납니다. 전문 서비스에서는 같은 오류가 고객의 세무 신고, 소송 전략, 경영 의사결정으로 곧장 이어집니다. 오류의 비용이 결과물을 받는 고객에게 전가되고, 그 책임은 다시 서명한 전문가에게 돌아옵니다.

SRA의 「Risk Outlook: the use of artificial intelligence in the legal market」(2023.11)은 이 구조를 분명히 짚습니다. AI 모델은 사실 여부를 이해하지 못한 채 그럴듯한 문장을 예측하므로 정보를 지어낼 수 있고, 어떤 기술을 쓰든 결과에 대한 책임은 사무소에 남으며, AI 시스템이 스스로의 정확성을 판단하도록 맡기지 말라고 권고합니다. 영국 사법부의 AI 가이드(2025.10 개정)도 공개 AI 도구에 비공개 정보를 입력하지 말고, 자기 이름으로 나가는 자료에는 본인이 책임을 진다는 원칙을 반복합니다.

위험 유형	전문 서비스에서 나타나는 모습	필요한 조직 장치
사실 오류·지어낸 근거	실재하지 않는 판례·기준서 조항, 틀린 계산	원문 대조를 거치는 확인 절차(B3)
기밀 유출	고객 재무 자료·분쟁 사실관계를 외부 서비스에 입력	입력 금지 정보와 책임자를 정한 사용 기준(C1)
책임 흐림	"AI가 그렇게 썼다"로 검토 단계가 생략됨	AI 초안과 전문가 확정의 역할 구분
효과 불명	빨라졌다는 느낌만 있고 품질 변화는 모름	성과 확인·공유 방식(A2)

🔍 "AI 초안 + 전문가 확정" 구조를 설계하는 법

전문 서비스 조직에서 현실적인 원칙은 한 문장으로 정리됩니다. AI는 초안을 만들고, 고객에게 나가는 모든 판단은 자격 있는 사람이 확정한다. 문제는 이 원칙이 구호로만 남기 쉽다는 점입니다. 실제로 작동하게 하려면 세 가지를 문서로 정해야 합니다.

1) AI에 맡길 수 있는 단계

자료 목차 잡기, 공개된 기준·법령 조문의 구조 정리, 이미 확정된 결론을 고객 눈높이로 풀어 쓰기, 내부 메모 문장 다듬기처럼 판단이 끝난 뒤의 표현 작업이나 판단 전의 자료 정리가 여기에 해당합니다.

2) 사람이 반드시 확정하는 지점

인용한 판례·조문·기준서 번호가 실재하고 내용이 맞는지, 계산과 수치가 원자료와 일치하는지, 결론이 고객의 구체적 사실관계에 맞는지는 AI 결과를 그대로 믿지 않고 원문으로 확인합니다. 확인한 사람과 날짜를 작업 기록에 남기면 "누가 확정했는가"가 분명해집니다.

3) 고객과의 약속 확인

고객 계약서나 비밀유지약정에 제3자 제공·외부 처리 제한 조항이 있다면, 외부 AI 서비스에 자료를 입력하는 일이 그 조항에 걸리는지 먼저 검토해야 합니다. 전문직마다 관련 법령과 소속 단체 규정에 비밀유지 의무가 있으므로 구체적 기준은 해당 원문과 사내 법무·준법 담당자를 통해 확인하세요. 개인정보가 포함된 자료라면 개인정보보호위원회의 「생성형 인공지능(AI) 개발·활용을 위한 개인정보 처리 안내서」(2025.8)도 함께 봐야 합니다.

⚠️ 주의 — "유료 요금제니까 괜찮다"는 판단은 위험합니다. 개인용 유료 요금제도 설정에 따라 대화가 모델 개선에 쓰일 수 있고(Anthropic 2025년 소비자 약관 변경 사례), 데이터를 학습에 쓰지 않는다고 안내하는 것은 보통 기업·팀용 요금제입니다. 고객 자료를 다루는 조직이라면 어떤 요금제·계정으로 쓰는지부터 확인해야 합니다.

🗺️ 무료 AI 도입 진단이 짚어 주는 세 곳 — C1·B3·A2

누구나패스의 무료 AI 도입 진단은 대표·파트너·교육 담당자가 회원가입 없이 12문항(약 5분)에 답하면 바로 리포트를 받는 조직용 도구입니다. 답변은 데이터베이스에 저장되지 않고 결과 링크에 이름·소속이 담기지 않아, 기밀에 민감한 조직도 부담 없이 쓸 수 있습니다. 12문항 중 전문 서비스 조직이 특히 무겁게 봐야 할 문항은 세 개입니다.

진단 문항	묻는 것	전문 서비스 조직에서 낮게 나오면
C1 사내 AI 사용 기준	입력 금지 정보·검토 책임이 정해져 있는가	고객 자료 입력 여부가 개인 판단에 맡겨진 상태
B3 확인 절차	틀린 수치·없는 출처를 거르는 절차가 있는가	"AI 초안 + 전문가 확정"이 구호로만 존재
A2 성과 확인·공유	AI 활용 성과를 확인하고 공유하는가	시간 절감은 체감하지만 품질 영향은 모름

리포트의 핵심 인사이트는 답변 조합을 읽습니다. 예를 들어 "검증 없이 활용이 늘고 있음", "관리되지 않는 AI 사용 위험"처럼 사용은 늘었는데 기준·확인 장치가 따라오지 못하는 조합을 짚어 줍니다. 전문 서비스 조직에서는 이 두 신호가 곧 고객 리스크이므로, 우선 보완 항목의 "이대로 두면 생기는 문제"를 파트너 회의 안건으로 그대로 올릴 만합니다.

효과 측정(A2)은 시간보다 품질로

Microsoft·LinkedIn 2024 Work Trend Index에서 리더의 59%가 AI의 생산성 효과를 수치화하기 어렵다고 답했습니다. 전문 서비스에서는 시간만 재면 오히려 위험합니다. 검토 단계에서 발견된 오류 유형, 재작업이 필요했던 건, 고객 전달 전에 고친 내용을 함께 기록해야 "빨라졌는데 안전한가"를 판단할 수 있습니다.

🧭 사람 쪽의 준비 — 확정하는 사람의 검증 감각

조직 장치를 갖춰도 결국 확정하는 사람의 검증 감각이 중요합니다. 알토대 연구진이 Computers in Human Behavior(2025.10)에 발표한 연구에서, 약 500명이 논리 문제를 풀 때 ChatGPT를 쓴 사람은 점수는 올랐지만 자기 성과를 일관되게 과대평가했고, 스스로 AI를 잘 안다고 여기는 사람일수록 과대평가가 컸습니다. AI에 익숙하다고 느낄수록 "내가 확인했다"는 감각을 과신할 수 있다는 점을 시사합니다.

그래서 전문가 개인에게는 무료 AI 역량평가를 보조 도구로 권할 만합니다. 30문항(약 20분)으로 AI 이해·요청 설계·업무 적용·결과 검증·안전·윤리·도구·자동화 6개 역량을 보며, 역량마다 자기평가와 실무 상황 판단 문제를 따로 채점합니다. 두 결과의 차이가 크면 "사각지대 가능성" 같은 표시가 붙어, 스스로 잘한다고 믿는 영역과 실제 판단이 어긋나는 곳을 확인할 수 있습니다. 점수는 인증이 아니라 무엇을 놓쳤는지 보는 참고 자료로 쓰는 것이 맞습니다.

📌 역할 나누기 — 조직 진단은 "기준과 절차가 있는가"를, 개인 역량평가는 "확정하는 사람이 검증을 제대로 하는가"를 봅니다. 전문 서비스 조직은 두 가지가 모두 갖춰져야 AI 초안 구조가 안전하게 돌아갑니다.

🚀 진단 후 첫 30일 실행 체크리스트

리포트의 90일 로드맵 중 0~30일은 기반을 만드는 기간입니다. 전문 서비스 조직이라면 아래 순서가 무리가 적습니다.

고객 자료 입력 기준 확정: 어떤 자료를 어떤 계정·서비스에 넣을 수 있는지, 판단이 애매하면 누구에게 묻는지 한 장으로 정리
계약 조항 점검: 주요 고객 계약의 비밀유지·외부 처리 제한 조항을 법무 담당자와 확인
확정 기록 양식 추가: 산출물 검토 기록에 "AI 사용 여부·원문 대조한 항목·확정자" 칸 추가
품질 지표 1개 정하기: 검토 단계 수정 건처럼 A2를 채울 기록을 시작
파트너·팀장 대상 짧은 세션: 교육 대상 구성안의 의사결정 층(3~6시간)부터 기준을 공유

이 과정을 거친 조직에서는 "누가 어디에 무엇을 넣었는지 모름"이 "기준과 예외 문의 창구가 있음"으로, "전문가가 봤겠지"가 "누가 무엇을 원문과 대조했는지 기록됨"으로, "빨라진 것 같다"가 "시간과 수정 건을 함께 봄"으로 바뀝니다. 고객에게 AI 활용을 설명해야 할 때도 이 기록이 근거가 됩니다.

✅ 핵심 정리 — 틀리면 안 되는 일을 하는 조직일수록 AI를 피하기보다 확정 구조를 먼저 설계하는 편이 안전합니다. 진단은 그 구조 중 비어 있는 칸을 찾는 데서 출발합니다.

❓ 자주 묻는 질문

Q1. 고객 자료를 전혀 넣지 않으면 AI를 써도 문제없나요?

기밀 위험은 크게 줄지만 정확성 위험은 남습니다. 공개 자료로 만든 초안이라도 인용과 수치는 원문으로 확인해야 합니다.

Q2. 기업용 요금제를 쓰면 기밀 문제가 해결되나요?

기업·팀용 요금제는 업무 데이터를 학습에 쓰지 않는다고 안내하지만, 고객 계약이나 전문직 규정이 외부 처리를 어디까지 허용하는지는 별도로 확인해야 합니다.

Q3. 진단에 고객 정보나 사건 내용을 입력하나요?

아닙니다. 12문항 모두 조직의 현재 상태를 고르는 방식이며 답변은 데이터베이스에 저장되지 않습니다.

Q4. 역량평가 점수가 높으면 검증을 생략해도 되나요?

그렇지 않습니다. 영역별 판단 문제가 3개라 한 문제로 점수가 크게 움직이며, 리포트도 점수보다 놓친 부분을 보라고 안내합니다. 확정 절차는 점수와 관계없이 유지해야 합니다.

FREE · 12문항 · 5분

확정 구조에서 비어 있는 칸부터 찾으세요

회원가입 없이 사용 기준·확인 절차·성과 확인 수준을 점검하고, 우선 보완 항목과 90일 로드맵을 PDF로 받아 파트너 회의에 가져가세요. 개인 검증 역량은 무료 AI 역량평가로 따로 확인할 수 있습니다.

무료 AI 도입 진단 시작하기 →

📎 출처

Solicitors Regulation Authority, Risk Outlook report: the use of artificial intelligence in the legal market (2023.11) — sra.org.uk
Courts and Tribunals Judiciary(영국), Artificial Intelligence (AI) – Judicial Guidance (2025.10 개정) — judiciary.uk
Aalto University, AI use makes us overestimate our cognitive performance (Computers in Human Behavior, 2025) — aalto.fi
Microsoft·LinkedIn, 2024 Work Trend Index (2024.5) — news.microsoft.com
개인정보보호위원회, 「생성형 인공지능(AI) 개발·활용을 위한 개인정보 처리 안내서」 (2025.8) — privacy.go.kr
Anthropic, Updates to Consumer Terms and Privacy Policy (2025.8) — anthropic.com