AI 기능을 인식·예측·자동화·소통·생성으로 나누고, 예측형과 생성형 AI의 차이, 확률적 결과와 환각(confabulation), 검토 비용 계산, 업무 분해표로 적용 지점을 찾는 법을 다룬다.
🎯 학습 목표
- AI 기능을 인식·예측·자동화·소통·생성의 다섯 가지로 나누고 업무 예와 연결할 수 있다.
- 예측형 AI와 생성형 AI의 차이를 결과물·평가 방법·오류 유형으로 설명할 수 있다.
- “확률적 결과”와 환각(사실과 다른 생성)의 의미를 알고, 검토 비용을 숫자로 따져 볼 수 있다.
- 업무를 작업 단위로 쪼개 AI 적용 지점을 표시하는 업무 분해표를 작성할 수 있다.
🧩 AI 기능 다섯 가지로 업무 다시 보기
“AI로 무엇을 할까”라는 질문은 너무 넓다. 기능 단위로 바꿔 물으면 회의가 빨라진다. 아래 다섯 분류는 업계에서 흔히 쓰는 정리 방식을 실무용으로 다듬은 것이다(법령상 분류가 아니다).
| 기능 | 하는 일 | 대표 업무 예 | 주의할 한계 |
|---|---|---|---|
| 인식 | 이미지·음성·문서에서 대상을 알아보고 읽어 냄 | 영수증·계약서 문자 인식(OCR), 불량 이미지 판별, 통화 음성 받아쓰기 | 조명·화질·사투리 등 학습 때와 다른 조건에서 정확도 하락 |
| 예측 | 과거 데이터로 수치·확률을 추정 | 수요 예측, 이탈 고객 예측, 이상 거래 탐지, 설비 고장 예측 | 과거 패턴이 깨지면(시장 급변) 예측이 크게 빗나감 |
| 자동화 | 판단 결과에 따라 다음 작업을 실행 | 문서 분류 후 담당자 배정, 조건 충족 시 승인 요청, 에이전트의 시스템 조작 | 잘못된 판단이 사람 확인 없이 연쇄 실행될 위험 |
| 소통 | 사람의 말을 이해하고 대화로 응답 | 고객 상담 챗봇, 사내 규정 질의응답, 번역 | 질문 의도 오해, 근거 없는 확답 |
| 생성 | 새 글·이미지·코드·음성을 만듦 | 보고서·메일 초안, 마케팅 문구, 이미지 시안, 코드 작성 보조 | 사실과 다른 내용, 저작권·브랜드 문제, 품질 편차 |
실제 기업 현장에서는 어떤 기술이 많이 쓰일까. 유럽연합 통계청(Eurostat) 2025년 조사(EU 종사자 10인 이상 기업, 2025.12 추출)에서 가장 많이 쓰인 AI 기술은 텍스트 마이닝(문서 분석) 11.75%, 이미지·영상·음성 생성 9.55%, 자연어 생성·음성 합성 8.76% 순이었다. 문서를 읽고 쓰는 기능, 즉 인식·생성 쪽이 확산을 이끌고 있다는 뜻이다.
적용 지점을 알려 주는 네 가지 신호
업무를 살피다 보면 AI가 잘 맞는 작업에는 공통된 신호가 있다. 회의에서 후보를 고를 때 아래 네 가지 중 둘 이상 해당하는지 물어보면 된다.
- 반복량이 많다: 같은 형태의 작업이 월 수백 건 이상 반복된다. 건당 몇 분만 줄여도 합계가 커진다.
- 입력이 글·이미지·음성이다: 사람이 읽고 듣고 정리하는 데 시간이 드는 작업은 인식·생성 기능의 효과가 크다.
- 정답을 확인할 수 있다: 결과가 맞았는지 사람이 빠르게 판단할 수 있으면 검토 비용이 낮다. 확인이 어려운 작업은 오류가 숨어든다.
- 초안이면 충분하다: 완성본이 아니라 “사람이 다듬을 70점짜리 초안”만으로도 시간이 줄어드는 작업은 생성형 AI의 출발점으로 좋다.
반대로 처리량이 적고, 결과를 확인하기 어렵고, 한 번의 오류가 큰 피해로 이어지는 작업은 마지막 순서로 미룬다.
하나의 업무는 보통 여러 기능의 조합이다. 예를 들어 “거래처 견적서 처리”는 PDF 읽기(인식) → 항목 추출·검증(인식·예측) → 회신 메일 초안(생성) → 시스템 입력(자동화)으로 이어진다. 기능별로 쪼개야 어디서 정확도가 문제 되는지 보인다.
🔍 예측형 AI와 생성형 AI는 무엇이 다른가
| 구분 | 예측형(분류·회귀 등) | 생성형(대규모 언어 모델 등) |
|---|---|---|
| 결과물 | 숫자·등급·예/아니오 | 문장·이미지·코드 같은 열린 결과 |
| 정답 비교 | 실제 결과와 맞았는지 바로 비교 가능 | “좋은 답”의 기준이 여러 개라 평가 설계가 필요 |
| 필요한 데이터 | 우리 회사 과거 데이터(라벨 포함)가 핵심 | 범용 모델을 쓰고, 사내 문서는 참고 자료로 붙임(3강 RAG) |
| 대표 오류 | 잘못 분류(놓침·오탐) | 그럴듯하지만 사실과 다른 내용(환각), 지시 무시 |
| 도입 속도 | 데이터 준비에 시간이 듦 | 구독·API로 바로 시작 가능, 대신 검수 설계가 중요 |
둘은 경쟁 관계가 아니다. 이탈 가능성은 예측형으로 점수화하고, 점수가 높은 고객에게 보낼 안내문은 생성형으로 초안을 만드는 식으로 함께 쓰는 경우가 많다.
확률적 결과와 환각
생성형 AI는 질문에 대해 “다음에 올 가능성이 높은 말”을 이어 붙여 답을 만든다. 그래서 같은 질문에도 답이 조금씩 달라지고, 근거가 없을 때도 자신 있는 말투로 틀린 내용을 만들 수 있다. 미국 국립표준기술연구소(NIST)의 생성형 AI 위험 관리 프로필(NIST AI 600-1, 2024.7)은 이를 confabulation(작화)이라는 위험으로 분류하고, 사실과 다르거나 거짓인 내용을 자신 있게 제시하는 현상으로 설명한다. 업계에서는 흔히 “환각”이라고 부른다.
실무에서 기억할 원칙은 두 가지다. 첫째, 정확도 100%는 전제하지 않는다. 둘째, 틀렸을 때의 피해 크기에 따라 검토 강도를 정한다. 사내 회의록 요약의 작은 누락과 고객에게 나가는 약관 안내의 오류는 무게가 다르다.
검토 비용 계산 예
월 2,000건의 계약서에서 핵심 조항을 뽑는 업무에 AI를 쓴다고 하자. 파일럿에서 측정한 항목 추출 정확도가 95%라면 오류는 2,000 × 0.05 = 월 100건이다. 사람이 처음부터 직접 하면 건당 12분, AI 결과를 검토만 하면 건당 3분이 걸린다고 측정되었다.
- 사람만: 2,000건 × 12분 = 24,000분 = 400시간
- AI + 전수 검토: 2,000건 × 3분 = 6,000분 = 100시간, 검토에서 걸러진 100건 수정에 건당 10분 추가 → 1,000분 ≈ 16.7시간, 합계 약 116.7시간
이 경우 전수 검토를 해도 약 283시간이 줄어든다. 반대로 검토 시간이 건당 10분으로 늘어나면 2,000 × 10분 = 약 333시간에 수정 시간이 더해져 절감 효과가 크게 줄어든다. “AI가 해 주니 검토는 금방”이라고 가정하지 말고 검토 시간을 실측하라는 것이 이 계산의 교훈이다.
🧰 바로 쓰는 도구 — 업무 분해표
업무 하나를 골라 5~10개 작업으로 쪼개고 칸을 채운다. “AI 적용 후보”가 3개 이상 나오고 그중 오류 피해가 “낮음·중간”인 것이 있으면 파일럿 후보가 된다.
| 작업 단계 | 입력 | 산출물 | 월 횟수 × 소요 시간 | 해당 기능 | 오류 피해(낮음·중간·높음) | 사람 검토 방식 |
|---|---|---|---|---|---|---|
| 예) 견적서 수신·열람 | 메일 첨부 PDF | 견적 항목 목록 | 300건 × 5분 | 인식 | 중간 | 금액·수량만 대조 |
| 예) 단가 비교 | 견적 항목, 과거 단가 | 비교표 | 300건 × 10분 | 예측·인식 | 중간 | 이상치만 확인 |
| 예) 회신 메일 작성 | 비교 결과 | 메일 초안 | 300건 × 8분 | 생성 | 낮음 | 발송 전 읽기 |
| 예) 발주 승인 | 비교표 | 승인 결정 | 300건 × 3분 | (사람 판단 유지) | 높음 | 권한자 승인 |
마지막 줄처럼 “AI를 쓰지 않을 단계”를 명시하는 것도 분해표의 중요한 결과다. 권한·책임이 걸린 판단은 처음에는 사람에게 남기고, 데이터가 쌓인 뒤 범위를 넓힌다.
⚠️ 흔한 실수와 오해
- “생성형 AI면 다 된다.” 수요 예측·이상 탐지처럼 숫자를 맞혀야 하는 일은 예측형이 더 적합한 경우가 많다. 기능부터 맞춘다.
- “업무 전체를 AI에 맡긴다.” 업무 단위가 아니라 작업 단위로 적용해야 성공 확률이 높다. 전체 자동화는 단계를 밟아 간다.
- “정확도 95%면 충분하다.” 월 처리량과 오류 한 건의 피해를 곱해 봐야 충분한지 알 수 있다. 같은 95%도 업무에 따라 의미가 다르다.
- “말투가 확신에 차 있으면 맞는 답이다.” 생성형 AI의 자신감은 정확도와 관계없다. 숫자·인용·법령은 원문으로 대조한다.
- “한 번 측정한 정확도는 계속 유지된다.” 입력 문서 양식이 바뀌거나 모델이 업데이트되면 성능이 변한다. 정기적으로 다시 잰다.
✏️ 확인 문제
- “매장별 다음 주 판매량을 추정한다”는 다섯 기능 중 무엇에 해당하는가? 정답 예측 — 과거 판매 데이터로 수치를 추정하는 전형적인 예측 과제다.
- 생성형 AI가 존재하지 않는 판례 번호를 그럴듯하게 제시했다. NIST AI 600-1이 이 위험을 부르는 용어는? 정답 confabulation(작화, 흔히 환각) — 사실과 다른 내용을 자신 있게 제시하는 위험으로, 인용·출처는 반드시 원문으로 확인한다.
- 월 5,000건, 정확도 98%인 분류 업무의 예상 오류 건수는? 정답 월 100건 — 5,000 × 0.02 = 100. 이 100건이 고객에게 그대로 나가면 어떤 피해가 생기는지 함께 따져야 한다.
- 사람이 직접 하면 건당 12분, AI 결과 검토는 건당 3분, 월 2,000건이다. 수정 시간을 빼고 검토만 따졌을 때 줄어드는 시간은? 정답 300시간 — (12 − 3)분 × 2,000건 = 18,000분 = 300시간. 실제로는 오류 수정 시간을 빼야 한다.
- 업무 분해표에서 “발주 승인” 단계를 사람 판단으로 남긴 이유로 가장 적절한 것은? ① AI가 숫자를 못 다뤄서 ② 오류 피해가 크고 권한·책임이 걸린 판단이라서 ③ 처리 건수가 적어서 정답 ② — 책임이 걸린 결정은 초기에는 사람이 맡고, 검증된 뒤 범위를 넓힌다.
📝 핵심 요약과 다음 강 예고
- AI 기능을 인식·예측·자동화·소통·생성으로 나누면 적용 지점과 한계가 함께 보인다.
- 예측형은 숫자를 맞히고, 생성형은 열린 결과를 만든다. 평가 방법과 오류 유형이 다르다.
- 생성형 AI의 결과는 확률적이며 사실과 다른 내용이 나올 수 있다. 검토 시간을 실측해 효과를 계산한다.
- 업무 분해표로 작업 단위 적용 지점과 “사람에게 남길 단계”를 함께 정한다.
다음 3강에서는 생성형 AI와 대규모 언어 모델이 어떻게 작동하는지 비개발자 눈높이로 살펴본다. 토큰·컨텍스트·지식 컷오프, 그리고 RAG·파인튜닝·에이전트의 차이를 정리한다.
📚 참고 자료
관련 주제
- AI 기능
- 생성형 AI
- 예측형 AI
- 환각
- NIST AI 600-1
- 업무 분해
- AI 활용
- AI 기술
- AI 기술 강의
- 기업 AI 도입·AX 실무 가이드 30강
- NUGUNA
- 누구나
📚 시리즈 전체 공유
기업 AI 도입·AX 실무 가이드 30강
이 강의가 속한 시리즈는 총 30강(수강생 전용 보너스 · 1~3강 무료)입니다. 처음부터 배우려는 동료에게 시리즈 전체를 알려 주세요.
댓글
불러오는 중...
