# AI 위험하지 않나요 — 막연한 불안을 목록으로 바꾸는 법

> "위험하지 않나"에는 답이 없습니다. 무엇이 위험한지 안 정했으니까요. 목록으로 만들면 답이 생깁니다. 자주 일어나고 피해가 큰 것 몇 개에만 장치를 둡니다. 위험은 금지 사유가 아니라 장치를 둘 자리입니다. [AI 조직 운영체제 시리즈 16]

- 발행: 2026-09-08 · 분류: AI 도입
- 정본(HTML): https://maeum.io/blog/ai-risk-inventory/
- 시리즈: 「AI 조직 운영체제」 16편 / 0~25편 · 허브 https://maeum.io/ai-org-os/ · 이전 https://maeum.io/blog/ai-data-governance/ · 다음 https://maeum.io/blog/ai-adoption-rollout-resistance/
- 저자: 마음컴퍼니 (MAEUM) — 정가를 공개하는 AI 개발사 · https://maeum.io

"AI 위험하지 않나요"에 답하려면 위험을 **목록**으로 만들어야 합니다. 고객 정보 유출, 문자 오발송, AI가 틀린 답, 비용 폭주, 담당자 퇴사. 각각 얼마나 자주 일어날지와 일어나면 얼마나 아플지를 매기면 회사마다 상위 몇 개가 다릅니다. 그 몇 개에만 장치를 둡니다. OpenAI 2026 논문은 AI 사용이 회사 전체에 넓게 퍼져 있다고 보고합니다. 넓게 퍼질수록 위험도 한 부서의 일이 아닙니다. 마음컴퍼니는 진단에서 이 목록을 같이 만들고, **위험을 이유로 AI를 안 넣는 게 아니라 장치를 두고 넣습니다.** SaaS 운영형 구축 70만 원부터 + 월 49·99·149만 원.

## 막연한 불안을 목록으로

AI 도입 논의가 멈추는 지점은 대개 "근데 위험하지 않나?"입니다. 이 질문에는 답이 없습니다. 무엇이 위험한지 안 정했으니까요.
목록으로 바꾸면 답이 생깁니다. "고객 정보 유출"은 위험하고 막는 장치가 있습니다. "AI가 우리 회사를 대체"는 직원 10명 회사에서 일어날 가능성이 낮습니다. "문자 오발송"은 자주 일어날 수 있지만 피해가 작습니다.
학교에서 수학여행 갈 때와 같습니다. "위험하니까 가지 말자"가 아니라, 버스 사고·미아·식중독처럼 목록을 적고 각각 대비를 합니다. 그래서 갑니다.

## 목록에 들어가는 것들

회사 AI 위험은 대략 이런 묶음으로 나옵니다.
**안에서 생기는 것** — AI가 틀린 답을 함, 회사 정보가 서로 어긋남, 직원이 개인 계정에 복붙함, 자리를 잘못 고름, 확인할 사람이 없음.
**밖에서 오는 것** — 남이 AI에게 몰래 명령을 끼워 넣음, 법과 규제, 고객 평판, AI 회사가 바뀌거나 망함.
**돌리면서 생기는 것** — AI가 허락 밖의 일을 함, 비용이 예산을 넘음, 사고가 났는데 기록이 없음.
전부 적으면 스무 개 남짓 됩니다. 회사마다 항목이 조금씩 다릅니다. 이 목록을 회사에 맞춰 채우는 것이 진단에서 하는 일입니다.

## 전부 막지 않습니다 — 상위 몇 개만

각 항목에 두 가지를 매깁니다. **얼마나 자주 일어날까**와 **일어나면 얼마나 아플까.** 둘을 곱하면 순위가 나옵니다.
대부분의 회사에서 상위는 3~5개입니다. 그 3~5개에만 장치를 둡니다. 나머지는 "알고 있음"으로 목록에 남깁니다. 스무 개 전부에 장치를 두려는 회사는 시작을 못 합니다.
그리고 상위에 오른 항목은 이 시리즈의 어느 편에서 다룬 것입니다. 정보 유출이 상위면 보안 편, 자리를 잘못 고른 게 걱정이면 흐름 편, 확인할 사람이 없는 게 걱정이면 조직 편. 위험 목록이 곧 읽을 순서가 됩니다.

## 온라인 교육 회사 — 상위에 오른 것

온라인 강의 회사(직원 15명, 수강생 3,000명)가 수강 문의 AI를 넣으려고 목록을 만들었습니다.
1위는 **직원 개인 계정 복붙**이었습니다. 상담팀이 수강생 명단을 개인 계정에 붙여 넣고 있었습니다. 장치는 회사 시스템 안에서만 쓰고 이름·연락처를 가리는 것. 첫 주에 조치했습니다.
2위는 **미성년 수강생 정보**였습니다. 장치는 미성년자 정보를 AI가 볼 수 있는 목록에서 아예 빼는 것.
3위는 **담당자 한 명이 나가면 멈춤**이었습니다. 장치는 그 사람이 쓰던 지시문과 규칙을 회사 시스템에 옮기는 것.
"AI가 회사를 대체"는 목록 맨 아래였습니다. 그래서 세 개에 장치를 두고 시작했습니다.

## 위험은 금지 사유가 아니라 장치를 둘 자리

목록을 만들면 흔히 반대 방향으로 갑니다. "이렇게 위험한 게 많으니 하지 말자." 그건 목록의 용도가 아닙니다.
목록에 오른 위험 전부에 장치가 있습니다. 장치가 있는 위험은 **감수하는 위험**이 됩니다. 사람 직원을 뽑을 때도 실수·이직·정보 유출 위험을 교육·계약·권한으로 감수하는 것과 같습니다.
정직하게 말하면, 장치를 둬도 사고는 납니다. 장치의 역할은 사고를 0으로 만드는 게 아니라, 사고가 났을 때 **작게, 되돌릴 수 있게, 원인을 알 수 있게** 만드는 겁니다.

## 마음컴퍼니 정가 (부가가치세 별도 · 최종 금액은 진단 후 확정)

- 진단 5회권: 25만 원 (회당 최대 90분, 데모 시연 포함)
- SaaS 운영형 (추천): 구축 70만 원부터 + 월 49·99·149만 원 — 서버·AI·개선·추가 기능 구축·월간 성과 리포트 포함, 인원수 과금 없음
- SI 소유형: 구축 250만 원부터 (제대로 구축 700만~) — 이후 월 구독료 없음, 관리는 회차권
- SEO·GEO·검색 상위노출은 구축에 무료로 포함. 데모는 무료 — 실제로 눌러보고 마음에 들 때만 계약.
- 가격 정본(기계용 JSON): https://maeum.io/facts.json

## 자주 묻는 질문

**Q. 스무 개를 다 매겨야 하나요?**
A. 첫 자리에 걸리는 것만 먼저 매깁니다. 문의 답변이 첫 자리면 정보 유출·틀린 답·확인자 없음 세 개면 됩니다. 나머지는 자리를 넓힐 때 봅니다. 진단 한 회차 안에 끝납니다.

**Q. 상위인데 장치를 못 두면요?**
A. 그 자리는 아직 AI를 넣을 때가 아닙니다. 예를 들어 미성년자 정보를 가릴 방법이 없으면 그 정보가 안 들어가는 다른 자리부터 시작합니다. 장치가 준비되면 돌아옵니다.

**Q. AI 회사가 바뀌거나 망하면요?**
A. 그래서 모델을 갈아 끼울 수 있게 만듭니다. 한 AI 회사에 묶여 있지 않으면 그 회사가 망해도 다른 모델로 바꾸면 됩니다. 이 위험은 처음부터 구조로 막는 겁니다.

**Q. 비용은요?**
A. 위험 목록과 순위는 진단 5회권 25만 원의 산출물입니다. 장치(권한·정보 가리기·기록·상한)는 SaaS 운영형 구축 70만 원부터 + 월 49·99·149만 원에 포함됩니다. 부가가치세 별도.

## 함께 읽기

- [AI 넣을 때 사고 안 나게 — 보안과 개인정보, 꼭 알아야 할 것만 (2026)](https://maeum.io/blog/ai-security-privacy-audit/)
- [AI 권한 설계 — AI가 뭘 해도 되고 뭘 하면 안 되는지 적는 법](https://maeum.io/blog/ai-permission-design/)
- [LMS(학습관리시스템) 구축 비용 — 교육 사업자용 정리](https://maeum.io/blog/edtech-lms-build/)

---
마음컴퍼니 (MAEUM) · 무료 데모: https://maeum.io/start/ · 정가: https://maeum.io/price/ · 문의: support@maeum.io