AI 권한 설계 — AI가 뭘 해도 되고 뭘 하면 안 되는지 적는 법

"써도 된다"로는 부족한 이유

OpenAI 논문이 보여 준 장면 하나. 같은 회사 안에서 신입은 일주일에 8~9개 메시지를 더 보내고, 임원은 평균보다 적게 보냅니다. 임원은 결정하기 전에 짧게 묻고, 신입은 문서·메일 초안을 만들어 냅니다. 같은 도구를 전혀 다르게 쓰고 있습니다.

그러면 "전 직원 AI 사용 허가" 한 줄로는 아무것도 정해진 게 없습니다. 신입이 만든 초안이 고객에게 그대로 나가도 되나? AI가 고객 명단을 봐도 되나? AI가 문자를 보내도 되나? 이 질문에 답이 없으면 두 가지 중 하나가 됩니다. 아무나 아무거나 하거나, 무서워서 아무도 안 쓰거나.

권한은 잘게 쪼갭니다

사람에게 권한을 줄 때를 생각해 보세요. 편의점 아르바이트생에게 "가게 일 해도 된다"고 하지 않습니다. 계산은 하되, 금고는 열지 말고, 반품은 점장에게 물어보라고 합니다. AI도 같습니다.

권한을 나누는 기준은 대략 이런 것들입니다.

• 보기 — 어떤 정보를 읽어도 되나
• 초안 쓰기 — 문서·답변을 만들어도 되나 (사람이 확인하기 전 단계)
• 보내기 — 고객에게 실제로 전달해도 되나
• 고치기·지우기 — 시스템 안의 기록을 바꿔도 되나
• 돈·계약 — 결제·발주·계약에 손대도 되나

실제 권한표는 이것보다 훨씬 잘게 나뉩니다. 회사마다 항목이 다르고, 업종마다 위험한 칸이 다릅니다. 시작 규칙은 하나입니다. AI는 보기와 초안까지. 나머지는 전부 사람. 거기서 한 칸씩 넓힙니다.

사람·AI·에이전트를 다른 칸에 적습니다

같은 "AI"라도 둘로 나눠야 합니다.

대화형 AI — 물으면 답하는 것. ChatGPT 창에서 초안 받는 방식입니다. 스스로 움직이지 않습니다.

에이전트 — 목표를 주면 여러 단계를 스스로 하는 것. 문의를 읽고, 고객 기록을 찾고, 답을 만들고, 보내기까지. 실행 권한이 있는 AI입니다.

권한표에는 사람 칸, 대화형 AI 칸, 에이전트 칸이 따로 있습니다. 대화형 AI에게 "보기"를 열어 주는 것과 에이전트에게 "보내기"를 열어 주는 것은 위험의 크기가 다릅니다. 같은 표에 나란히 적어야 그 차이가 보입니다.

병원 예약 확인 문자 — 권한표가 실제로 하는 일

의원에서 "내일 예약 환자에게 확인 문자 보내는 걸 AI가 하게 하자"고 정했다고 해 봅시다.

보기 — 내일 예약 목록(이름·시간·진료과)만. 진료 기록과 검사 결과는 목록에 없으니 볼 수 없습니다. 초안 쓰기 — 확인 문자 초안. 정해진 틀에 환자별 시간만 채웁니다. 보내기 — 첫 달은 초안만 만들고 데스크 직원이 보냅니다. 둘째 달부터 "확인 문자"에 한해 자동으로 보냅니다. 고치기 — 환자가 답장으로 시간을 바꿔 달라고 하면, AI는 바꾸지 않고 직원에게 넘깁니다.

이 표가 있으면 "AI가 문자를 보낸다"가 사고가 아니라 업무가 됩니다. 없으면 첫 사고에서 전부 꺼 버리게 됩니다.

권한이 바뀔 때 지킬 것 세 가지

날짜 — 권한표는 날짜가 붙은 문서입니다. "9월 8일판"에서 "10월 1일판"으로 바뀌면 뭐가 넓어졌는지 한 줄이 남아야 합니다.

되돌리기 — 넓힌 권한은 바로 되돌릴 수 있어야 합니다. 되돌리는 데 개발자가 필요하면 잘못 만든 겁니다. 스위치 하나여야 합니다.

기록 — AI가 그 권한으로 무엇을 했는지 남아야 합니다. 누가, 언제, 무슨 정보로, 뭘 했나. 사고가 났을 때 이 기록이 없으면 원인을 못 찾습니다.

마음컴퍼니는 진단에서 이 권한표를 회사에 맞춰 같이 만듭니다. 계약을 안 하셔도 그 표는 회사 것입니다.

자주 묻는 질문