경우의 수 문제를 풀다 보면 "이건 순열이야, 조합이야?"에서 가장 많이 막혀요. 공식은 외웠는데 문제에 어떤 공식을 써야 할지 모르면 답이 정확히 r!배씩 틀어져요. 결론부터 말하면 뽑은 것들의 순서를 바꿨을 때 다른 결과로 보면 순열(nPr), 같은 결과로 보면 조합(nCr)이고, 같은 것을 다시 골라도 되면 앞에 '중복'이 붙어요. 이 두 가지 질문만 차례로 던지면 네 가지 공식 중 하나로 정해져요.
이 글은 공식을 외우는 대신 왜 그런 식이 나오는지부터 짚고, 회장·부회장 뽑기, 4자리 비밀번호, 사탕 나누기, 바둑판 최단 경로, 로또 6/45 당첨 확률까지 실제 숫자로 계산해요. 모든 숫자는 정수 계산으로 직접 검산했어요. 직접 숫자를 넣어 보려면 순열·조합 계산기를 같이 열어 두세요.
경우의 수·순열·조합은 2022 개정 교육과정(2025년 고1부터 적용)에서 고등학교 1학년 공통수학1에서 배우는 내용이에요. 교육과정 안내는 교육부 누리집에서 볼 수 있어요.
경우의 수의 출발점, 합의 법칙과 곱의 법칙
순열과 조합은 결국 두 가지 기본 법칙을 정리한 공식이에요.
- 합의 법칙: 동시에 일어날 수 없는 두 사건 중 하나가 일어나는 경우는 더해요. 학교에 버스 노선 3개 또는 지하철 노선 2개로 갈 수 있다면 3 + 2 = 5가지예요.
- 곱의 법칙: 두 단계를 차례로 모두 거치는 경우는 곱해요. 상의 3벌과 하의 4벌로 옷을 입는 방법은 3 × 4 = 12가지예요.
"그리고"로 이어지면 곱하고, "또는"으로 나뉘면 더한다고 기억하면 쉬워요. 순열은 곱의 법칙을 r번 연속으로 쓴 것이고, 조합은 거기서 순서 때문에 겹친 만큼을 나눈 거예요.
순열 nPr, 순서대로 줄 세우는 경우의 수
서로 다른 n개 중 r개를 골라 순서대로 늘어놓는 방법의 수가 순열이에요. 첫 자리에는 n개 중 아무거나, 둘째 자리에는 남은 n−1개 중 하나, … r번째 자리에는 n−r+1개 중 하나가 올 수 있으니 곱의 법칙으로 이렇게 돼요.
nPr = n × (n−1) × (n−2) × … × (n−r+1) = n! ÷ (n−r)!
| 문제 | 계산 | 경우의 수 |
|---|---|---|
| 5명 중 3명을 1·2·3번 주자로 세우기 | 5 × 4 × 3 | 60 |
| 30명 중 회장 1명, 부회장 1명 뽑기 | 30 × 29 | 870 |
| 10명 중 금·은·동메달 | 10 × 9 × 8 | 720 |
| 8명을 한 줄로 세우기 | 8! | 40,320 |
n!(n 팩토리얼)은 1부터 n까지 모두 곱한 값이에요. 8명 전원을 한 줄로 세우는 것은 8P8 = 8!이에요. 그리고 0! = 1로 정해요. 그래야 nPn = n! ÷ 0! = n!이 성립하고, "아무것도 늘어놓지 않는 방법은 1가지"라는 뜻과도 맞아요.
조합 nCr, 순서 없이 고르기만 하는 경우의 수
서로 다른 n개 중 r개를 고르기만 하고 순서는 따지지 않는 방법의 수가 조합이에요. 순열로 센 다음, 같은 r개를 다른 순서로 늘어놓은 r!가지를 하나로 묶으면 돼요.
nCr = nPr ÷ r! = n! ÷ (r! × (n−r)!)
예를 들어 A·B·C 세 명 중 대표 2명을 뽑는다면 순열로는 AB, BA, AC, CA, BC, CB 6가지지만, AB와 BA는 같은 대표 2명이라 조합으로는 3가지예요. 6 ÷ 2! = 3이에요.
조합 계산을 빠르게 하는 성질이 두 가지 있어요.
- 대칭성 nCr = nC(n−r): 10명 중 8명을 뽑는 것은 남길 2명을 고르는 것과 같아서 10C8 = 10C2 = 45예요. 곱셈 횟수를 확 줄여 줘요.
- 파스칼의 법칙 nCr = (n−1)C(r−1) + (n−1)Cr: 특정한 한 사람을 포함하는 경우와 포함하지 않는 경우로 나눈 거예요. 5C2 = 4C1 + 4C2 = 4 + 6 = 10이에요.
순열이냐 조합이냐, 헷갈리는 문제 판별법
가장 확실한 방법은 고른 결과 두 개를 순서만 바꿔 보고 같은 결과인지 묻는 거예요.
| 상황 | 순서 바꾸면? | 종류 | 계산 |
|---|---|---|---|
| 반장·부반장 뽑기 | 다른 결과 (역할이 바뀜) | 순열 | 30P2 = 870 |
| 청소 당번 2명 뽑기 | 같은 결과 | 조합 | 30C2 = 435 |
| 3자리 숫자 만들기 (1~9, 겹침 없음) | 다른 수 (123 ≠ 321) | 순열 | 9P3 = 504 |
| 피자 토핑 8가지 중 3가지 고르기 | 같은 피자 | 조합 | 8C3 = 56 |
| 리그전 6팀 경기 수 (홈·원정 없음) | 같은 경기 | 조합 | 6C2 = 15 |
| 홈·원정 따로 하는 6팀 경기 수 | 다른 경기 | 순열 | 6P2 = 30 |
"뽑는다"라는 말만 보고 조합으로 정하면 틀리기 쉬워요. 뽑은 뒤 자리·역할·등수가 있으면 순열이에요. 반대로 "만든다"라는 말이 있어도 결과가 집합이면 조합이에요.
중복순열과 중복조합, 같은 것을 다시 골라도 될 때
중복순열 nΠr = n^r
자리마다 n개 중 아무거나 다시 골라도 되면 각 자리가 독립이라 n을 r번 곱해요.
| 상황 | 계산 | 경우의 수 |
|---|---|---|
| 숫자 4자리 비밀번호 (0~9) | 10^4 | 10,000 |
| 영문 소문자 8자리 비밀번호 | 26^8 | 208,827,064,576 |
| 소문자+숫자 8자리 | 36^8 | 2,821,109,907,456 |
| 대소문자+숫자 8자리 | 62^8 | 218,340,105,584,896 |
숫자 4자리 비밀번호는 1만 가지밖에 없어 아무리 늦어도 1만 번 안에 맞힐 수 있지만, 쓸 수 있는 글자 종류를 10개에서 62개로 늘리면 같은 8자리라도 경우의 수가 수조 배 커져요. 길이를 늘리는 것과 글자 종류를 늘리는 것이 둘 다 지수로 효과를 내요.
중복조합 nHr = (n+r−1)Cr
같은 것을 여러 번 골라도 되고 순서는 상관없을 때예요. 대표 문제가 "똑같은 사탕 5개를 3명에게 나누는 방법"이에요(0개 받는 사람도 있음). 사탕 5개를 ●로, 사람 사이 칸막이 2개를 |로 놓으면 7칸 중 칸막이 2칸 위치만 고르면 돼요.
3H5 = (3+5−1)C5 = 7C5 = 7C2 = 21가지
각자 적어도 1개씩 받아야 한다면 먼저 1개씩 나눠 주고 남은 2개를 다시 3명에게 나누면 돼요. 3H2 = 4C2 = 6가지예요. 이처럼 "적어도"가 붙은 문제는 최소량을 먼저 빼고 중복조합을 쓰는 게 정석이에요.
같은 것이 있는 순열, 원순열, 최단 경로
기본 네 공식에서 조금씩 바뀐 유형도 자주 나와요.
- 같은 것이 있는 순열: A, A, B, B, C 다섯 글자를 한 줄로 늘어놓는 방법은 5! ÷ (2! × 2!) = 120 ÷ 4 = 30가지예요. 같은 글자끼리 자리를 바꿔도 같은 배열이라 그만큼 나눠요.
- 원순열: 6명이 원탁에 둘러앉는 방법은 (6−1)! = 120가지예요. 원탁은 모두가 한 칸씩 돌아앉아도 같은 배치라, 한 사람을 고정하고 나머지 5명을 줄 세워요.
- 최단 경로: 바둑판 모양 길에서 오른쪽 4칸, 위쪽 3칸을 가는 최단 경로는 →를 4번, ↑를 3번 늘어놓는 방법과 같아서 7! ÷ (4! × 3!) = 7C3 = 35가지예요.
최단 경로 문제는 "7번 움직임 중 위로 가는 3번을 언제 할지 고르는 조합"으로 볼 수도 있어요. 같은 것이 있는 순열과 조합이 같은 답을 주는 좋은 예예요.
로또 6/45 당첨 확률 직접 계산하기
로또 6/45는 1부터 45까지 숫자 중 6개를 고르고, 고른 순서는 상관없으니 조합이에요. 운영 방식은 동행복권에서 볼 수 있어요.
전체 경우의 수: 45C6 = (45 × 44 × 43 × 42 × 41 × 40) ÷ 6! = 5,864,443,200 ÷ 720 = 8,145,060가지
등수별로는 추첨된 번호 6개 중 몇 개를 맞히고, 나머지 39개(보너스 번호 포함) 중 몇 개를 고르는지로 셉니다.
| 등수 | 조건 | 경우의 수 | 확률 |
|---|---|---|---|
| 1등 | 6개 일치 | 6C6 = 1 | 1 / 8,145,060 |
| 2등 | 5개 + 보너스 | 6C5 × 1 = 6 | 1 / 1,357,510 |
| 3등 | 5개 (보너스 제외) | 6C5 × 38 = 228 | 약 1 / 35,724 |
| 4등 | 4개 | 6C4 × 39C2 = 15 × 741 = 11,115 | 약 1 / 733 |
| 5등 | 3개 | 6C3 × 39C3 = 20 × 9,139 = 182,780 | 약 1 / 44.6 |
다섯 등수를 모두 더하면 194,130가지라서 한 게임에 무엇이라도 당첨될 확률은 약 1/42(2.38%)예요. 1게임 1,000원으로 모든 조합을 다 사려면 81억 4,506만 원이 들어요.
매주 5게임씩 1년(52주) 동안 사면 260게임이에요. 서로 다른 조합 260개로 1등이 한 번이라도 나올 확률은 260 ÷ 8,145,060 ≈ 1/31,327이고, 이 속도로 사서 1등을 한 번이라도 받을 확률이 50%가 되려면 계산상 약 2만 1,714년이 걸려요. 번호를 어떻게 고르든, 지난 회차에 무엇이 나왔든 한 게임의 1등 확률은 언제나 1/8,145,060으로 같아요.
큰 수 계산할 때 흔한 실수
- 팩토리얼을 다 계산한 뒤 나누기: 45!은 57자리 수라 일반 계산기에서는 넘치거나 끝자리가 뭉개져요. 45C6처럼 분자를 r개만 곱하고(45 × 44 × … × 40) r!로 나누면 정확해요. 공학용 계산기로 팩토리얼을 직접 넣을 때도 이 순서가 안전해요.
- 0!을 0으로 계산: 0! = 1이에요. 그래서 nC0 = 1, nCn = 1이에요.
- "적어도 하나"를 직접 세기: "적어도 1명은 여학생" 같은 문제는 전체에서 "모두 남학생"을 빼는 여사건이 훨씬 쉬워요. 남 6명·여 4명 중 3명을 뽑을 때 10C3 − 6C3 = 120 − 20 = 100가지예요.
- 중복조합에서 n과 r을 바꿈: 사탕 5개를 3명에게 나누는 건 3H5(= 21)이지 5H3(= 35)이 아니에요. "무엇 중에서 고르는지(사람 3명)"가 n이에요.
- 순서를 두 번 셈: 조합으로 고른 뒤 다시 줄을 세우면 순열이 돼요. 대표 2명을 뽑고(조합) 그중 1명을 대표로 정하면(×2) 30C2 × 2 = 870 = 30P2예요.
확률이 몇 %인지 바꿔 보는 계산은 퍼센트 계산기가, 경우의 수 전체는 순열·조합 계산기가 편해요.
자주 묻는 질문
순열과 조합 중 어떤 걸 써야 하는지 한 번에 아는 방법이 있나요?
고른 결과에서 두 개의 순서를 바꿔 보세요. 결과가 달라지면(회장·부회장, 비밀번호, 등수) 순열, 그대로면(대표, 로또 번호, 카드 패) 조합이에요. 같은 것을 다시 고를 수 있으면 앞에 '중복'을 붙여요.
nPr과 nCr은 어떤 관계예요?
nPr = nCr × r!이에요. r개를 고르는 방법(nCr)마다 그 r개를 줄 세우는 방법이 r!가지씩 있기 때문이에요. 10P3 = 720 = 10C3(120) × 3!(6)이에요.
0!은 왜 1이에요?
n! = n × (n−1)!이라는 관계가 n = 1에서도 맞으려면 1! = 1 × 0!이어야 해서 0! = 1로 정해요. 그 덕분에 nC0 = n! ÷ (0! × n!) = 1처럼 "하나도 안 고르는 방법은 1가지"가 자연스럽게 나와요.
중복조합 공식 nHr = (n+r−1)Cr은 어디서 나와요?
고를 물건 r개와 종류를 나누는 칸막이 n−1개를 한 줄에 늘어놓는다고 보면, 전체 n+r−1자리 중 물건이 올 r자리를 고르는 조합이 돼요. 사탕 5개를 3명에게 나누면 7자리 중 5자리를 고르니 7C5 = 21이에요.
로또는 자동과 수동 중 어느 쪽이 확률이 높아요?
같아요. 6개 번호 조합 하나가 뽑힐 확률은 어떤 조합이든 1/8,145,060이에요. 다만 많은 사람이 고르는 번호로 당첨되면 당첨자가 많아 1인당 받는 금액이 줄 수 있어요.
정리
경우의 수는 "순서가 중요한가?"와 "같은 것을 다시 고를 수 있는가?" 두 질문으로 정리돼요. 순서 O·중복 X는 순열 nPr, 순서 X·중복 X는 조합 nCr, 순서 O·중복 O는 중복순열 n^r, 순서 X·중복 O는 중복조합 nHr이에요. 같은 것이 있는 순열·원순열·최단 경로는 여기서 겹친 만큼 나누는 변형이고, 로또 확률도 45C6 하나로 모두 계산돼요.
직접 n과 r을 넣어 풀이 과정까지 보려면 순열·조합 계산기를, 번호를 뽑아 보려면 로또 번호 생성기를 써 보세요. 비율과 평균 계산이 필요하면 퍼센트 계산법 글도 함께 보면 좋아요.