스무스 뒤 모델 표면이 울퉁불퉁할 때: 서브디비전 핀칭 확인

3D 모델링에서 스무스(서브디비전)를 켠 뒤 모델 표면이 울퉁불퉁해졌다면 면을 더 넣기 전에 가까이 몰린 엣지 루프와 폴 위치부터 보세요. 로우폴리 상태에서는 그럭저럭 둥글던 표면이 스무스를 켜는 순간 울퉁불퉁해집니다. 반사 하이라이트가 한 지점에서 움푹 꺾이거나, 매끈해야 할 곡면에 손가락으로 집은 듯한 자국이 생기기도 합니다. 그래서 문제 부근에 엣지 루프를 더 넣고 면을 잘게 쪼갰는데, 이상하게 자국은 더 좁고 날카로워졌습니다. 흔히 “스무스 하면 찌그러진다”고 말하는 화면이에요.

면이 부족해 보여도, 먼저 늘리면 더 단단히 찌그러집니다

서브디비전 결과가 거칠면 해상도부터 의심하기 쉽습니다. 하지만 서브디비전은 기존 모양을 그대로 두고 면 사이만 채우는 기능이 아닙니다. 주변 버텍스의 위치와 연결 관계를 이용해 새 표면을 다시 계산합니다. 따라서 원래 엣지 간격이 불균일하거나 흐름이 한곳에 몰려 있다면, 면을 추가할수록 잘못된 제약도 함께 늘어납니다.

특히 찌그러진 곳을 붙잡겠다고 서포트 루프를 아주 가까이 두 줄, 세 줄 겹치면 문제가 커집니다. 가까운 루프는 표면이 둥글게 퍼질 공간을 줄이는 장치입니다. 모서리를 단단하게 만들 때는 유용하지만, 넓고 매끈해야 할 곡면에서는 곡률을 좁은 구간에 몰아 핀칭을 강조합니다. 면 수가 해결책이 아니라 압정이 된 셈이죠.

3D 모델링의 서브디비전 핀칭은 면의 개수가 아니라 연결 방식이 만든 흔적입니다

서브디비전 핀칭의 핵심은 한 점 주변에서 표면이 고르게 평균화되지 못한다는 데 있습니다. 쿼드가 규칙적으로 이어지는 곳에서는 엣지 흐름이 비슷한 방향과 간격을 유지합니다. 반면 여러 엣지가 한 버텍스로 모이는 폴, 길고 가느다란 면, 갑자기 넓어지는 면, 삼각형과 엔곤이 곡면 한가운데 놓인 곳에서는 계산에 참여하는 이웃 관계가 달라집니다.

폴 자체가 오류는 아닙니다. 실제 모델에는 엣지 흐름을 끝내거나 방향을 바꾸기 위해 폴이 필요합니다. 문제는 폴이 하이라이트가 길게 흐르는 볼록한 면, 얼굴의 볼, 자동차 패널처럼 곡률 변화가 눈에 잘 보이는 곳에 놓였을 때입니다. 연결 방향이 바뀐 흔적이 표면의 작은 꺾임으로 드러나기 쉽습니다.

비슷한 현상은 리깅 뒤 관절에서도 보입니다. 다만 그때는 정지 상태의 토폴로지보다 변형 중 스킨 웨이트와 볼륨 손실을 먼저 봐야 합니다.

30초 진단: 서브디비전을 끄고, 자국이 언제 생기는지 봅니다

먼저 같은 시점에서 서브디비전만 껐다 켭니다. Maya는 숫자 1로 기본 케이지, 숫자 3으로 Smooth Mesh Preview를 확인합니다. Blender는 Subdivision Surface 모디파이어의 뷰포트 표시를 끕니다. 3ds Max는 모디파이어 스택에서 TurboSmooth 또는 OpenSubdiv의 표시를 잠시 끕니다.

꺼진 케이지는 매끈한데 켰을 때만 자국이 생기면 토폴로지와 엣지 간격을 의심할 근거가 생깁니다. 와이어를 겹쳐 보고 자국 중심에서 네 가지를 찾으세요. 지나치게 가까운 평행 루프, 다섯 개 이상 엣지가 모이는 점, 갑자기 길어지는 면, 삼각형이나 엔곤입니다. 화면의 움푹한 지점과 이 요소의 위치가 겹치면 서브디비전 핀칭일 가능성이 높습니다.

반대로 서브디비전을 꺼도 실루엣 자체가 이미 울거나 버텍스가 평면에서 벗어나 있다면, 단순히 루프를 정리하는 것만으로는 부족합니다. 정면만 보지 말고 옆면과 반사 하이라이트도 함께 돌려 보세요. 핀칭은 실루엣보다 반사선에서 먼저 들키는 경우가 많습니다.

더하는 수정이 아니라, 곡률이 흐를 자리를 되돌립니다

첫째, 자국 바로 옆에 추가한 루프부터 한 단계씩 제거합니다. 한꺼번에 전부 지우지 말고 서브디비전 결과를 켠 채 반사선이 풀리는지 봅니다. Maya에서는 불필요한 엣지를 선택해 Edit Mesh의 Delete Edge/Vertex로 정리하고, Blender에서는 X를 누른 뒤 Dissolve Edges를 사용합니다. 3ds Max에서는 Edit Poly의 Edge 하위 오브젝트에서 Remove를 사용합니다. 버텍스가 남는 삭제는 피해야 합니다.

둘째, 남겨야 할 서포트 루프는 목표 모서리와 일정한 간격을 유지하도록 다시 배치합니다. 날카로움이 필요한 부분에만 가까이 두고, 넓은 곡면 쪽으로 갈수록 면이 갑자기 늘어나지 않게 완만하게 풀어 줍니다. “루프가 많을수록 안전하다”가 아니라 “필요한 곡률을 설명하는 최소한의 루프가 안전하다”가 기준입니다.

셋째, 폴과 삼각형을 삭제하는 데 집착하지 말고 덜 보이는 곳으로 이동시킵니다. 평평한 면, 곡률 변화가 약한 곳, 하이라이트가 주로 지나가지 않는 곳이 후보입니다. 쿼드 유지 자체보다 서브디비전 뒤 표면이 연속적으로 이어지는지가 우선이에요.

넷째, 면을 더 만들 필요가 있다면 전체를 촘촘하게 하지 말고 간격의 급변을 줄이는 방향으로 추가합니다. Maya의 Multi-Cut 또는 Insert Edge Loop, Blender의 Loop Cut, 3ds Max Edit Poly의 Connect를 쓸 수 있습니다. 추가 직후에는 와이어보다 셰이딩을 먼저 확인하세요. 제어점을 늘렸는데 결과가 더 끊기는 문제는 애니메이션에서도 같은 구조로 반복됩니다.

1. 스무스 전후 비교: 자국 위치와 토폴로지 위치를 맞춥니다.
2. 밀집 루프 제거: 한 단계씩 지우며 반사선을 봅니다.
3. 폴과 간격 재배치: 곡률 변화가 약한 곳으로 옮깁니다.
4. 최종 결과 확인: 와이어, 실루엣, 하이라이트를 함께 봅니다.

이 순서를 지켜야 어느 변경이 표면을 고쳤는지 알 수 있습니다.

스무스에서 보인다고 모두 토폴로지 문제는 아닙니다

표면 모양은 그대로인데 밝고 어두운 경계만 이상하다면 노멀이나 스무딩 설정을 먼저 확인합니다. Maya의 Mesh Display > Soften Edge, Blender의 Shade Smooth, 3ds Max의 스무딩 그룹은 셰이딩 경계를 바꿀 수 있지만 실제로 찌그러진 형상을 펴 주지는 않습니다. 실루엣까지 움푹하면 노멀만 고쳐서는 해결되지 않습니다.

또한 디스플레이스먼트나 범프를 끄자 자국이 사라진다면 원인은 토폴로지가 아니라 맵 값, UV, 필터링일 수 있습니다. 중복 버텍스나 용접되지 않은 경계도 비슷한 자국을 만듭니다. 이런 경우에는 서포트 루프를 옮기기 전에 열린 경계와 겹친 점부터 확인해야 합니다.

한 줄 정리

스무스 뒤 표면이 집혀 보이면 면을 더 넣기 전에, 자국 주변의 밀집 루프와 폴을 찾아 곡률이 넓게 흐르도록 간격부터 정리합니다.