마야에서 모델 면이 까맣게 보일 때: 노멀 뒤집힘과 소프트 엣지 구분

마야에서 면이 까맣게 보이면 노멀 뒤집힘인지, 소프트 엣지 때문에 음영이 번졌는지 먼저 나눠 보세요. 모델링을 마치고 뷰포트를 돌려 보는데 몇몇 면만 유난히 까맣습니다. 형태는 멀쩡하고 버텍스도 제자리인데, 특정 면은 조명이 닿지 않는 것처럼 어둡거나 넓은 평면에 멍 같은 얼룩이 번집니다. 렌더에서는 괜찮다가 게임 엔진이나 다른 프로그램으로 넘기자 그 면이 아예 사라져 구멍처럼 보이기도 하죠.

까만 면은 크게 두 가지 원인에서 나옵니다. 면의 앞뒤가 뒤집힌 경우, 그리고 면은 바르게 서 있는데 버텍스 노멀이 음영 계산을 엉뚱한 방향으로 끌고 간 경우예요. 보이는 모양이 조금 다르고, 고치는 도구도 다릅니다.

마야에서 검은 면이 보이면 노멀 뒤집힘부터 확인합니다

까만 면을 보면 조명 위치나 재질, 뷰포트 오류부터 의심하게 됩니다. 버텍스 위치가 맞으니 모델은 끝났다고 보는 거죠. 하지만 폴리곤은 위치 말고도 ‘어느 쪽이 앞인가’와 ‘빛을 어느 방향으로 받는다고 계산할 것인가’라는 정보를 따로 갖고 있습니다. 이 정보가 노멀입니다. 위치가 같아도 노멀이 다르면 음영은 전혀 다르게 나옵니다.

면 노멀은 면이 바라보는 앞쪽 방향입니다. 버텍스를 어떤 순서로 이었느냐로 정해지고, 뷰포트와 렌더러는 이 방향으로 앞면과 뒷면을 구분합니다. 익스트루드를 안쪽으로 하거나, 음수 스케일로 미러한 뒤 트랜스폼을 굳히거나, 다른 파일에서 가져온 조각을 합치다 보면 일부 면만 안쪽을 보게 되는 일이 생깁니다.

뒤집힌 면은 빛이 반대편에서 온다고 계산되므로, 앞에서 비추는 조명을 받지 못한 것처럼 어둡게 나옵니다. 얼룩 없이 면 하나가 통째로 어두운 것이 이 경우의 특징입니다.

방향은 맞는데 얼룩이 번지면 버텍스 노멀을 봅니다

두 번째 원인은 음영을 매끈하게 보이게 하는 장치에서 생깁니다. 적은 면으로 곡면을 표현하려면 면 경계에서 음영이 끊기지 않고 이어져야 합니다. 그래서 각 버텍스는 주변 면 노멀을 평균한 버텍스 노멀을 갖고, 렌더러는 면 안쪽에서 이 값을 보간해 명암을 계산합니다. 이것이 소프트 엣지입니다.

하드 엣지는 반대로 한 버텍스에서 면마다 노멀을 따로 둡니다. 경계에서 음영이 뚝 끊겨 모서리가 선명해집니다. 둥근 부분은 소프트, 각진 부분은 하드가 기본 원칙인 이유입니다.

문제는 직각에 가까운 모서리를 소프트로 두었을 때 생깁니다. 위를 보는 면과 옆을 보는 면을 평균하면 대각선 방향이 됩니다. 윗면은 평평한데 가장자리 버텍스의 노멀은 비스듬히 기울어 있으니, 면 안쪽으로 갈수록 명암이 번지며 한쪽이 어둡게 가라앉습니다. 넓은 면에 버텍스가 적을수록 이 얼룩은 크게 번집니다.

소프트 엣지는 면이 휘어 있다고 조명에 알려 주는 장치입니다. 실제로 휘지 않은 곳에 쓰면 그 정보가 얼룩으로 드러납니다.

그렇다고 모서리를 전부 하드로 바꾸면 끝나는 것도 아닙니다. 하드 엣지는 얼룩을 없애지만, 실제 물건에는 없는 칼날 같은 모서리를 만듭니다. 모서리가 빛을 받아 살짝 반짝이는 느낌까지 필요하다면 베벨이 빛을 잡는 방식을 이어서 보세요.

30초 진단: 면 방향으로 노멀 뒤집힘을 찾고, 엣지를 바꿔 봅니다

먼저 방향을 봅니다. 마야에서는 Display > Polygons > Face Normals를 켜면 각 면에서 뻗는 짧은 선이 보입니다. 까만 면의 선만 안쪽으로 들어가 있다면 방향 문제입니다. 뷰포트 패널 메뉴의 Lighting > Two Sided Lighting을 잠깐 끄면 뒤집힌 면이 까맣게 드러나 더 쉽게 찾을 수 있습니다. 이 옵션은 기본으로 켜져 있어서 평소에는 뒤집힌 면이 덜 티 날 수 있습니다.

방향이 모두 바깥을 향한다면, 까만 부분을 지나는 엣지를 골라 하드 엣지로 바꿔 봅니다. 얼룩이 사라지고 면이 고르게 밝아지면 원인은 버텍스 노멀의 평균입니다. 바꿔도 그대로라면 노멀이 잠겨 있거나(다른 프로그램에서 가져온 모델에 흔합니다) 같은 자리에 면이 겹쳐 있을 가능성이 큽니다. Display > Polygons > Vertex Normals로 버텍스 노멀을 표시하면 한 점에서 노멀이 몇 갈래로 나뉘는지도 볼 수 있습니다.

보이는 모양	원인	마야 도구
면 전체가 고르게 까맘	면 방향 뒤집힘	Mesh Display > Conform, Reverse
넓은 면에 번진 얼룩	직각 모서리까지 소프트 엣지	Harden Edge, Set Normal Angle
엣지를 바꿔도 그대로	잠긴 노멀, 겹친 면	Unlock Normals, Mesh > Cleanup

면 전체가 한 톤으로 까만지, 한쪽으로 번지는 얼룩인지만 봐도 절반은 가려집니다.

고치는 순서는 방향, 엣지, 잠긴 노멀입니다

첫째, 방향을 통일합니다. 메시를 선택하고 Mesh Display > Conform을 쓰면 다수의 면이 향하는 쪽으로 방향이 맞춰집니다. 일부 면만 뒤집혔다면 그 면을 골라 Mesh Display > Reverse를 씁니다. Autodesk 문서에 따르면 Reverse의 Selected faces 옵션은 이웃 면과 방향이 어긋난 비다양체 형상을 만들 수 있으니, 끝난 뒤 인접 면과 방향이 맞는지 다시 봅니다.

둘째, 엣지를 정리합니다. 전체를 Mesh Display > Soften Edge로 부드럽게 한 뒤 각진 모서리만 골라 Harden Edge를 주거나, Set Normal Angle로 각도 기준을 정해 한 번에 나눕니다. 이 각도가 0이면 전부 하드, 180이면 전부 소프트가 됩니다. 알맞은 값은 모델마다 다르니 숫자를 외우기보다 뷰포트 결과를 보고 판단하세요.

셋째, 소프트·하드 설정이 먹지 않으면 Mesh Display > Unlock Normals로 잠긴 노멀을 풀고 둘째 단계를 다시 합니다. 겹친 면이 의심되면 Mesh > Cleanup에서 모든 엣지를 공유하는 겹친 면(라미나 면)을 찾아 정리합니다. 메뉴 위치와 이름은 마야 버전에 따라 조금 다를 수 있습니다.

마지막으로 엔진이나 다른 팀에 넘기기 전, Display > Polygons > Backface Culling을 켜고 모델을 한 바퀴 돌려 봅니다. 뒷면을 그리지 않는 환경을 흉내 내는 확인이라, 여기서 구멍처럼 비는 면이 없으면 받는 쪽에서 모델이 뚫려 보일 걱정을 크게 줄일 수 있습니다.

다른 프로그램에서도 원리는 같고 이름만 다릅니다

Blender에서는 뷰포트 Overlays의 Face Orientation을 켜면 앞면이 파랑, 뒷면이 빨강으로 칠해집니다. Edit Mode에서 Mesh > Normals > Recalculate Outside(Shift+N)로 바깥 방향을 맞추고, 일부만 뒤집을 때는 Flip을 씁니다. 부드러움은 Shade Smooth와 Mark Sharp로 나누는데, 각도 기준으로 자동 분리하는 기능은 4.1부터 Shade Auto Smooth로 바뀌었으니 버전에 맞는 튜토리얼을 보세요.

Houdini에서는 Normal SOP의 Add Normals to를 Vertices로 두고 Cusp Angle로 어느 각도부터 모서리를 나눌지 정합니다. 면의 앞뒤 자체를 뒤집으려면 Reverse SOP를 씁니다. Normal SOP의 Reverse Normals는 N 속성만 뒤집는 옵션이라 둘을 헷갈리면 음영과 면 방향이 따로 놀게 됩니다.

노멀을 고쳐도 어둠이 남는다면

노멀맵을 입힌 뒤에만 까매진다면 텍스처 쪽을 봅니다. 베이크에 쓴 로우폴리의 하드 엣지가 UV 이음새와 어긋나 있으면 경계에 선이나 얼룩이 생기기 쉽습니다. 노멀맵이 표면 방향만 바꾸고 형상은 바꾸지 않는다는 점은 노멀맵과 실루엣의 차이에서 정리했습니다.

스무스 미리보기나 서브디비전을 켰을 때만 울퉁불퉁한 얼룩이 생긴다면 노멀 설정이 아니라 토폴로지 흐름을 의심합니다. 이 경우는 서브디비전 핀칭의 원인이 더 가까운 답입니다.

렌더에서는 티가 덜 나는 경우도 있습니다. 마야 셰이프의 Render Stats에 있는 Double Sided가 켜져 있으면 뒤집힌 면도 그려지기 때문이에요. 하지만 유리처럼 굴절하는 재질은 면 방향으로 빛이 들어가고 나가는 쪽을 판단하므로, 뒤집힌 면이 굴절을 틀어 놓을 수 있습니다. 렌더가 괜찮다고 방향 정리를 건너뛰지 않는 편이 안전합니다.

한 줄 정리

면이 까맣게 보이면 조명보다 먼저 면 방향을 표시해 보고, 방향이 맞다면 직각 모서리까지 번진 소프트 엣지를 하드로 나누세요.