다른 뜻에 대해서는
층 문서를 참고하십시오.
수학 에서 층 (層, 영어 : sheaf 시프[* ] , 프랑스어 : faisceau 페소[* ] )은 어떤 위상 공간 에서, 각 점에 국소적 구조를 붙인 것이다. 국소성에 따라, 일련의 호환 조건들을 만족시키는 국소적인 데이터를 이어붙여서 대역적인 데이터를 정의할 수 있다.
층의 개념은 위상수학 ·대수기하학 ·미분기하학 에서 널리 쓰인다.
층의 정의는 보통 다음과 같은 세 단계로 이루어진다.
준층 은 위상 공간의 열린 부분집합에 정보를 대응시키는 구조다. 즉, 어떤 위상 공간 위에 주어진 국소적인 데이터를 나타낸다. 일반적인 준층에서는 대역적인 데이터가 국소적인 데이터로부터 결정되지 않을 수 있다.
분리 준층 에서는 준층 가운데, 대역적인 데이터가 국소적인 데이터로부터 결정되지만, 국소적인 데이터를 이어붙이는 충분 조건이 존재하지 않을 수 있다.
층 의 경우, 대역적인 데이터가 국소적인 데이터로부터 결정되며, 또한 국소적인 데이터를 이어붙이는 충분 조건이 존재한다.
범주
X
{\displaystyle {\mathcal {X}}}
위의, 범주
C
{\displaystyle {\mathcal {C}}}
의 값을 갖는 준층 (準層, 영어 : presheaf 프리시프[* ] , 프랑스어 : préfaisceau 프레페소[* ] )은 함자
F
:
X
op
→
C
{\displaystyle {\mathcal {F}}\colon {\mathcal {X}}^{\operatorname {op} }\to {\mathcal {C}}}
이다. 여기서
op
{\displaystyle ^{\operatorname {op} }}
은 반대 범주 를 뜻하므로,
F
{\displaystyle {\mathcal {F}}}
는 다시 말해
X
{\displaystyle {\mathcal {X}}}
에서
C
{\displaystyle {\mathcal {C}}}
로 가는 반변함자 로 정의된다. 이러한 준층을 대상으로 하고, 준층 사이의 자연 변환 을 사상으로 가지는 범주를
PSh
(
X
,
C
)
{\displaystyle \operatorname {PSh} ({\mathcal {X}},{\mathcal {C}})}
라고 표기한다.
대상
U
∈
X
{\displaystyle U\in {\mathcal {X}}}
위에서의 준층
F
∈
PSh
(
X
,
C
)
{\displaystyle {\mathcal {F}}\in \operatorname {PSh} ({\mathcal {X}},{\mathcal {C}})}
의 단면 (斷面, 영어 : section )들로 구성된 대상
Γ
(
U
,
F
)
∈
C
{\displaystyle \Gamma (U,{\mathcal {F}})\in {\mathcal {C}}}
을 다음과 같이 정의한다.
Γ
(
U
,
F
)
=
F
(
U
)
∈
C
{\displaystyle \Gamma (U,{\mathcal {F}})={\mathcal {F}}(U)\in {\mathcal {C}}}
고전적인 예로
X
{\displaystyle {\mathcal {X}}}
가 위상 공간
X
{\displaystyle X}
의 열린집합 들의 범주
X
=
Open
(
X
)
{\displaystyle {\mathcal {X}}=\operatorname {Open} (X)}
인 경우를 들 수 있다. 이 경우,
X
{\displaystyle {\mathcal {X}}}
의 대상은
X
{\displaystyle X}
의 열린집합 이다.
만약 두 열린집합
U
,
V
∈
Open
(
X
)
{\displaystyle U,V\in \operatorname {Open} (X)}
에 대하여
hom
(
U
,
V
)
{\displaystyle \hom(U,V)}
은
U
⊆
V
{\displaystyle U\subseteq V}
일 경우에는 한원소 집합
{
ι
U
V
}
{\displaystyle \{\iota _{UV}\}}
이며, 나머지 경우에는
hom
(
U
,
V
)
=
∅
{\displaystyle \hom(U,V)=\varnothing }
이다. 여기서
ι
U
V
:
U
→
V
{\displaystyle \iota _{UV}\colon U\to V}
는 포함 함수이다.
이 경우,
X
{\displaystyle {\mathcal {X}}}
위의
C
{\displaystyle {\mathcal {C}}}
값을 갖는 준층
F
{\displaystyle {\mathcal {F}}}
는 구체적으로 다음과 같은 데이터로 주어진다.
모든 열린집합
U
⊂
X
{\displaystyle U\subset X}
에 대하여,
F
(
U
)
∈
C
{\displaystyle {\mathcal {F}}(U)\in {\mathcal {C}}}
모든 열린집합들
V
⊂
U
⊂
X
{\displaystyle V\subset U\subset X}
에 대하여,
F
(
ι
V
U
)
:
F
(
U
)
→
F
(
V
)
{\displaystyle {\mathcal {F}}(\iota _{VU})\colon {\mathcal {F}}(U)\to {\mathcal {F}}(V)}
이들은 다음과 같은 함자 의 공리들을 만족시켜야 한다. 임의의 열린집합 들
U
⊂
V
⊂
W
⊂
X
{\displaystyle U\subset V\subset W\subset X}
에 대하여,
F
(
ι
U
U
)
=
id
F
(
U
)
{\displaystyle {\mathcal {F}}(\iota _{UU})=\operatorname {id} _{{\mathcal {F}}(U)}}
F
(
ι
U
V
)
∘
F
(
ι
V
W
)
=
F
(
ι
U
W
)
{\displaystyle {\mathcal {F}}(\iota _{UV})\circ {\mathcal {F}}(\iota _{VW})={\mathcal {F}}(\iota _{UW})}
아래 정의에서,
C
=
Set
{\displaystyle {\mathcal {C}}=\operatorname {Set} }
인 경우를 생각하자. (만약
C
{\displaystyle {\mathcal {C}}}
가 구체적 범주 라면, 이를 집합의 범주의 부분 범주로 여겨 아래 정의를 자명하게 일반화할 수 있다.)
범주
X
{\displaystyle {\mathcal {X}}}
속에 대상
U
∈
X
{\displaystyle U\in {\mathcal {X}}}
가 주어졌다고 하자.
X
{\displaystyle {\mathcal {X}}}
위에는 요네다 매장 으로 인한 준층
hom
X
(
−
,
U
)
:
X
op
→
Set
{\displaystyle \hom _{\mathcal {X}}(-,U)\colon {\mathcal {X}}^{\operatorname {op} }\to \operatorname {Set} }
이 항상 존재한다.
X
{\displaystyle {\mathcal {X}}}
위의 다른 준층
F
:
X
op
→
Set
{\displaystyle {\mathcal {F}}\colon {\mathcal {X}}^{\operatorname {op} }\to \operatorname {Set} }
이 주어졌을 때, 요네다 준층에서
F
{\displaystyle {\mathcal {F}}}
로 가는 준층 사상(자연 변환 )들의 집합
hom
PSh
(
X
)
(
hom
X
(
−
,
U
)
,
F
)
{\displaystyle \hom _{\operatorname {PSh} ({\mathcal {X}})}(\hom _{\mathcal {X}}(-,U),{\mathcal {F}})}
를 정의할 수 있다. 각 준층 사상
f
:
hom
X
(
−
,
U
)
→
F
{\displaystyle f\colon \hom _{\mathcal {X}}(-,U)\to {\mathcal {F}}}
은
U
{\displaystyle U}
의 각 "열린 부분 집합 "에
F
{\displaystyle {\mathcal {F}}}
의 단면을 대응시킨다.
X
{\displaystyle {\mathcal {X}}}
위에 그로텐디크 위상
J
{\displaystyle {\mathfrak {J}}}
가 주어졌다고 하자. 그렇다면, 임의의 대상
U
∈
X
{\displaystyle U\in {\mathcal {X}}}
에 대하여, 덮개체들의 집합
J
(
U
)
{\displaystyle {\mathfrak {J}}(U)}
이 존재하며, 각 덮개체
S
∈
J
(
U
)
{\displaystyle {\mathcal {S}}\in {\mathfrak {J}}(U)}
는
X
{\displaystyle {\mathcal {X}}}
위의 준층을 이룬다. 마찬가지로, 준층 사상들의 집합
hom
PSh
(
X
)
(
S
,
F
)
{\displaystyle \hom _{\operatorname {PSh} ({\mathcal {X}})}({\mathcal {S}},{\mathcal {F}})}
를 정의할 수 있다. 각 준층 사상
f
:
S
→
F
{\displaystyle f\colon {\mathcal {S}}\to {\mathcal {F}}}
는
U
{\displaystyle U}
의 덮개에 속하는 각 "열린 부분 집합"에
F
{\displaystyle {\mathcal {F}}}
의 단면을 대응시킨다.
덮개체
S
∈
J
(
U
)
{\displaystyle {\mathcal {S}}\in {\mathfrak {J}}(U)}
는 정의에 따라
hom
(
−
,
U
)
{\displaystyle \hom(-,U)}
의 부분 함자이므로, 자연스러운 제약 함수
res
hom
X
(
−
,
U
)
,
S
:
hom
PSh
(
X
)
(
hom
X
(
−
,
U
)
,
F
)
→
hom
PSh
(
X
)
(
S
,
F
)
{\displaystyle \operatorname {res} _{\hom _{\mathcal {X}}(-,U),{\mathcal {S}}}\colon \hom _{\operatorname {PSh} ({\mathcal {X}})}(\hom _{\mathcal {X}}(-,U),{\mathcal {F}})\to \hom _{\operatorname {PSh} ({\mathcal {X}})}({\mathcal {S}},{\mathcal {F}})}
가 존재한다. 이 경우, 다음과 같은 정의를 내릴 수 있다.
만약
X
{\displaystyle {\mathcal {X}}}
의 모든 대상
U
{\displaystyle U}
및 그 모든 덮개체
S
∈
J
(
U
)
{\displaystyle {\mathcal {S}}\in {\mathfrak {J}}(U)}
에 대하여
res
hom
X
(
−
,
U
)
,
S
{\displaystyle \operatorname {res} _{\hom _{\mathcal {X}}(-,U),{\mathcal {S}}}}
가 단사 함수 라면,
F
{\displaystyle {\mathcal {F}}}
의
U
{\displaystyle U}
의 "부분 집합"에서의 단면들은
U
{\displaystyle U}
의 덮개
S
{\displaystyle {\mathcal {S}}}
에서의 값들로부터 완전히 결정된다. 즉, 대역적 데이터는 국소적 데이터로부터 완전히 결정된다. 이 조건을 만족시키는 준층을 분리 준층 (分離準層, 영어 : separated presheaf , 프랑스어 : préfaisceau séparé )이라고 한다.
만약
res
hom
X
(
−
,
U
)
,
S
{\displaystyle \operatorname {res} _{\hom _{\mathcal {X}}(-,U),{\mathcal {S}}}}
가 전단사 함수 라면,
U
{\displaystyle U}
의 덮개
S
{\displaystyle {\mathcal {S}}}
에 임의의 (적절한) 단면들을 부여하여도 이들을
U
{\displaystyle U}
전체로 이어붙일 수 있다. 즉, 호환 조건을 만족시키는 모든 국소적 데이터를 대역적 데이터로 이어붙일 수 있다. 이 조건을 만족시키는 준층을 층 (層, 영어 : sheaf , 프랑스어 : faisceau )이라고 한다.
X
{\displaystyle {\mathcal {X}}}
위의 층들 사이의 사상 은 준층으로서의 사상이다.
X
{\displaystyle X}
위의 층들의 범주는
Sh
(
X
)
{\displaystyle \operatorname {Sh} (X)}
라고 쓰며, 이는
PSh
(
X
)
{\displaystyle \operatorname {PSh} (X)}
의 충만한 부분 범주 이다.
만약
X
{\displaystyle {\mathcal {X}}}
의 그로텐디크 위상이 그로텐디크 준위상 으로 주어진다면, 분리 준층과 층의 정의를 더 구체적으로 서술할 수 있다.
X
{\displaystyle {\mathcal {X}}}
가 그로텐디크 준위상
D
{\displaystyle {\mathfrak {D}}}
가 주어진 범주이며,
X
{\displaystyle X}
가 작은 곱 및 올곱 을 갖는다고 하자.
X
{\displaystyle {\mathcal {X}}}
의 임의의 대상
U
∈
X
{\displaystyle U\in {\mathcal {X}}}
및 덮개
{
ι
i
:
U
i
→
U
}
i
∈
I
∈
D
(
u
)
{\displaystyle \{\iota _{i}\colon U_{i}\to U\}_{i\in I}\in {\mathfrak {D}}(u)}
가 주어졌을 때, 임의의
i
,
j
∈
I
{\displaystyle i,j\in I}
에 대하여, 다음과 같은 사상들이 존재한다.
U
i
×
U
U
j
π
1
↙
U
←
ι
i
U
i
π
2
↖
U
j
×
U
U
i
{\displaystyle {\begin{matrix}&&&&U_{i}\times _{U}U_{j}\\&&&{\scriptstyle \pi _{1}}\swarrow \\U&\xleftarrow {\iota _{i}} &U_{i}\\&&&{\scriptstyle \pi _{2}}\nwarrow \\&&&&U_{j}\times _{U}U_{i}\end{matrix}}}
위 도형에서
F
{\displaystyle {\mathcal {F}}}
에 대한 상을 취하면 다음과 같다.
F
(
U
i
×
U
U
j
)
F
(
π
1
)
↗
F
(
U
)
→
F
(
ι
i
)
F
(
U
i
)
F
(
π
2
)
↘
F
(
U
j
×
U
U
i
)
{\displaystyle {\begin{matrix}&&&&{\mathcal {F}}(U_{i}\times _{U}U_{j})\\&&&{\scriptstyle {\mathcal {F}}(\pi _{1})}\nearrow \\{\mathcal {F}}(U)&{\xrightarrow {{\mathcal {F}}(\iota _{i})}}&{\mathcal {F}}(U_{i})\\&&&{\scriptstyle {\mathcal {F}}(\pi _{2})}\searrow \\&&&&{\mathcal {F}}(U_{j}\times _{U}U_{i})\end{matrix}}}
이들에 대한 올곱 을 취하면 다음과 같은 사상들을 얻는다.
F
(
U
)
→
∏
i
∈
I
F
(
U
)
F
(
ι
i
)
∏
i
∈
I
F
(
U
i
)
{\displaystyle {\mathcal {F}}(U){\xrightarrow {\prod _{i\in I}^{F(U)}{\mathcal {F}}(\iota _{i})}}\prod _{i\in I}{\mathcal {F}}(U_{i})}
F
(
U
i
)
→
∏
j
∈
I
F
(
U
i
)
F
(
π
1
)
∏
j
∈
I
F
(
U
i
×
U
U
j
)
{\displaystyle {\mathcal {F}}(U_{i}){\xrightarrow {\prod _{j\in I}^{{\mathcal {F}}(U_{i})}{\mathcal {F}}(\pi _{1})}}\prod _{j\in I}{\mathcal {F}}(U_{i}\times _{U}U_{j})}
F
(
U
i
)
→
∏
j
∈
I
F
(
U
i
)
F
(
π
2
)
∏
j
∈
I
F
(
U
j
×
U
U
i
)
{\displaystyle {\mathcal {F}}(U_{i}){\xrightarrow {\prod _{j\in I}^{{\mathcal {F}}(U_{i})}{\mathcal {F}}(\pi _{2})}}\prod _{j\in I}{\mathcal {F}}(U_{j}\times _{U}U_{i})}
이제, 사상들의 곱 을 취하면 다음과 같은 사상들을 얻는다.
F
(
U
)
→
∏
i
∈
I
F
(
U
)
F
(
ι
i
)
∏
i
∈
I
F
(
U
i
)
→
∏
i
∈
I
∏
j
∈
I
F
(
U
i
)
F
(
π
1
)
→
∏
i
∈
I
∏
j
∈
I
F
(
U
i
)
F
(
π
2
)
∏
i
,
j
∈
I
F
(
U
i
×
U
U
j
)
{\displaystyle {\mathcal {F}}(U){\xrightarrow {\prod _{i\in I}^{F(U)}{\mathcal {F}}(\iota _{i})}}\prod _{i\in I}{\mathcal {F}}(U_{i}){{\xrightarrow {\prod _{i\in I}\prod _{j\in I}^{{\mathcal {F}}(U_{i})}{\mathcal {F}}(\pi _{1})}} \atop {\xrightarrow[{\prod _{i\in I}\prod _{j\in I}^{{\mathcal {F}}(U_{i})}{\mathcal {F}}(\pi _{2})}]{}}}\prod _{i,j\in I}{\mathcal {F}}(U_{i}\times _{U}U_{j})}
왼쪽의 함수는
U
{\displaystyle U}
의 단면
F
(
U
)
{\displaystyle {\mathcal {F}}(U)}
를
U
i
{\displaystyle U_{i}}
에 제한 한 것으로 해석 할 수 있으며, 오른쪽의 함수는 각
U
i
{\displaystyle U_{i}}
의 단면
F
(
U
i
)
{\displaystyle {\mathcal {F}}(U_{i})}
를
U
j
{\displaystyle U_{j}}
와 "겹치는 부분"에 대하여 제한 한 것으로 해석 할 수 있다. 만약 왼쪽의 함수가 단사 함수 라면,
F
{\displaystyle {\mathcal {F}}}
는 분리 준층 이다. 만약 왼쪽의 함수가 오른쪽의 두 함수의 동등자 를 이룬다면,
F
{\displaystyle {\mathcal {F}}}
는 층 이다.
만약
X
{\displaystyle {\mathcal {X}}}
가 어떤 위상 공간
X
{\displaystyle X}
의 열린집합 들의 범주
Open
(
X
)
{\displaystyle \operatorname {Open} (X)}
라고 하자. 이 경우, 분리 준층과 층의 정의는 다음과 같이 번역된다.
모든 열린집합
U
{\displaystyle U}
및 그 열린 덮개
{
U
i
}
i
∈
I
{\displaystyle \{U_{i}\}_{i\in I}}
에 대하여, 함수
F
(
U
)
→
∏
i
∈
I
F
(
U
i
)
→
→
∏
i
,
j
∈
I
F
(
U
i
∩
U
j
)
{\displaystyle {\mathcal {F}}(U)\to \prod _{i\in I}{\mathcal {F}}(U_{i}){\to \atop \to }\prod _{i,j\in I}{\mathcal {F}}(U_{i}\cap U_{j})}
를 정의하자. 이를 바탕으로, 다음과 같은 두 성질을 정의하자.
(국소성) 임의의
s
,
t
∈
F
(
U
)
{\displaystyle s,t\in {\mathcal {F}}(U)}
에 대하여, 만약 모든
i
∈
I
{\displaystyle i\in I}
에 대하여
s
|
U
i
=
t
|
U
i
{\displaystyle s|_{U_{i}}=t|_{U_{i}}}
라면
s
=
t
{\displaystyle s=t}
이다. (이는 위 도형에서 왼쪽 사상이 단사 함수 임과 동치이다.)
(결합성) 각
i
∈
I
{\displaystyle i\in I}
에 대하여,
s
i
∈
F
(
V
)
{\displaystyle s_{i}\in {\mathcal {F}}(V)}
가 주어졌다고 하고, 모든
i
,
j
∈
I
{\displaystyle i,j\in I}
에 대하여
s
i
|
U
j
=
s
j
|
U
i
{\displaystyle s_{i}|_{U_{j}}=s_{j}|_{U_{i}}}
라고 하자. 그렇다면 모든
i
∈
I
{\displaystyle i\in I}
에 대하여
s
|
U
i
=
s
i
{\displaystyle s|_{U_{i}}=s_{i}}
인
s
∈
F
(
U
)
{\displaystyle s\in {\mathcal {F}}(U)}
가 존재한다. (국소성을 가정하면, 이는 위 동형에서 왼쪽 사상이 오른쪽의 두 사상의 동등자 를 이룸과 동치이다.)
국소성 공리를 만족시키는 준층은 분리 준층 이며, 결합성 공리를 만족시키는 분리 준층은 층 이다.
두 층
F
,
G
∈
Sh
(
X
)
{\displaystyle {\mathcal {F}},{\mathcal {G}}\in \operatorname {Sh} (X)}
사이의 사상
ϕ
:
G
→
F
{\displaystyle \phi \colon {\mathcal {G}}\to {\mathcal {F}}}
는 함자 사이의 자연 변환 이다. 즉, 모든 열린 부분집합 U 에 대해서
C
{\displaystyle {\mathcal {C}}}
속의 사상들
ϕ
(
U
)
:
G
(
U
)
→
F
(
U
)
{\displaystyle \phi (U)\colon {\mathcal {G}}(U)\to {\mathcal {F}}(U)}
를 모은 것들 가운데, 제한 사상들 res와 호환되는 것들이다. 즉, 두 열린 부분집합
U
⊂
V
{\displaystyle U\subset V}
에 대해서 다음의 그림이 가환하여야 한다.
G
(
V
)
→
φ
V
F
(
V
)
r
V
,
U
↓
↓
r
V
,
U
G
(
U
)
→
φ
U
F
(
U
)
{\displaystyle {\begin{array}{rcl}{\mathcal {G}}(V)&\xrightarrow {\quad \varphi _{V}\quad } &{\mathcal {F}}(V)\\r_{V,U}{\Biggl \downarrow }&&{\Biggl \downarrow }r_{V,U}\\{\mathcal {G}}(U)&{\xrightarrow[{\quad \varphi _{U}\quad }]{}}&{\mathcal {F}}(U)\end{array}}}
이 정의를 조금 더 일반화하여, 서로 다른 위상 공간 위에 정의된 층 사이에도 사상을 정의할 수 있다. 두 위상 공간
X
,
Y
∈
Top
{\displaystyle X,Y\in \operatorname {Top} }
사이의 연속 함수
f
:
X
→
Y
{\displaystyle f\colon X\to Y}
및 층
F
∈
Sh
(
X
)
{\displaystyle {\mathcal {F}}\in \operatorname {Sh} (X)}
,
G
∈
Sh
(
Y
,
C
)
{\displaystyle {\mathcal {G}}\in \operatorname {Sh} (Y,{\mathcal {C}})}
에 대하여,
두 위상 공간에 대한 층 사이의 사상은 다음과 같이 범주론 적으로 정의할 수 있다. 위상 공간의 범주
Top
{\displaystyle \operatorname {Top} }
및 범주의 범주
Cat
{\displaystyle \operatorname {Cat} }
를 생각하자. (엄밀하게 말하면, 주어진 그로텐디크 전체 에 속하는 위상 공간·범주의 범주를 생각한다.) 이 경우, 자연스러운 함자
Open
:
Top
→
Cat
op
{\displaystyle \operatorname {Open} \colon \operatorname {Top} \to \operatorname {Cat} ^{\operatorname {op} }}
Open
:
X
↦
Open
(
X
)
{\displaystyle \operatorname {Open} \colon X\mapsto \operatorname {Open} (X)}
Open
:
(
f
:
X
→
Y
)
↦
(
Open
f
:
U
⊂
Y
↦
f
−
1
(
U
)
⊂
X
)
{\displaystyle \operatorname {Open} \colon (f\colon X\to Y)\mapsto (\operatorname {Open} f\colon U\subset Y\mapsto f^{-1}(U)\subset X)}
가 존재한다. 즉,
Open
(
f
)
{\displaystyle \operatorname {Open} (f)}
는 다음과 같은 함자 이다.
Open
(
f
)
:
Open
(
Y
)
→
Open
(
X
)
{\displaystyle \operatorname {Open} (f)\colon \operatorname {Open} (Y)\to \operatorname {Open} (X)}
그렇다면
F
:
Open
(
X
)
→
C
op
{\displaystyle {\mathcal {F}}\colon \operatorname {Open} (X)\to {\mathcal {C}}^{\operatorname {op} }}
G
:
Open
(
Y
)
→
C
op
{\displaystyle {\mathcal {G}}\colon \operatorname {Open} (Y)\to {\mathcal {C}}^{\operatorname {op} }}
이므로,
f
{\displaystyle f}
에 대한 층 사상
G
→
F
{\displaystyle {\mathcal {G}}\to {\mathcal {F}}}
는 자연 변환
G
⟹
F
∘
Open
(
f
)
{\displaystyle {\mathcal {G}}\implies {\mathcal {F}}\circ \operatorname {Open} (f)}
이다. 구체적으로,
f
{\displaystyle f}
에 대한 층 사상
ϕ
:
G
→
F
{\displaystyle \phi \colon {\mathcal {G}}\to {\mathcal {F}}}
는 모든 열린
U
⊂
Y
{\displaystyle U\subset Y}
에 대해서
C
{\displaystyle {\mathcal {C}}}
의 사상들
ϕ
U
:
G
(
U
)
→
F
(
f
−
1
(
U
)
)
{\displaystyle \phi _{U}\colon {\mathcal {G}}(U)\to {\mathcal {F}}(f^{-1}(U))}
를 모은 것들 가운데, 모든 Y 의 열린집합들
U
⊂
V
⊂
Y
{\displaystyle U\subset V\subset Y}
에 대해서 다음의 그림이 가환하는 경우이다.
G
(
V
)
→
φ
V
F
(
f
−
1
(
V
)
)
r
V
,
U
↓
↓
r
f
−
1
(
V
)
,
f
−
1
(
U
)
G
(
U
)
→
φ
U
F
(
f
−
1
(
U
)
)
{\displaystyle {\begin{array}{rcl}{\mathcal {G}}(V)&\xrightarrow {\quad \varphi _{V}\quad } &{\mathcal {F}}(f^{-1}(V))\\r_{V,U}{\Biggl \downarrow }&&{\Biggl \downarrow }r_{f^{-1}(V),f^{-1}(U)}\\{\mathcal {G}}(U)&{\xrightarrow[{\quad \varphi _{U}\quad }]{}}&{\mathcal {F}}(f^{-1}(U))\end{array}}}
만약
f
=
id
X
{\displaystyle f=\operatorname {id} _{X}}
인 경우, 이는 이전의 정의와 일치한다.
준층 사이의 사상도 마찬가지로 정의한다.
층은 매우 일반적인 개념이며, 응용 분야에 따라 다양한 "괜찮은 층"의 개념들이 존재한다.
보통, 함수층의 경우 어떤 환의 층에 대한 가군을 이룬다. 이러한 층을 가군층 이라고 한다. 마찬가지로, 어떤 다른 환의 층에 대한 아이디얼 을 이루는 층을 아이디얼 층 이라고 한다.
기하학적으로, 선다발 이나 인자 에 대응하는 층을 가역층 이라고 한다.
가장 자명한, 모든 줄기 가 같은 층을 상수층 이라고 한다.
위상 공간 위의 층은 범주론적 접근 대신, 기하학적으로도 정의할 수 있다. 어떤 주어진 점
x
{\displaystyle x}
근처에서 층
F
{\displaystyle {\mathcal {F}}}
가 가질 수 있는 값들의 집합을
F
{\displaystyle {\mathcal {F}}}
의 줄기 라고 하고, 이러한 줄기들의 집합을 에탈레 공간 이라고 한다. 그렇다면 층은 에탈레 공간의 단면들의 모임으로 정의할 수 있다.
(작은) 위치
(
X
,
J
)
{\displaystyle ({\mathcal {X}},{\mathfrak {J}})}
위의 층의 범주와 준층의 범주 사이에 자연스러운 포함 관계가 존재한다.
I
:
Sh
(
X
,
J
)
↪
PSh
(
X
)
{\displaystyle I\colon \operatorname {Sh} ({\mathcal {X}},{\mathfrak {J}})\hookrightarrow \operatorname {PSh} ({\mathcal {X}})}
이 함자는 왼쪽 수반 함자
S
{\displaystyle S}
를 가지는데, 이를 준층의 층화 (層化, 영어 : sheafification )라고 한다.
I
:
Sh
(
X
,
J
)
↪
PSh
(
X
)
:
S
{\displaystyle I\colon \operatorname {Sh} ({\mathcal {X}},{\mathfrak {J}})\hookrightarrow \operatorname {PSh} ({\mathcal {X}})\colon S}
위상 공간 사이의 연속 함수 가 주어지면, 이로부터 그 위에 존재하는 층들의 사상을 유도할 수 있다. 이는 함자 를 이룬다. 구체적으로, 위상 공간 사이의 연속 함수
f
:
X
→
Y
{\displaystyle f\colon X\to Y}
가 주어졌다고 하고, 위상 공간
X
{\displaystyle X}
위의, 아벨 군 값을 가진 층과 층 사상들의 범주를
Sh
(
X
)
{\displaystyle \operatorname {Sh} (X)}
라고 하자. 그렇다면 다음과 같은 함자 들이 존재한다.
직상 (直像, 영어 : direct image )
f
∗
:
Sh
(
X
)
→
Sh
(
Y
)
{\displaystyle f_{*}\colon \operatorname {Sh} (X)\to \operatorname {Sh} (Y)}
역상 (逆像, 영어 : inverse image )
f
∗
:
Sh
(
Y
)
→
Sh
(
X
)
{\displaystyle f^{*}\colon \operatorname {Sh} (Y)\to \operatorname {Sh} (X)}
콤팩트 지지 직상 (영어 : direct image with compact support )
f
!
:
Sh
(
X
)
→
Sh
(
Y
)
{\displaystyle f_{!}\colon \operatorname {Sh} (X)\to \operatorname {Sh} (Y)}
예외 역상 (영어 : exceptional inverse image )
R
f
!
:
D
Sh
(
X
)
→
D
Sh
(
Y
)
{\displaystyle Rf^{!}\colon D\operatorname {Sh} (X)\to D\operatorname {Sh} (Y)}
이들은 서로 수반 함자 이다. 여기서
D
{\displaystyle D}
는 유도 범주 ,
R
{\displaystyle R}
은 오른쪽 유도 함자 를 나타낸다.
f
∗
⇆
f
∗
{\displaystyle f^{*}\leftrightarrows f_{*}}
는 각각 왼쪽·오른쪽 수반 함자 이다.
R
f
!
⇆
R
f
!
{\displaystyle \operatorname {R} f_{!}\leftrightarrows \operatorname {R} f^{!}}
는 각각 왼쪽·오른쪽 수반 함자 이다.
직상 함자
f
∗
{\displaystyle f_{*}}
는 다음과 같다.
F
∈
Sh
(
X
)
{\displaystyle F\in \operatorname {Sh} (X)}
이라면, 열린집합
V
⊂
Y
{\displaystyle V\subset Y}
에 대하여
f
∗
F
(
V
)
=
F
(
f
−
1
(
V
)
)
{\displaystyle f_{*}F(V)=F(f^{-1}(V))}
이다. 역상 함자
f
∗
{\displaystyle f^{*}}
는 다음과 같다.
G
∈
Sh
(
Y
)
{\displaystyle G\in \operatorname {Sh} (Y)}
라면,
X
{\displaystyle X}
위에 다음과 같은 준층을 정의할 수 있다.
U
⊂
X
{\displaystyle U\subset X}
에 대하여,
U
↦
lim
→
V
⊇
f
(
U
)
G
(
V
)
{\displaystyle U\mapsto \varinjlim _{V\supseteq f(U)}G(V)}
여기서
lim
→
{\displaystyle \varinjlim }
은 귀납적 극한 이다. 이 준층에 층화 (영어 : sheafification )를 가한 층을 역상 함자
f
∗
{\displaystyle f^{*}}
라고 한다.
콤팩트 지지 직상
f
!
F
{\displaystyle f_{!}{\mathcal {F}}}
은 다음과 같이 정의된다. 모든 열린집합
U
⊆
Y
{\displaystyle U\subseteq Y}
에 대하여,
f
!
F
(
U
)
=
{
s
∈
F
(
f
−
1
(
U
)
)
:
f
|
supp
s
is proper
}
{\displaystyle f_{!}{\mathcal {F}}(U)=\{s\in {\mathcal {F}}(f^{-1}(U))\colon f|_{\operatorname {supp} s}{\text{ is proper}}\}}
여기서
f
|
supp
s
is proper
{\displaystyle f|_{\operatorname {supp} s}{\text{ is proper}}}
라는 것은
f
:
:
supp
s
→
U
{\displaystyle f\colon \colon \operatorname {supp} s\to U}
가 고유 함수 임을 뜻한다. 콤팩트 지지 직상은 직상의 부분 함자 이며, 만약
f
{\displaystyle f}
가 고유 함수 라면 콤팩트 지지 직상과 직상은 일치한다.
콤팩트 지지 직상 함자
f
!
:
Sh
(
X
)
→
Sh
(
Y
)
{\displaystyle f_{!}\colon \operatorname {Sh} (X)\to \operatorname {Sh} (Y)}
는 왼쪽 완전 함자 이며, 그 오른쪽 전유도 함자(영어 : right total derived functor )
R
f
!
:
D
(
Sh
(
X
)
)
→
D
(
Sh
(
Y
)
)
{\displaystyle \operatorname {R} f_{!}\colon \operatorname {D} (\operatorname {Sh} (X))\to \operatorname {D} (\operatorname {Sh} (Y))}
를 취할 수 있다. 여기서
D
(
−
)
{\displaystyle \operatorname {D} (-)}
는 유도 범주 를 뜻한다.
이 함자는 오른쪽 수반 함자 를 가지며, 이를 예외 역상 (영어 : exceptional inverse image )
R
f
!
:
D
(
Sh
(
Y
)
)
→
D
(
Sh
(
X
)
)
{\displaystyle \operatorname {R} f^{!}\colon \operatorname {D} (\operatorname {Sh} (Y))\to \operatorname {D} (\operatorname {Sh} (X))}
이라고 한다. 표기와 달리, 예외 역상 함자를 오른쪽 전유도 함자로 하는 함자
f
!
:
Sh
(
Y
)
→
Sh
(
X
)
{\displaystyle f^{!}\colon \operatorname {Sh} (Y)\to \operatorname {Sh} (X)}
는 일반적으로 존재하지 않는다.
임의의
U
∈
X
{\displaystyle U\in {\mathcal {X}}}
에 대하여, 단면 함자
Γ
(
U
,
−
)
:
Sh
(
X
)
→
Set
{\displaystyle \Gamma (U,-)\colon \operatorname {Sh} ({\mathcal {X}})\to \operatorname {Set} }
는 동형 사상 과 단사 사상 을 보존하지만, 전사 사상 은 일반적으로 보존하지 않는다. 만약 어떤 아벨 범주
A
{\displaystyle {\mathcal {A}}}
에 값을 가진 층의 경우,
Γ
(
U
,
−
)
:
Sh
(
X
;
A
)
→
A
{\displaystyle \Gamma (U,-)\colon \operatorname {Sh} ({\mathcal {X}};{\mathcal {A}})\to {\mathcal {A}}}
는 왼쪽 완전 함자 이며, 따라서 이 함자의 오른쪽 유도 함자 를 정의할 수 있다. 이 함자들을 층 코호몰로지 라고 한다. 층들의 완전열 에 대응하여 층 코호몰로지 군들의 긴 완전열 이 존재한다.
아주 많은 예들이 있다.
위상 공간
X
{\displaystyle X}
의 각 열린집합
U
⊂
X
{\displaystyle U\subset X}
에 대하여
C
(
U
)
{\displaystyle {\mathcal {C}}(U)}
를 실수 연속 함수 의 집합이라고 하자. 그렇다면
C
{\displaystyle {\mathcal {C}}}
는
Open
(
X
)
{\displaystyle \operatorname {Open} (X)}
위에 층을 이룬다. 이 경우, 값을 가지는 범주는 집합 의 범주
Set
{\displaystyle \operatorname {Set} }
, 아벨 군 의 범주
Ab
{\displaystyle \operatorname {Ab} }
, 또는 실수 벡터 공간 의 범주
R
-
V
e
c
t
{\displaystyle \operatorname {\mathbb {R} -Vect} }
일 수 있다.
매끄러운 다양체
M
{\displaystyle M}
위에 층
C
∞
{\displaystyle {\mathcal {C}}^{\infty }}
를 다음과 같의 정의하자. 열린 부분집합
U
∈
Open
(
M
)
{\displaystyle U\in \operatorname {Open} (M)}
에 대해
C
∞
(
U
)
{\displaystyle {\mathcal {C}}^{\infty }(U)}
는 모든 실수값 매끄러운 함수 들의 집합이다. 이는 아벨 군 또는 실수 벡터 공간 값을 갖는 층을 이룬다.
C
∞
∈
Sh
(
M
,
Ab
)
{\displaystyle {\mathcal {C}}^{\infty }\in \operatorname {Sh} (M,\operatorname {Ab} )}
C
∞
∈
Sh
(
M
,
R
-Vect
)
{\displaystyle {\mathcal {C}}^{\infty }\in \operatorname {Sh} (M,\mathbb {R} {\text{-Vect}})}
위상 공간
E
,
X
{\displaystyle E,X}
사이의 연속 함수
π
:
E
→
X
{\displaystyle \pi \colon E\to X}
가 주어졌다고 하자. (예를 들어,
E
{\displaystyle E}
는
X
{\displaystyle X}
위의 올다발 일 수 있다.) 그렇다면 층
F
{\displaystyle {\mathcal {F}}}
를 다음과 같이 정의하자.
F
(
U
)
=
{
f
∈
C
(
U
,
E
)
|
π
∘
f
=
id
U
}
{\displaystyle {\mathcal {F}}(U)=\{f\in {\mathcal {C}}(U,E)|\pi \circ f=\operatorname {id} _{U}\}}
이러한
f
{\displaystyle f}
를
π
{\displaystyle \pi }
의 단면 이라고 한다.
F
{\displaystyle {\mathcal {F}}}
는 (아벨 군 또는 실수 벡터 공간 값을 갖는) 층이며,
F
{\displaystyle {\mathcal {F}}}
의 에탈레 공간 은
E
{\displaystyle E}
이다.
국소 콤팩트 하지만 콤팩트 하지 않은 공간
X
{\displaystyle X}
위에, 유계 연속 함수 들의 준층
C
bounded
{\displaystyle {\mathcal {C}}_{\text{bounded}}}
을 생각하자. 이는 준층을 이루지만, 일반적으로 층을 이루지 못한다. 예를 들어,
X
{\displaystyle X}
위의 비유계 연속 함수
f
:
X
→
R
{\displaystyle f\colon X\to \mathbb {R} }
를 생각하자.
X
{\displaystyle X}
에, 폐포가 모두 콤팩트한 열린 덮개
{
U
α
}
{\displaystyle \{U_{\alpha }\}}
를 잡으면,
f
|
U
α
{\displaystyle f|_{U_{\alpha }}}
는 (콤팩트 공간
U
¯
α
{\displaystyle {\bar {U}}_{\alpha }}
위의 연속 함수 이므로) 유계 함수 이지만, 이들을 이어붙인 함수
f
{\displaystyle f}
는 유계함수가 아니다.
층 이론이 정확히 언제, 누구에 의하여 제창되었는지는 말하기 쉽지 않지만, 해석적 연속 의 개념의 발달과 더불어서 같이 발달된 것으로 생각된다. 아무튼, 코호몰로지 이론의 기초로부터 독자적인 이론으로 발달되는 데에는 대략 15년 가량의 시간이 걸렸다.
층 이론은 대수적 위상수학 에서, 코호몰로지 의 개념을 일반화하기 위하여 정의되었다. 고전적으로 이는 베티 수 로서 여겨졌으나, 대수적 위상수학의 여러 정의를 하기 위해서는 이를 아벨 군 으로 대체하여야 한다는 것이 밝혀졌다.
1932년에 에두아르트 체흐 는 체흐 코호몰로지 의 개념을 정의하였고, 1936년에는 열린 덮개 의 신경 (nerve)을 정의하였다. 이것은 열린 덮개 에 어떤 단체 복합체 를 대응시킨 것이다. 체흐의 정의는 이전의 정의들보다 더 추상적이다.
체흐와 제임스 워델 알렉산더 , 안드레이 콜모고로프 의 업적을 바탕으로, 1938년에 해슬러 휘트니 는 공사슬 복합체 를 사용하여 코호몰로지 를 최초로 현대적으로 정의하였다.
이 코호몰로지 이론들은 (현대적인 용어로는) 상수층 을 계수로 하고 있었다. 1943년에 노먼 스틴로드 는 이를 일반화하여, 위치마다 계수가 바뀔 수 있는, 즉 국소 계수를 가지는 호몰로지 에 대한 이론을 발표하였다.
1945년에 장 르레 는 제2차 세계 대전 에서 포로 상태에 최초로 훗날 층 이론과 스펙트럼 열 의 최초의 등장으로 여겨지게 되는 논문을 출판하였다. 이후 프랑스의 수학자들은 층 이론의 유용함을 곧 알아차렸다. 1947년 앙리 카르탕 이 앙드레 베유 에게 보낸 편지에서, 층 이론을 이용한 새로운 드람 정리 의 증명 방법을 공개하였다.
르레는 열린집합 대신에 닫힌 집합들을 이용하여 층을 정의하였는데, 이는 차후 카라파스 (프랑스어 : carapace )로 불리게 된다. 이 정의는 1948년 카르탕 세미나 (Cartan seminar)에서 최초로 체계화되었다.
1950년 카르탕 세미나에서는 층 이론이 카라파스 대신 에탈레 공간 을 사용하여 재정의되었다. 이 세미나에서는 줄기 및 지지집합 을 가진 코호몰로지가 최초로 등장하였다. 또한, 연속 함수 의 스펙트럼 열 이 정의되었다.
층 이론은 대수적 위상수학과 독립적으로, 다변수 복소해석학 에서 또한 시초를 찾을 수 있다. 1950년에 오카 기요시 는 다변수 복소해석학 에서 아이디얼 들의 층을 정의하였다. 이후 1951년에는 오카의 업적을 바탕으로, 카르탕 세미나에서 다변수 복소해석학의 카르탕 정리 가 증명되었다.
곧 1953년 앙리 카르탕 과 장피에르 세르 는 벡터 다발 을 일반화한 연접층 을 도입하였고, 해석적 연접층 의 층 코호몰로지 의 유한성 정리를 증명하였다. 또한 세르는 세르 쌍대성 을 증명하였다. 1954년에 세르는 유명한 논문 〈대수적 연접층 〉[ 1] 에서 대수기하학에서 쓸 수 있는 층 이론을 처음으로 소개하였다. 이 논문에서의 아이디어는 프리드리히 히르체브루흐 에 의해서 사용되어 더욱 발달된 후 차후 1956년에 〈대수기하학에서의 위상수학적 방법〉이라는 제목으로 출판되었고, 또한 1956년 오스카 자리스키 가 대수적 층 이론에 대한 논문을 발표하였다.[ 2]
또한, 1958년 경 도입된 사토 미키오 의 초함수 (hyperfunction) 또한 자연스럽게 층 이론을 통해 정의할 수 있다는 것이 밝혀졌다.
알렉산더 그로텐디크 는 범주론 및 호몰로지 대수학 적인 기법으로, 층의 개념을 매우 일반적이고 추상적인 방법으로 재정의하였다. 1955년 캔자스 대학교 에서의 강의에서 그로텐디크는 아벨 범주 와 준층의 개념을 정의하였고, 단사 분해 (injective resolution)의 개념을 도입하였다. 이로서, 임의의 위상 공간 위에서 층 코호몰로지 군은 유도 함자 및 단사층 의 개념을 통해 자연스럽게 정의할 수 있게 되었다.
1957년에 그로텐디크는 유명한 도호쿠 대학 수학 저널 논문에서 호몰로지 대수학 의 기초를 새롭게 썼다. 그로텐디크는 또한 그로텐디크 쌍대성 (Grothendieck duality , 특이점 을 가진 대수다양체 에도 적용될 수 있는 세르 쌍대성 의 일반화)를 증명하였다.
1958년에 로제 고드망 의 표준적인 층 이론 교재[ 3] 가 출판되면서, 층 이론은 현대 수학의 주류 언어의 일부가 되었고, 더 이상 대수적 위상수학 에서뿐만이 아니라 대부분의 수학 분야에서 쓰이게 되었다.
층들의 범주를 토포스 라고 한다. 모든 토포스는 내부적 논리학을 가지며, 이 논리는 고차 직관 논리 의 일종이다. 토포스 이론을 사용하여, 이 논리에 크립키-주아얄 의미론 이라는 의미론을 부여할 수 있음이 알려졌다. 이는 솔 크립키 의 크립키 의미론을 토포스에 대하여 일반화한 것과 같다.
프랑스어 단어 faisceau 는 ‘다발’·‘묶음’을 뜻하는 말이다. 장 르레 는 1946년 프랑스어 단어 faisceau 를 자신의 논문에 썼다.[ 4] 이 단어가 영어 sheaf 로 번역되었다. sheaf 가 이미 있는 용어라서 stack 으로 번역한 수학자도 있었지만[ 5] 결과적으로 널리 쓰이게 되지는 않았다.
‘층(層)’이라는 번역어를 쓰기 시작한 사람은 아키즈키 야스오 (일본어판 ) 이다. 그는 ‘다발(束)’이란 용어는 이미 일본 수학계에서 쓰이고 있으며 ‘층’의 일본어 발음 ソー 가 프랑스어 faisceau 의 마지막 음절과 비슷하기 때문에 ‘층’이라는 단어를 택했다.[ 6]
Swan, R. G. (1964). 《The theory of sheaves》 (영어). University of Chicago Press.
Tennison, B. R. (1975). 《Sheaf theory》. London Mathematical Society Lecture Note (영어) 20 . Cambridge University Press.
Bredon, Glen E. (1997). 《Sheaf theory》. Graduate Texts in Mathematics (영어) 170 2판. Springer. doi :10.1007/978-1-4612-0647-7 . ISBN 978-0-387-94905-5 . ISSN 0072-5285 . MR 1481706 . Zbl 0874.55001 .
Mac Lane, Saunders ; Ieke Moerdijk (1992). 《Sheaves in geometry and logic: a first introduction to topos theory》. Universitext (영어). Springer. doi :10.1007/978-1-4612-0927-0 . ISBN 978-0-387-97710-2 . ISSN 0172-5939 . Zbl 0822.18001 .
Hirzebruch, F. (1995). 《Topological methods in algebraic geometry》. Classics in Mathematics (영어). Springer. ISBN 978-3-540-58663-0 . MR 1335917 .
Kashiwara, M.; Schapira, P. (1990). 《Sheaves on Manifolds》. Grundlehren der Mathematischen Wissenschaften (영어) 292 . Springer. ISBN 978-3-540-51861-7 . MR 1299726 .
Seebach, J. Arthur Jr.; Seebach, Linda A.; Steen, Lynn A. (1970년 8월). “What is a sheaf?” (PDF) . 《The American Mathematical Monthly》 (영어) 77 (7): 681-703. doi :10.2307/2316199 . JSTOR 2316199 . 2015년 9월 24일에 원본 문서 (PDF) 에서 보존된 문서. 2015년 8월 12일에 확인함 .
Dowker, Clifford Hugh (1957). 《Lectures on sheaf theory》 (PDF) . Tata Institute of Fundamental Research Lectures on Mathematics (영어) 6 . 뭄바이 : Tata Institute of Fundamental Research.