@@ -23,7 +23,7 @@ Authors: `Suraj Subramanian <https://github.com/suraj813>`__
23
23
24
24
* νμ΄ν μΉ `λΉλΆμ° νμ΅ <https://tutorials.pytorch.kr/beginner/basics/quickstart_tutorial.html >`__ μ μ΅μν κ²
25
25
26
- μλμ μμμ΄λ `μ ν¬λΈ μμ youtube <https://www.youtube.com/watch/Cvdhwx-OBBo >`__ μ λ°λΌ μ§ννμΈμ.
26
+ μλμ μμμ΄λ `μ νλΈ μμ youtube <https://www.youtube.com/watch/Cvdhwx-OBBo >`__ μ λ°λΌ μ§ννμΈμ.
27
27
28
28
.. raw :: html
29
29
@@ -36,7 +36,7 @@ Authors: `Suraj Subramanian <https://github.com/suraj813>`__
36
36
μ¬λ¬ κ°μ λλ°μ΄μ€μμ μ¬λ¬ λ°μ΄ν° λ°°μΉλ€μ λμμ μ²λ¦¬νλ λ°©λ²μ
λλ€.
37
37
νμ΄ν μΉμμ, `λΆμ° μνλ¬ <https://pytorch.org/docs/stable/data.html#torch.utils.data.distributed.DistributedSampler >`__ λ
38
38
κ° λλ°μ΄μ€κ° μλ‘ λ€λ₯Έ μ
λ ₯ λ°°μΉλ₯Ό λ°λ κ²μ 보μ₯ν©λλ€.
39
- λͺ¨λΈμ λͺ¨λ λλ°μ΄μ€μ 볡μ λλ©°, κ° μ¬λ³Έμ λ³νλλ₯Ό κ³μ°νλ λμμ `λ§ μ¬-리λμ€
39
+ λͺ¨λΈμ λͺ¨λ λλ°μ΄μ€μ 볡μ λλ©°, κ° μ¬λ³Έμ κΈ°μΈκΈ°λ₯Ό κ³μ°νλ λμμ `λ§ μ¬-리λμ€
40
40
μκ³ λ¦¬μ¦ <https://tech.preferred.jp/en/blog/technologies-behind-distributed-deep-learning-allreduce/> `__ μ μ¬μ©ν΄ λ€λ₯Έ μ¬λ³Έκ³Ό λκΈ°νλ©λλ€.
41
41
42
42
`μμ νν λ¦¬μΌ <https://tutorials.pytorch.kr/intermediate/dist_tuto.html# >`__ μμ DDP λ©μ»€λμ¦μ λν΄ νμ΄μ¬ κ΄μ μμ μ¬λ μλ μ€λͺ
μ λ³Ό μ μμ΅λλ€.
@@ -56,8 +56,8 @@ DP λ κ°λ¨νμ§λ§, (ν μ€λ§ μΆκ°νλ©΄ λ¨) μ±λ₯μ ν¨μ¬ λ¨μ΄μ§
56
56
- λͺ¨λΈμ΄ ν λ²λ§ 볡μ λ¨
57
57
* - λ¨μΌ λ
Έλ λ³λ ¬ μ²λ¦¬λ§ κ°λ₯
58
58
- μ¬λ¬ λ¨Έμ μΌλ‘ νμ₯ κ°λ₯
59
- * - λλ¦Ό; λ¨μΌ νλ‘μΈμ€μμ λ©ν° μ€λ λ©μ μ¬μ©νκΈ° λλ¬Έμ Global Interpreter Lock (GIL) μΆ©λμ΄ λ°μ
60
- - λΉ λ¦; λ©ν° νλ‘μΈμ±μ μ¬μ©νκΈ° λλ¬Έμ GIL μΆ©λ μμ
59
+ * - λλ¦Ό. λ¨μΌ νλ‘μΈμ€μμ λ©ν° μ€λ λ©μ μ¬μ©νκΈ° λλ¬Έμ Global Interpreter Lock (GIL) μΆ©λμ΄ λ°μ
60
+ - λΉ λ¦. λ©ν° νλ‘μΈμ±μ μ¬μ©νκΈ° λλ¬Έμ GIL μΆ©λ μμ
61
61
62
62
63
63
μ½μ거리
0 commit comments