@@ -23,7 +23,7 @@ Authors: `Suraj Subramanian <https://github.com/suraj813>`__
23
23
24
24
* ํ์ดํ ์น `๋น๋ถ์ฐ ํ์ต <https://tutorials.pytorch.kr/beginner/basics/quickstart_tutorial.html >`__ ์ ์ต์ํ ๊ฒ
25
25
26
- ์๋์ ์์์ด๋ `์ ํฌ๋ธ ์์ youtube <https://www.youtube.com/watch/Cvdhwx-OBBo>`__์ ๋ฐ๋ผ ์งํํ์ธ์.
26
+ ์๋์ ์์์ด๋ `์ ํฌ๋ธ ์์ youtube <https://www.youtube.com/watch/Cvdhwx-OBBo >`__ ์ ๋ฐ๋ผ ์งํํ์ธ์.
27
27
28
28
.. raw :: html
29
29
@@ -47,20 +47,17 @@ Authors: `Suraj Subramanian <https://github.com/suraj813>`__
47
47
`DP <https://pytorch.org/docs/stable/generated/torch.nn.DataParallel.html >`__ ๋ ๋ฐ์ดํฐ ๋ณ๋ ฌ ์ฒ๋ฆฌ์ ์ด์ ์ ๊ทผ ๋ฐฉ์์
๋๋ค.
48
48
DP ๋ ๊ฐ๋จํ์ง๋ง, (ํ ์ค๋ง ์ถ๊ฐํ๋ฉด ๋จ) ์ฑ๋ฅ์ ํจ์ฌ ๋จ์ด์ง๋๋ค. DDP๋ ์๋์ ๊ฐ์ ๋ฐฉ์์ผ๋ก ์ํคํ
์ฒ๋ฅผ ๊ฐ์ ํฉ๋๋ค.
49
49
50
- +-------------------------------------+------------------------------+
51
- | ``DataParallel `` | ``DistributedDataParallel `` |
52
- +=====================================+==============================+
53
- | ์์
๋ถํ๊ฐ ํผ; ์ ํ๋ ๋๋ง๋ค | ๋ชจ๋ธ์ด ํ ๋ฒ๋ง ๋ณต์ ๋จ |
54
- | ๋ชจ๋ธ์ด ๋ณต์ ๋ฐ ์ญ์ ๋จ | |
55
- +-------------------------------------+------------------------------+
56
- | ๋จ์ผ ๋
ธ๋ ๋ณ๋ ฌ ์ฒ๋ฆฌ๋ง ๊ฐ๋ฅ | ์ฌ๋ฌ ๋จธ์ ์ผ๋ก ํ์ฅ ๊ฐ๋ฅ |
57
- | | |
58
- +-------------------------------------+------------------------------+
59
- | ๋๋ฆผ; ๋จ์ผ ํ๋ก์ธ์ค์์ ๋ฉํฐ ์ค๋ ๋ฉ | ๋น ๋ฆ (no GIL contention) |
60
- | (multithreading)์ ์ฌ์ฉํ๊ธฐ ๋๋ฌธ์ | ๋ฉํฐ ํ๋ก์ธ์ฑ์ ์ฌ์ฉํ๊ธฐ ๋๋ฌธ์ GIL |
61
- | Global Interpreter Lock (GIL) | ์ถฉ๋ ์์ |
62
- | ์ถฉ๋์ด ๋ฐ์ | |
63
- +-------------------------------------+------------------------------+
50
+ .. list-table ::
51
+ :header-rows: 1
52
+
53
+ * - ``DataParallel ``
54
+ - ``DistributedDataParallel ``
55
+ * - ์์
๋ถํ๊ฐ ํผ; ์ ํ๋ ๋๋ง๋ค ๋ชจ๋ธ์ด ๋ณต์ ๋ฐ ์ญ์ ๋จ
56
+ - ๋ชจ๋ธ์ด ํ ๋ฒ๋ง ๋ณต์ ๋จ
57
+ * - ๋จ์ผ ๋
ธ๋ ๋ณ๋ ฌ ์ฒ๋ฆฌ๋ง ๊ฐ๋ฅ
58
+ - ์ฌ๋ฌ ๋จธ์ ์ผ๋ก ํ์ฅ ๊ฐ๋ฅ
59
+ * - ๋๋ฆผ; ๋จ์ผ ํ๋ก์ธ์ค์์ ๋ฉํฐ ์ค๋ ๋ฉ์ ์ฌ์ฉํ๊ธฐ ๋๋ฌธ์ Global Interpreter Lock (GIL) ์ถฉ๋์ด ๋ฐ์
60
+ - ๋น ๋ฆ; ๋ฉํฐ ํ๋ก์ธ์ฑ์ ์ฌ์ฉํ๊ธฐ ๋๋ฌธ์ GIL ์ถฉ๋ ์์
64
61
65
62
66
63
์ฝ์๊ฑฐ๋ฆฌ
0 commit comments