반응형 TensorFlow2 Tensorflow 와 Keras Tensorflow : tensor연산과 역전파(GradientTape), Tensorflow의 tensor에는 전부 상수 이므로 값 할당이 불가능. tf.variable로 값 할당 Keras : Model, Loss(학습에 사용하는 피드백 신호를 결정), Optimizer(학습 진행방법 결정), evaluate(측정지표), fit(훈련루프) Layer rank2 tensor(samples, features) : 밀집연결층으로 처리하는 경우가 많다(fully connected layer or dense layer) rank3 tensor(samples, time steps, features) : LSTM같은 순환층이나 1D합성곱층(Conv1D) rank4 tenosr(kinda images) : Conv.. 2023. 8. 15. Limit GPU Virtual Memory for Tensorflow | 텐서플로우 GPU 메모리 부족으로 학습중단될 경우 제한방법 인공지능을 학습하다보면 자주 메모리문제를 보게 되는데요. 단순히 사용하는 것만으로 설정할 경우 메모리를 한계치 이상으로 사용하게되거나 메모리할당이 안되거나 하면서 학습이 중지 되는 경우가 있습니다. 따라서 여기서는 메모리의 사용량을 설정하는 방법입니다. When learning AI, we often encounter memory problems. If you simply set GPU and use it, you may end up using more memory than your laptop has, or you may not be able to allocate memory, and learning stops. Therefore, this section explains how to set the me.. 2023. 6. 28. 이전 1 다음 728x90 반응형