optimization 2

Ray tune 를 사용해서 pytorch hyperparameter 최적화하기 (feat. diabetes)

Ray란? 홈페이지에는 아래와 같이 소개하고 있지만, 결국 AI 관련된 Python workload 를 좀더 간편하게 개발 할수 있도록 도와주는 프레임워크이다. Effortlessly scale your most complex workloads Ray is an open-source unified compute framework that makes it easy to scale AI and Python workloads — from reinforcement learning to deep learning to tuning, and model serving. Learn more about Ray’s rich set of libraries and integrations. 대표 기능을 살펴보면 아래와 같다. ..

IT/Machine Learning 2023.06.14

Tail Recursion(꼬리 재귀)란?

재귀함수 사용시 주의점재귀함수를 공부할때 항상 나오는 단점이 "stack memory" 가 많이 필요하다는 말이다.재귀함수란 A함수 안에서 A함수를 다시 부르는건데,A함수가 종료되지 않은 상태에서 A함수를 한번더 부르기 때문에, 종료되지 않은 함수들이 계속해서 stack에 쌓여간다.따라서 재귀호출이 너무 많이되면 stack memory가 overflow 될 수 있다.이렇게 stack memory를 과다사용하는 재귀호출의 문제점을 피하기 위한 방법이 바로 Tail Recursion(꼬리재귀)이다. Tail Recursion(꼬리 재귀)란?아래 예를 보자 (1~n 까지의 합을 구하는 일반적인 재귀함수다)r_sum 이라는 함수 내부에서 자기자신(r_sum)을 호출한다."r + r_sum()" 으로 되어 있기 ..

IT/Programming 2021.01.11
반응형