수학의 즐거움 유튜브 채널에서 24년에 진행 되는 기계학습-최적화-확률론 스터디의 맴버십 슬랙 기록을 백업해두는 것입니다.

NKH
안녕하세요. 만나서 반갑습니다. 저는 3월부터 새로운 스터디를 진행하게 된 NKH입니다.본 스터디의 주제는 'Random process and Stochastic Optimization'입니다.
랜덤 프로세스는 매주 제가 공부한 내용을 바탕으로 강의를 진행하되, 그때그때 참여자분들과의 디스커션을 통해 다음 진행 방향이나 주제를 유동성 있게 조절해나갈 것이며, 따로 끝나는 기간을 설정하지 않을 겁니다.
개인적으로 랜덤프로세스의 기초부터 심화까지 본 스터디에서 다루어질 수 있길 바라는 욕심이 있습니다.확률적 최적화는 수리적 최적화 (Operation research) 의 한 분야로서 흔히 확률적 탐색, 확률적 프로그래밍, 확률적 최적제어 등등을 아우르는 상당히 넓은 용어입니다.
본 스터디에서 다루어질 확률적 최적화는 모델 파라미터를 학습할 때 존재하는 불확실성 (e.g., Data sampling) 을 고려해서 순차적인 의사결정을 적용하는 인공지능 알고리즘을 의미합니다.
현대 딥러닝에서는 알고리즘 구현의 단순성과 시간/비용 효율성이 중요한 문제이기에 1차 미분 정보를 활용한 경사하강법 (Gradient descent)와 같은 알고리즘이 대표로 자리잡게 되었습니다.본 스터디에서는 '월 1회' (또는 필요에 의해 월 2회) 현재 확률적 최적화 세부 연구 주제에 대한 흐름을 공유하고 의견을 나누는 세미나 시간을 마련하였습니다.
단순히 책을 보고 그것을 공부하며 진행하는 강의 방식보다 중요한 연구 주제들에 대하여 그 흐름이 어떻게 흘러왔고 어디까지 진행되었으며 앞으로 무엇을 더 해나가야 하는지 등을 공유하는 세미나 형태의 진행 방식을 채택하였습니다.
이야기를 나눠볼 주제들에 대해서는 첨부파일을 확인하시기 바랍니다.3월 5일 (화) 22시, OT를 진행합니다. 많은 분들의 관심 및 참여 바랍니다.

CGH
https://arxiv.org/abs/2107.04...