![김성범[ 교수 / 산업경영공학부 ]](/img/default-banner.jpg)
- 257
- 1 696 159
김성범[ 교수 / 산업경영공학부 ]
South Korea
Registrace 27. 11. 2018
[Open DMQA Seminar] Super resolution with diffusion models
Super-resolution(이하 SR)은 저해상도 이미지로부터 고해상도 이미지를 복원하는 것을 목표로 한다. 초기 SR 접근법들은 bicubic이나 알려진 매개변수를 가진 blurring 등 미리 정의된 degradation 과정을 가정했다. 하지만 이러한 방법들은 제한된 일반화 능력으로 인해 실제 세계에서는 성능이 크게 저하된다. 따라서 최근에는 다양한 방식들, 특히 GAN 기반의 SR모델들이 다수 등장하였는데 본 세미나에서는 diffusion model 기반의 SR 모델들에 대해 소개하고자 한다. 먼저 SR3의 경우 최초로 diffusion model을 SR 작업에 도입한 논문으로, diffusion model의 기본이 되는 DDPM을 그대로 SR에 도입하였다. SR3+의 경우 SR3 모델에서 실제 세계의 다양성을 더 잘 반영하기 위하여 blind SR 개념을 도입한 연구이다. 마지막으로 Stable SR은 stable diffusion model의 prior knowledge를 가지고 SR을 수행한다. 이와 같은 방법론들을 통해서 diffusion model을 기반으로 하는 SR 모델 발전의 흐름을 알아본다.
[1] Saharia, C., Ho, J., Chan, W., Salimans, T., Fleet, D. J., & Norouzi, M. (2022). Image super-resolution via iterative refinement. IEEE transactions on pattern analysis and machine intelligence, 45(4), 4713-4726.
[2] Sahak, H., Watson, D., Saharia, C., & Fleet, D. (2023). Denoising diffusion probabilistic models for robust image super-resolution in the wild. arXiv preprint arXiv:2302.07864.
[3] Wang, J., Yue, Z., Zhou, S., Chan, K. C., & Loy, C. C. (2023). Exploiting diffusion prior for real-world image super-resolution. arXiv preprint arXiv:2305.07015.
[1] Saharia, C., Ho, J., Chan, W., Salimans, T., Fleet, D. J., & Norouzi, M. (2022). Image super-resolution via iterative refinement. IEEE transactions on pattern analysis and machine intelligence, 45(4), 4713-4726.
[2] Sahak, H., Watson, D., Saharia, C., & Fleet, D. (2023). Denoising diffusion probabilistic models for robust image super-resolution in the wild. arXiv preprint arXiv:2302.07864.
[3] Wang, J., Yue, Z., Zhou, S., Chan, K. C., & Loy, C. C. (2023). Exploiting diffusion prior for real-world image super-resolution. arXiv preprint arXiv:2305.07015.
zhlédnutí: 290
Video
![[Open DMQA Seminar] Multimodal Representation Learning](http://i.ytimg.com/vi/kYiLOJg783M/mqdefault.jpg)
![[Open DMQA Seminar] Multimodal Representation Learning](/img/tr.png)
[Open DMQA Seminar] Multimodal Representation Learning
zhlédnutí 371Před dnem
Multimodal learning은 이미지, 텍스트, 음성 등 서로 다른 유형의 데이터(modality)를 통합하여 보다 포괄적인 정보를 얻는 Deep learning 접근 방식이다. 이번 세미나에서는 이러한 Multimodal learning 중에서도 Representation learning의 최신 연구 동향을 소개하고자 한다. 첫 번째 논문은 Multimodal 데이터에 대해 Representation learning을 효과적으로 하기위해 Step correlation을 추가한 CorrMCNN을 제안하고, 두 번째 논문은 단계별 Multimodal 데이터에서 시간적 구조를 고려한 Representation Learning을 하는 새로운 방법론인 CorrRNN을 소개한다. 마지막으로, Maskin...
![[Open DMQA Seminar] AI in Semiconductor Manufacturing](http://i.ytimg.com/vi/8WI7rRbvdmw/mqdefault.jpg)
[Open DMQA Seminar] AI in Semiconductor Manufacturing
zhlédnutí 1,1KPřed 14 dny
최근 학계와 빅테크기업을 중심으로 인공지능 기술의 급격한 성장과 혁신이 빠르게 진행되고 있다. 이와 함께 다양한 산업에서는 그 다음 단계로써, 인공지능의 활용 방안에 대해 집중하고 있다. 제조업 분야에서도 역시 다양한 방식으로 인공지능 도입을 시도하고 있다. 이번 세미나에서는 대표적인 제조업인 반도체 산업 분야에서 최근 연구되고 발표된 논문들을 통해, 인공지능을 어떤 분야에 적용하고 있는지 알아보고자 한다. 참고자료: [1] Plathottam, S. J., Rzonca, A., Lakhnori, R., & Iloeje, C. O. (2023). A review of artificial intelligence applications in manufacturing operations. Journal of...
![[Open DMQA Seminar] Practical Applications of Neural Combinatorial Optimization](http://i.ytimg.com/vi/2GpJwzUB-mU/mqdefault.jpg)
[Open DMQA Seminar] Practical Applications of Neural Combinatorial Optimization
zhlédnutí 384Před 14 dny
조합 최적화 문제는 NP-Hard 문제로, 완전한 해를 탐색하기가 불가능하거나 매우 어려운 문제이다. 이러한 문제는 이론적인 문제 해결뿐만 아니라, 생산 설비 최적화, 컴퓨팅 자원 할당 최적화, 물류 운송 경로 최적화 등 다양한 실세계 문제를 모델링하는 데 사용된다. 조합 최적화 문제를 해결하기 위해 여러 알고리즘이 연구되어 왔으며, 최근에는 딥러닝의 발전으로 이를 적용하려는 시도가 이루어지고 있다. 이번 세미나에서는 대표적인 딥러닝 기반 조합 최적화 문제 해결 방법인 Pointer Network를 살펴본 후, 두 가지 실세계 조합 최적화 문제 해결 연구를 살펴 볼 것이다. 먼저 길찾기 문제에서 A* Search 알고리즘에 딥러닝을 접목한 Neural A* Search와, 반도체 제조 클러스터 장비의 ...
![[Open DMQA Seminar] Neural Combinatorial Optimization](http://i.ytimg.com/vi/50Lwz4K4sr0/mqdefault.jpg)
[Open DMQA Seminar] Neural Combinatorial Optimization
zhlédnutí 769Před měsícem
조합 최적화 문제는 NP-Hard 문제로, 완전한 해를 탐색하기가 불가능하거나 매우 어려운 문제이다. 이러한 문제는 이론적인 문제 해결뿐만 아니라, 생산 설비 최적화, 컴퓨팅 자원 할당 최적화, 물류 운송 경로 최적화 등 다양한 실세계 문제를 모델링하는 데 사용된다. 조합 최적화 문제를 해결하기 위해 여러 알고리즘이 연구되어 왔으며, 최근에는 딥러닝의 발전으로 이를 적용하려는 시도가 이루어지고 있다. 이번 세미나에서는 대표적인 딥러닝 기반 조합 최적화 문제 해결 방법인 Pointer Network를 살펴본 후, 두 가지 실세계 조합 최적화 문제 해결 연구를 살펴 볼 것이다. 먼저 길찾기 문제에서 A* Search 알고리즘에 딥러닝을 접목한 Neural A* Search와, 반도체 제조 클러스터 장비의 ...
![[Open DMQA Seminar] Class Mismatch in Domain Adaptation](http://i.ytimg.com/vi/4MJYDs64PkE/mqdefault.jpg)
[Open DMQA Seminar] Class Mismatch in Domain Adaptation
zhlédnutí 464Před 2 měsíci
최근 인공지능 분야에서는 도메인 적응(Domain Adaptation, DA) 기술을 통해 모델의 일반화 성능을 극대화하려는 노력이 활발히 진행되고 있다. 특히, Class mismatch 문제는 도메인 적응의 중요한 도전 과제 중 하나로 떠오르고 있다. 여기서 Class mismatch란 소스 도메인(Source domain)과 타겟 도메인(Target domain) 간에 레이블 불일치가 발생하는 상황을 의미한다. 이를 효과적으로 다루기 위해 Partial Domain Adaptation (PDA), Open-set Domain Adaptation (OSDA), 그리고 Universal Domain Adaptation (UDA)와 같은 다양한 접근법이 제안되고 있다. 이번 세미나에서는 Class Mi...
![[핵심 머신러닝] Self-supervised Learning - Part 6 (Information Maximization Methods)](http://i.ytimg.com/vi/OJpFCVLZ870/mqdefault.jpg)
[핵심 머신러닝] Self-supervised Learning - Part 6 (Information Maximization Methods)
zhlédnutí 1,7KPřed 2 měsíci
[핵심 머신러닝] Self-supervised Learning - Part 6 (Information Maximization Methods)
![[핵심 머신러닝] Self-supervised Learning - Part 5 (Clustering-Based Methods)](http://i.ytimg.com/vi/8-agJqewu7M/mqdefault.jpg)
[핵심 머신러닝] Self-supervised Learning - Part 5 (Clustering-Based Methods)
zhlédnutí 403Před 2 měsíci
[핵심 머신러닝] Self-supervised Learning - Part 5 (Clustering-Based Methods)
![[핵심 머신러닝] Self-supervised Learning - Part 4 (BYOL, SimSiam)](/img/n.gif)
[핵심 머신러닝] Self-supervised Learning - Part 4 (BYOL, SimSiam)
zhlédnutí 542Před 2 měsíci
[핵심 머신러닝] Self-supervised Learning - Part 4 (BYOL, SimSiam)
[핵심 머신러닝] Self-supervised Learning - Part 3 (False Negatives, Supervised Contrast Learning)
zhlédnutí 449Před 2 měsíci
[핵심 머신러닝] Self-supervised Learning - Part 3 (False Negatives, Supervised Contrast Learning)
[핵심 머신러닝] Self-supervised Learning - Part 2 (NPID, PIRL, MOCO, SimCLR)
zhlédnutí 694Před 2 měsíci
[핵심 머신러닝] Self-supervised Learning - Part 2 (NPID, PIRL, MOCO, SimCLR)
[핵심 머신러닝] Self-supervised Learning - Part 1 (Introduction, Pretext Methods)
zhlédnutí 1,1KPřed 2 měsíci
[핵심 머신러닝] Self-supervised Learning - Part 1 (Introduction, Pretext Methods)
[Open DMQA Seminar] Machine Learning for Combinatorial Optimization
zhlédnutí 660Před 2 měsíci
조합 최적화 문제는 현실의 문제를 그대로 수리적으로 모델링하고, 최적의 solution을 도출할 수 있다는 점에서 그 유용성이 매우 큰 분야로, 오랜 기간 연구가 이루어지고 있다. 하지만, 대부분의 조합 최적화 문제는 NP-Hard 문제로, 합리적인 시간 내에 최적해를 도출할 수 없다는 한계점이 있다. 이에 따라 최적해에 준할 정도로 좋은 해를 합리적인 시간 내에 얻어내고자 하는 대안 방법론들인 휴리스틱 알고리즘들이 활발하게 연구되고 있다. 하지만 사람이 직접 만드는 hand-crafted heuristics는 그 설계에 있어 깊은 도메인 지식이 필요하거나, 문제의 세부 조건 변화에 따라 그 성능이 크게 변화하는 등의 한계점을 갖는다. 이에 최근에는 조합 최적화 문제에 머신러닝 기반 휴리스틱으로 접근하...
[Open DMQA Seminar] Image Denoising
zhlédnutí 793Před 2 měsíci
최근 이미지 미세 분석과 정확한 계측의 중요성이 증가함에 따라 Image Denoising이 각광 받고 있다. 일반적으로 Image Denoising 모델을 학습하기 위해서는 Noisy 이미지와 Clean 이미지 쌍을 필요로 한다. 하지만 동일한 장면에 대해 서로 다르게 촬영된 이미지를 확보하는 것은 현실적으로 어렵다. 특히, 현업에서는 Clean 이미지만 존재하거나 Noisy 이미지만 존재하는 등 데이터가 불충분한 상황이 다수 존재한다. 따라서 본 세미나에서는 이처럼 데이터가 불완전한 상황에서 Image Denoising 모델을 효과적으로 학습할 수 있는 연구 사례들을 소개하고자 한다. 여러 데이터 상황에 따라 대응 가능한 다양한 방법론들을 소개함으로써, Image Denoising 모델 활용에 대한...
[Open DMQA Seminar] Direct Preference Optimization with Diffusion Models
zhlédnutí 589Před 2 měsíci
최근 AI 빅테크들은 막대한 자원을 바탕으로 인공지능 모델, 특히 대형언어모델 (LLM)의 추론 능력을 극한으로 끌어올리고 있다. 이러한 발전에는 LLM의 출력 분포를 인간 선호에 맞게 정렬하는 Reinforcement Learning from Human Feedback (RLHF) 학습 방식이 핵심적인 역할을 했다. RLHF는 인간 선호도 데이터셋을 이용해 강화학습 기반으로 모델을 fine-tuning하는 방식인데, 이렇게 학습함으로써 LLM은 더 유용하고 안전한 답변을 생성할 수 있게 된다. 2023년 5월, 이 RLHF 방식에서 보상 모델 학습 없이 인간 선호도 데이터셋만을 이용해 LLM을 직접 fine-tuning하는 Direct Preference Optimization (DPO)이 등장했다....
[Open DMQA Seminar] Enhancing Prompt Understanding in Text-to-Image Diffusion Model
zhlédnutí 775Před 3 měsíci
[Open DMQA Seminar] Enhancing Prompt Understanding in Text-to-Image Diffusion Model
[Open DMQA Seminar] Model Selection in Domain Generalization
zhlédnutí 939Před 4 měsíci
[Open DMQA Seminar] Model Selection in Domain Generalization
[Open DMQA Seminar] Unsupervised Domain Adaptation in Regression
zhlédnutí 753Před 4 měsíci
[Open DMQA Seminar] Unsupervised Domain Adaptation in Regression
[Open DMQA Seminar] Domain Adaptation
zhlédnutí 1,4KPřed 4 měsíci
[Open DMQA Seminar] Domain Adaptation
[Open DMQA Seminar] What is Next for Tabular Data? - Exploring Advances in Self-Supervised Learning
zhlédnutí 618Před 4 měsíci
[Open DMQA Seminar] What is Next for Tabular Data? - Exploring Advances in Self-Supervised Learning
[Open DMQA Seminar] Two Formulations of Diffusion Models
zhlédnutí 778Před 5 měsíci
[Open DMQA Seminar] Two Formulations of Diffusion Models
[Open DMQA Seminar]Unsupervised Out of Distribution Detection Using Diffusion and Consistency Models
zhlédnutí 610Před 5 měsíci
[Open DMQA Seminar]Unsupervised Out of Distribution Detection Using Diffusion and Consistency Models
[Open DMQA Seminar] Diffusion Models for Time Series
zhlédnutí 1,2KPřed 5 měsíci
[Open DMQA Seminar] Diffusion Models for Time Series
[Open DMQA Seminar] Hybrid Methods for Semi-Supervised Learning Under Class Distribution Mismatch
zhlédnutí 640Před 6 měsíci
[Open DMQA Seminar] Hybrid Methods for Semi-Supervised Learning Under Class Distribution Mismatch
[Open DMQA Seminar] Controllable Diffusion Model
zhlédnutí 772Před 6 měsíci
[Open DMQA Seminar] Controllable Diffusion Model
[Open DMQA Seminar] Diffusion-Based Anomaly Detection
zhlédnutí 1,5KPřed 7 měsíci
[Open DMQA Seminar] Diffusion-Based Anomaly Detection
[핵심 머신러닝] Training, Validation, Testing (학습, 검증, 테스트)
zhlédnutí 6KPřed 7 měsíci
[핵심 머신러닝] Training, Validation, Testing (학습, 검증, 테스트)
[Open DMQA Seminar] RLHF-Preference-based Reinforcement Learning
zhlédnutí 1,5KPřed 7 měsíci
[Open DMQA Seminar] RLHF-Preference-based Reinforcement Learning
[Open DMQA Seminar] Accelerating Diffusion Models - Consistency Models and Hybrid Approach
zhlédnutí 1,5KPřed 8 měsíci
[Open DMQA Seminar] Accelerating Diffusion Models - Consistency Models and Hybrid Approach
[Open DMQA Seminar] Various Generative Models
zhlédnutí 914Před 8 měsíci
[Open DMQA Seminar] Various Generative Models
세미나 잘 들었습니다!!😀
선생님 저 고려대 붙여주세요
실제 해보셨나요? 😂
좋은 정보를 볼 수 있게 해주셔서 정말 감사합니다..
설명을 듣는 사람이 이해하지 못했다면 설명하는 사람도 제대로 알지 못하고 있다는 말이 있습니다. 아마 DDPM 설명하는 사람들 중에서 가장 명료하게 이해하고 계신게 아닐까 싶네요.
안녕하세요 교수님, 이건 딥러닝을 위한 수학(확룰과통계 부분) 영상인가요? 딥러닝 공부를 위한 수학 강좌를 찾는 중이었어서요!
공부하는데에많은 도움이 됩니다 감사합니다 교수님 핵심 논문 정리해주셔서 감사합니다❤
도움이 되었다니 기쁜 마음입니다
안녕하세요 교수님 이번에 이 강의를 들으러고하는데 강의자료가 따로 있을까요?
좋은 세미나 감사합니다. VIME Semi를 보면 k개의 라벨이 predictor를 통해 나오게 되는 것을 보았는데 이것을 y값이 연속적인 값을 갖는 regression 문제에서도 활용할 수 있는 방법이 있을까요?
뼈문과가 푸리에 변환이 뭔지 궁금해서 찾아본 영상인데 세세한 설명/수식 덕분에 푸리에 변환의 기본 개념을 확실히 알 수 있었네요 ㅎ
깔끔하고 직관적이네요 감4합니다!
39:40 에서 체인룰로 계산해서 소거시키지 않고 곱하는 이유가 궁금합니다.
타학교 학생이지만 도움 많이 받았습니다~
교수님 정말 감사합니다. 비전공자 입장에서 Dnn,cnn까지는 이해가 잘 되는데 rnn부터는 개념이 바뀌어 쉽게 이해가 안되었는데 교수님 강의가 정말 한줄기 빛이 되주었습니다. 정말 감사합니다.
감사합니다/
확률 변수 정의가 확실히 와닿지않았는데, 정말 좋은 강의 공유해주셔서 감사합니다.
정말 좋은 강의 감사드립니다!!
잘 들었습니다. 감사합니다.
고맙습니다!
오늘도 잘 들었습니다.
감사합니다!
이렇게 이해하기 쉽게 설명해주는 강의 처음입니다 감사합니다!:)
고맙습니다!
좋은 강의 감사합니다 🥹
궁금한게 있는데 이전 상태를 학습하는거라고 했는데 그러면 맨처음 시작되는 부분은 이전 상태를 반영할 수 없을텐데 그럴 경우에는 어떻게 상태가 초기화가 되는거죠?
초기에는 랜덤하게 파라미터를 부여합니다.
STEGO 설명이 좀 부실한거 같습니다 ㅜ correation loss에 대해서 좀 더 자세히 설명해주시면 더 좋은 자료가 될 것 같습니다. 감사합니다.
자료 준비하시느라 고생 많이 하셨을 것 같네요. 자료가 시각적으로 표현을 너무 잘해주셔서 도움 많이 되었습니다. 감사합니다
유익한 리뷰 감사합니다. 혹시 해당 리뷰에서 제안하는 인공지능 알고리즘들의 빅오 복잡도는 어느정도일까요? 휴리스틱에 비해 얼마나 복잡도 이득이 있는지 궁금해서요
좋은 자료와 쉬운 설명 정말 감사합니다!! 많은 도움이 되었습니다☺☺
고맙습니다~
알찬 내용이었습니다 감사드려요
최고의 강의 감사합니다!
항상 잘 보고있습니다. 간결하면서도 이해가 잘되게 설명해주셔서 프로젝트들에 적용하는데 큰 도움이 됩니다😊
"54:15 반드시 이해시킬께~~" 교수님의 명강의가 나오는 배경이네요... 이번 강의도 언제나처럼 잘 듣고 많이 배웁니다.
감사합니다
self supervised learning 에 관심이 있었는데 좋은 강의 영상 공유해주셔서 감사합니다!
감사합니다!
교수님 항상 잘 듣고 있습니다. 학습자 관점에서 강조해야 할 부분이 무엇인지 정확히 짚어내는 능력이 정말 탁월하시네요. 감사합니다 ~~~
도움이 되셨다니 기쁜 마음입니다. 고맙습니다!
교수님 너무 좋은 강의 잘듣고 있습니다. 감사합니다
교수님 강의 덕분에 평생 처음 학구열과 성취감을 느끼고 대학원을 준비하고 있습니다. 유튜브로 수준 높은 배움의 기회를 제공해주셔서 항상 감사합니다.
감사합니다!
대학원 입학 예정 중에 복습하고 있습니다. 통계학 강의부터 항상 질 좋은 강의 정말 도움이 됐습니다. 감사합니다.
감사합니다~
훌륭한 강의 잘 들었습니다. 감사합니다.
교수님 강의 잘 듣고 있습니다. 많은 정성이 들어갔을테인데 공유해 주셔서 감사합니다.
감사합니다! 나머지 파트도 계속 공유하겠습니다~
정말 잘 봤습니다.
좋은 강의 너무 잘 들었습니다. 감사합니다
안녕하세요 교수님!!! 데이터 분석에 관심이 생겨 공부하고 있는 비전공자입니다! 통계 부분이 이해가 너무 안되서 어려워하고 있었는데 알고리즘으로 교수님 강의를 만나게 되어 너무 영광입니다@@@ 이해하기 쉽게 가르쳐주셔서 너무너무 감사드립니다!!!
DA 근본 논문부터 그 내용들을 deep learning으로 어떻게 구현하려 하는지 흐름을 잘 보여주셔서, 입문하기에 좋은 세미나네요. 세미나 감사합니다 :)
지금 봐도 설명이 정말 명쾌하고 이해가 참 쉽네요. 다시한번 재능 공유 진심으로 감사드립니다.
27분에 나오는 슬라이드 emission probability 의 합 조건이 잘못된 것 같습니다. summation{from k =1 to m} bj(vk) = 1이여야 되는것 같습니다.
이제는 만능이 되어버린 어텐션
이해하기 쉽게 설명해주셔서 감사해요. 55분 16초 즘 bi를 군집내의 평균, ai를 군집간의 평균으로 설명하셨는데, 강의 노트와 맞는 내용인지 문의드립니다.
정말 최고의 강의 입니다! 너무 감사드립니다!
고맙습니다~
교수님 머신러닝을 공부하기 전 선수과목으로 추천하시는 컴퓨터 언어있으실까요?
파이썬 언어 공부하시면 됩니다!
교수님 항상 좋은강의 감사합니다~ 현업에서 많은 도움 되고있습니다.
교수님처럼 똑똑해지고싶어요