Multimodal이 가진 Infinite Dimensions 살펴보기 (ft. Diffusion Model, RL)

Written by on
Multimodal이 가진 Infinite Dimensions 살펴보기 (ft. Diffusion Model, RL)



안녕하세요, 저는 멀티모달 프로젝트를 빌드한 홍예원 입니다.

이 글에서는 2024년 상반기 제가 진행할 멀티모달 프로젝트에 대해서 간단히 소개합니다.


Multimodal이 가진 Infinite Dimensions 살펴보기 (ft. Diffusion Model, RL) 프로젝트 소개

최근 AI 연구 동향에 따라 LLM을 기점으로, 모든 Modality를 처리 및 응용할 수 있는 멀티모달 데이터에 대한 깊이 있는 탐구를 목표로 합니다.

이 프로젝트는 1) 멀티모달 데이터의 이해와 활용을 극대화하고, 특히 2) diffusion 모델 및 Reinforcement Learning 기법을 중점적으로 연구합니다.

최신 AI 기술을 활용하여 멀티모달 데이터를 처리하고, 이를 통해 새로운 응용 프로그램을 개발할 수 있는 기회까지 있다면 좋을 것 같습니다. 혹은 논문리뷰를 통해 관련 기법들을 익혀나갔으면 좋겠습니다!



*가짜연구소 8기에서 진행되는 프로젝트는 계획표를 참고해주세요.


빌더 소개

안녕하세요, 가짜연구소와 함께하는 여정에 참여하게 된 홍예원입니다!

가짜연구소의 일원으로 함께하는 것은 처음인데 많이 노력하고 배우고, 배울 수 있는 팀원으로 함께하도록 하겠습니다!

빌더이기 전에 저도 함께 배우고, 많은 공부가 필요한 입장에서, 제가 가진 작지만 또 깊었던 이전 경험들을 통해 같은 목표를 가진 분들과 공통된 관심사를 가지고 진득하게 연구해보고 싶다는 생각이 들었습니다. ㅎㅎ

다양한 데이터를 아우르는 AI 기술의 진화와 그 가능성에 대해 탐구하는 것을 목표로 함께 유의미한 것들을 공유할 수 있는 시간이 되었으면 좋겠습니다. ¨̮

자기소개 노션 페이지

링크드인



프로젝트 계획

프로젝트 링크

스터디/프로젝트 내용

  • 최근 AI 연구 동향에 따라, LLM을 시작으로 모든 Modality를 처리 및 응용할 수 있는 멀티모달 데이터에 대한 깊이 있는 탐구를 목표로 합니다. 이 프로젝트는 1) 멀티모달 데이터의 이해와 활용을 극대화하고, 특히 2) diffusion 모델 및 Reinforcement Learning 기법을 중점적으로 연구합니다. 최신 AI 기술을 활용하여 멀티모달 데이터를 처리하고, 이를 통해 새로운 응용 프로그램을 개발할 수 있는 기회까지 바라보고 있습니다. (프로젝트 기간 연장의 가능성이 있습니다.) 혹은 논문리뷰를 통해 관련 기법들을 익혀나갑니다.

스터디/프로젝트 목적

  • 멀티모달에 앞서 LLM에 대한 각자 가진 지식들과 이해도를 공부 및 공유함으로써 LLM의 확장판에 대해 브레인스토밍합니다.
  • 멀티모달 데이터와 관련된 AI 기술의 깊은 이해와 더불어 LLM과의 연관 및 응용 가능성을 최적화하여 실용적인 멀티모달 기술의 활용 방안을 탐색합니다.
  • 참여자 모두의 연구 및 개발 역량 강화를 목표로 합니다.



주차별 목표

주차별 진행계획은 러너(스터디원)분들과 협의에 의해 변경될 수 있습니다.

*청강이 가능합니다! 언제든지 관심 가져주시고 팀원분들을 복돋아주세요 :)

주차 Contents
1주차 OT (스터디 소개/방향 논의, Ice Breaking)
2주차 Chapter 1, 2. Introduction to Multimodal Research
3주차 Chapter 3. Understanding Multimodal Data
4주차 Chapter 4, 5. Multimodal Data Fusion Techniques (ft. LLM)
5주차 Chapter 6. Case Studies and Real-world Application
6주차 Chapter 7. Diffusion Models
7주차 Chapter 8. Reinforcement Learning and Multimodal Data
8주차 중간 리뷰 타임
9주차 Chapter 9. Diffusion Models in Depth (1) or Team Project
10주차 Chapter 10. Diffusion Models in Depth (2) or Team Project
11주차 Chapter 11. Reinforcement Learning in Depth (1) or Team Project
12주차 Chapter 12. Reinforcement Learning in Depth (2) or Team Project
13주차 Chapter 13. Team Project
14주차 Chapter 14. Team Project
15주차 회고 및 최종 리뷰