On-Device AI는 현재 "On The Air". AI 기술의 고도화에 따라 모델이 복잡해지고 클라우드 방식의 서비스들이 많이 개발되었습니다. 이에 따른 보안성, 안정성, 비용의 문제를 해결하기 위해 경량화 및 최적화 기술도 많이 연구되고 있습니다. On-Device AI 기술들을 공부하고 이를 응용하여 적은 컴퓨팅 자원에서도 적용될 수 있는 AI 기술을 개발하고자 합니다.
"논문 리뷰를 통해 모델을 경량화하고 최적화하기 위한 방법을 연구하자"
- 본 시즌(10기)에서는 Pruning에 대한 다양한 테크닉들을 학습
- 각 테크닉들의 논문을 읽으면서 접근 방식과 특징, 한계를 파악
- 개인 성장과 집단 지혜의 시너지 창출
- 오픈소스 정신을 바탕으로 한 지식 공유 문화
| 역할 | 이름 | 기술 스택 배지 | 주요 관심 분야 |
|---|---|---|---|
| Project Manager | 정현우 |   |
On-Device AI, CV, Robotics |
| Member | - | - |
gantt
title 2025 On-Device AI 프로젝트 여정
section 전체 커리큘럼
Pruning :a1, 2025-03-03, 119d
Quantization :a2, after a1, 120d
section Pruning 세부 활동
SPECIFIC OR UNIVERSAL SPEEDUP :b1, 2025-03-03, 35d
WHEN TO PRUNE :b2, after b1, 84d
| 날짜 | 내용 | 분류 | 발표자 | 진행방식 | 참고자료 |
|---|---|---|---|---|---|
| 2025/03/05 | OT | - | |||
| 2025/03/12 | Unstructured Pruning | Unstructured Pruning | 미정 | 온라인 | 선정 중 |
| 2025/03/19 | Structured Pruning | Structured Pruning | 미정 | 온라인 | 선정 중 |
| 2025/03/26 | Magical Week 휴일 | - | 미정 | - | - |
| 2025/04/02 | Semi-structured Pruning | Semi-structured Pruning | 미정 | 온라인 | 선정 중 |
| 2025/04/09 | Pruning Before Training | Pruning Before Training | 미정 | 온라인 | 선정 중 |
| 2025/04/16 | Sparsity Regularization based Methods | Pruning During Training | 미정 | 온라인 | 선정 중 |
| 2025/04/23 | Dynamic Sparse Training based Methods | Pruning During Training | 미정 | 온라인 | 선정 중 |
| 2025/04/30 | Magical Week 휴일 | - | 미정 | - | - |
| 2025/05/07 | Score-based Methods | Pruning During Training | 미정 | 온라인 | 선정 중 |
| 2025/05/14 | Differentiable Pruning based methods | Pruning During Training | 미정 | 온라인 | 선정 중 |
| 2025/05/21 | LTH and its Variants | Pruning After Training | 미정 | 온라인 | 선정 중 |
| 2025/05/28 | Other score-based Methods | Pruning After Training | 미정 | 온라인 | 선정 중 |
| 2025/06/04 | Sparsity Regularization based Methods | Pruning After Training | 미정 | 온라인 | 선정 중 |
| 2025/06/11 | Pruning in Early Training | Pruning After Training | 미정 | 온라인 | 선정 중 |
| 2025/06/18 | Post-Training Pruning | Pruning After Training | 미정 | 온라인 | 선정 중 |
| 2025/06/25 | Run-time Pruning | Run-time Pruning | 미정 | 온라인 | 선정 중 |
매주 스터디 진행 방식은 다음과 같습니다.
- 근황 이야기 (20 ~ 30분 예상)
- 발표자를 제외한 참여자들이 준비한 On-Device AI 관련된 이슈들을 공유한다. (20 ~ 40분 예상)
- 발표자는 준비한 논문 리뷰를 발표한다. (30분 ~ 1시간 예상)
이에 따라 다음 내용들을 준비하시면 됩니다
공통사항
- 해당 주차 논문을 읽는다.
발표자
- 해당 주차 논문에 대한 발표 준비를 한다.
참여자
- On-Device AI와 관련된 기술들(TensorRT, LiteRT, ONNX 등)의 트렌드나 이슈를 준비한다.
세부 논문들은 주차별 활동 내 참고자료 참고
참고 문헌
진행 정보
- 시간: 매주 수요일 오후 8시
- 장소: 온라인 / 오프라인(강남역)
참여 조건
- On-Device AI(경량화, 최적화 등)에 관심 있으신 분
- 4개월 동안 꾸준히 참여하실 수 있는 분
- 딥러닝 기초 지식 보유하신 분
- 논문을 읽고 리뷰하실 수 있는 분
팀원으로 참여하시려면 러너 모집 기간에 신청해주세요.
- 링크 (준비중)
누구나 청강을 통해 모임을 참여하실 수 있습니다.
- 특별한 신청 없이 정기 모임 시간에 맞추어 디스코드 #Room-GH 채널로 입장
- Magical Week 중 행사에 참가
- Pseudo Lab 행사에서 만나기
Pseudo-Lab is a non-profit organization focused on advancing machine learning and AI technologies. Our core values of Sharing, Motivation, and Collaborative Joy drive us to create impactful open-source projects. With over 5k+ researchers, we are committed to advancing machine learning and AI technologies.
This project is licensed under the MIT License.