디시인사이드 갤러리

마이너 갤러리 이슈박스, 최근방문 갤러리

갤러리 본문 영역

[일반] 아티클 3

ㅇㅇ(14.4) 2024.04.26 16:29:50
조회 85 추천 0 댓글 0
														
[컴퓨터가 사물을 보는 방법, CNN 이론 - 1편]

https://blogs.sas.com/content/saskorea/2023/09/08/%EC%BB%B4%ED%93%A8%ED%84%B0%EA%B0%80-%EC%82%AC%EB%AC%BC%EC%9D%84-%EB%B3%B4%EB%8A%94-%EB%B0%A9%EB%B2%95-cnn-%EC%9D%B4%EB%A1%A0-1%ED%8E%B8/

 

[컴퓨터가 사물을 보는 방법, CNN 이론 - 2편]


[[기계분야 인공지능 최신 연구 동향] 컴퓨터 비전 주요 연구 동향]



AlexNet과 VGG는 굉장히 단순하게 구성되어 있지만, ResNet의 핵심인 Skip Connection 개념은 한번 보고 이해하는 것이 굉장히 어렵습니다 (저는 그랬습니다.) 그래서, 여러분들의 이해를 돕기 위해 유용한 영상을 가져왔습니다. ResNet이 이해가 잘 안 되신다면, 아래 영상들을 추천드립니다!

[ResNet의 Skip-connection 제대로 이해하기! - 혁펜하임]

 

[CNN ResNet SENet - 고려대학교 오승상]

 

[CNN - 메디픽셀 송교석]


 어떠한 문제를 풀 때, 주어진 데이터 이외에도 외부 데이터 혹은 공개된 데이터를 활용하여 일반화 성능을 높이는 것이 중요합니다. 그러한 데이터셋을 모아둔 사이트들 중, 가장 유명한 세 가지를 공유합니다

[UC Irvine의 Machine Learning Repository]
https://archive.ics.uci.edu/datasets

 

[awesome-public-datasets]
https://github.com/awesomedata/awesome-public-datasets

 

[AIHub]
https://www.aihub.or.kr/

 

객체 검출을 포함한 최신 컴퓨터 비전 모형들은 처음부터 구현하기보단 어느정도 갖춰진 파이프라인 위에서 모형들을 구현하고, 검증하는 편입니다. 따라서, 우리가 프로젝트를 수행하거나, 연구를 수행할 때 이러한 라이브러리를 기반으로 시작하게 되면 굉장히 편하게 초기 실험들을 진행할 수 있습니다.

open-mmlab의 mmdetection : 거의 모든 객체 탐지 알고리즘과 관련된 모듈들을 구현해놓은 패키지
ultralytics의 ultralytics (YOLOv8, YOLOV5, 등) : 실시간 서비스를 위한 YOLO계열 모형들에 특화된 패키지
PaddlePaddle의 PaddleDetection : 병렬 처리에 최적화된 객체 탐지 알고리즘 라이브러리

 

 실험 기록 및 다양한 ML 개발자를 위한 기능을 제공해주는 WandB와 WandB를 활용한 하이퍼파라미터 최적화에 대한 글
WandB: MLOps 도구 중 하나로, 실험 기록부터 데이터 저장, 실험 추적 등 다양한 기능을 제공합니다.
https://wandb.ai/site

 

Wandb.Sweep: 하이퍼파라미터 튜닝을 해주는 도구 중 하나로, 랜덤, 그리드, 베이지안 서치를 제공합니다. (예제)
https://docs.wandb.ai/guides/sweeps


BAYESIAN OPTIMIZATION 개요: 딥러닝 모델의 효과적인 HYPERPARAMETER 탐색 방법론: 베이지안 최적화를 하이퍼파라미터 최적화에 적용하는 방법과 내용이 잘 정리되어 있습니다.
https://www.cognex.com/ko-kr/blogs/deep-learning/research/overview-bayesian-optimization-effective-hyperparameter-search-technique-deep-learning-1

 

CV 모델에 가장 기본이 되는 Pillow 라이브러리와 협업을 위한 wandb 라이브러리에 대한 블로그
Pillow: https://gist.github.com/yunwoong7/e61e9abb419f35d9ade8f95b3cc3e696
wandb 1: https://pebpung.github.io/wandb/2021/10/06/WandB-1.html
wandb 2: https://pebpung.github.io/wandb/2021/10/10/WandB-2.html

 
hyperparameter들이, 실제 최적화에서는 성능에 얼마나 큰 영향을 미칠 수 있는지에 대해 보여줄 수 있는 아티클로 준비했습니다.
Learning rate & Batch size: https://inhovation97.tistory.com/32#:~:text=learning%20rate%EA%B0%80%20%ED%81%AC%EB%A9%B4%2C%20%ED%95%9C,%EC%A0%81%EB%8B%A4%EB%8A%94%20%EC%9E%A5%EC%A0%90%EB%8F%84%20%EC%9E%88%EC%8A%B5%EB%8B%88%EB%8B%A4.
오버피팅 피하는 방법: https://box-world.tistory.com/16
Grid Search: https://huidea.tistory.com/32
 
 

[멀티 모달]
https://channeltech.naver.com/contentDetail/25
https://bo-10000.tistory.com/204
https://github.com/tabtoyou/KoLLaVA

 

[ MLOps에 대한 간단한 소개와 HuggingFace 사용 방법 및 Fine-tuning]
최근 HuggingFace를 사용할 일이 많아서 코드를 이리 저리 뜯어보고 있는데, MLOps 직무에서 HuggingFace만 잘 써도 할 수 있는게 많아지겠다는 생각이 들더라구요. 한편으로는, HuggingFace코드와 모델카드를 읽어보면 HuggingFace를 유지하는 것 또한 만만한 일이 아니라는 것을 알게 되었습니다.


https://jaemunbro.medium.com/mlops%EA%B0%80-%EB%AC%B4%EC%97%87%EC%9D%B8%EA%B3%A0-84f68e4690be
https://seungbeomdo.tistory.com/78
https://mvje.tistory.com/117
https://seungbeomdo.tistory.com/79

 

[  hyperparameter tuning 방법론과 라이브러리 소개, 기존과 중복 있뇨]
Bayesian Optimization: https://www.cognex.com/ko-kr/blogs/deep-learning/research/overview-bayesian-optimization-effective-hyperparameter-search-technique-deep-learning-1
Grid Search를 위한 library 1: https://tutorials.pytorch.kr/beginner/hyperparameter_tuning_tutorial.html
Grid Search를 위한 library 2: https://docs.kanaries.net/ko/topics/Data-Science/randomized-search-verbose
Learning rate scheduler: https://wikidocs.net/157282

 

[제너레이션 모델 최신 동향]
최신 이미지 생성 AI (1) Adobe Firefly 3:

https://news.adobe.com/news/news-details/2024/Adobe-Introduces-Firefly-Image-3-Foundation-Model-to-Take-Creative-Exploration-and-Ideation-to-New-Heights/default.aspx
https://firefly.adobe.com/

최신 이미지 생성 AI (2) 구글 Imagen 2:
https://deepmind.google/technologies/imagen-2/
https://www.nytimes.com/interactive/2024/01/19/technology/artificial-intelligence-image-generators-faces-quiz.html

 

 

[MLE]
MLE와 쿨백-라이블러 발산: 
https://en.wikipedia.org/wiki/Maximum_likelihood_estimation#Relation_to_minimizing_Kullback%E2%80%93Leibler_divergence_and_cross_entropy


MLE와 분포 모델링의 관계:
https://deepgenerativemodels.github.io/assets/slides/cs236_lecture4.pdf

 

[ [오토인코더와 VAE 강의 영상]]

 
[변분 오토 인코더의 이해]
https://en.m.wikipedia.org/wiki/Kullback%E2%80%93Leibler_divergence#Multivariate_normal_distributions
https://arxiv.org/abs/1906.02691

 

[변분 오토 인코더 실습]
https://www.tensorflow.org/tutorials/generative/cvae?hl=ko
https://pyimagesearch.com/2023/10/02/a-deep-dive-into-variational-autoencoders-with-pytorch/

 
[벡터 양자화 변분 오토 인코더의 이해]


자동등록방지

추천 비추천

0

고정닉 0

댓글 영역

전체 댓글 0
등록순정렬 기준선택
본문 보기

하단 갤러리 리스트 영역

왼쪽 컨텐츠 영역

갤러리 리스트 영역

갤러리 리스트
번호 말머리 제목 글쓴이 작성일 조회 추천
2858 설문 SNS로 싸우면 절대 안 질 것 같은 고집 있는 스타는? 운영자 24/05/06 - -
463366 일반 알트만 죽이기 [2] ㅇㅇ(119.77) 05.06 142 3
463365 일반 완몰가 줘 [1] ㅇㅇ(61.78) 05.06 31 0
463364 일반 알트만도 정렬 중인 거 아님? ㅇㅇ갤로그로 이동합니다. 05.06 55 0
463363 일반 Gpt-5 8월까지 안나올수도 있을거같다 [3] ㅇㅇ(122.34) 05.06 194 0
463362 일반 아니 난 클로드 오푸스 가격 월 7~8 달러쯤 하는줄 ㅇㅇ갤로그로 이동합니다. 05.06 140 0
463361 일반 아래 알트만이 gpt6 언급한걸 클로드에 넣어봄. mahogany갤로그로 이동합니다. 05.06 107 0
463360 일반 특이점 기대되는 것 중 하나 [1] ㅇㅇ(123.141) 05.06 77 1
463359 일반 토끼찜이 온다 ㅇㅇ(1.239) 05.06 52 0
463358 정보 샘 알트만 gpt2 트윗 레딧 반응 (ft. Gemini vs Opus) [9] 초존도초갤로그로 이동합니다. 05.06 364 4
463357 일반 난 왜 특이점 알고나서 삶이더 피폐해지냐 [8] ㅇㅇ(211.226) 05.06 211 1
463356 일반 번역할 때는 클로드 + 제미니 조합이 좋은듯 [1] ㅇㅇ(210.182) 05.06 95 1
463355 일반 ㅌㅇㅈ ㅈㅂ 199ㅇㅊ [6] 포스트휴먼.갤로그로 이동합니다. 05.06 78 2
463354 일반 뉴럴링크 보급되면 불치병치료가능함? [10] ㅇㅇ(58.126) 05.06 179 1
463353 일반 나노머신이 많이 발전했으면 좋겠다 [2] 천사다천사갤로그로 이동합니다. 05.06 61 0
463352 일반 클로드 오푸스 가격 [1] 메타(Meta)갤로그로 이동합니다. 05.06 192 0
463351 일반 클로드 오푸스 얼만데? [1] ㅇㅇ갤로그로 이동합니다. 05.06 95 0
463350 일반 알트먼의 최종 목표는 세계 정복이겠지 [2] ㅇㅇ(119.194) 05.06 120 1
463349 일반 특이점은 꼭 올거야 무조건 이야 [1] ㅇㅇ(116.47) 05.06 72 1
463348 일반 임마도 특이점이랑 관련 없는 글이니까 삭제 해주세요잉~ [1] ㅇㅇ(115.20) 05.06 83 1
463347 일반 중졸에 22살인데 난 아직 특이점 빨리봐래 [7] ㅇㅇ(116.47) 05.06 195 1
463344 일반 요즘 픽셀아트 노가다 안해도 된다며 딩둘딩갤로그로 이동합니다. 05.06 113 1
463343 일반 클로드랑 perplexity 중 뭘 구독해야되? [3] 자애갤로그로 이동합니다. 05.06 100 0
463342 일반 저번에 보니깐 [4] ㅇㅇ갤로그로 이동합니다. 05.06 65 0
463341 일반 스테이플디퓨전이 NAI 지? [2] noosphere갤로그로 이동합니다. 05.06 97 0
463340 일반 AI기술에 대한 국가별 태도 보면 아이러니함 [4] ㅇㅇ갤로그로 이동합니다. 05.06 164 0
463339 일반 통장사진찍어서 보내라해서 보냈는데 알바탈락함 [18] ㅇㅇ(116.47) 05.06 293 4
463338 일반 수학 벤치마크 저거 의미있는거 맞음? [2] ㅇㅇ(211.184) 05.06 115 0
463337 일반 한국은 얼리어답터들이 많아서 다행임 [9] 천사다천사갤로그로 이동합니다. 05.06 183 2
463336 일반 클로드3 오푸스의 수학적 추론능력 [10] ㅇㅇ(58.123) 05.06 977 18
463333 일반 라마 120B는 뭐냐 [1] 토큰몬스터갤로그로 이동합니다. 05.06 137 1
463328 일반 생산직 때려치우고 집 앞 맥도날드에서 알바나 할까 [3] ㅇㅇ(49.142) 05.06 206 1
463327 일반 40년전 흥미로운 영상 [3] ㅇㅇ(122.34) 05.06 224 3
463326 일반 완몰가 나오면 싹다 게임오바 아니냐 [1] ㅇㅇ(222.103) 05.06 131 0
463324 일반 비디오 ai는 이게 전부인가요 ㅇㅇ(118.36) 05.06 51 0
463322 일반 특이점 빨리 안오면한국좆대네ㅋㅋ [7] ㅇㅇ(223.38) 05.06 404 2
463321 일반 부패 너무 권한남용 아니냐? [45] ㅇㅇ(61.73) 05.06 1840 38
463320 일반 토기점이 온다 [3] ㅇㅇ(221.164) 05.06 164 1
463319 일반 이미 특이점은 자나갔는데 왜 특이점을 기다리나? [2] ㅇㅇ(218.235) 05.06 134 1
463318 일반 gpt 4골 우려먹기 ㅇㅇ(223.38) 05.06 46 0
463317 일반 특이점안와 어쩌구하는 분탕도 차단못함? [1] ㅇㅇ(61.97) 05.06 116 0
463316 일반 지피티 클로드 유료 비교 질문 [2] 자애갤로그로 이동합니다. 05.06 115 0
463315 일반 갤주 간 내구도 1류 프로선수급 아님? [2] ㅇㅇ(210.179) 05.06 79 0
463314 일반 알트만의 gpt6까지의 계획 ㅇㅇ(223.38) 05.06 101 0
463312 일반 특이점은 온다 [1] 람쥐소리갤로그로 이동합니다. 05.06 55 0
463311 일반 이번 여름 기대해본다 ㅇㅇ(223.38) 05.06 30 0
463310 일반 소라랑 gpt5중 뭐가 더 파급력이 클것 같음? [3] Ausus갤로그로 이동합니다. 05.06 231 1
463309 일반 갤 주제와 무관한 글은 삭제됩니다. [6] 부패하는유전자!!!갤로그로 이동합니다. 05.06 126 3
463308 일반 옵티머스 영상 ㅈㄴ 답답하노.. ㅇㅇ(14.53) 05.06 94 0
463306 일반 삭제해야할 글들 많이보이는데 [4] ㅇㅇ갤로그로 이동합니다. 05.06 159 0
463301 일반 슬슬 알트만 애미 찾고싶어지네 ㅇㅇ갤로그로 이동합니다. 05.06 106 0
갤러리 내부 검색
제목+내용게시물 정렬 옵션

오른쪽 컨텐츠 영역

실시간 베스트

1/8

뉴스

디시미디어

디시이슈

1/2