아티클 3

ㅇㅇ · 2024.04.26 16:29:50

[컴퓨터가 사물을 보는 방법, CNN 이론 - 1편]

https://blogs.sas.com/content/saskorea/2023/09/08/%EC%BB%B4%ED%93%A8%ED%84%B0%EA%B0%80-%EC%82%AC%EB%AC%BC%EC%9D%84-%EB%B3%B4%EB%8A%94-%EB%B0%A9%EB%B2%95-cnn-%EC%9D%B4%EB%A1%A0-1%ED%8E%B8/

[컴퓨터가 사물을 보는 방법, CNN 이론 - 2편]

https://blogs.sas.com/content/saskorea/2023/09/25/%EC%BB%B4%ED%93%A8%ED%84%B0%EA%B0%80-%EC%82%AC%EB%AC%BC%EC%9D%84-%EB%B3%B4%EB%8A%94-%EB%B0%A9%EB%B2%95-cnn-%EC%9D%B4%EB%A1%A0-2%ED%8E%B8/

[[기계분야 인공지능 최신 연구 동향] 컴퓨터 비전 주요 연구 동향]

https://youtu.be/Mt4z8pEZL90?si=eyszjxKymeGyf99N

AlexNet과 VGG는 굉장히 단순하게 구성되어 있지만, ResNet의 핵심인 Skip Connection 개념은 한번 보고 이해하는 것이 굉장히 어렵습니다 (저는 그랬습니다.) 그래서, 여러분들의 이해를 돕기 위해 유용한 영상을 가져왔습니다. ResNet이 이해가 잘 안 되신다면, 아래 영상들을 추천드립니다!

[ResNet의 Skip-connection 제대로 이해하기! - 혁펜하임]

https://www.youtube.com/watch?v=Fypk0ec32BU

[CNN ResNet SENet - 고려대학교 오승상]

https://www.youtube.com/watch?v=DFdjW7a55b0

[CNN - 메디픽셀 송교석]

https://www.youtube.com/watch?v=rdTCxAM1I0I&list=PL1Kb3QTCLIVtyOuMgyVgT

-OeW0PYXl3j5&index=6

어떠한 문제를 풀 때, 주어진 데이터 이외에도 외부 데이터 혹은 공개된 데이터를 활용하여 일반화 성능을 높이는 것이 중요합니다. 그러한 데이터셋을 모아둔 사이트들 중, 가장 유명한 세 가지를 공유합니다

[UC Irvine의 Machine Learning Repository]

https://archive.ics.uci.edu/datasets

[awesome-public-datasets]

https://github.com/awesomedata/awesome-public-datasets

[AIHub]

https://www.aihub.or.kr/

객체 검출을 포함한 최신 컴퓨터 비전 모형들은 처음부터 구현하기보단 어느정도 갖춰진 파이프라인 위에서 모형들을 구현하고, 검증하는 편입니다. 따라서, 우리가 프로젝트를 수행하거나, 연구를 수행할 때 이러한 라이브러리를 기반으로 시작하게 되면 굉장히 편하게 초기 실험들을 진행할 수 있습니다.

open-mmlab의 mmdetection : 거의 모든 객체 탐지 알고리즘과 관련된 모듈들을 구현해놓은 패키지

ultralytics의 ultralytics (YOLOv8, YOLOV5, 등) : 실시간 서비스를 위한 YOLO계열 모형들에 특화된 패키지

PaddlePaddle의 PaddleDetection : 병렬 처리에 최적화된 객체 탐지 알고리즘 라이브러리

실험 기록 및 다양한 ML 개발자를 위한 기능을 제공해주는 WandB와 WandB를 활용한 하이퍼파라미터 최적화에 대한 글

WandB: MLOps 도구 중 하나로, 실험 기록부터 데이터 저장, 실험 추적 등 다양한 기능을 제공합니다.

https://wandb.ai/site

Wandb.Sweep: 하이퍼파라미터 튜닝을 해주는 도구 중 하나로, 랜덤, 그리드, 베이지안 서치를 제공합니다. (예제)

https://docs.wandb.ai/guides/sweeps

BAYESIAN OPTIMIZATION 개요: 딥러닝 모델의 효과적인 HYPERPARAMETER 탐색 방법론: 베이지안 최적화를 하이퍼파라미터 최적화에 적용하는 방법과 내용이 잘 정리되어 있습니다.

https://www.cognex.com/ko-kr/blogs/deep-learning/research/overview-bayesian-optimization-effective-hyperparameter-search-technique-deep-learning-1

CV 모델에 가장 기본이 되는 Pillow 라이브러리와 협업을 위한 wandb 라이브러리에 대한 블로그

Pillow: https://gist.github.com/yunwoong7/e61e9abb419f35d9ade8f95b3cc3e696

wandb 1: https://pebpung.github.io/wandb/2021/10/06/WandB-1.html

wandb 2: https://pebpung.github.io/wandb/2021/10/10/WandB-2.html

hyperparameter들이, 실제 최적화에서는 성능에 얼마나 큰 영향을 미칠 수 있는지에 대해 보여줄 수 있는 아티클로 준비했습니다.

Learning rate & Batch size: https://inhovation97.tistory.com/32#:~:text=learning%20rate%EA%B0%80%20%ED%81%AC%EB%A9%B4%2C%20%ED%95%9C,%EC%A0%81%EB%8B%A4%EB%8A%94%20%EC%9E%A5%EC%A0%90%EB%8F%84%20%EC%9E%88%EC%8A%B5%EB%8B%88%EB%8B%A4.

오버피팅 피하는 방법: https://box-world.tistory.com/16

Grid Search: https://huidea.tistory.com/32

[멀티 모달]

https://channeltech.naver.com/contentDetail/25

https://bo-10000.tistory.com/204

https://github.com/tabtoyou/KoLLaVA

[ MLOps에 대한 간단한 소개와 HuggingFace 사용 방법 및 Fine-tuning]

최근 HuggingFace를 사용할 일이 많아서 코드를 이리 저리 뜯어보고 있는데, MLOps 직무에서 HuggingFace만 잘 써도 할 수 있는게 많아지겠다는 생각이 들더라구요. 한편으로는, HuggingFace코드와 모델카드를 읽어보면 HuggingFace를 유지하는 것 또한 만만한 일이 아니라는 것을 알게 되었습니다.

https://jaemunbro.medium.com/mlops%EA%B0%80-%EB%AC%B4%EC%97%87%EC%9D%B8%EA%B3%A0-84f68e4690be

https://seungbeomdo.tistory.com/78

https://mvje.tistory.com/117

https://seungbeomdo.tistory.com/79

[ hyperparameter tuning 방법론과 라이브러리 소개, 기존과 중복 있뇨]

Bayesian Optimization: https://www.cognex.com/ko-kr/blogs/deep-learning/research/overview-bayesian-optimization-effective-hyperparameter-search-technique-deep-learning-1

Grid Search를 위한 library 1: https://tutorials.pytorch.kr/beginner/hyperparameter_tuning_tutorial.html

Grid Search를 위한 library 2: https://docs.kanaries.net/ko/topics/Data-Science/randomized-search-verbose

Learning rate scheduler: https://wikidocs.net/157282

[제너레이션 모델 최신 동향]

최신 이미지 생성 AI (1) Adobe Firefly 3:

https://news.adobe.com/news/news-details/2024/Adobe-Introduces-Firefly-Image-3-Foundation-Model-to-Take-Creative-Exploration-and-Ideation-to-New-Heights/default.aspx

https://firefly.adobe.com/

최신 이미지 생성 AI (2) 구글 Imagen 2:

https://deepmind.google/technologies/imagen-2/

https://www.nytimes.com/interactive/2024/01/19/technology/artificial-intelligence-image-generators-faces-quiz.html

[MLE]

MLE와 쿨백-라이블러 발산:

https://en.wikipedia.org/wiki/Maximum_likelihood_estimation#Relation_to_minimizing_Kullback%E2%80%93Leibler_divergence_and_cross_entropy

MLE와 분포 모델링의 관계:

https://deepgenerativemodels.github.io/assets/slides/cs236_lecture4.pdf

[ [오토인코더와 VAE 강의 영상]]

https://youtu.be/o_peo6U7IRM?si=utUcw3SfLKPNteNi

https://youtu.be/rNh2CrTFpm4?si=urLGPOlnPs

-A6qCI

https://youtu.be/LeVkjCuUdRs?si=GNfMQeCjU

-xNTeN-

[변분 오토 인코더의 이해]

https://en.m.wikipedia.org/wiki/Kullback%E2%80%93Leibler_divergence#Multivariate_normal_distributions

https://arxiv.org/abs/1906.02691

[변분 오토 인코더 실습]

https://www.tensorflow.org/tutorials/generative/cvae?hl=ko

https://pyimagesearch.com/2023/10/02/a-deep-dive-into-variational-autoencoders-with-pytorch/

[벡터 양자화 변분 오토 인코더의 이해]

https://youtu.be/VZFVUrYcig0?si=MS3AHIH93Uze3yJI

번호	말머리	제목	글쓴이	작성일	조회	추천
2861	설문	어떤 상황이 닥쳐도 지갑 절대 안 열 것 같은 스타는?	운영자	24/05/20	-	-
477599	일반	과제하다 GPT고장남 [2]	ㅇㅇ(115.138)	05.19	222	0
477598	일반	여기서 갑자기 일리야가 AGI초경량 오픈모델 풀면 어떻게됨?? [2]	ㅇㅇ(218.153)	05.19	244	0
477597	정보	제프리 힌튼 교수가 생각하는 GPT [8]	자연어프로그래밍(59.26)	05.19	1571	26
477596	일반	이게 인간의 지능이다	ㅇㅇ	05.19	91	0
477595	일반	얀르쿤 지인인데 이번엔 고민 많았다더라 [2]	ㅇㅇ(118.105)	05.19	296	0
477594	일반	인간이 체계를 만드는 원리	ㅇㅇ	05.19	70	0
477593	일반	씨발 agi 수십년 남은거임? [2]	ㅇㅇ	05.19	354	1
477592	일반	얀르쿤 her발표보고 몇일동안 쥐어 짜냈을거 생각하니까 귀엽네 [2]	ㅇㅇ(218.153)	05.19	366	0
477591	일반	간단하게 생각하면 된다 [11]	ㅇㅇ	05.19	233	0
477590	일반	4o 환각 개지리네 ㅆㅂ [1]	ㅇㅇ(220.122)	05.19	336	0
477589	일반	클로드는 왜캐 잡지식이 없냐? [5]	ㅇㅇ	05.19	185	0
477588	일반	애초에 agi온다고 특이점오는게 확정이아님 [1]	ㅇㅇ	05.19	121	0
477587	일반	사무직은 사실 멸종직전이라고 봄 [9]	ㅇㅇ(114.202)	05.19	296	0
477586	일반	얀르쿤 욕쟁이할매 역시 맛있게 특붕이 잘패내	ㅇㅇ(211.205)	05.19	113	0
477585	일반	르쿤시치 조용하다 했는데 시원하게 일침 날리네 ㅋㅋ [3]	lightvector	05.19	328	0
477584	일반	얀르쿤이 인정했던 적이 있기나 함??? [1]	ㅇㅇ(218.153)	05.19	168	0
477582	일반	고지능자들은 자기랑 지적수준 맞는 인간 찾기 힘들어서 고립감 심하다던데 [11]	ㅇㅇ(110.46)	05.19	286	2
477581	일반	진짜 지능 거리는데 이건 진짜 지능이야 [4]	ㅇㅇ	05.19	164	0
477580	일반	일리야 본인은 agi 이상의 가능성을 본거같긴함 [2]	ㅇㅇ(114.202)	05.19	209	0
477579	일반	르쿤이형 ㄹㅇ 다크히어로 그 자체 아니냐? [1]	ㅇㅇ(119.202)	05.19	104	0
477577	일반	ㅅㅂ메퀘3 쓰다가 목디스크 각이라고 [1]	ㅇㅇ(110.46)	05.19	68	0
477576	일반	오푸스 버리고 gpt 4o 가도됨? [2]	ㅇㅇ	05.19	145	0
477575	일반	얀르쿤은 남자 맛을 못봐서 저렇게 심술쟁이인거임 [7]	ㅇㅇ(220.80)	05.19	256	0
477574	일반	얀르쿤이 정말 너무 고맙다 [3]	ㅇㅇ(122.34)	05.19	191	1
477573	일반	얀르쿤 말대로라면 특이점이 2045가 아니란 거임? [2]	ㅇㅇ(110.46)	05.19	147	0
477572	일반	아무것도 없는 사람들이 특이점이 늦게오길 바라는 성향이 있음 [2]	호루스	05.19	137	0
477571	일반	얀르쿤의 말은 이거랑 가깝긴 함	ㅇㅇ(211.46)	05.19	181	2
477570	정보	얀르쿤 "초지능 정렬? 꼴값떨지마셈 ㅇㅇ" [55]	ㅇㅇ(59.17)	05.19	4687	44
477569	일반	오픈ai 내부 사정 정확하게 아는 것도 아닌데 [4]	ㅇㅇ(58.78)	05.19	181	0
477568	일반	사무직 대체를 향한 길을 아주 착실하게 가고잇음 [1]	ㅇㅇ(114.202)	05.19	133	0
477567	일반	코파일럿이 ㄹㅇ 웃음벨 [2]	갤럭시빠	05.19	228	0
477566	일반	그럼 이젠 인공지능의 상품화가 우선과제인가?... [2]	ㅇㅇ(210.106)	05.19	91	0
477565	일반	보니까 우리가 원하는 그런 시나리오가 전혀 아니다 [12]	ㅇㅇ(117.20)	05.19	307	0
477564	일반	제미나이도 수능문제는 틀리네 [3]	ㅇㅇ(222.96)	05.19	120	0
477563	일반	점점 인간들이 정보를 공유하지 않기 시작할듯 [7]	자연어프로그래밍(59.26)	05.19	331	2
477562	일반	반대로 커넥톰이 ai덕분에 완성될듯 [2]	ㅇㅇ(114.202)	05.19	94	1
477561	일반	지피티 4.o 어케 쓰는거임? [2]	ㅇㅇ(39.122)	05.19	130	0
477559	일반	특이점이 온다에 왜 인간뇌 커넥톰이 필수적이지 않은지 설명이 자주 나오네 [4]	ㅇㅇ(175.192)	05.19	138	0
477558	일반	gpt 정기결제 취소함 [3]	갤럭시빠	05.19	294	0
477557	일반	자동매매가 실패하는건 개인이 어설프게 해서그럼	ㅇㅇ(14.35)	05.19	82	0
477555	일반	기업 운영하는 입장에선 초정렬 ㅈ같긴할듯 [1]	ㅇㅇ(175.116)	05.19	129	0
477554	일반	솔직히 클로드 4가 제일 기다려지네	갤럭시빠	05.19	91	0
477553	일반	수학 좀 푸는거같은데 [2]	ㅇㅇ(14.35)	05.19	195	0
477552	일반	싹다 노동시켜... 수고해라.... [1]	ㅇㅇ(210.106)	05.19	109	0
477551	일반	반도체갤러리에 키베뜨러 가기 vs 자기 [2]	ㅇㅇ(118.39)	05.19	91	0
477550	일반	아직도 한국어로 가지고 놀기엔 클로드가 제일 좋냐 [7]	ㅇㅇ	05.19	268	0
477549	일반	Gpt4o 성능 미친거 맞는거같은데 [3]	ㅇㅇ(121.168)	05.19	346	0
477547	AI창 AI창작	WU..dio [3]	뜨콜	05.19	79	0
477546	일반	사황 마렵네	ㅇㅇ	05.19	51	0
477545	일반	gpt나 제미나이 기반 화면번역기 없음? [15]	ㅇㅇ	05.19	136	0

최근 방문

즐겨찾기

즐겨찾기 갤러리

마이너 갤러리 이슈박스, 최근방문 갤러리

연관 갤러리

마이너 갤러리 소개

차단하기

[특이점이 온다 갤러리]

갤러리 본문 영역

게시물을 간편하게 NFT로 만들어 보세요!

NFT 발행 방법

NFT 발행

비회원 글삭제,수정

추천 비추천

댓글 영역

① NFT 발행

② NFT 구매

하단 갤러리 리스트 영역

왼쪽 컨텐츠 영역

갤러리 리스트 영역

페이지 이동

오른쪽 컨텐츠 영역

알림 설정

알림

디시콘 리스트

디시콘

디시콘 검색결과(0)

인기 디시콘

지갑 연결