RNN 관련 잡소리 - 딥러닝 마이너 갤러리

머신러닝과 딥러닝에 대한 학술 토론 및 교류를 목적으로 하는 갤러리입니다.

매니저

지잡컴공(wlwkqzjarhd)

부매니저

부재중입니다.(jvjgth4r5quz) focalors(pytorch)

개설일

2019-05-16

[일반] RNN 관련 잡소리

ㅇㅇ(118.47) 2024.05.18 18:24:25

조회 221 추천 0 댓글 2

다음 NLP관련 SOTA는 Mamba인건 확정인거 같은데

그말은 결국 Mamba랑 S4 에서 제시된 Linear Recurrent Unit이용한 RNN 활용한 시퀀스 데이터 분석으로 다시 넘어갈거 같음

장점은 Positional Encoding 관련해서 이제 신경쓸 필요가 없어 진다는 거고

차후 과제로 제시할수 있는건

Mamba나 S4에서 Time Series를 배치로 처리하기 위해서 FFT를 이용하는걸 제시했는데

내 전공이었던 Chevycheb랑 Spectral Method 관련해서 개선할 주제가 있을거임

누가 가져가면 가져가는거고

박사로 다시 대학 들어간다고 하면 이걸로 연구할듯

고정닉 0

전체 댓글 0개

등록순

본문 보기

타인의 권리를 침해하거나 명예를 훼손하는 댓글은 운영원칙 및 관련 법률에 제재를 받을 수 있습니다.
Shift+Enter 키를 동시에 누르면 줄바꿈이 됩니다.

갤러리 리스트
번호	말머리	제목	글쓴이	작성일	조회	추천
2930	설문	논란보다 더 욕 많이 먹어서 억울할 것 같은 스타는?	운영자	24/09/23	-	-
141	공지	📖딥러닝 관련 정보 (2023.02.02 수정) [8]	*지잡컴공*	22.02.26	9515	23
89	공지	🔔 완장호출벨 🔔 [4]	*지잡컴공*	22.02.21	775	0
142	공지	★딥러닝 갤러리 이용 안내★	*지잡컴공*	22.02.26	1149	0
3372	일반	앤드류응 머신러닝 완강했는데 이제 뭐함 [9]	ㅇㅇ(118.235)	09.23	99	0
3371	일반	교수가 틀딱이라 매트랩으로 머신러닝 실습중... [1]	ㅇㅇ(118.235)	09.23	70	0
3370	일반	JAX가 대세라고?	ㅇㅇ(125.132)	09.23	66	0
3369	일반	LLM이 근본적으로 확률 모델임을 생각해보면	36악장	09.23	67	0
3368	❓질문	라즈베리파이급에서 딥러닝은 힘들겠지 [3]	ㅇㅇ	09.23	78	0
3367	❓질문	대학원 갈려는데 [6]	딥부이(61.73)	09.23	107	0
3366	일반	이건 생각해 볼 여지가 많은듯 [10]	focalors	09.23	227	1
3365	일반	여기 대학원생이나 학부연구생들 아님? [2]	딥부이(39.7)	09.23	119	0
3364	❓질문	요즘 대세 딥러닝 프레임워크가 뭐임? [2]	딥부이(39.125)	09.23	109	0
3363	일반	판다스나 넘파이 코드들은 다 외워야됨? [6]	ㅇㅇ(223.39)	09.23	118	0
3362	일반	요즘 텐서플로우 쓰냐? 구글도 손 놓았던데.. [7]	딥부이(223.38)	09.23	174	0
3361	일반	다들 글카 뭐쓰냐.. [2]	딥부이(223.38)	09.23	88	0
3360	일반	논문 읽고 정리한거 티스토리에 올리면 취업할때 [2]	딥부이(39.7)	09.23	123	0
3359	일반	불확실성 정량화	ㅇㅇ(210.107)	09.22	49	0
3358	일반	특갤에서 본 좋은 게시물 공유 [1]	딥부이(14.37)	09.22	132	0
3357	일반	4,5년쯤 지난 자료들은 환경세팅하는게 너무 힘든데 [4]	딥부이(121.130)	09.22	141	1
3353	🙋토론	[차단 관련] 개소리는 짜르는게 맞을까? [14]	focalors	09.22	294	0
3352	일반	kaggle 원래 대회 많지 않음? [3]	딥부이(39.7)	09.22	153	0
3350	일반	o1이 openAI 입사 문제를 90%~100%로 통과	딥부이(221.157)	09.21	133	1
3347	일반	공부 순서 추천좀요 .. [2]	딥부이(211.105)	09.21	143	0
3346	일반	대놓고 딥붕이들 발작버튼누르려는 분탕인데	딥부이(118.235)	09.21	90	1
3344	📺소식	나도 망상좀함	36악장	09.21	100	2
3341	일반	GPT도 쓰는 사람 나름이구나 [1]	ㅇㅇ(117.111)	09.21	163	0
3340	일반	병먹금	ㅇㅇ(1.249)	09.21	57	1
3339	💩	기본적인 지식을 갖추고 질문하는게 맞는거 아니냐? [1]	ㅇㅇ(121.129)	09.21	120	0
3338	일반	판단능력이 안되면 먼저 판단능력을 키울생각을 하지않나 [12]	36악장	09.21	164	2
3337	일반	자기 방식으로 이해하겠다=수박을 몽미라고 부르겠다	ㅇㅇ(223.39)	09.21	80	3
3336	💩	10년전에나 보이던 방식에 좋아죽네 [1]	ㅇㅇ(125.132)	09.21	130	1
3335	일반	gpt 답변 들고와서 망상 펼치니까 욕먹는거지 [14]	ㅇㅇ(125.243)	09.21	390	16
3333	일반	인설 ai 학부생인데 대학원안갈꺼면 [7]	ㅇㅇ	09.21	210	0
3332	일반	오늘도 쓰레기 연구만하고 쓰레기보고서만 써버렷음 [1]	ㅇㅇ(121.172)	09.21	122	2
3328	일반	전처리가 너무 어렵다.. [3]	ㅇㅇ(219.255)	09.20	128	1
3327	💡정보	오픈ai 정형원 박사 MIT 23년 강연 [3]	ㅇㅇ	09.20	221	2
3326	일반	본인 고등학교 교육과정 개편안 ㄹㅇ.... [10]	ㅇㅇ(211.197)	09.20	235	0
3325	일반	새로운 사물을 식별하는 방법이 궁금합니다 [2]	Moriae	09.20	189	0
3324	일반	근데 고등학교에서 이제 선대수 배워야 하는 거 아니냐? [4]	ㅇㅇ(58.225)	09.20	176	0
3323	일반	다음주 밀라노 가는 사람 있나? [7]	focalors	09.20	183	0
3322	❓질문	비전공자 수학 공부 추천해줄 수 있음? [12]	ㅇㅇ(118.235)	09.19	182	0
3321	일반	프랑스 ai 안전이 뒤쳐진 이유 [6]	ㅇㅇ	09.19	184	2
3320	일반	야 글카 3060ti 보다 코랩이 더 성능 좋음? [3]	ㅇㅇ(180.233)	09.19	122	0
3319	일반	소설책을 학습시키려면 이렇게해도 되나요? [7]	Moriae	09.19	206	0
3318	일반	개인용 ML 장비 만들었어 [3]	ㅇㅇ	09.19	177	1
3317	일반	트랜스포머 질문.. [2]	Moriae	09.19	169	0
3316	일반	SAM2 훈련 mask 3채널이야?	ㅇㅇ(223.38)	09.19	51	0
3315	일반	keras model.get_weights() 할 때 rnn 레이어는 [2]	ㅇㅇ(39.115)	09.19	63	0
3314	일반	SAM2 학습 안되지...? [1]	ㅇㅇ(180.233)	09.19	91	0
3312	❓질문	깃허브에 있는 XAI(eXplainable AI)	환상적이구만(180.224)	09.19	116	1
3311	일반	저 양반이 몰랐을까? [2]	컴퓨터비전	09.18	204	3
3310	일반	이에 대해서 어떻게 생각해? [3]	ㅇㅇ(118.235)	09.18	206	0
3309	💡정보	안드레 카파시 인터뷰 (24.09.05)	ㅇㅇ	09.18	176	2