왜 자꾸 경로적분이 무시당하지 - 특이점이 온다 마이너 갤러리

기술적 특이점에 대해 의논하고 그와 관련된 과학 기술 정보와 소식을 공유하는 갤러리입니다. *갤러리 이름은 동명의 레이 커즈와일의 저서 <특이점이 온다 (The singularity is near)>를 의미합니다.

매니저

특갤용(118wshxhtx5h)

부매니저

ㅇㅇ(hamaster) 부패하는유전자!!!(sansss20…) 은바다(nmra3fmz…) VPN차단용(near1254) ㅇㅇ(prince23…)

개설일

2019-08-01

[일반] 왜 자꾸 경로적분이 무시당하지

지니

2024.05.25 03:26:15

조회 206 추천 0 댓글 2

반복적인 시간 진화의 결과, 과거 시퀀스의 토큰 상태가 현재 시퀀스의 토큰 상태를 먹어치움으로써 제한된 크기의 시퀀스에 대해 적은 메모리만으로도 분리된 시퀀스 간의 주의가 무한한 맥락 정보를 유지하는 것이 가능해지는 것을 논의합니다. 실험에서는 입력 토큰 윈도우 크기를 12개로 설정하고 24GB 메모리를 가진 GPU 1대를 사전 학습에 사용했습니다. 150개 이상의 길이 컨텍스트가 보존되는 것을 확인했습니다. 훈련의 샘플링 결과, 코드 및 기타 자세한 내용은 추후 이 노트의 수정 버전에 포함될 예정입니다.

ㅇㅇ..;;

이론상 무한임

대규모 모델에서는 아직 확인된 바가 없음

고정닉 0

전체 댓글 0개

등록순

본문 보기

타인의 권리를 침해하거나 명예를 훼손하는 댓글은 운영원칙 및 관련 법률에 제재를 받을 수 있습니다.
Shift+Enter 키를 동시에 누르면 줄바꿈이 됩니다.

갤러리 리스트
번호	말머리	제목	글쓴이	작성일	조회	추천
2930	설문	논란보다 더 욕 많이 먹어서 억울할 것 같은 스타는?	운영자	24/09/23	-	-
532186	일반	앞으로 떡밥뭐뭐남음??	ㅇㅇ	08:01	40	0
532185	일반	업뎃했더니 인식률이 안 좋아진 느낌이네...	ㅇㅇ	08:00	83	0
532184	일반	ㅅㅂ 가이드라인 ㅈ같노	ㅇㅇ	07:59	172	0
532183	일반	아니 이거 고급보이스 맞냐? [2]	EXERCENS	07:59	264	0
532182	일반	와 난 고급보이스 안 줬어 [1]	ㅇㅇ(203.234)	07:55	141	0
532181	일반	4o랑 o1 중에 뭐가 더 유능함? [1]	♡I^^	07:53	191	0
532180	일반	진짜로 재설치 하니 뜨네 [4]	보이스나올때까지냉면밥만다	07:52	280	0
532178	일반	뭐야 얀르쿤 입장 그대론데? [5]	ㅇㅇ	07:48	425	2
532177	일반	2024년 분기별로 요약하면 이건가	천사다천사	07:48	114	3
532176	일반	화내라고 해도 화를 안 내내	비리바리부리	07:45	87	0
532175	일반	고급보이스가 그냥 목소리만 여러가지 가능해진거지? [1]	ㅇㅇ(221.155)	07:43	205	1
532174	일반	열렷다 나도 고급보이스!!!	츄9펴9k1o3(116.34)	07:34	277	1
532173	일반	근데 o1 보이스가 나와야 한다 [2]	비리바리부리	07:33	190	0
532172	일반	고급보이스 목소리 선택한다음에도	ㅇㅇ(14.37)	07:33	181	2
532171	일반	결국 9월24일 보이스 배포 루머는 맞았네	천사다천사	07:29	184	1
532170	일반	얀르쿤 agi 한 10년뒤라고 하지않았었냐? [2]	ㅇㅇ(59.11)	07:28	198	0
532169	일반	여자친구 해달라님가 꺼지래.. [2]	ㅇㅇ	07:26	398	3
532168	일반	기존이랑 뭐가 다르냐고 물으면 [3]	ㅇㅇ(124.53)	07:24	194	1
532167	일반	보이스 생겼구나	람냥	07:22	80	0
532165	일반	영어 발음 참고 [6]	비리바리부리	07:18	363	0
532164	일반	통역이나 번역 가능하니?하면 자신의 능력이 안된다고하네? [1]	ㅇㅇ(183.107)	07:17	161	0
532163	일반	구글 치타맞음?????	ㅇㅇ(133.106)	07:16	150	1
532162	일반	안되네 [4]	ㅇㅇ	07:12	204	0
532161	일반	구글 1.5업뎃이라고 내놓은게 걍 이름만 바꾼거네 [3]	ㅇㅇ(121.178)	07:10	304	0
532160	일반	고급보이스 하다가 깜짝놀랐네ㅋㅋㅋ [3]	ㅇㅇ	07:10	413	0
532159	일반	발음 혀잘린 것처럼 뭉개도 알아듣네 [1]	비리바리부리	07:09	118	0
532158	일반	대충 3개국어로 대화해봤는데 [1]	ㅇㅇ(211.38)	07:08	357	2
532157	일반	아랍어도 기깔나네 ㅇㅇ	비리바리부리	07:07	69	0
532156	일반	근데 고급보이스 tts아닌데 끝나고 기록보면 텍스트화 돼 있던데? [2]	ㅇㅇ(183.107)	07:05	235	0
532154	일반	보이스 영어 한국어 그냥 비교도 안되네 [6]	비리바리부리	07:03	428	0
532153	일반	난 메이플이 목소리 젤 좋다고 느낌 [1]	프앙차	07:01	177	0
532152	일반	아 다썼네 [2]	ㅇㅇ(125.247)	06:59	212	0
532151	일반	보이스 와 쩐다 ㅋㅋㅋㅋ	프앙차	06:57	239	2
532150	일반	다해줬자나	ㅇㅇ(121.178)	06:57	72	1
532149	일반	볼 때마다 뽕 존나 차는 트윗	ㅇㅇ(121.178)	06:54	353	5
532148	일반	업데이트 하니까 바로 생기네 [1]	ㅇㅇ	06:52	159	0
532147	일반	제미니2라도 내놓을줄알았는데 [1]	ㅇㅇ	06:51	175	1
532146	일반	못 받은 특붕이들은 재설치까지 해 보셈	59.16	06:47	134	2
532145	일반	고급보이스 챗지피티 모델을 어떤거로 [4]	ㅇㅇ(183.107)	06:46	232	0
532144	일반	지금 보이스 풀린 사람들 중 설문조사	ㅇㅇ(124.57)	06:45	198	2
532143	일반	고급 보이스 버튼 요거임	ㅇㅇ(211.38)	06:43	367	0
532142	일반	gpt 결제한 안드로이드인데 지금 고급되는데?	ㅇㅇ(183.107)	06:41	105	1
532141	일반	형들 꿀잠충인데요 새로운 모델은 안나왔고 보이스풀린거에요? [3]	ㅇㅇ(133.106)	06:34	244	0
532140	일반	나도 받았다 ㅋㅋㅋㅋ 안드로이드 친구들아 앱 업뎃 해봐 [4]	ㅇㅍㅈ	06:33	236	2
532139	일반	뭐야 나 보이스 왜 안줘	캬르룩	06:31	57	0
532138	일반	아 낚였네	ㅇㅇ(121.178)	06:30	81	0
532137	일반	지근	ㅁㅁ(1.244)	06:26	62	0
532136	일반	드디어 받았다 고급보이스 [1]	ㅇㅇ(180.66)	06:23	310	1
532135	일반	고급보이스 비전기능이 안되니까	ㅇㅇ(220.117)	06:22	106	0
532134	일반	보이스 검열 꽤 심하네 [4]	바크	06:15	354	1