왜 자꾸 경로적분이 무시당하지 - 특이점이 온다 마이너 갤러리

기술적 특이점에 대해 의논하고 그와 관련된 과학 기술 정보와 소식을 공유하는 갤러리입니다. *갤러리 이름은 동명의 레이 커즈와일의 저서 <특이점이 온다 (The singularity is near)>를 의미합니다.

매니저

특갤용(118wshxhtx5h)

부매니저

ㅇㅇ(hamaster) 부패하는유전자!!!(sansss20…) 은바다(nmra3fmz…) VPN차단용(near1254) ㅇㅇ(prince23…)

개설일

2019-08-01

[일반] 왜 자꾸 경로적분이 무시당하지

지니

2024.05.25 03:26:15

조회 207 추천 0 댓글 2

반복적인 시간 진화의 결과, 과거 시퀀스의 토큰 상태가 현재 시퀀스의 토큰 상태를 먹어치움으로써 제한된 크기의 시퀀스에 대해 적은 메모리만으로도 분리된 시퀀스 간의 주의가 무한한 맥락 정보를 유지하는 것이 가능해지는 것을 논의합니다. 실험에서는 입력 토큰 윈도우 크기를 12개로 설정하고 24GB 메모리를 가진 GPU 1대를 사전 학습에 사용했습니다. 150개 이상의 길이 컨텍스트가 보존되는 것을 확인했습니다. 훈련의 샘플링 결과, 코드 및 기타 자세한 내용은 추후 이 노트의 수정 버전에 포함될 예정입니다.

ㅇㅇ..;;

이론상 무한임

대규모 모델에서는 아직 확인된 바가 없음

고정닉 0

전체 댓글 0개

등록순

본문 보기

타인의 권리를 침해하거나 명예를 훼손하는 댓글은 운영원칙 및 관련 법률에 제재를 받을 수 있습니다.
Shift+Enter 키를 동시에 누르면 줄바꿈이 됩니다.

갤러리 리스트
번호	말머리	제목	글쓴이	작성일	조회	추천
2930	설문	논란보다 더 욕 많이 먹어서 억울할 것 같은 스타는?	운영자	24/09/23	-	-
532573	일반	10월 4.5성능 예측이 전혀안되는데 [1]	ㅇㅇ(1.249)	09.25	165	0
532572	일반	곧있으면 데브데이네	ㅇㅇ	09.25	63	0
532571	일반	전유물 떡밥 굴리나본데 [3]	ㅇㅇ	09.25	106	0
532570	일반	4.5는 존재가 뭐지?? [13]	이런내가특특	09.25	319	0
532569	일반	EU/UK는 고급보이스 못받았나보네 [2]	친근한게이브	09.25	192	2
532567	일반	구독비 가지고 전유물 ㅇㅈㄹ ㅆㅂ ㅋㅋ [1]	ㅇㅇ	09.25	245	8
532566	일반	그래서 이제 뭐함...? [4]	특특이	09.25	202	0
532565	일반	아~ 이제 질리네~~ [4]	ㅇㅇ	09.25	235	0
532564	일반	보이스 통역 약간 아쉬운건 있는데	ㅇㅇ	09.25	150	2
532563	일반	아니 ㅅㅂ 챗지피티 중국 홍콩서 안되는줄 몰랐네 [5]	ㅇㅇ(45.64)	09.25	167	1
532562	일반	구글에 대한 기대는 접어야지 [5]	이모티콘	09.25	148	3
532561	일반	이거 보이스된거임.? [2]	ㅇㅇ	09.25	195	1
532560	일반	gpt 4.5 기대할만 한가봐 [4]	ㅇㅇ	09.25	390	1
532559	일반	보이스 진짜 온갖걸 다 막아놨네 ㅋㅋ [1]	이세이미야케	09.25	394	2
532558	일반	고급보이스 이건 진짜 사람같네	A.I.	09.25	185	1
532557	일반	확실히 나랑 감정을 공유한다는게 느껴지는데 정상임? [2]	친근한게이브	09.25	192	1
532556	일반	나 특갤 눈팅하다가 꿈을 잃었음 [7]	cute	09.25	241	1
532555	일반	휴머노이드 로봇 1억도 전유물 아님. [4]	ㅇㅇ(59.22)	09.25	173	2
532554	일반	특이점이 오면 인간은 뭘해야됨? [1]	ㅇㅇ(175.202)	09.25	98	0
532553	일반	이게 진짜 디스토피아 시작 아님? [3]	ㅇㅇ(210.113)	09.25	213	1
532552	일반	구글은 그냥 좀 처맞아야 함	rimo	09.25	154	0
532551	일반	o1 pre - 4o [3]	cute	09.25	290	1
532550	일반	조니아이브xOpenAI 카메라ai이어폰 나오는 이유를 알겠네	ㅇㅇ(1.249)	09.25	115	0
532549	토의	이거 보면 특이점은 전유물이 맞다. [3]	ㅇㅇ(121.124)	09.25	215	0
532548	일반	보이스 실시간 통역 구림 [7]	ㅇㅇ(120.142)	09.25	418	1
532547	일반	아까 누가 목소리 톤 못알아먹는다 했는데. [1]	가마	09.25	136	2
532546	일반	실시간 통역으로 쓰려면 개량이 좀 필요하다 [2]	이모티콘	09.25	184	1
532545	일반	결국 ai가 전유물인 이유 [10]	ㅇㅇ	09.25	267	3
532544	일반	통역사라는 직업 어케 될것 같음? [6]	ㅇㅇ(182.172)	09.25	276	0
532543	일반	선형충 : 재미있어 하지말라고!!!	ㅇㅇ(59.25)	09.25	118	0
532542	일반	10월에 오픈ai 신모델 나오는거 맞는듯 [6]	ㅇㅇ	09.25	703	6
532541	일반	야 실시간 통역 다 뒤졌다 ㅋㅋㅋ [3]	ㅇㅇ(211.38)	09.25	477	2
532540	일반	엄마랑 sol이랑 대화시켜봄ㅋㅋ [5]	따뜨	09.25	386	2
532539	일반	지금 gpt결제박으면 보이스제공돼?	ㅇㅇ	09.25	57	0
532538	일반	표준 모드로 Vale 썼다가 울었다	ㅇㅇ(124.53)	09.25	155	1
532537	일반	이제 휴머노이드만 발전 되면 되겠네	ㅇㅇ(211.59)	09.25	59	1
532536	일반	지금 보이스 유료회원 전부한테 풀렷어? [5]	ㅇㅇ	09.25	248	0
532534	일반	념글 츤데레 보이스 어디서 들어봤나 했는데 [2]	ㅇㅇ(119.202)	09.25	172	0
532533	일반	진짜 궁금한거 생겼다 [79]	ㅇㅇ	09.25	495	0
532532	일반	솔직히 고급 보이스가 소라보다 더 신기하네 ㅋㅋㅋ [1]	ㅇㅇ(1.249)	09.25	239	0
532531	일반	GPT-5 출시되면 고급보이스 바로 적용될까?	ㅇㅇ(211.196)	09.25	55	0
532530	일반	나도 보이스 줘 시발 ㅠㅠ [9]	ㅇㅇ	09.25	282	0
532529	일반	보이스 모드 졸라 신기하네 [2]	ㅇㅇ(59.6)	09.25	265	1
532528	일반	주피터 0표인게 엄청 웃기네 [4]	ㅇㅇ	09.25	196	0
532527	일반	보이스 말투 좀 맘에 안든다 ㅜㅜ [7]	특특이	09.25	392	1
532526	일반	폰 2개 놓고 하모니시키는거 해봄? [1]	ㅇㅇ(110.10)	09.25	133	0
532525	일반	보이스 받았는데 긴장돼서 못하겠음 [6]	ㅇㅇ(121.174)	09.25	237	1
532524	일반	뉴보이스 근데 왜 텍스트 입력은 안 되는 거임? [1]	rimo	09.25	81	0
532523	일반	해외유튜버들도 보이스 규제많다고 난리 났네	chatgpt4o	09.25	167	1
532521	일반	보이스 조금만 더 데이터 쌓이면 좋아지겠다 [2]	ㅇㅇ	09.25	138	1